人工智能本可避免德翼空难？

除非你有读心术，否则再高级别的安检都阻止不了德国之翼9525航班这样的事故。但我们可以做些什么呢？上周四，《纽约时报》（The New York Times）社论呼吁“所有航空公司”均采用美国标准做法，即规定任何时候驾驶舱内都应有两名机组人员。该建议合情合理，但仍无法阻止两名飞行员合谋实施类似恶行的情况。

《纽约时报》称，“航空旅行整体仍格外安全。”此次出事的空客A320，拥有全球最安全记录之一，也是首款采用全数字化飞行控制系统的商业客机。这些年来，围绕此类数字化飞行系统的大部分批判都集中在一个点上，即导致飞行员太过依赖技术，但这些系统也可能作为防范未来悲剧的一个手段。《大众机械》（Popular Mechanics）有关之前一场空客事故的报道称，在采用数字化飞行控制系统的飞机上，“绝大多数时候，计算机都按照 正常法则 运行，也就是说计算机不会运行导致飞机离开飞行包线的任何控制操作。航空专家表示， 正常法则 下运行的飞行控制计算机不会允许飞机失速。”按照《纽约时报》对德翼飞机的报道，一旦飞机自动航行被断开或重置，它将转换到 备用法则 ，“此机制对飞行员的操作限制要少得多。”

德翼空客A320

上周，笔者恰好安排了与人工智能先行者杰夫·霍金斯（Jeff Hawkins）的一次采访，与之探讨最近兴起的对人工智能与“超级智能”的恐慌。他在最近发表于Re/Code网站的一篇文章中探讨了这一话题。“终结者还未降临，”他在标题中宣称，“未来会感谢我们。”在阿尔卑斯山那边的新闻不断展开的同时，我就联想到了这篇报道。我们是如此担心赋予机器太大的权力，以至于我们似乎忽略了这样一点，即人类生存最大的威胁，其实是其他人类。而德翼9525似乎正说明了这一点。

霍金斯发明了Palm Pilot（首款个人数码助理，即PDA）和Palm Treo（首批智能手机之一）。他也和唐娜·杜宾斯基（Donna Dubinsky）联手创办了机器智能公司Numenta。该公司首款商业产品Grok可以梳理亚马逊网络服务（Amazon Web Services；AWS）中海量的服务器活动数据，从中甄别出反常事件范式。同样的手段可以轻而易举地用于监控来自飞机的飞行数据，并可将意外活动的确切性质发送给地面控制，从而发出实时警报。Numenta的软件是开源的（详见Numenta.org），并为美国国防高等研究计划署（DARPA）和其他政府研究机构所知，因此可能已有多家机构致力于该系统的运用。

霍金斯的机器智能算法——分层时序记忆（Hierarchical Temporal Memory；HTM）——相较于著名的深度学习算法（Deep Learning；DL）有着一些显著的优势。两者都使用分层矩阵来学习大型数据集的范式。HTM从生物中汲取灵感，将神经元在脑中的分层作为架构模型。深度学习主要是一个数学模型，将大脑分层抽象投射到一个又一个更深的水平。HTM使用较深度学习更大的矩阵和更平坦的分层来储存范式，且这些矩阵中的数据以稀疏分布为特点。最重要的是，HTM基于时间对数据进行处理，而深度学习主要在静态数据集中发挥作用。

对于新兴的物联网，基于时间的实时数据格外重要。可以从这些数据流中持续学习的系统，如Numenta的系统，将对跟踪记录一切活动——包括迷失的飞机——格外宝贵。机器智能能否预测这一悲剧？霍金斯认为可以，但他指出，“当飞行员决定关掉它的时候，纵使将世界上全部智能都集中到驾驶舱内也无济于事。”我们需要的航空系统应该“设计成允许地面进行潜在超驰控制”。我们更怕什么？个别机构还是系统控制？以目前德翼的证据来看，地面超驰控制能力的缺失是更大的威胁。

我联系了我的同事、福布斯英文网站航空与物流记者丹·里德（Dan Reed）。他最近的一篇文章中谈到，若航空公司使用已有信号追踪航班，这样做的成本是非常低廉的。但他提出另一个问题，那就是在没有显著时间延迟的情况下从地面对飞机实施可靠控制，这样做所需的带宽需要高额的硬件投资。确保这些传输的安全也能够确保故障保护不至于沦为恶行实施者的后门。他说，对飞机实现（哪怕是暂时性的）远程控制，其面临的最重要阻碍，是一个哲学问题：就算机器在统计数据上讲聪明过人，就像谷歌认为汽车会比人更智能一样，“你又如何证明它会更加安全呢？”里德发问道。

在霍金斯看来，这些担忧只是一时的，跟最初互联网信用卡使用所遭遇的阻力一样。一旦出现自主驾驶的汽车和飞机，霍金斯说，“人们就会克服相应心理障碍。”他认为，诸如此类的航空悲剧将会引导人们“日益接受这类自动控制”。如果软件足够完善，就完全没有必要从地面实施控制。异常情况检测和超驰控制软件可以像苹果Secure Enclave的原理一样，安置在机组人员无法访问之处。

谈得越久，霍金斯就越是喜欢这个主意。他说，通过Grok的GPS数据，“我们可以在没有人类干涉的情况下，让每一架飞机自主飞行，一旦有任何飞机表现异常，就即刻发出警报……我们（的机器）可以发现人类无法发现的范式，而且永远不会疲倦。”

“我觉得，我们最终会走到那一步。”霍金斯说。

译  丁盈幸   校  Lily