坠毁的波音737 Max：一部人类无法控制的机器
李根 发自 凹非寺
量子位 报道 | 公众号 QbitAI
美国波音飞机的账，现在正被归到机器上。
事故信息已众所周知。3月10日，埃塞俄比亚航空公司的波音客机，在起飞6分钟后坠毁，机上149名乘客、8名机组成员，全部遇难。其中还包括8名中国公民。
当然，不仅因为空难原本就备受瞩目，而且围绕失事飞机机型，大家还迅速发现：这不是5个月前另一起印尼空难噩梦重演吗？
波音B-737-800MAX，交付使用刚满4个月的机型，成为众矢之的。
并且更关键的问题，被指向该机型新系统的设计：
波音公司为节省发动机油耗，隐蔽修改飞机操作系统，而且机器程序还能在飞行员操纵之上，“擅自”给出控制指令，导致最后灾难避无可避。
且在人与机器谁对操纵负有决定权的“搏斗”中，波音的设计似乎已倒向机器一方。
于是连美国总统特朗普，也参与到口诛推伐中。
事故完整线
当时上午8时38分，埃塞俄比亚航空这架编号“ET 302”飞机原计划由埃塞俄比亚首都亚的斯亚贝巴，飞往肯尼亚首都内罗毕。
那天天气状况良好，晴空朗日，没有任何值得提前预警的动态。
但就在起飞后6分钟左右，飞机失去联系，后坠毁于出发地约50公里外，俯冲着陆，机毁人亡。
更早之前，据称地面曾接到当事飞机机长问题报告，请求迫降，但旋即失去联系，最终没有避免悲剧发生。
现在，虽然飞机黑匣子已经找到，但具体失事相关原因还无结果，谁也不知道在生死之间，157名乘客经历了什么……
只是事故情况太可疑了。
除了天气状况良好，该航班机组信息也被进一步挖出——履历纪录都非常好啊。
曝光信息称：
失事班机的机师拥有极佳的飞行纪录，飞行时数超过8000小时。
失事飞机在出事之前，刚从南非飞回埃塞俄比亚，地停3小时后执行事故航班，失事前并没有发现技术问题。
而埃塞俄比亚航空，也有良好的飞行安全纪录。
在2018年的全球航空公司安全排名中，名位列第40，也是星空联盟成员。还曾于2013年和2016年荣获最佳非洲航空公司大奖，是非洲航空业的精英，未有过类似重大事故发生。
于是有心人发现，这机型怎么跟2018年10月29日印尼狮航的失事飞机一模一样？
再一查，果然。
不仅机型都是波音737 MAX 8，而且也都是交付不久的新飞机。
更主要的是，失事过程也惊人相似。
当时印尼狮航飞机国内固定航线飞行，在起飞后13分钟，于印尼以北海域坠毁，机上189人全部遇难。
而且事故原因，真与该型号飞机有关。
在黑匣子找到后的调查中，初步分析结果是：涉事飞机其中一个迎角感应器失灵，导致飞行姿态修正系统错误地判定飞机即将失速，从而控制飞机进入俯冲，而飞行员对此系统缺乏认知，最终飞机因未能及时改平而坠毁。
此次埃塞俄比亚飞机也类似。
央视援引Flightradar24数据显示，飞机的飞行数据记录了埃航飞机最后的轨迹，飞机在起飞后，曾经有过突然下降的迹象随后又有拉升，之后消失在追踪画面中。
而在之前印尼狮航的分析中，还披露了一个更具体的问题：
飞机信号系统接收到一个假信号，信号显示飞机“抬头”，所以控制系统持续给出了“低头”的指令。机组与控制系统搏斗很长时间，最终发生事故。
虽然埃航黑匣子调查结果还未公布，但不也发生了不正常的爬升与下降吗？
背后究竟是怎样的系统？
新功能MCAS
马上，就有知名航空网友出来科普。
微博大V@欢乐的云端之上，身份是中国南航机长，介绍了可能让飞机抬头-低头的系统原因所在。
他说大家讨论的系统，指的是波音737MAX的新功能MCAS。
全称：The Maneuvering Characteristics Augmentation System.
要点翻译即：机动特性增强系统。
△via: The Air Current
波音737MAX设计之初，波音公司为让新发动机更节油，从而安装位置只能更高更靠前，但也带来新问题——产生的抬头力矩有让飞机失速的风险。
于是就设计了MCAS，在系统探测到大迎角时，电脑会自动让飞机低头。
同时也存在隐患：在接收到错误信息时存在自动低头导致失控的隐患。
机长“欢乐的云端之上”猜测，这可能是关键原因。
还有机组人员进一步爆料，更恶劣的是，“MCAS在接收到错误的信号后会自动让飞机低头”的问题，没有被写进手册里，印尼狮航空难时，飞行员就不知道有这个设计。
所以当时的悲剧也与此相关。
在印尼狮航的波音客机出现防失速自动系统误判后，不断压低飞机的机鼻，飞行员则拚了命想将机鼻拉起来，等于出现“人机搏斗”的情况，飞机在11分钟内升降26次，但飞机仍推向无法挽回的飞行姿势，最终坠机。
△印尼狮航波音737MAX客机
归结来说，在波音737MAX客机中，人类飞行员面对一个“关键时刻难以控制的机器”。
需要说明的是，印尼狮航事故后，波音公司也意识到了问题。
在2018年11月，波音公司向全球737MAX机型的运营商发布公告，警告该系列飞机的飞行控制系统存在读数输出错误的问题，可能会导致飞机自行大角度俯冲并坠落。
声明称，波音公司已向相关航空公司发出警告：飞机俯冲的问题只会在手动飞行时发生，且错误地输出迎角传感器(AOA)，导致飞机倾斜10秒。
更进一步，飞行手册也得到修改，飞行员也被针对性及时培训。
万万没想到，不到5个月，另一起毁灭性空难就在同一机型上再次发生。
那么问题来了：如果说印尼狮航是飞行员不知情，那埃航噩梦重演，是否意味着在MCAS系统中，人类生死攸关的抉择，算法权重是优先于人的？
其实在MCAS系统设计中，是有相关机制考虑的，The Air Current有清楚介绍：
但至少从印尼狮航的事故中，看不出人类确实能“夺回”主动权。
机器决策 or 人类？
所以这样的人机讨论，并非毫无缘由。
外媒大西洋通讯社就直白表示，MCAS作为一个辅助人类的机器系统，却在生死攸关时，不仅人类难以完全接管，而且还有“人机搏斗”，最后飞行员也没能夺回控制权从而避免空难，需要深思。
这跟我们常说的自动驾驶汽车中辅助系统一样，决定权究竟在人还是机器？到底是完全信任机器还是确实有中间态可走？
不过大西洋通讯社可还没觉得MCAS能跟自动驾驶系统相提并论。
他们更倾向于把MCAS类比为汽车中的防抱死制动系统，该系统可以检测到驾驶员在制动器上鼓捣的时间过长，然后进行干预，以防止汽车进入打滑状态。
或者勉强能跟无人车中车道保持的控制模块类似。
但说一千道一万，大西洋通讯社的分析认定：完全把人类命运交给机器程序，是不行的呀。
甚至还举例说，1995年，哥伦比亚发生飞机撞山事件，核心原因是机组太信任飞机自动驾驶功能，以为已经进入自动驾驶系统设定的正确航路，最后导致机毁人亡。
而在已经过调查的印尼狮航分析中，飞行员一直想把机头拉回来，但机器系统不让，还不断推低它，最后还是自动化系统获胜……
所以大西洋通讯社分析师呼吁：让飞行员都熟知自动化系统原理显然是不可能的，那能不能关键时刻直接按掉开关？
就像AlphaGo比赛中，拔掉电源。
然而这似乎也不能解决所有问题，一方面是波音确实有类似设计，但在印尼狮航没起作用。
另外，这违背自动化系统被打造和应用的初衷。
比如有网友就指出：还记得马航370事件吗？或者更遥远一点的911灾难。
如果有一个处心积虑的人类试图控制飞机且做反人类之事，总开关一断，我们何以保证安全？
机器，至少是理性客观的，不会受人类情绪影响。
现在如果有机器导致的问题，那只能说明机器设计的还不够好，人类工程师还需更努力。
总之，信任机器或者相信族群同胞，天平两端都有人站。
特朗普键盘反对机器
不过知名网瘾老年、美国总统特朗普，观点就很明确。
他不认为越来越技术化的飞机是好事。
在埃航讨论中，特朗普连发两推。
首先表示现在太过信任电脑：
飞机现在变得越来越复杂。飞行员都不需要了，只需要MIT（麻省理工学院）的电脑科学家。我看过很多型号的飞机，都是这样。总是寻求不必要的更进一步，而老的和简单的往往更好。
紧接着补充：
有时需要争分夺秒做出决定，这时复杂性就造成了危险……我不知道你们怎么想，但我可不想让爱因斯坦来当我的飞行员。我想要的是伟大的专业飞行员，可以轻松和迅速地控制飞机！
怎么说呢？特朗普两条推特似乎相互矛盾。
因为更多MIT计算机科学家（先不管CMU和斯坦福有没有意见）进入航空领域，正是希望减少飞机操作的繁复性，从而降低对高门槛专业性的依赖啊。
而且特朗普也就键盘说说。
因为埃航事故发生后，全球大部分地区都纷纷宣布暂时停飞所有波音B-737-800MAX型号飞机，特别是中国，第一时间就宣布全部下线，等事故原因和分析结果出炉后再行讨论。
其后英国到澳大利亚，也纷纷宣布暂停波音737MAX机型运营。有的国家甚至不光要求本国航空公司停飞，还禁止相关型号的飞机飞越他们的领空。
然而美国至今不为所动。
美国西南航空（Southwest Airlines）还表示：不暂停该机型，也不会对该机型做免费改签。
一直被全球作为航空安全标准龙头的美国联邦航空管理局（FAA），依然坚持其安全认定，称对于波音B-737-800MAX，“根据现有信息，我们没有任何依据向运营方发布新的指导。”
波音公司则在周二重申：对737 Max的安全性“充满信心”。
然而大家对这家美国飞机制造商还依然“充满信心”吗？
波音737MAX机型遭全球23国禁飞，公司股价两日下跌11%，市值已蒸发266.5亿美元，约合人民币1789.28亿元。
按照波音737MAX官方1.2亿美元\架的定价，两天损失了222架飞机。
然而逝去的生命，又如何用数据计算清楚？
世间除了生死，皆为小事。
希望类似悲剧，永远止步于此。
One more thing，也有评论将此次空难中被讨论的系统，跟机器学习、AI直接挂钩。
需要正名的是，这个锅，跟人工智能离太远了……AI，背不了。
— 完 —
订阅AI内参，获取AI行业资讯
购买AI书籍
诚挚招聘
量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。
量子位 QbitAI · 头条号签约作者
վ'ᴗ' ի 追踪AI技术和产品新动态
喜欢就点「好看」吧 !