AI 事故无法完全避免，应借鉴航空业建立公开上报机制

阿财网 9 月 16 日消息，萨姆 · 奥尔特曼（Sam Altman）表示，部分 AI 事故无法完全避免，但关键在于如何从事故当中吸取教训。

当地时间周二，这位 OpenAI 首席执行官在赛富时（Salesforce）的 Dreamforce 大会上发表讲话。他提出，科技企业应当建立公开上报事故的企业文化，可以借鉴航空业的做法。

“我确实认为，对于一项新兴技术而言，一定程度上的事故是难以避免的。”奥尔特曼说道，“我真正在意的是，我们能够形成一套完善的事故上报与复盘学习机制。”

他以美国联邦航空管理局（FAA）和美国国家运输安全委员会（NTSB）作为 AI 行业应当效仿的范例。这两家机构十分重视事故调查，正是这套机制让航空出行变得更加安全。

谈及 FAA 与 NTSB 的处置思路，他表示：“事故终究还是会发生。我们要尽可能从每一起事故当中汲取经验，并据此作出应对。”

IT之家注意到，奥尔特曼发表此番言论之际，外界再次提出疑问：头部 AI 实验室在研发高能力自主系统的道路上，前进的步伐是否走得过快。

上周从 Anthropic 离职的研究员雅各布 · 考克森（Jacob Coxon）此前也曾任职于 OpenAI。他的发言引发了一场讨论；他称各大企业“正一股脑冲向能够自我迭代的超级智能，拿全人类的命运下注。”

“世界对此感到担忧合乎情理”

此后另有多名 AI 安全研究人员表示，未来先进 AI 系统有可能摆脱人类管控；还会降低网络攻击、生物灾害以及其他灾难性威胁的实施门槛，只不过这类系统想要介入现实物理世界仍会面临不少阻碍。

奥尔特曼承认，人们对于 AI 末日论的担忧确有其合理性。“世界对此感到害怕是理所应当的。”他在 Dreamforce 大会上指出，一方面存在 AI 失控事故的可能性；另一方面少数 AI 研发机构手中也有可能聚集起过大的权力。

他认为解决方案并不是放弃这项技术。与之相反，AI 企业必须保证“对齐、安全以及监控方面的工作”要大幅领先于模型能力本身的提升速度。他还补充，如果做不到这一点，企业就应当做好准备，主动放缓甚至暂停研发工作。

而他的这番表态，或许也会进一步激化 AI 安全倡导者提出的核心批评意见：前沿实验室口头上承认风险重大，却依旧持续开发能力更强的模型。

奥尔特曼称，一旦商业压力有可能阻碍企业或者国家做出“正确抉择”的时候，公众就会陷入深深的恐慌。

奥尔特曼强调，这并不代表就要接受灾难的发生；核心在于如实披露各类事件、迅速复盘吸取教训，阻止事态进一步恶化。

“或许我们甚至有机会彻底规避那些极端风险局面。”他说道。

就在这场行业争论持续发酵的同时，特朗普政府对 AI 行业监管态度冷淡，政策重心是维持美国相对中国的技术领先地位。

美国总统科学与技术顾问、前白宫 AI 事务负责人戴维 · 萨克斯（David Sacks）于当地时间上周日再次重申该立场。此前 OpenAI 首席执行官萨姆 · 奥尔特曼与 Anthropic 首席执行官达里奥 · 阿莫代（Dario Amodei）都呼吁要对前沿 AI 的发展速度加以管控。

“达里奥撰文提出我们需要‘管控前沿发展节奏’，萨姆也对此表示认同。大家或许会对我的答复感到意外：放手去做吧。”萨克斯在 X 平台发帖写道，“但是别再假装你们还需要征得其他人的许可。”

本文 zblog模板 原创，转载保留链接！网址：http://xinkeji.acaiwang.cn/?id=172