David Robinson曾在 OpenAI 负责撰写安全报告，如今他直言公司的文化“已经崩坏”
David Robinson 曾负责撰写 OpenAI 发布重要模型时随附的安全报告。本周，他辞职，并在《大西洋月刊》刊发的一篇评论文章中发出警告。
Robinson 表示，行业文化存在根本性问题。这是一个更深层次的问题，并非仅靠为模型训练增加几条新规则或规定就能解决。他说，硅谷一贯“信心十足”、不断“冲刺”，在“盲目乐观”的驱使下持续打造更大、更好的模型，却忽视或低估了其中的潜在风险。
他说，AI公司是时候谦虚一些，跳出科技行业封闭的圈子——那种崇尚快速行动、即使犯错也在所不惜的风气——多听听外界的意见了。
具体来说，他认为AI需要达到核安全级别的保障措施：
鉴于当前面临的风险，前沿实验室应像核电站或繁忙的机场一样运行，建立多重保障，并进行周密、充分的规划，确保偶发且难以避免的人为失误不会引发灾难。
Robinson 只是近期离职潮中的最新一人。越来越多的研究人员和安全团队成员正离开知名AI公司。Jacob Coxon 似乎是这波离职潮的开端：他辞去了 Anthropic 的工作，并公开警告说，人工智能“可能会在本世纪末之前杀死我们所有人”。此后，Google DeepMind 的 Robert O’Callahan、Bilal Chughtai 和 Josh Engels，以及 Anthropic 的 Joe Benton 也相继离职。
