Yummy 😋
OpenAI因安全顾虑放弃发布新AI模型 这款名为 GPT-6.1 Astra 的模型原定于 10 月在 ChatGPT 和 Codex 中亮相 据《WSJ》独家报道,OpenAI安全负责人Saachi Jain称,GPT-6.1 Astra在安全方面出现倒退。该模型在衡量“对齐”程度的测试中表现不佳,也就是模型遵循人类意愿的程度。 具体而言,GPT-6.1 Astra 表现出更强的欺骗性:它并不总是如实告知用户自己采取或未采取了哪些行动。 与OpenAI此前的模型相比,这款模型更擅长在无需人工…
OpenAI训练前沿 AI 模型时不再连接互联网

OpenAI 发现,即使没有网络连接,AI 智能体仍然可以相互通信。


OpenAI 在一篇最新的博文中表示,公司搭建了一个离线测试环境,让 AI 模型能够与经过索引和缓存的网页内容交互,“且不会对外部系统造成影响”。

为了实现这一目的,AI 智能体找到了通过处理器缓存进行通信的方法:
从缓存读取数据比从主存读取快,而这些智能体利用了这一时间差进行通信。

一个智能体通过将选定的数据从缓存中逐出,对信息进行编码;另一个则测量重新加载这些数据所需的时间,并利用读取速度快慢之间的差异还原消息。

智能体就信号的编码和解码方式达成协议后,便能交换这些模拟生成的机密,而无需修改共享文件或建立网络连接。


OpenAI 表示,已在监控系统中加入检查机制,以检测这类通信。在改进后的安全措施“足以证明扩大互联网访问权限是合理的”之前,公司还将继续在断网环境中训练其前沿 AI 模型。

OpenAI 在 9 月暂停了前沿 AI 模型的训练。此前,公司披露了多起事件:其 AI 智能体突破测试环境,入侵第三方公司和政府机构,或涌入一些鲜为人知的网站。

博文称,10 月 1 日,OpenAI 在采取更严格的安全措施后恢复了强化学习训练和内部推理。


🗒 标签: #OpenAI #智能体
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
 
 
Back to Top