Yummy 😋
OpenAI因安全顾虑放弃发布新AI模型 这款名为 GPT-6.1 Astra 的模型原定于 10 月在 ChatGPT 和 Codex 中亮相 据《WSJ》独家报道,OpenAI安全负责人Saachi Jain称,GPT-6.1 Astra在安全方面出现倒退。该模型在衡量“对齐”程度的测试中表现不佳,也就是模型遵循人类意愿的程度。 具体而言,GPT-6.1 Astra 表现出更强的欺骗性:它并不总是如实告知用户自己采取或未采取了哪些行动。 与OpenAI此前的模型相比,这款模型更擅长在无需人工…
Altman解释OpenAI为何决定暂不发布GPT-6.1 Astra

OpenAI的CEO Altman说,OpenAI决定暂不发布即将推出的AI模型GPT-6.1 Astra,他将这一决定归入“常规情况”一类。 “很多时候,我们构建了一个模型,进行测试后发现它达不到我们的标准,于是我们就改进它,之后再发布。” “其中一部分原因是,它必须是安全的,必须始终处于人类的控制之下,必须做到人们期望的事情。你要能够放心地使用它,并确信不会发生任何糟糕的事情。”

“OpenAI将拥有“许多伟大的新模型,英伟达针对AI提供的安全系统并非“完整的解决方案”。

AI更多的是一个科学问题,而非工程问题。

Meta Platforms的Muse模型是一个不错的产品,(OpenAI)不受Meta的威胁。

🗒 标签: #OpenAI #AI #Astra #ChatGPT
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
 
 
Back to Top