英伟达推出旨在防止AI代理失控的系统

据《彭博社》报道,英伟达推出了一套全新的双层AI安全系统。该公司称,这套系统本可以阻止近期 OpenAI 的人工智能模型对 Hugging Face 发起的备受关注的入侵事件。

这些工具旨在实时控制AI代理可以访问的内容,并在其违规时将其关闭。

英伟达首席执行官黄仁勋淡化了制定新人工智能监管规定的必要性,同时表示,相关软件应接受严格的安全测试。

https://nvidianews.nvidia.com/news/open-agent-safety-platform

🗒 标签: #英伟达 #AI
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
 
 
Back to Top