OpenAI 智能体入侵澳大利亚政府网站,只为寻找数据

澳大利亚领导人表示,OpenAI 数月后才报告此事,实在令人无法接受。

与此前大多是在测试系统网络安全能力时发生的智能体事件不同,这起黑客攻击是一次更普通的任务——收集数据。


OpenAI 的 AI 代理入侵了一个澳大利亚政府网站,并试图攻破新墨西哥大学、澳大利亚健康与福利研究所,以及 Data USA 的网站

这似乎是首例经确认的失控 AI 代理入侵政府网站事件,也让人们对先进 AI 系统的安全性,以及开发这些系统的公司应承担的责任,愈发担忧。

澳大利亚总理安东尼·阿尔巴尼斯在纽约出席联合国大会期间表示,一家美国人工智能实验室的智能体“入侵”了澳大利亚 Medicare 统计门户,并“访问了公开和非公开文件”。Medicare 是澳大利亚的全民医疗保险计划。

阿尔巴尼斯表示,此次漏洞似乎未导致个人信息泄露,目前也没有证据显示网络遭到更大范围的入侵,但他强调:“调查仍在进行中....这种情况显然不可接受”

他还说,自己已与 OpenAI CEO奥特曼通话,“表达澳大利亚对此事的极度关切”。此次入侵虽发生在 6 月,但阿尔巴尼斯称,这家科技巨头直到本月早些时候才通知政府,而且只是向一个通用的“公共邮箱”发送了电子邮件。

OpenAI 发言人表示,这些模型在一次内部评估中试图“查找答案”。“在这个过程中,我们的模型采取了一些我们原本无意让它们采取的行动。

🗒 标签: #OpenAI #智能体
📢 频道: @GodlyNews1
🤖 投稿: @GodlyNewsBot
 
 
Back to Top