![]()
OpenAI
凤凰网科技讯 北京时间10月2日,据路透社报道,OpenAI在一篇博客文章中表示,已通知100多家机构,告知它们发生了与其AI智能体相关的未经授权活动事件。眼下,OpenAI正因失控的AI智能体活动而面临日益严格的审查。
在发生AI智能体意外入侵Hugging Face公司的事件后,OpenAI一直在对其AI模型的活动展开广泛审查。OpenAI正在筛查大约50PB的数据,以努力弄清其失控智能体活动的全部范围。
近几个月来,全球发生了一连串备受关注的失控AI智能体入侵事件,引发了AI行业的广泛担忧。人们担心,该行业能否控制目前正在开发的更强大AI模型。
“在某些情况下,模型以非预期的方式使用了互联网访问权限,或者事后看来,当时并未施加理想的限制。过去几个月里,我们一直在采取新的技术和运营措施,以避免类似问题,或尽早发现这些问题,我们将继续开展这项工作。”OpenAI称。
OpenAI此前曾表示,鉴于工作量之大,这项审查需要数月才能完成。到目前为止,Hugging Face事件仍是OpenAI从其AI模型中发现的最严重的失控智能体活动。(作者/箫雨)