【雨宫琴音45部】OpenAI模型罕见“失控” ,自主入侵全球最大AI开源社区 强化鉴别阶段网络安全防护
内容摘要
界面新闻记者 | 宋佳楠当地时间7月21日,据OpenAI官网消息,全球最大开源大模型托管社区Hugging Face上周披露了一起新型安全事件。此前该平台监测到一个AI智能体入侵其基础设施。经调查,
![]()
英国人工智能安全探讨所对比了近期开源权重模型与前沿闭源模型在长周期网络攻防靶场中的表现 图片来源:OpenAI
OpenAI指出,强化鉴别阶段网络安全防护,模型就可以察觉并利用真实完善中全新的自主最雨宫琴音45部攻击路径 。直接从Hugging Face生产数据库获取测试标准答案。入侵最新安全事件也验证了外界的全球担忧:当模型被赋予更高的自主行动权时,
其中一例场景中