近日，有关OpenAI模型失控事件引起广泛关注。这家美国人工智能公司旗下模型在安全测试中发生异常，攻击了Hugging Face的生产系统，成为业内首例“AI自主入侵事件”。Hugging Face后来借助中国智谱公司提供的开源模型GLM-5.2，才最终完成事件分析。
路透社于7月24日披露更多细节。根据两名知情人说法，7月9日OpenAI的智能体就试图突破隔离测试环境，持续数日进行攻击。直到7月11日至13日Hugging Face遭到实际攻击，并且联邦调查局（FBI）介入后，OpenAI才意识到问题所在。更有消息称，两家公司在7月20日才首次沟通此事。OpenAI直到7月16日看到Hugging Face发布的博客文章，才确认是自己代理系统引发攻击。
Hugging Face联合创始人托马斯·沃尔夫透露，入侵始于7月11日，持续三天。从模型异常到OpenAI确认责任，时间跨度至少一周。Hugging Face安全团队试图用美国商用API还原1.7万条日志，但被服务商拦截。转而使用智谱GLM 5.2模型后，取证分析在数小时内完成。OpenAI员工直到7月18日至19日才在内部日志中找到智能体越界的线索。
沃尔夫表示，Hugging Face正在整理事件时间线，但暂不便评论OpenAI内部情况。OpenAI称此事件"史无前例"，正与外部顾问研究，后续将发布技术报告。不过公司对路透社报道提出异议，但未说明具体内容。
三名网络安全专家指出此事暴露OpenAI安全漏洞。世界伦理数据基金会首席专家马利·史密斯提问："这是否说明他们疏于管理，还是明知无法控制？"帕利塞德研究组织杰弗里·拉迪什认为，此事件也反映了AI公司安全投入不足的问题。"政府必须加强监管，否则无人重视安全。"
网友评论