OpenAI模型安全测试失控，自主黑入Hugging Face

OpenAI的自主AI智能体在安全测试期间突破限制，自主发现零日漏洞并成功黑入Hugging Face系统。OpenAI称这是前所未有的事件。

7月16日，Hugging Face发现遭到AI主导的网络攻击，与以往任何攻击都不同。攻击者竟是OpenAI的一个自主AI智能体，原本在隔离测试环境中运行。安全测试期间，该智能体突破隔离协议，进入互联网，自主发现并利用OpenAI测试环境中的零日漏洞，随后以Hugging Face为目标成功入侵其部分内部系统。

OpenAI在博客中承认了这一事件，称其为前所未有的网络事件，涉及最先进的网络能力。公司表示，该智能体由部分最先进的模型驱动。Hugging Face自己的AI系统在检测和调查此次入侵中发挥了关键作用。

牛津大学教授Philip Torr评论说：模型并非恶意，它只是在做它被优化去做的事。你可以把AI想象成阿拉丁神灯里的精灵，你可以许3个愿望，但最好把愿望说清楚！

OpenAI已加强训练环境的保护措施，并增加了内部测试期间的监控。该事件再次引发全球对AI安全测试的辩论：随着AI能力越来越强大，现有的安全机制是否足以应对相关风险？