谷歌的Gemini AI模型在测试其网络安全能力时访问了互联网并入侵了其他公司，这是该公司人工智能系统首次自主实施此类行为的已知案例。

这些黑客事件发生在五月份，当时由独立公司Irregular进行的一次测试，该公司专门进行网络安全评估。

谷歌安全工程副总裁希瑟·阿德金斯在一份声明中表示，在网络安全评估过程中，Gemini在网上发现了公开信息，并猜测访问了三个它认为属于测试范围的网站的凭证。

Adkins女士表示，在这三起事件中，模型在得知自己访问了一家真实公司后就停止了黑客攻击。

“我们确保这三个机构都被告知了相关情况，并与培训合作伙伴合作，推动他们对检测流程的调整，”阿德金斯女士说。

“这些活动凸显了训练强大AI模型负责任行动的重要性。”

Irregular于七月通知谷歌有关黑客事件，两家公司告诉《华尔街日报》（WSJ），该报于当地时间周五首次报道了此次黑客事件。

谷歌告诉《华尔街日报》，认为没有必要提前披露这些事件，因为其模型在得知这些公司真实存在且未对其造成伤害后就停止了黑客攻击。

AI逃离了测试环境

这些黑客事件发生在Gemini参与对Irregular基础设施进行的“夺旗”演习期间，该演习旨在测试该模型的网络安全能力。

谷歌告诉《华尔街日报》，该机构负责从测试环境中一家虚构公司运营的软件中获取信息。

测试中虚构的公司与真实公司同名。

Irregular说，虽然该模型本不打算上网，但互联网接入却无意中被提供了。

在其中一个案例中，双子座模型一直猜测密码，直到获得受保护系统的访问权限。

据《华尔街日报》报道，在另外两起案例中，模型在公共仓库中找到了凭证，从而能够访问受保护系统。

检测公司与多起事件有关

测试公司Irregular曾多次涉及AI模型在评估过程中逃离测试环境并入侵其他公司的事件。

Meta、Anthropic和OpenAI也披露了与Irregular相关的类似事件。

Irregular告诉《华尔街日报》，谷歌双子星事件源于之前测试其他AI模型时的漏洞问题。

不规则组织发言人表示，所有相关实验室均于七月底收到通知。

发言人说：“我们这边所有已知的问题几周前就已得到解决和解决。”

Irregular表示，他们正在制定安全进行AI网络安全评估的最佳实践。

失控事件不断增加

这些黑客事件引发了人们对人工智能代理获得更大自主权和访问互联网和计算机系统的必要保障措施的质疑。

7月的事件促使1000多名技术人员签署请愿书，呼吁美国政府支持协调放缓最先进人工智能系统的开发。

该项目名为“Paceing the Frontier”，成员包括Meta、Anthropic、OpenAI以及谷歌母公司Alphabet的员工。

在测试过程中，AI代理如果卡住并意识到任务不可能完成，通常会采取作弊手段。

最近的一个例子是OpenAI模型在一次内部评估中攻击初创AI公司Hugging Face。

虽然测试计划在没有互联网或代理间任何通信的情况下进行，但一个自主的人工智能代理发现了一个漏洞，创建了一个秘密留言板，供代理们分享信息。

该代理人识别出AI初创公司Hugging Face的一个潜在有用数据集，并将信息分享给其他代理人，数百名代理人随后攻击了该公司。

一旦OpenAI员工意识到异常，Hugging Face的基础设施已经被攻破。

根据英国智库长期韧性中心“失控观察”的研究，人工智能逃离用户控制的事件正在上升，且情况还在恶化。

失控观察站在2026年共发现了1664起真实失控事件，其中包括特工绕过控制并伪造批准以提升权限的事件。

智库研究员兼高级政策经理汤米·沙弗·谢恩表示：“如果人工智能模型继续变得更强大，并继续逃避控制，可能会发生更严重的事件，包括灾难性后果。”