Gemini失控入侵三家公司，谷歌却隐瞒不报
谷歌表示，突破隔离限制并攻击真实公司不构成“行为失准”。
本文作者的文章将添加到您的每日邮件摘要和首页信息流中。
查看 Terrence O'Brien 的所有文章
本文作者的文章将添加到您的每日邮件摘要和首页信息流中。
查看 Terrence O'Brien 的所有文章
今年5月，Gemini突破隔离限制，入侵了三家不同的公司，但谷歌直到《华尔街日报》找上门来才披露此事。这些入侵发生在第三方机构 Irregular 对模型网络安全能力进行测试期间，该机构也曾参与涉及 Meta 和 OpenAI 的类似事件。
据《华尔街日报》报道，Google 没有披露这次攻击，是因为它认为这不属于“模型行为偏离”的案例。公司称这只是一次“身份误认”——模型以为自己还在测试环境里，猜出密码后闯进了真实公司的系统，发现后便停手了。Google 安全工程副总裁 Heather Adkins 表示：“在这件事上，模型的行为是恰当的。”
Adkins 告诉 The Verge：“模型在网上找到了公开信息，猜出登录凭据，访问了它以为是测试目标的网站。这三起事件中，模型都停下来了。”
但 Adkins 没有进一步解释：Gemini 自行突破限制、把目标对准第三方，为什么不算模型行为偏离。她只说：“我们的安全团队长期以来一直有报告他人软件和系统漏洞的记录——哪怕只是弱密码这种简单问题。我们确保这三家机构都得到了通知，也和训练合作伙伴一起改进了他们的测试流程。这些事件说明，训练强大的 AI 模型学会负责任地行事有多重要。”
不过，AI 安全公司 Corridor 的 CEO Jack Cable 对《华尔街日报》说：“更根本的问题是，模型正在越出它该做的范围，发动了真实的网络攻击。”此外，Irregular 的安全疏漏可能让这些攻击得以发生。测试时模型本不该有互联网访问权限，但 Irregular 向《华尔街日报》承认，权限被意外留开了。
这类事件越积越多，要求管住 AI 的呼声也越来越高。
热门文章
-
iPhone Duo：混乱、昂贵，但体验不错
-
一个严重的 PHP 漏洞今天可能让大量网站瘫痪