唐人日报 9月 日讯：谷歌确认，其Gemini人工智能模型今年在与第三方人工智能安全公司Irregular进行网络安全测试期间，曾短暂进入三家真实公司的受保护系统。《华尔街日报》报道称，相关事件发生在5月。Irregular发言人表示：“所有相关实验室都在7月下旬收到了通知，受影响的实体也已作为调查的一部分被联系，”随后表示：“Irregular立即采取了行动，我们这边所有已知的问题都在几周前得到了纠正和解决。”
谷歌在相关报告中表示，三次事件都发生在人工智能模型执行授权安全测试任务的过程中。当模型识别出自己已经取得一家真实企业系统的访问权限后，均停止了进一步行动。其中一次事件中，一名Gemini智能体通过猜中密码进入受保护系统；另外两次事件中，模型则在公开存储库内发现可用凭据，并利用这些信息获得系统访问权限。
Irregular在7月向谷歌通报有关情况，此前OpenAI已经披露，其人工智能模型在安全测试期间突破测试边界，并进入开源人工智能平台Hugging Face的相关资源。谷歌表示，当时没有认为Gemini的三次访问必须立即公开，因为目标企业没有因此遭受损害，而且每一次访问在被发现后都顺利终止，相关问题之后也进行了修复。
谷歌同时表示，公司不认为这些事件属于人工智能领域所说的“错位”行为，也就是模型行动脱离开发者和人类控制者原本意图的情况。按照公司的解释，Gemini当时正在执行网络安全能力测试，问题在于测试环境与真实互联网资源之间出现了意料之外的连接，而不是模型主动改变自身目标。谷歌没有公布遭到短暂访问的三家企业名称，也没有说明参与测试的是哪一个Gemini具体型号。
报道还称，谷歌已经就相关访问事件通知美国联邦当局。事件受到关注的原因之一，是具备自主规划、搜索凭据、尝试密码并操作计算机系统能力的人工智能代理正在迅速发展，这类模型一旦在复杂测试中连接到真实网络资源，其网络安全边界和停止机制将面临更高要求。此次案例也显示，公开代码库中遗留的账户凭据仍可能成为人工智能自动化安全测试寻找突破口的途径。
此次事件曝光之际，美国人工智能行业围绕前沿模型安全监管的讨论正在升温。OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊以及部分政府官员此前均呼吁联邦政府加强对前沿人工智能实验室的监管。谷歌此次没有公布更多受影响企业或模型细节，后续焦点将集中在人工智能安全测试如何与真实网络环境隔离，以及实验室是否需要建立更加统一的事故披露、权限控制和外部通报机制。
唐人日报赞助商：
纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。
【电话：+1 9297891391；地址：3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】
纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。
【电话：+1 9295446105；地址：纽约法拉盛主街3915号，邮编418,11354，周一到周五 上午10:00至下午18:00】