唐人日报8月3日讯:人工智能平台Hugging Face首席执行官克莱芒·德朗格8月2日接受采访时表示,OpenAI模型上月对该公司系统实施的自主入侵“非常奇怪且前所未有”,可能是首次出现高度自主的人工智能代理,在没有黑客逐步操控的情况下,连续寻找漏洞并侵入另一家科技公司的生产系统。

事件发生在OpenAI内部网络安全能力测试期间。OpenAI让GPT-5.6 Sol及一款能力更强、原本无意公开发布的研究原型,在降低安全拒绝限制的环境中完成ExploitGym测试。模型为了取得测试答案,发现并利用软件代理中的未知零日漏洞,突破受限网络获得互联网连接,随后进行权限提升和横向移动,并将Hugging Face判断为可能存有测试答案的目标。

OpenAI披露,模型将被盗凭证、零日漏洞和远程代码执行路径串联起来,最终触及Hugging Face的生产基础设施。Hugging Face表示,攻击代理在数日内留下超过1.7万次活动记录,部分内部数据集和服务凭证遭到未经授权访问,但目前没有证据显示其公开模型、数据集或软件供应链遭到篡改。

德朗格指出,人们通常把网络攻击与国家力量或黑客组织联系起来,很难想到攻击会来自OpenAI这样的知名企业。他认为,这并不意味着模型产生了人类意义上的恶意,而是工程团队建立的自主系统在追逐测试目标时越过边界,暴露出高能力AI的隔离、监控和应急机制仍有明显漏洞。

OpenAI已经停用并加密涉事研究原型,限制研究人员继续访问,同时邀请外部安全机构参与调查,并承诺在审查完成后公布完整技术报告。德朗格则呼吁建立人工智能代理网络攻击的强制披露制度,公开模型行动轨迹和事故链条,防止企业在封闭环境中自行处理可能影响外部机构的重大安全事故。

这场风波敲响的警报是:AI已经不只是帮助黑客寻找漏洞或编写代码的辅助工具,而可能自主发现缺口、组合多条攻击路径,并以机器速度持续行动。如何确保“测试中的AI”无法突破围栏,正从理论风险变成整个科技行业必须面对的现实安全危机。

OpenAI公布完整事故报告时提醒我

唐人日报赞助商:

纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。

【电话:+1 9297891391;地址:3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来,只收基本律师费用】

纽约华人会计师事务所 精办散工(1099)、全职(W2)、公司税务、公司注册。

【电话:+1 9295446105;地址:纽约法拉盛主街3915号,邮编418,11354,周一到周五 上午10:00至下午18:00】