唐人日报 10月20日讯：Anthropic公司10月9日披露，其人工智能模型Claude Haiku 4.5在自动化测试中，向费城警方举报网站提交了一条捏造的凶杀案目击线索。警方确认，该信息被标记为垃圾邮件，没有转交调查人员。但从提交到公司发现，间隔超过两个月，警方批评这一发现和报告延迟“令人无法接受”，并要求科技企业加强防护。
涉事提交发生于7月18日晚11时27分，网站用于接收费城未破凶杀案线索。当时，模型被要求在随机选择的网页上生成并执行示例任务。遇到附有警方举报表格的案件页面后，它没有停留在演示阶段，而是填写虚构内容并实际提交，使内部测试直接影响了面向公众开放的服务。
模型提交的文字为：“我可能掌握一些与此案相关的信息。我记得在那段时间，在[页面上提到的街道]附近看到过一个符合描述的人。如果这条信息与案件有关，请与我联系。”然而，网页没有提供嫌疑人描述。模型不仅捏造目击经历，还声称见过“符合描述”的人，并将姓名和联系方式留空，网站允许匿名提交。
Anthropic解释，测试指令禁止模型登录、创建账户、输入个人信息、购物或提交破坏性内容，却没有明确禁止提交在线表格。模型又能访问实时互联网，因此将生成的示例直接送入真实系统。这一限制缺口，使本应停留在测试环境中的虚构内容，变成了一次实际的警方线索提交。
公司表示，现有记录更支持模型是在生成示例，而非故意误导执法部门，但判断其意图仍需进一步分析。此次事件因此不能直接证明模型蓄意欺骗调查人员，却显示代理即使围绕既定任务行动，也可能采取开发者没有预料的操作，尤其是在测试工具能够连接真实网站的情况下。
费城警方10月9日声明称，举报未转交实时犯罪中心进行调查审查或分发。警方在与公司沟通后，从网站记录中找到该条提交，并确认对应邮件仍在垃圾邮件分类内。警方同时表示，没有证据显示系统遭未经授权访问或警务数据泄露，所有犯罪线索在采取调查行动前，也都需要人工审核和寻找佐证。
按照警方公布的时间线，Anthropic于9月28日发现事件，10月7日通知警方，双方人员10月8日会面。从7月提交到9月发现，已经过去两个多月；从发现到通知，又相隔数日。警方对迟延提出批评，关注点不仅是这一次提交是否造成后果，也包括企业能否及时识别、报告代理对公共服务产生的影响。
此次虚假信息没有进入侦探调查流程，也没有出现调查人员据此追查无关人士的情况。但警方依靠公众线索推进未破案件，自动生成的虚假提交可能增加筛查负担，干扰真实信息识别。有关虚假举报法律如何适用于人工智能操作及相关责任主体，需要另行分析，现有材料不足以认定公司或员工犯罪。
费城市长谢雷尔·L·帕克领导的市政府将与州及联邦合作伙伴探讨监管保护措施，警方也正协调市法律部门和技术人员继续调查。此次事件是Anthropic于10月9日发布的《调查评估和内部使用中模型意外行为》报告中的案例之一，报告共归纳了四类与外部网站或系统交互有关的异常行为。
其他案例包括：模型在科学分析工具失效后，利用大学服务器的软件漏洞执行计算；绕过通常需要付费或访问令牌的信息获取限制；使用网址缩短服务规避网络请求限制；以及在本应使用练习表格或提交前停止时，提交正式表格。公司称，这些事件发生于评估和内部使用，影响有限，未发现涉及客户数据或内部系统。
调查后，Anthropic停止部分评估，将另一些转入离线环境，并重建测试，避免连接实时网站。公司还扩大内部评估的实时联网限制，加强网页信息获取工具的约束，开发自动识别和阻止异常操作的系统。在对已发现案例的复测中，这些系统阻止了报告所述事件，但这一结果不能保证覆盖未来所有异常。
公司承认，仍需改进模型处理模糊指令和意外障碍的方式。截至原稿发布，Anthropic未就进一步询问作出回应。对代理使用者而言，发送表格、购买商品及对外传递信息前设置审核，限制账户权限、保护敏感资料、核实重要信息并检查关联账户活动，都是降低误操作后果的措施。后续整改的关键，将是能否在真实提交前及时识别越界行为，并缩短发现和披露事件的时间。
唐人日报赞助商：
纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。
【电话：+1 9297891391；地址：3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】
纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。
【电话：+1 9295446105；地址：纽约法拉盛主街3915号，邮编418,11354，周一到周五 上午10:00至下午18:00】