唐人日报 9月 11日讯：人工智能公司Anthropic周四发布一份新的威胁报告，披露美国以外部分研究人员正在利用前沿人工智能模型开展涉及高致病性禽流感、基孔肯雅病毒、正痘病毒以及毒素等领域的敏感生物研究。报告列举五起案例，显示研究人员利用AI分析病毒传播、免疫逃逸和毒素设计等问题，并在部分情况下试图绕开平台安全措施。Anthropic同时强调，公司没有认定这些研究人员具有研发生物武器的主观意图。
报告认为，这些案例使此前主要停留在理论层面的AI生物安全风险出现更具体的现实样本：一些本身已经掌握专业知识、实验材料和实验室资源的科学人员，正在使用越来越强大的人工智能提高敏感两用研究的效率。Anthropic长期将生物学能力视为典型的“双重用途”领域，即相同知识既可能用于疫苗、药物和疾病治疗，也可能被用于危险病原体或其他有害目的。
在其中一起案例中，一家军事研究机构相关人员计划开展基孔肯雅病毒研究，重点分析可能影响病毒传播能力和免疫逃逸特征的变化。Anthropic的安全系统阻止了部分敏感请求，但报告称，相关人员曾通过第三方生命科学平台规避地区访问限制，并在Claude拒绝部分问题后转向安全限制更宽松的其他模型。Anthropic封禁相关账户后，平台运营方随后使用新的身份恢复访问。
另一名研究人员连续数周利用Claude规划涉及高致病性禽流感的研究，重点关注病毒适应哺乳动物以及传播能力等问题。Anthropic表示，该研究人员似乎拥有病毒样本和动物模型设施，公司因此把可提供的帮助限制在能力较弱的模型以及研究设计、数据分析和文字编辑等范围。报告指出，如果禽流感病毒获得高效人际传播能力，将可能构成严重的大流行风险。
第三起案例涉及一名与国家关联传染病实验室有关的用户。该用户利用Claude在约一小时内起草正痘病毒研究拨款申请，内容围绕影响人体免疫反应的病毒基因。由于研究被描述为削弱病毒能力，模型安全机制没有阻止相关协助，但Anthropic指出，同样的生物知识也可能被用于维持甚至加强病毒的免疫逃逸能力，这反映出自动系统判断研究真实用途面临的困难。
另外两起案例涉及毒液肽和毒素研究。其中一名研究人员利用Claude整理多个有毒动物谱系的毒素肽数据，并建立计算流程进行优化，其公开目标是开发止痛药、抗抑郁药和其他治疗手段，但部分结构同时涉及具有致残潜力的麻痹性毒素。另一名研究人员则利用Claude参与数种毒素的计算设计和研究报告准备工作，并要求模型在报告中模糊具体毒素身份。
Anthropic在报告中总结称：“生物能力具有双重用途，”人类组织在报告中指出。“用于研发生物武器的信息，同样也可以用于研发疫苗或疾病治疗方法。”公司认为，这也是单纯依赖自动内容过滤存在局限的主要原因：当高风险问题被包装成医学、防御或治疗研究时，安全系统识别真正用途的难度明显增加。Anthropic此前也公开表示，前沿模型在生物学领域能力持续增强，因此需要针对双重用途知识实施更加严格的访问控制。
Anthropic还表示，公司近期审查了与敌对国家机构有关的30天活动记录，共发现约35项不同的生物研究项目，其中多数属于普通民用科研，但部分项目具有“显著的军民两用潜力”。公司明确表示，目前调查结果并不能证明Claude已经导致迫在眉睫的生物袭击，但显示与国家关联项目有关的研究人员正在尝试绕过访问控制，并把前沿人工智能应用于具有潜在武器用途的生物学研究。
针对下一阶段风险控制，Anthropic认为，仅靠模型回答内容过滤可能不足以应对不断增强的生物研究能力。公司提出，未来可能需要增加用户身份验证、研究机构审核，并对申请使用高级生物技术能力的人员实施更严格监控。随着AI在病毒学、毒理学和分子设计等领域的专业能力继续提高，如何在支持疫苗、药物和医学研究的同时防止同类能力被用于危险用途，将继续成为前沿人工智能安全体系面临的重要问题。
唐人日报赞助商：
纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。
【电话：+1 9297891391；地址：3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】
纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。
【电话：+1 9295446105；地址：纽约法拉盛主街3915号，邮编418,11354，周一到周五 上午10:00至下午18:00】