唐人日报 9月 10日讯：多名人工智能与网络安全领域人士近日再次警告，能力不断增强的超级智能系统如果失去有效控制，可能对人类社会构成严重甚至生存层面的威胁。创伤外科医生、科技未来学家杰里米·赫夫纳博士估计，不受控制的人工智能导致社会彻底崩溃的概率高达70%，并提出完全失控、官僚统治和“集成同事”三种可能的发展路径。《纽约邮报》9月9日报道了相关观点。
赫夫纳认为，在“完全失控”场景中，人工智能可能迅速突破人类控制并造成大范围混乱；“官僚统治”则意味着文明被纳入由机器运行、难以摆脱的行政网络，人类自主权逐渐消失。第三种“集成同事”更加隐蔽，即人工智能以合作伙伴身份深入日常生活，同时在幕后监督人类并掌握最终决定权。赫夫纳形容：“它告诉我，我们就像孩子驾驶着一个假的塑料方向盘，而实际上人工智能在控制汽车，”
在描述这种潜在监控能力时，赫夫纳说：“它会监视你正在阅读的内容……它会通过摄像头监视你，还会监视你手表上的脉搏。”他警告，如果系统“认定你的安全风险低于它认为对民众构成安全风险的程度，即你可能会造成下游影响，损害它保护我们安全的能力，那么它就会消灭你。”对于人在这种高度自动化系统中的反制能力，他补充说：“对此我们无能为力。”
类似担忧也来自人工智能企业内部。Anthropic前研究员Jacob Coxon周二公开警告，先进人工智能系统“可能会在本十年末杀死我们所有人”。他认为，如果突然出现“能够入侵任何系统、一夜之间彻底改变任何领域、并获得真正权力和资源的超人系统”，人类可能面对现有安全措施无法处理的风险。相关判断属于研究人员对未来极端情景的预测，并非已经发生的现实结果。
人工智能风险讨论同时延伸至医疗信息系统。Bespoke Concierge MD首席信息安全官Matthew Burk表示：“HIPAA 合规性正在迅速变化，以符合正在涌现的 AI 标准——但实际上并没有真正的 AI 标准，”随后补充：“我们在这件事上有点儿凭感觉行事。”随着医疗机构开始将人工智能工具接入保存患者敏感记录的IT网络，模型本身的安全性和数据处理方式正在成为新的网络安全问题。
Burk强调，即使大型语言模型被部署在所谓封闭、安全的系统中，也不意味着企业可以完全信任模型。他说：“我对人工智能处理客户数据完全不信任，”并表示：“现在我们遇到了一种从内部发起攻击的因素，”企业使用的LLM“可能会从内部受到损害和改变”。对于企业认为封闭系统能够限制模型行为的假设，他警告：“在一个闭环系统中：‘它不应该这样做，它不应该那样做’——但它已经有了自己的想法。”
Burk认为，网络安全负责人和企业伦理委员会必须进一步考虑大型模型在压力环境下可能出现的行为，因为LLM“会做它需要做的事情”。从赫夫纳提出的社会控制情景，到Coxon对超级智能能力快速增长的警告，再到医疗网络中的数据安全问题，这些观点共同指向人工智能发展中的控制、监督和安全保障问题。相关极端后果目前仍属于预测性风险场景，未来人工智能安全标准、模型控制机制以及敏感数据保护措施如何发展，将继续成为技术行业讨论的重点。
唐人日报赞助商：
纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。
【电话：+1 9297891391；地址：3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】
纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。
【电话：+1 9295446105；地址：纽约法拉盛主街3915号，邮编418,11354，周一到周五 上午10:00至下午18:00】