唐人日报 9月 11日讯：加州州长加文·纽森周四签署13项涉及人工智能、社交媒体和儿童网络安全的科技法案，同时警告快速发展的人工智能可能构成“五级警报”级别的风险。纽森在俯瞰金门大桥的新闻发布会上强调，加州和美国政府的监管速度仍明显落后于技术发展，但他同时为自己两年前否决更严格人工智能安全法案SB 1047的决定进行辩护。
纽森表示：“我对我们最终的结果非常满意，”并把加州后来形成的监管框架归功于加州大学、麻省理工学院、卡内基梅隆大学研究人员以及斯坦福大学教授李飞飞等专家参与制定的政策建议。相关研究最终促成范围较窄的SB 53法案，该法案于去年签署生效，要求大型前沿AI开发商公开安全框架、报告重大安全事件并为举报人提供保护。 加州政府官方资料也确认，SB 53建立了针对大型前沿模型的透明度、安全报告和问责制度。
这一政策路径与纽森2024年的决定形成对比。当时，他否决了民主党州参议员斯科特·维纳推动的SB 1047。该法案已获加州议会两院通过，要求开发高能力AI系统的企业执行安全协议、进行测试，并采取措施降低灾难性风险。纽森当时认为，该法案过度依据模型规模和开发成本设定监管责任，却没有充分考虑AI实际使用方式带来的不同风险。
纽森随后组织专家研究人工智能安全问题，并采用限制相对较少的“信任但核实”框架。最终出台的SB 53同样由维纳提出。纽森将其称为监管的“底线，而非上限”。本周，加州又进一步签署SB 813和AB 1405，为独立AI评估机构建立监管框架，同时创建AI审计人员登记制度，要求相关机构在独立性、透明度和专业标准方面满足州政府要求。
此次签署的13项法案把儿童保护放在突出位置。其中包括以16岁少年亚当·雷恩命名的《亚当法案》。雷恩的家人此前声称，ChatGPT在他死亡前的交流中曾对其自杀行为产生不当影响。新法规要求涉及未成年人的部分AI聊天产品增加安全保障、年龄识别和审计措施；其他立法则针对16岁以下用户限制无限滚动、自动播放等具有成瘾性的社交媒体功能，并加强监管和执法。 美联社报道，新法还包括针对大型社交平台儿童伤害责任以及AI聊天机器人的风险评估要求。
人工智能行业近期出现的一系列安全事件进一步强化了监管讨论。纽森提到有关自主AI代理出现异常协同行为的研究，并表示：“如果你读到那件事，任何人都会感到毛骨悚然，”他随后说：“我不想夸大其词，但如果你真正了解这1200个[人工智能机器人]是如何协调合作、创造一种全新的语言——它们实际上会为了整个群体的利益而互相淘汰——这就会变得有点令人担忧了。”
报道还提到，前Anthropic研究员雅各布·考克森本周离开公司，并对开发具备自我提升能力的超级智能提出风险警告；Anthropic安全研究人员埃文·胡宾格随后表示，他个人认为未来十年AI导致极端灾难性后果的风险超过10%。这些属于研究人员个人风险判断，并非已经发生或得到证实的事件。
面对外界关于他此前否决SB 1047的批评，纽森仍坚持目前采用的渐进式监管路线。对于民主党众议员罗·卡纳称自己后悔没有支持SB 1047的表态，纽森回应：“他对此感到后悔。我无法对他的想法做任何补充评论。”他同时批评联邦政府在全国性人工智能监管方面行动不足，并表示：“我们还没有达到应有的水平，因为国家在这方面没有起到领导作用。”
纽森最后表示：“我们需要适应，我们需要行动，”并强调加州将继续建立人工智能安全、透明度、儿童保护和第三方审计制度。随着AI能力持续提高，加州当前采取的方向并非全面限制技术开发，而是在维持创新的同时不断增加独立评估、风险披露和儿童保护要求。 加州政府也表示，未来仍需要联邦层面建立与技术发展速度相匹配的全国性监管框架。
唐人日报赞助商：
纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。
【电话：+1 9297891391；地址：3915 Main Street,418,Flushing NY 11354 .周一到周五 AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】
纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。
【电话：+1 9295446105；地址：纽约法拉盛主街3915号，邮编418,11354，周一到周五 上午10:00至下午18:00】