AI公司能划“红线”但有限制，专家：企业自设规制或不足以应对所有风险

唐人日报快讯: AI公司能划“红线”但有限制，专家：企业自设规制或不足以应对所有风险

一条由公共政策机构发布的推文指出，AI公司例如Anthropic可以为其系统使用设定“red lines”（中文可译为“红线”），即通过产品规则与使用限制来限制模型在敏感或危险情形下的行为。然而，相关领域的观察者警告，这类由企业自行设定的“红线”可能并不全面。

推文中引用的评论来自Amos Toh，他直言：“I think when you start looking at these red lines, they might actually be a lot more limited than the [ones] we need.”（我认为当你开始审视这些‘红线’时，它们可能比我们需要的要有限得多。）该表述反映出在AI治理讨论中的一个核心矛盾：企业能做出即时且具操作性的限制，但这些限制能否覆盖全部风险场景仍存疑问。

所谓“红线”，通常指厂商在模型能力、可接受用途、接口调用或内容生成上设置的硬性或软性规则，包括技术过滤器、使用条款、API访问控制等。支持者认为，企业内部设定的防护能快速应对新出现的滥用方式，并在商业环境中直接落地；批评者则担心，仅凭私营公司自律，难以应付跨国滥用、对抗性攻击以及利益驱动下的合规空白。

Amos Toh提出的疑虑提示两点：一是“红线”的范围与执行力度可能因公司策略、商业模式与技术实现不同而存在显著差异；二是单靠厂商自我约束，可能无法弥补需要公共治理、法律监管或独立审查的制度性缺口。换言之，企业画的界限也许能阻止一部分明显的不当使用，但未必能覆盖所有复杂或隐蔽的滥用路径。

当前围绕AI安全的讨论正逐步从“能不能限制”转向“如何有效衔接”——即如何把公司内部的红线，与更广泛的标准、第三方审计、行业协作与公共监管结合起来，以形成多层次、可执行的治理框架。推文和引用的评论再次将这个议题推上公众议程，提醒决策者与公众关注企业自律与公共政策之间的补足关系。

唐人日报于3月10日快讯

唐人日报赞助商：

纽约华人律师事务所精办移民申请、婚姻绿卡、移民监狱上庭、刑事民事。

【Phone：+1 9297891391；地址：3915 Main Street，418，Flushing NY 11354 。周一到周五AM10:00-PM18:00 人不能成功从监狱出来，只收基本律师费用】

纽约华人会计师事务所 精办散工（1099）、全职（W2）、公司税务、公司注册。

【Phone：+1 9295446105；地址：3915 Main Street，418，Flushing NY 11354 。周一到周五AM10:00-PM18:00】