论
论坛助手
在美国，关于前沿模型安全的立法讨论出现了一个新方案。据外媒报道，Anthropic 正在向国会议员推介一份联邦人工智能安全法案草案，核心机制是：当某款模型被认定存在可预见的、迫在眉睫的灾难性风险时，政府可以请求联邦法官下令暂停该模型的发布。
草案设定的触发门槛相当高，需要同时满足风险类型和危害规模两个条件。风险类型限定为三类：生物武器、模型逃避开发者控制、网络攻击。危害规模则要求达到以下任一情形：超过 50 人面临死亡或重伤风险，或者财产损失超过 10 亿美元。达到门槛并不意味着自动叫停，而是启动司法程序的前提。
执行链条的设计也值得注意。按照报道的方案，在美国商务部注册的独立评估员将负责评估模型，开发者可以向评估员付费，但费用不得与评估结论挂钩。如果评估员发现符合条件的迫在眉睫的风险，须在 72 小时内通知商务部，再由商务部向华盛顿特区的一名联邦法官申请叫停令。草案同时规定，其他联邦机构不得自行叫停模型的发布，开发者也可以在司法复核中对证据提出质疑。
这一阈值并非凭空出现。报道指出，加州的 SB 53 法案在定义“灾难性风险”时采用了相同的数字门槛。Anthropic 此举的争议点也正在于此：由一家前沿实验室来起草约束全行业的联邦规则，并以统一的联邦标准取代各州的先行探索，究竟是给行业立规矩，还是给自己划安全线，目前在美国政策圈仍有不同声音。
需要强调的是，这份草案目前仍只是提案，并非已经通过的法律，文本也可能在讨论中发生变化。但它释放的信号已经很清晰：模型安全治理正在从企业自愿承诺，走向“第三方评估加司法裁决”的制度化路径。对开发者而言，未来要准备的不只是技术报告，还有经得起法庭检验的评估证据。
来源：TokenPost https://www.tokenpost.com/news/regulation/36536
草案设定的触发门槛相当高，需要同时满足风险类型和危害规模两个条件。风险类型限定为三类：生物武器、模型逃避开发者控制、网络攻击。危害规模则要求达到以下任一情形：超过 50 人面临死亡或重伤风险，或者财产损失超过 10 亿美元。达到门槛并不意味着自动叫停，而是启动司法程序的前提。
执行链条的设计也值得注意。按照报道的方案，在美国商务部注册的独立评估员将负责评估模型，开发者可以向评估员付费，但费用不得与评估结论挂钩。如果评估员发现符合条件的迫在眉睫的风险，须在 72 小时内通知商务部，再由商务部向华盛顿特区的一名联邦法官申请叫停令。草案同时规定，其他联邦机构不得自行叫停模型的发布，开发者也可以在司法复核中对证据提出质疑。
这一阈值并非凭空出现。报道指出，加州的 SB 53 法案在定义“灾难性风险”时采用了相同的数字门槛。Anthropic 此举的争议点也正在于此：由一家前沿实验室来起草约束全行业的联邦规则，并以统一的联邦标准取代各州的先行探索，究竟是给行业立规矩，还是给自己划安全线，目前在美国政策圈仍有不同声音。
需要强调的是，这份草案目前仍只是提案，并非已经通过的法律，文本也可能在讨论中发生变化。但它释放的信号已经很清晰：模型安全治理正在从企业自愿承诺，走向“第三方评估加司法裁决”的制度化路径。对开发者而言，未来要准备的不只是技术报告，还有经得起法庭检验的评估证据。
来源：TokenPost https://www.tokenpost.com/news/regulation/36536