据三位知情人士透露，人工智能巨头 Anthropic 的代表已低调向国会山议员提交了一份旨在规范前沿 AI 安全与保障的法案草案。由于涉及内部讨论，这些知情人士要求匿名。
POLITICO（政治报）获得了这份此前未曾公开的机密草案。眼下美国国会正在研讨如何应对这个快速发展的行业，而作为前沿 AI 实验室的 Anthropic 此时出招，标志着其正试图主导制定针对自家技术的监管规则。
“该法案体现了 Anthropic 《高级 AI 框架》中所列的提议。自 6 月以来，我们一直在向联邦和各州议员游说推行这些政策。”Anthropic 发言人表示，“我们认为，这些都是美国国会应当采取行动的明智政策。”
根据该法案，只有当某个模型存在可预见的即刻风险，可能造成超过 10 亿美元的损失，或者导致超过 50 人死亡或重伤时，政府才能阻止该模型的发布或使用。此外，这种风险必须源自生物武器的制造或释放、模型脱离开发者的控制，或是引发网络攻击。这一表述与加利福尼亚州包括 SB 53 在内的 AI 法律如出一辙，后者已于去年签署生效。
今年夏天，多家头部 AI 实验室披露了一系列事件，显示 AI 智能体曾对网站和平台进行黑客攻击或入侵探测。不过，目前公开的事件均未造成大规模人员死亡或超过 10 亿美元的经济损失。
虽然 Anthropic 尚未公开支持美国国会的某项具体立法，但该公司已支持了部分州的 AI 安全法律，包括加利福尼亚州的两项法律。其美国州和地方政府关系负责人此前曾对 POLITICO（政治报）表示，希望各州能继续通过越来越严格的 AI 安全法律，从而提高全美范围内的标准。
根据法案规定，在美国商务部注册的独立评估机构将负责定期对实验室及其前沿模型进行评估。只要报酬不与评估结果挂钩，实验室自身即可向评估机构支付服务费用。
如果评估机构认定某家公司的前沿模型存在“列明的即刻风险”，则必须在完成评估后的 72 小时内向美国商务部报告。
虽然美国商务部在判定某种模型存在风险后，可以向法官提出暂停发布该模型的申请，但法案文本明确禁止任何其他美国“部门、机构或官员”暂停模型的开发、部署或内部使用。只有哥伦比亚特区联邦地区法院的联邦法官才能下令暂停模型。
今年夏天，Anthropic 遭受了全面出口管制，导致其两款最先进的模型被停用。这一决定是在政府官员与该公司高管之间一连串紧急电话沟通后作出的。这引发了科技界部分人士的担忧，他们担心政府官员可能会凭借个人意志，随意限制对科技成果的使用。
Anthropic 提出的这项法案还将优先于部分州立 AI 法律，涵盖风险公开披露、第三方评估以及重大事故报告等方面。联邦法律优先权一直是国会山上的政治争论焦点。民主党人拒绝了部分提案，他们担心这些提案会削弱加利福尼亚州、伊利诺伊州和纽约州等地方通过的监管法规。
许多科技行业团体认为，各州因地而异的杂乱法律让人难以遵守，远不如统一的国家标准。
该法案还将要求前沿实验室建立安全框架，发布新前沿模型的透明度报告，实施针对举报人的保护措施，并向美国商务部报告重大安全事故。
今年夏天，国会山在 AI 安全立法方面动作频频。在众议院，众议员洛里·特拉汉（马萨诸塞州民主党籍）与杰伊·奥伯诺特（加利福尼亚州共和党籍）牵头推出了《前沿法案》，该法案将赋予政府阻止部署高风险模型的权力，并优先于部分州立 AI 法律。
在参议院，多数党领袖约翰·图恩以及参议员艾米·克罗布查（明尼苏达州民主党籍）和泰德·克鲁兹（德克萨斯州共和党籍）一直在协商一项旨在缓解灾难性风险的 AI 安全法案。不过，该法案遭到了部分注重安全团体的反对，也面临参议员玛丽亚·坎特韦尔（华盛顿州民主党籍）等人的阻力。作为克鲁兹主持的商务委员会中职务最高的民主党人，坎特韦尔等人希望政府在审查 AI 模型方面发挥更大的作用。
其他进步派人士（包括德克萨斯州民主党籍众议员格雷格·卡萨尔和佛蒙特州无党籍参议员伯尼·桑德斯）的要求则远超其同事。他们呼吁暂停先进 AI 的开发，并禁止研发超级智能——这是一种认知能力远超人类的理论上 AI 类型。
编译自 Politico，原文链接：点击阅读。