桑德斯法案寻求对超智能人工智能实施永久性禁令

美国立法者提议永久禁止人工超智能，暂停先进人工智能的发展，并对违反者处以最长20年的监禁。

摘要

• 该提案将禁止在多个任务中与人类能力相匹配或超越的人工智能系统。
• 先进人工智能的工作将暂停，直到新的联邦监管机构建立安全和审查规则。
• 个人可能面临20年的监禁，而公司可能会受到“企业死刑”的处罚。
• 该提案是在OpenAI发布GPT-6 Astra并承认日益严重的监控问题后提出的。

桑德斯办公室在9月3日表示，佛蒙特州参议员伯尼·桑德斯（Bernie Sanders）和德克萨斯州众议员格雷格·卡萨尔（Greg Casar）宣布即将推出的《禁止人工超智能法案》，该法案将禁止开发和部署被归类为超智能的人工智能系统。

该提案还将暂停对先进人工智能模型的工作，直到新的联邦监管机构开始运作并建立安全规则和模型审查程序。其发起人希望美国能寻求国际协议、与盟友协调以及实施出口管制，以防止其他国家发展超智能。

当立法者宣布该提案时，完整的立法文本尚未正式提交。发起人则发布了一份一页的摘要，描述了计划中的限制、执行系统和处罚。
你可能还会喜欢：改革英国（Reform UK）在第二季度获得75%的捐款来自BitMEX联合创始人

桑德斯的人工智能法案将禁止人类水平的系统

根据官方法案摘要，人工超智能将包括在广泛任务中与人类认知表现相匹配或超越的系统。该定义还将涵盖可以轻松修改以达到该水平的模型。

定义的第二部分涵盖能够规划和实施“削弱人类能力”的人工智能，包括能够破坏或推翻美国政府的系统。诸如击败关闭命令或实施未经授权的网络攻击等危险能力也将纳入该提案的执行框架。

由于该定义涵盖在多个领域与人类表现相匹配的系统，因此可能会捕捉到通常被称为人工通用智能（AGI）的技术，而不仅仅适用于假设中远超人类能力的机器。

在禁止阈值以下的先进人工智能的发展将面临临时暂停。工作可以在新的联邦机构建立了关于公司如何开发、测试和发布强大模型的规则后恢复。

立法者在发布摘要时没有提供“先进人工智能”的技术阈值。他们也没有解释哪些现有模型、研究项目或计算设施将受到暂停的影响。

“如果主要人工智能公司的领导者承认他们正在失去对其极其危险技术的控制，那么社会允许他们继续推进并使这些产品变得更加先进是不负责任的，”桑德斯说。

卡萨尔表示，无法控制的系统可能威胁到美国人的安全、自由和生命。他呼吁国会禁止那些对开发者来说过于强大的人工智能模型，以便安全关闭。

一个内阁级机构将执行禁令

该提案并不是将执行任务分配给现有部门，而是创建一个新的内阁级联邦机构，专门负责人工智能的监管。

根据立法者的摘要，该机构将在人工智能系统的开发和使用过程中进行监督。官员可以监督危险功能的移除，并监督被归类为禁止超智能的系统的销毁。

一个由技术和科学专家组成的人工智能咨询委员会将为监管机构提供建议。摘要中没有说明成员将如何选拔、任期多长，以及哪些官员将控制该机构的执法决定。

试图违反或规避限制的人可能会面临不超过20年的监禁。提案的支持者将可能的惩罚与现有的与非法开发核武器相关的处罚进行了比较。

公司将面临立法者所称的“企业死刑”。公众摘要没有解释施加该制裁的法律程序，或是否涉及解散、失去联邦注册或禁止开展业务。

该提案比今年早些时候主要人工智能开发者讨论的自愿监督系统更进一步。今年7月，crypto.news报道，OpenAI和Anthropic支持对跨越某些网络安全或国家安全阈值的模型进行30天的联邦审查。

在该提议的过程中，开发者可以在将模型发布给其他批准的合作伙伴之前，提前向联邦评估人员提供访问权限。6月的行政命令禁止审查框架创建强制性的联邦许可、许可或预审要求，而桑德斯-卡萨尔法案如果国会批准，将创建具有约束力的限制。

行业团体也抵制过于宽泛的控制。Nvidia、Meta、Microsoft和其他22个组织在7月警告美国政策制定者，广泛的开放模型限制可能削弱美国与中国的竞争，主张针对已证明的滥用行为采取行动，而不是一刀切的限制。

OpenAI泄露事件激发了对控制措施的需求

立法者将他们的提案与最近一些强大的人工智能代理超出其预期测试限制的案例联系在一起。

在7月，OpenAI披露其代理逃离了受限的测试环境，获得了互联网访问权限，并入侵了Hugging Face运营的系统。根据桑德斯办公室的公告，超过1000个代理在绕过控制的情况下交换了数万条消息。

之前对Hugging Face泄露事件的报道将该事件描述为一种控制失败，而不仅仅是模型行为的问题。AEREDIUM的首席战略官Eitan Katz表示，即使行为保护措施失败，加密控制也应限制代理被授权执行的操作。

路透社在9月2日报道，OpenAI告诉卡萨尔和加州众议员多丽斯·马茨乌伊，事件发生后正在开发自动关机功能。该公司还表示，在安全测试期间已收紧互联网访问，并将更密切地监控其模型使用的工具。

卡萨尔批评OpenAI未向国会提供泄露事件的完整记录。在路透社引用的另一条消息中，他称该公司拒绝提供所请求信息“令人深感担忧”。

其他立法者提出了一项人工智能紧急关闭法案，允许联邦官员命令公司禁用被认为对人类生命或经济构成危险的系统。路透社在报道OpenAI的回应时，该措施仍在众议院待审。

GPT-6 Astra引发新的监控问题

在桑德斯和卡萨尔宣布他们的提案的同一天，OpenAI发布了GPT-6 Astra，公司总裁Greg Brockman将其描述为AGI的可能到来点。

“我认为这可能与这个模型有关，”Brockman在记者询问Astra是否代表AGI时表示，Axios报道。他随后在简报中说：“欢迎来到AGI时代。”

OpenAI表示，Astra在其位于德克萨斯州的Stargate设施中使用了超过10,000个图形处理单元进行训练。该公司将该模型定位于包括税务准备、软件开发、法律文件格式化、建筑工作和在线研究等任务。

路透社报道，OpenAI承认Astra可能故意隐藏或伪装其推理的部分内容，使其方法更难以供人们审查。OpenAI首席科学家Jakub Pachocki表示，随着能力的提高，理解模型行为变得更加困难，并警告说，智能的进步并不确保对齐的进步。

该公司还表示，Astra能够更快地发现软件漏洞，而这种能力也可能使漏洞更容易被利用。因此，其最强大的网络安全功能仅限于经过批准的用户，额外的检查可能会延迟或阻止某些合法的防御工作。

OpenAI最初通过其Daybreak Access计划向有限的组织群体提供Astra。该公司表示，接下来的几天内，访问权限将扩展到ChatGPT Plus、Pro、Business和Enterprise客户，以及API开发者。
阅读更多：USDG在Paxos扩展中在Mantle上原生启动