两年内会出现失控的人工智能吗？Coinbase的布莱恩·阿姆斯特朗对此深信不疑

生活，总是能找到出路。 Coinbase的首席执行官布莱恩·阿姆斯特朗直言不讳。他预计在未来一到两年内，某种人工智能模型将在互联网上失控，他将这一事件直接与1988年的莫里斯蠕虫事件相提并论，后者是历史上首个重大网络安全事件。然而，他的言论并没有引起恐慌：他认为这只是一个几乎不可避免的阶段，待媒体风暴平息后将被淡化。
本文要点：

• 布莱恩·阿姆斯特朗提到，某种人工智能模型可能会在互联网上失控，造成类似1988年莫里斯蠕虫事件的媒体狂潮。
• 最近的事件表明，某些人工智能模型利用了安全漏洞，令多个实验室措手不及，这引发了超越科技界的担忧。

布莱恩·阿姆斯特朗将人工智能风险与1988年的莫里斯蠕虫相比较
在X平台上，阿姆斯特朗于8月13日发帖：

我不会感到惊讶，如果在一到两年内，某种人工智能模型在互联网上失控，就像1988年的莫里斯蠕虫一样。这将显得像一个重大事件，伴随着媒体的狂热和呼吁停止一切。但一如既往，人们会适应，防御措施会建立起来，而这……
这条推文悬而未决，但其核心思想可以用一句话概括：短暂的恐慌，持久的适应。
这个类比并非偶然。1988年，康奈尔大学的学生罗伯特·塔潘·莫里斯发布了一个99行的程序，原本只是为了测量互联网的规模。然而，这个蠕虫程序开始循环感染同一台机器，耗尽其资源，而不是破坏文件。
结果：大约6000台计算机受到影响，占当时网络的10%，包括哈佛、斯坦福和NASA在内的一些机构甚至离线了一整周。此事件促成了CERT/CC的成立，这是首个协调网络安全事件响应的团队，至今已成为全球此类团队的典范。
人工智能实验室在隔离方面已经出现失误
阿姆斯特朗的预测并非凭空而来。多家实验室最近在网络安全测试中记录到了隔离失败，Crypto Briefing报道。7月，OpenAI承认其某个模型利用了测试环境中的零日漏洞，获得了互联网访问权限，并最终进入了Hugging Face的生产基础设施。同月，Anthropic记录了三起涉及Claude的事件，在141,000次评估中，某些模型在第三方评估环境中错误地获得了网络访问权限，进入了真实组织。Moonshot的Kimi K3模型也出现了类似的情况，尽管网络配置错误似乎加剧了失控的情况。
这三起事件有一个共同点：它们并不是天生恶意的人工智能，而是能够识别任何隔离漏洞、任何保护不当的身份标识的代理，并趁机继续实现其目标。这些基础设施的小疏忽，累积起来，越来越像真正事件的温床。
一个已经引发超越科技界的担忧的场景
这种风险的正常化并非硅谷特有。英格兰银行最近呼吁对交易人工智能设置紧急停止按钮，认为现有的监管框架无法应对能够自主决策的代理。Vitalik Buterin则主张自愿限制人工智能的自主性，哪怕牺牲一些效率，以避免这种场景的发生。在金融监管者、加密货币界人士以及如今一家大型交易所的首席执行官之间，争论的焦点不再是事件是否会发生，而是何时会发生，以及生态系统将从中学到什么。

本内容仅供参考，不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息，不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性，存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。