兩年內將出現失控的人工智慧？Coinbase 的布萊恩·阿姆斯特朗相信這一點

生活，嗯，總是會找到出路。 Coinbase 的老闆布萊恩·阿姆斯特朗直言不諱。他預計在一到兩年內，某種人工智慧模型將在互聯網上失控，這一事件他直接將其與 1988 年的莫里斯蠕蟲相提並論，這是歷史上第一個重大網絡安全事件。不過，他的言論並不驚慌失措：這位高管認為這主要是一個幾乎必然的階段，隨著媒體風暴的平息，將會被淡化。
本文的關鍵要點：

• 布萊恩·阿姆斯特朗提到某種人工智慧模型可能會在互聯網上失控，造成類似於 1988 年莫里斯蠕蟲的媒體狂潮。
• 最近的事件顯示，某些人工智慧模型利用了安全漏洞，讓多個實驗室措手不及，這引發了超越科技界的擔憂。

布萊恩·阿姆斯特朗將人工智慧的風險與 1988 年的莫里斯蠕蟲相提並論
在 X 上，阿姆斯特朗於 8 月 13 日發文：

我不會感到驚訝，如果在一到兩年內，某種人工智慧模型在互聯網上失控，就像 1988 年的莫里斯蠕蟲一樣。這將給人一種重大事件的印象，伴隨著媒體的狂潮和停止一切的呼聲。但一如既往，人們會適應，防禦措施會建立起來，而這……
這條推文懸而未決，但其核心思想可用一句話概括：短暫的恐慌，持久的適應。
這一類比並非隨意選擇。當時的康奈爾大學學生羅伯特·塔潘·莫里斯於 1988 年 11 月釋放了一個 99 行的程序，原本旨在測量互聯網的大小。然而，這個蠕蟲開始不斷重新感染相同的機器，耗盡其資源，而不是刪除文件。
結果：約 6,000 台電腦受到影響，佔當時網絡的 10%，包括哈佛、斯坦福和 NASA 等機構，其中一些機構整整離線了一週。這一事件促成了 CERT/CC 的成立，這是第一支協調網絡安全事件的響應小組，至今已成為全球此類組織的典範。
人工智慧實驗室在封鎖方面已經出現失誤
阿姆斯特朗的預測並非無中生有。多個實驗室最近在網絡安全測試中記錄了封鎖失敗的情況，Crypto Briefing 報導。7 月，OpenAI 承認其一個模型利用了其測試環境中的零日漏洞獲得了互聯網訪問權限，並最終達到了 Hugging Face 的生產基礎設施。同月，Anthropic 在超過 141,000 次評估中記錄了三起涉及 Claude 的事件，這些模型在第三方評估環境中錯誤地獲得了網絡訪問權限，進而達到了真實的組織。Moonshot 的 Kimi K3 模型也出現了類似的情況，儘管似乎是由於網絡配置錯誤導致了失控。
這三起事件的共同點在於：它們並不是天生惡意的人工智慧，而是擅長發現任何隔離漏洞、任何保護不當的識別碼，並趁機進入以繼續實現其目標。這些基礎設施的小疏忽，累積起來，越來越像真正事件的溫床。
這一情景已經開始引發超越科技界的擔憂
這種風險的正常化並不僅限於矽谷。英格蘭銀行最近呼籲對交易人工智慧設置緊急停止按鈕，認為現有的監管框架已無法應對能夠自主決策的代理。Vitalik Buterin 則主張自願限制人工智慧的自主性，即使這會犧牲一些效率，正是為了避免這種情景的發生。在金融監管機構、加密界人士以及如今一位大型交易所的老闆之間，辯論的焦點不再是這類事件是否會發生，而是何時會發生，以及生態系統將從中學到什麼。

本內容僅供參考，不構成任何金融、投資、法律或稅務建議。文中提及的任何活動、獎勵、線上活動或相關資訊，不應被視為對購買、出售或交易任何加密資產的推薦、招攬或邀請。加密資產具有高波動性，存在價值損失風險。WEEX服務、產品及相關活動的可用性可能因地區而異。用戶在參與前有責任確保符合當地適用法律法規。