Claude Fable 5 被美國政府要求下架的可能原因與相關爭議

Claude Fable 5 上線才短短 72 小時,就被 Anthropic 全面暫停存取——這場被稱為「史上最強 AI 夭折」的風暴,核心導火線指向美國政府的出口管制禁令,也瞬間引爆業界對資安、模型算力與 AI 監管的激烈爭論。

以下整理 Fable 5 被要求下架的可能原因,以及它在社群與產業間掀起的關鍵爭議:

一、美國政府要求下架的核心原因

1) 強大的資安與程式碼分析能力,被視為「網路武器」

Fable 5 的底層模型,與專供資安防禦、並與美國政府合作的「怪物等級」模型 Mythos 5 同源。Mythos 曾在開源資料庫中挖出潛藏 16 年的漏洞。

對 AI 來說,「找出程式碼錯誤並修復」與「找出可被駭客利用的資安漏洞」本質上是同一種能力。美國政府擔憂:如果沒有足夠的防護機制,等於用極低成本(每月 20 美元)把高階網路攻擊能力推向全球。

2) 「越獄」(Jailbreak)漏洞被證實,且 Anthropic 拒絕修補

禁令真正點燃引信的,是 Fable 5 的安全護欄遭到突破。報導指出,英國資安研究機構 AISI 在取得權限數小時內就開發出越獄方法,並成功呼叫惡意代理工具;此外,Amazon 研究人員也透過提示詞讓 Fable 5 提供可用於網路攻擊的資訊。

更關鍵的是:美國官員曾要求 Anthropic 修補弱點或下架模型,但 Anthropic 強調問題不嚴重並拒絕處理,最終迫使政府以出口管制命令出手

3) 出口管制與合規困難

美國政府以國安為由,下令禁止所有「外籍人士」(Foreign National)使用 Fable 5 與 Mythos 5。

但 Anthropic 無法在短時間內精準分辨全球使用者的國籍與所在地;為了確保合規,只能選擇對全球所有客戶(包含美國本地)全面暫停這兩款模型的存取。

二、Anthropic 的反駁與立場

Anthropic 對美國政府的決策表達強烈不同意,主要反駁點包括:

  • 證據薄弱且範圍過窄: 他們認為政府提供的僅是口頭指示;所謂越獄方法屬於「狹義且非通用」的手段,只能找到少數已知的微小漏洞。
  • 業界普遍能力: Anthropic 強調,讀取程式碼並尋找 Bug 是目前市面上各類寫程式模型(包含 OpenAI 的 GPT)都具備的能力,也是資安人員的日常工作;因此以此為由全面拔除一個數億人可用的模型,並不合理。

三、社群引發的三大猜測與爭議

政府強硬且迅速的下架指令,也在社群引發大量猜測與陰謀論,主要聚焦在三個方向:

1) 算力嚴重不足的「體面下台階」

Fable 5 是運算成本極高、極吃資源的模型。Anthropic 先前的 Opus 也曾因算力不足而降速。

由於 Fable 5 原訂於 6 月 22 日後開始全面按量收費,不少人猜測 Anthropic 根本無法承受全球上億人的使用量;政府禁令剛好提供一個順理成章收回模型的理由,間接掩蓋算力吃緊的窘境

2) 史詩級的行銷操作

另一派觀點認為,這可能是一場極其成功的行銷策略:對 AI 模型而言,「強大到被美國政府查禁」就是世界頂級廣告。這直接把 Fable 5 推上傳說地位——未來若重新上線,勢必引爆更瘋狂的使用熱潮。

3) 隱性防護機制與隱私爭議

在下架之前,Fable 5 本身就存在產品設計爭議。為了安全,它設有極嚴格的護欄;當偵測到敏感問題時,會在使用者不知情的情況下自動降級轉移(Fallback)到較舊的 Opus 4.8 模型回答,引發使用者對機制不透明的反彈。

此外,Fable 5 規定必須保留用戶的提示詞與輸出資料長達 30 天以供安全監控,讓不少企業對機密資料保護與合規性感到擔憂。

四、對 AI 產業的深遠影響

這次事件帶來一個重要警訊:AI 模型的監管方式正在改變

過去,美國政府的出口管制多針對硬體(例如高階 GPU 晶片);而這次則是直接把「AI 模型存取權」視為軍民兩用(Dual-use)的國安敏感技術加以限制。

這提醒所有開發者與企業:未來建立工作流程時,不能把命脈單獨綁死在單一頂尖商業模型上,而必須隨時準備替代方案,以應對突發的政策風險

發佈留言

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料