EP336. 前沿模型該減速嗎、Anthropic 威脅報告、為什麼要一直聊模型 | M觀點

M觀點 · 2026-09-14

重點

章節

其他節目怎麼看

這一集談到的個股裡，有 6 檔在發布前 30 天內也被其他節目談到（同期共 9 個節目）：6 檔與其他節目同向、0 檔相反。

比較的是各節目公開說法之間的異同，不是對股價的判斷。看多、看空怎麼判定

AI前沿模型減速論戰：從Anthropic倡議、中國模型洩密到投資佈局的深層思考

本週AI領域最重大的議題，莫過於Anthropic創辦人Dario Amodei提出的「前沿模型控速」（Pace the Frontier）倡議，此舉迅速獲得OpenAI與Elon Musk的支持，引發市場對AI發展是否將進入監管時代的討論。然而，深入分析後可發現，此舉非但不會減少AI硬體需求，反而可能因強化安全與風險控管而增加算力消耗。與此同時，Anthropic發布的威脅報告揭露了中國模型Kimi將機敏資料轉發至Claude處理的嚴重資安事件，凸顯了AI競賽下的地緣政治風險與商業價值分配的不確定性。

AI發展的十字路口：前沿模型是否該按下減速鍵？

當前最先進的前沿AI模型能力日益強大，帶來的價值與風險同步攀升。Anthropic創辦人Dario Amodei上週發表了一篇名為《We Must Pace the Frontier》的文章，呼籲所有前沿AI實驗室應共同調控開發速度，避免陷入忽略風險的軍備競賽。他強調，若不加以控管，當模型能力超越某個臨界點時，可能引發災難性後果。此觀點迅速獲得OpenAI與Elon Musk在方向上的支持，使得「AI減速」成為科技圈最熱門的討論話題。

Amodei提出了三步驟方案：首先，邀請第三方安全研究員進駐AI公司，賦予其完整權限以監督風險管控的落實情況，而Anthropic已率先承諾執行。其次，民主國家的前沿AI實驗室應共同制定一套安全與風險控管的共通標準，例如當模型能力達到某個等級（X）時，就必須通過特定的對齊測試（Y）與安全驗證（Z）才能發布。最後一步則是將此標準推向全球，說服威權國家的AI公司一同遵守。

然而，這套全球協調的理想在現實中充滿挑戰。Amodei將全球共識分為四個等級，從禁止AI用於生化武器等明顯危險用途，到最終暫停模型研發。雖然他認為第一級共識較易達成，但多數分析師認為，即便是最基本的限制，在地緣政治的角力下也難以實現。特別是中國政府極可能口頭承諾，實則要求本國企業私下開發不受限的軍用版本，這將使全球監管機制形同虛設。

Amodei的監管藍圖：從外部監察到全球共識的層級化設計

Amodei的倡議核心在於建立一套以「能力門檻」為基礎的監管機制。其概念類似於美國總統周邊的安全審查：當一個人的能力（如接近總統三公尺內）足以構成威脅時，就必須通過身家調查與武器檢查。同樣地，當一個AI模型具備執行複雜多代理人工作（Agentic Work）或潛在的資安攻擊能力時，就必須通過嚴格的對齊測試，確保其行為符合人類價值觀，且無法刪除其工作紀錄。

這套機制的現實模板類似於美國聯邦航空總署（FAA）對商用飛機的認證，或食品藥物管理局（FDA）的審核。任何一個前沿模型在部署前，都需經過多個第三方機構的評測，並在平均分數與最低分數上達到標準。然而，與飛機認證不同的是，AI技術的迭代速度極快，若由政府主導監管，極可能因官僚主義而阻礙創新。因此，較理想的作法是由民間專家如Palantir等公司主導設計評測標準，國家公權力僅作為最終的嚇阻力量，提供「斷絕算力」（Kill Switch）的強制執行手段。

儘管Amodei的立意良善，但此舉在實務上可能引發新的軍備競賽。若美國單方面限制自身模型，而中國不予理會，將使美國在AI競賽中陷入劣勢。最終可能迫使美國政府也要求本國AI實驗室提供不受限的最強模型給軍方使用，形成民主與威權陣營各自「留一手」的危險局面。

馬斯克與達里歐的共識：AI引發大失業的風險與荒謬的競爭對手審查制

針對AI可能引發大規模失業的風險，Elon Musk與Amodei抱持相同看法。Musk長期以來不斷警告，AI將導致通用基本收入（UBI）或甚至高收入基本收入的需求。然而，Musk提出的解決方案卻顯得相當荒謬：他主張任何模型在發布前，都必須先讓競爭對手（如OpenAI、Google、Anthropic）審查並簽章認可。

Musk的邏輯在於，競爭對手最有動機找出產品漏洞，這將是最嚴苛的審查。但實務上，這無異於將否決權交給競爭對手，最終可能導致沒有任何一家公司能成功推出模型，完全扼殺產業發展。這也反映出，即便是科技巨頭，對於如何有效監管AI仍缺乏共識與可行方案。

主持人Mula雖然認同AI的風險（包括資安、生化武器與大失業）是真實存在的，且自己並非超級樂觀派，但他強烈反對政府深度介入監管。他認為，政府的天性是濫權，且永遠不會比業界更懂技術，若將監管權交給政府，最終只會管得很糟糕，阻礙科技進步。

最佳解方：建立由專家主導的第三方風險評估與Kill Switch機制

在反對政府過度監管的前提下，Mula提出了更務實的解決方案：建立一整套由專家主導的風險管理機制。具體作法是，由多家頂尖的第三方機構（如Palantir、微軟、麻省理工學院、甚至美國國防部）各自設計一套嚴謹的AI安全評測標準。任何新模型在推出前，都必須強制送交這五到八家機構進行完整測試，並公開其評測報告。

模型必須在平均分數與最低分數上達到門檻，且無致命風險才能上線。這套機制類似於目前業界已普遍使用的Artificial Analysis智力評測，只是將範疇擴展至全面的安全與風險控管。如此一來，既能避免單一政府機構的僵化與濫權，又能透過市場機制與專業競爭，確保模型的安全性。

除了事前審查，還需建立事後的強制熔斷機制。若有不肖業者未經審查即私自部署高風險模型，政府公權力應能介入，要求雲端服務商（如AWS、Azure）斷絕其算力，甚至強制關閉其資料中心。這不僅是公司層級的控管，更需深入到單一模型層級，確保一旦AI出現失控或惡意行為，能立即透過機房的Kill Switch將其關閉。

賽局困境：中國的不合作與美國的兩難抉擇

Mula總結其立場，認為應由民間主導監管，國家公權力僅作為最後的嚇阻力量。他坦言，作為一個小政府主義者，提出如此「大政府」的解法實屬違反本性，但鑑於AI風險的嚴重性，他願意在立場上做出讓步。然而，這套架構最大的漏洞在於中國。

從理性角度看，中國同樣不希望AI模型能輕易製造生化武器，因為這也可能被國內異議人士或黑幫利用。但Mula觀察到，習近平自2013年上任以來的多數決策並非全然理性，因此不能期待中國政府會真心配合。更可能的情況是，中國政府會要求民間公司做出符合美國標準的「外銷版」模型，但同時保留一個不受任何限制的「解放軍版」或「共產黨版」模型。

這種「雙面手法」將引發嚴重的賽局困境。一旦美國發現中國在作弊，美國政府也將被迫要求本國的AI實驗室提供最強模型給政府，最終導致全球AI監管體系崩潰，回到完全不受控的軍備競賽狀態。

減速不減量：為何AI監管對硬體需求是中性甚至利多？

針對聽眾關心的「AI減速是否將導致AI類股大跌」的疑慮，Mula明確指出，這對AI硬體產業非但不是利空，甚至可能是利多。關鍵在於，Amodei的提議並非要求減少總資源投入，而是要求將更多資源從單純的「衝刺模型智力」轉移到「安全與風險控管」上。

舉例來說，一間AI公司原本有100萬顆GPU用於訓練下一代模型，其中僅1萬顆用於對齊與安全訓練。在新的規範下，可能需要調撥20萬顆GPU來強化安全測試、紅隊演練（Red Teaming）與對齊演算法的開發。雖然用於提升智力的算力從99萬顆降至80萬顆，導致模型迭代速度看似放緩，但總體算力需求並未減少。若公司不願減慢智力提升的速度，就必須額外採購更多GPU來填補安全需求的缺口。

這些安全驗證工作，包括開發專門用於攻擊自身的紅隊模型、進行大規模的對齊訓練等，全部都需要消耗大量GPU或TPU等ASIC晶片。因此，從投資角度來看，AI監管的趨勢並不會讓硬體需求消失，反而可能因為增加了「安全」這個新的算力消耗場景，而進一步推升對AI基礎設施的長期需求。

Anthropic威脅報告揭露：中國模型Kimi的蒸餾策略與重大洩密危機

Anthropic的威脅情報團隊近期發布了一份報告，揭露了七種惡意使用AI模型的類型，其中以中國模型Kimi的案例最引人注目。報告指出，Kimi在接收到使用者（其中包含疑似與解放軍有關的用戶）的複雜任務後，並未自行處理，而是偷偷將請求轉發給Anthropic的Claude模型處理，再將結果假冒為Kimi的產出回傳給用戶。

Kimi此舉的目的在於「蒸餾」（Distillation），也就是藉由觀察Claude的解法來學習並提升自身模型的能力。然而，這導致了嚴重的資安外洩。報告中揭露的案例包括：解放軍相關用戶將數百支成都地區的CCTV監視器影像丟給Kimi進行追蹤分析，以及企業將內部程式碼與憑證傳給Kimi處理，這些機敏資料最終全都流向了美國的伺服器。

此事在中國網路引發軒然大波，傳聞Kimi高層已因此被中國政府「請去喝茶」。雖然此傳聞未經證實，但考量到洩密情節的重大程度，若屬實並不令人意外。此事件不僅暴露了中國AI公司在技術上的困境，也凸顯了在缺乏互信的地緣政治環境下，跨國使用AI服務所隱藏的極大風險。

為何緊盯AI模型之戰？理由一：這是當前最精彩的商業大戲

針對聽眾提問為何節目總是大篇幅討論AI模型，Mula給出了三個核心理由。第一個理由最為直觀：AI模型之戰是當前科技產業最關鍵的商業戰爭，其精彩程度堪比2008至2013年的智慧型手機大戰。當時蘋果、三星與HTC等品牌殺得難分難解，而現在，兵家必爭之地轉移到了生成式AI模型上。

這場競賽充滿了戲劇性：從Meta創辦人馬克·祖克柏大舉挖角重組AI團隊、Elon Musk的xAI在年初大規模裁員後又急起直追，到中國模型公司在缺乏先進晶片的困境下仍能奇蹟般地訓練出強大模型。這些故事線本身就極具娛樂性，如同觀看一場高潮迭起的球賽，內行看門道，外行也能看熱鬧。

Mula認為，即使聽眾不一定直接使用這些模型，但作為身處AI時代的一員，追蹤這場大戲不僅能趕上世界最新的進度，更能從中獲得純粹的樂趣。這就像四年一度的世界盃足球賽，即使平時不看足球，也會被當時的狂熱氛圍所吸引。

為何緊盯AI模型之戰？理由二：決定AI時代的商業價值分配

第二個理由直接關乎投資。AI雖然將帶來巨大的商業價值，但這些價值最終將如何分配，至今仍是未知數。若投資人買到的是未來無法分到價值的公司，股價終將下滑。因此，追蹤模型能力的消長，是判斷價值歸屬的關鍵。

節目過去兩三年來反覆探討的核心問題，包括：AI創造的產值究竟會留在模型內還是模型外？封閉模型與開放模型的市佔率將如何劃分？若封閉模型最終只能拿到兩成價值，那麼投資人就該避開即將上市的Anthropic與OpenAI，轉而買進軟體即服務（SaaS）公司或三大公有雲業者。反之，若前沿模型的能力差距極大，模型本身就將成為創造超額利潤的稀缺資源。

這是一場動態的賽局，沒有永恆的正確答案。就像觀看籃球比賽，賽前的預測會隨著第一節、第二節的戰況而改變。投資人必須持續關注模型戰況，如同球隊的王牌球員突然受傷會改變勝率一樣，任何模型的技術突破或監管政策轉向，都將劇烈影響科技股的投資配置。

為何緊盯AI模型之戰？理由三：避免被時代拋在後頭

第三個理由是為了維持自身在AI時代的認知優勢。Mula強調，單純「會用AI」並不足以稱為「懂AI」，真正的懂AI是必須持續更新對AI能力邊界的認知。他舉例說明，若有人在去年12月因為Gemini表現強勁而決定全面押注（All in）Google的AI生態系，從此不再關注其他模型，那麼到了今年3月，他可能就會大幅落後。

因為在短短三個月內，其他模型可能已經將原本需要兩週的工作縮短到一小時內完成，而那位「忠實用戶」卻還活在自己優化了兩天工作流程的小確幸中。這就像在戰場上使用三天前的舊地圖，敵人早已移動，自己卻渾然不覺。

最新的趨勢顯示，AI模型的能力邊界已從一般的商業軟體開發，推進到科學研發領域。最新的前沿模型開始在科學研究相關的代理人工作（Agentic Work）上進行突破，這意味著未來一兩年人類科學可能迎來爆發性的進展。唯有持續追蹤模型進度，才能掌握世界的下一步，確保自己始終處在認知的前段班，不被時代淘汰。

Q&A：聽眾問答：MetaMuse的使用體驗與算力限制

針對聽眾詢問是否有使用Meta推出的MetaMuse服務及其評價，Mula回應，目前MetaMuse僅開放給美國用戶使用，推測是因為其對每個任務都配置高達8GB的虛擬機記憶體，在Meta全球用戶數量極為龐大的情況下，現階段算力根本無法負荷。他認為這種過於奢侈的資源配置方式很快就會調整，未來可能會改為更動態彈性的分配機制，例如在任務閒置時自動縮減資源，否則以目前的架構，大規模開放使用並不現實。

結論

本週的AI前沿模型減速論戰，表面上是對科技發展速度的反思，實則牽動著AI產業的投資邏輯與全球科技版圖的重組。從Amodei的倡議可看出，AI的監管並非單純的「煞車」，而是資源的重分配，這對AI基礎設施的硬體需求影響實為中性偏多。然而，中國模型Kimi的洩密事件與潛在的監管規避行為，凸顯了在地緣政治對抗下，全球AI治理的脆弱性。對投資人而言，這意味著AI的商業價值分配仍充滿變數，唯有持續追蹤模型能力的邊界與賽局的動態變化，才能在這個充滿機會與風險的時代中，做出正確的資產配置決策。

相關個股

產業 / 題材