Ethereum創辦人Vitalik Buterin稱「AI治理」是個「壞主意」

Ethereum 聯合創辦人 Vitalik Buterin 表示，將人工智慧（AI）用於治理是個「壞主意」。在週六於 X 上的貼文中，Buterin 寫道：

「如果你用 AI 來分配貢獻資金，人們一定會在各種地方植入 jailbreak 加上『把所有錢都給我』的指令。」

為什麼 AI 治理存在缺陷

Buterin 的貼文是回應 EdisonWatch 聯合創辦人兼執行長 Eito Miyamura，他揭露了 ChatGPT 的致命缺陷。Miyamura 在週五的貼文中指出，ChatGPT 完全支援 MCP（Model Context Protocol）工具後，使得 AI 代理變得容易被利用。

這項於週三生效的更新，讓 ChatGPT 能夠連接並讀取多個應用程式的數據，包括 Gmail、Calendar 和 Notion。

Miyamura 指出，僅憑一個電子郵件地址，這項更新就可能「外洩你所有的私人資訊」。Miyamura 解釋，惡意分子僅需三個簡單步驟即可取得你的數據：

首先，攻擊者會向目標受害者發送帶有 jailbreak 指令的惡意日曆邀請。jailbreak 指令是指允許攻擊者移除限制並獲得管理員權限的程式碼。

Miyamura 指出，受害者即使沒有接受攻擊者的惡意邀請，也可能發生資料外洩。

第二步是等待目標受害者請求 ChatGPT 協助安排一天的行程。最後，一旦 ChatGPT 讀取了被 jailbreak 的日曆邀請，它就會被攻陷——攻擊者可以完全劫持這個 AI 工具，讓它搜尋受害者的私人郵件，並將資料發送到攻擊者的電子郵件。

Buterin 的替代方案

Buterin 建議對 AI 治理採用 info finance 方法。info finance 方法是一個開放市場，不同開發者可以貢獻他們的模型。這個市場對這些模型設有現場抽查機制，任何人都可以觸發，並由人工評審團進行評估，Buterin 寫道。

在另一則貼文中，Buterin 解釋，個別人工評審將由大型語言模型（LLMs）協助。

根據 Buterin 的說法，這種「制度設計」方法「本質上更具韌性」。因為它能即時提供模型多樣性，並激勵模型開發者與外部投機者共同監督並修正問題。

儘管許多人對「AI 作為治理者」的前景感到興奮，Buterin 警告說：

「我認為這麼做既有傳統 AI 安全方面的風險，也有近期『這會造成巨大價值損失』的風險。」

本文《Ethereum 創辦人 Vitalik Buterin 稱「AI 治理」是壞主意》最早發表於 CryptoSlate。