以太坊聯合創始人 Vitalik Buterin 警告開發人員在將人工智慧 (AI) 與區塊鏈技術融合時要「小心」。

在 1 月 30 日的一篇部落格文章中，Buterin 總結了他對人工智慧最緊迫的擔憂，告訴開發人員“值得謹慎行事”，尤其是在高價值和高風險環境中部署新穎的應用程式時。

「重要的是要小心：如果有人建立了一個使用人工智慧預言機的預測市場或穩定幣，而事實證明該預言機是可攻擊的，那麼巨額資金可能會立即消失?！?/p>

Buterin 解釋說，人工智慧具有最高「生存能力」的一個領域是允許人工智慧參與微觀規模的預測市場等機制，而這對人類來說是不可行的。

Buterin 寫道，人工智慧還可以用於用戶的加密錢包介面，透過解釋交易和簽名或檢測詐騙來幫助他們理解加密並安全地與加密互動。

「我個人的觀點是，目前純粹的人工智慧介面可能風險太大，因為它會增加其他類型錯誤的風險，但人工智慧補充更傳統的介面變得非?？尚?，」他說。

加密+人工智慧應用的前景與挑戰：https://t.co/ds9mLnshLU

—vitalik.eth (@VitalikButerin) 2024 年 1 月 30 日

在 Buterin 看來，最危險的嘗試是利用人工智慧來執行加密系統的規則或治理，因為開源人工智慧模型可能容易受到對抗性攻擊。

開源人工智慧更容易受到對抗性攻擊，因為惡意行為者可以檢查其程式碼並優化針對它的攻擊。

他說，閉源人工智慧提供了“默默無聞的安全性”，然而，這些模型沒有提供其工作方式的透明度，也沒有保證它們的公正性。

與 OpenAI 相鄰的加密新創公司 Worldcoin 是閉源人工智慧的一個例子，Buterin 解釋說，它依賴於“不讓任何人簡單地調用人工智慧模型”，而是使用“可信硬體”。

相關：

Buterin 解釋說，最大的挑戰是使用其他應用程式可以利用的加密貨幣和區塊鏈創建去中心化人工智慧。

“最難解決的問題是嘗試使用區塊鏈和加密技術創建“單例”的應用程式：某些應用程式出於某種目的而依賴的單一去中心化可信人工智能?！?/p>

他說，這些應用程式有望「在功能上和提高人工智慧安全性方面，避免與更主流的解決該問題的方法相關的集中化風險」。

他的結論是，潛在的假設在許多方面都可能失敗。

雜誌：