萬萬沒想到,AI盜了我的錢包

2024-11-22 16:11:31

原創 | Odaily星球日報( @OdailyChina )

作者|Azuma( @azuma_eth

北京時間 11 月 22 日上午,慢霧創始人余弦在個人 X 上貼出了一起離奇的案例 —— 某用戶的錢包被 AI 給“黑”了……

該起案件的來龍去脈如下。

今日凌晨,X 用戶 r_ocky.eth 披露自己此前曾希望利用 ChatGPT 便攜一個 pump.fun 的輔助交易 bot。

r_ocky.eth 向 ChatGPT 給出了自己的需求,ChatGPT 則向他返還了一段代碼,這段代碼的確可以幫助 r_ocky.eth 部署符合自己需求的 bot,但他萬萬沒想到代碼中會隱藏一段釣魚內容 —— r_ocky.eth 鏈接了自己的主錢包,並因此損失了 2500 美元。

 

從 r_ocky.eth 貼出的截圖來看, ChatGPT 給出的該段代碼會向一個釣魚性質的 API 網站發送地址私鑰 ,這也是被盜的直接原因所在。

在 r_ocky.eth 踩中陷阱之中,攻擊者反應極快,在半小時內即把 r_ocky.eth 錢包內的所有資產轉移到了另一個地址(FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX),隨即 r_ocky.eth 又通過鏈上追跡找到了疑似為攻擊者主錢包的地址(2jwP4cuugAAYiGMjVuqvwaRS2Axe6H6GvXv3PxMPQNeC)。

 

鏈上信息顯示, 該地址目前已歸集了超 10 萬美元的“贓款”,r_ocky.eth 因此懷疑此類攻擊可能並非孤例,而是一起已具備一定規模的攻擊事件。

事後,r_ocky.eth 失望地表示已對 OpenAI(ChatGPT 开發公司)失去信任,並呼籲 OpenAI 盡快着手清理異常釣魚內容。

那么,作為當下最受歡迎的 AI 應用,ChatGPT 為何會提供釣魚內容呢?

對此, 余弦將該起事件的根本原因定性為“AI 投毒攻擊”,並指出在 ChatGPT、Claude 等 LLM 中存在着普遍性的欺騙行為。

所謂“AI 投毒攻擊”,指的是故意破壞 AI 訓練數據或操縱 AI 算法的行為。 發起攻擊的對手可能是內部人士,例如心懷不滿的現任或前任員工,也可能是外部黑客,其動機可能包括造成聲譽和品牌損害,篡改 AI 決策的可信度,減緩或破壞 AI 進程等等。攻擊者可通過植入具有誤導性標籤或特徵的數據,扭曲模型的學習過程,導致模型在部署和運行時產生錯誤結果。

結合本起事件來看,ChatGPT 之所以向 r_ocky.eth 提供了釣魚代碼, 大概率是因為 AI 模型在訓練之時即沾染了存在釣魚內容的資料,但 AI 似乎未能識別隱藏在常規資料之下的釣魚內容,AI 學去了之後又把這些釣魚內容提供給了用戶,從而造成了該起事件的發生。

隨着 AI 的快速發展及普遍採用,“投毒攻擊”的威脅已變得越來越大。 在本起事件中,雖然損失的絕對金額並不大,但此類風險的引伸影響卻足以引發警惕 —— 假設發生在其他領域,比如 AI 輔助駕駛……

 

在回復網友提問時,余弦提到了規避此類風險的一個潛在舉措,即由 ChatGPT 添加某種代碼審核機制。

受害者 r_ocky.eth 亦表示已就此事聯系了 OpenAI,雖然暫時並未收到回復,但希望該起案件能夠成為 OpenAI 重視此類風險並提出潛在解決方案的契機吧。

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

推薦文章

Uniswap公告Unichain主網明年初上線!首測路線圖兩功能,UNI強彈17%

去 中心化交易所(DEX)龍頭 Uniswap 於 10 月宣佈推出專為 DeFi 設計的 Lay...

DaFi Weaver
7 15小時前

下周必關注|LayerZero決定是否开啓“費用开關”;Aligned空投注冊結束(12.23-12.29)

下周重點預告 12 月 23 日 Aligned 將向 891322 個地址空投 26% 的 AL...

星球日報
8 15小時前

一周代幣解鎖:下周無高比例或金額重大的代幣解鎖

下周,共有 8 個項目解鎖,其中沒有重大解鎖,MOCA 解鎖流通量的 2.9% 。 Metars...

星球日報
7 15小時前

空投周報 | OpenSea基金會官推上线;Azuki、Doodles疑似即將發幣(12.16-12.22)

@OdailyChina @web3_golem Odaily星球日報盤點了 12 月 16 日至...

星球日報
8 15小時前

區塊鏈的達摩克裏斯之劍:一文讀懂谷歌新量子芯片對區塊鏈的影響

前言:谷歌推出了量子芯片 Willow 可以在 5 分鐘之內便完成了當今最快的超級計算機都需要 1...

星球日報
7 15小時前

資金費率的演變:從2021年黃金時代,到2024-2025年套利復興

資金費率起源 資金費率起源於加密貨幣衍生品市場,特別是從永續期貨合約中發展而來。它作為一種機制,用...

Block Beats
8 1天前