馬斯克等千名科技界專家聯合籤署了一份“暫停巨型人工智能實驗”的公开信

據公衆號“Web3 大航海”報道，Tesla 首席執行官 Elon Musk、蘋果聯合創始人 Steve Wozniak、蒙特利爾學習算法研究所所長 Yoshua Bengio 等千名科技界專家近日聯合籤署了一份“暫停巨型人工智能實驗”的公开信。

公开信指出，人工智能系統具有與人類競爭的智能，這可能對社會和人類造成深遠的風險。根據阿西洛馬人工智能原則指出，先進的 AI 可能代表着地球生命歷史上的深刻變革，應該以相應的關注和資源來計劃和管理。但隨着最近幾個月 AI 實驗室陷入一場無法控制的競賽，試圖开發和部署越來越強大的數字智能，這種規劃和管理並未實現，甚至連它們的創造者也無法理解、預測或可靠地控制這些智能。

公开信還表示，現代 AI 系統正逐漸在通用任務上實現與人類競爭的水平，只有當人類確信 AI 系統的影響是積極的，風險是可控的時候，才應該开發強大的 AI 系統。因此，他們呼籲所有 AI 實驗室立即暫停至少 6 個月的時間，停止訓練比 GPT-4 更強大的 AI 系統。這個暫停應該是公开和可驗證的，並包括所有關鍵參與者。如果這樣的暫停無法迅速實施，政府應該介入並實行一個暫停令。

此外，AI 實驗室和獨立專家應該利用這個暫停期共同制定和實施一套共享的 AI 設計和开發安全協議，這些協議應由獨立的外部專家嚴格審核和監督，應確保遵守它們的系統在合理懷疑範圍之外是安全的。這並不意味着暫停整個 AI 領域的發展，而僅僅是從危險的競賽中退一步，避免研究更大、更難以預測、具有突現性能力的黑箱模型。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。