AI公平的實現

大數據和人工智能的崛起，為我們的生活帶來了許多的便利。當我們打开新聞客戶端，看到的不再是千篇一律的編輯推薦，而是AI引擎對我們日常喜好進行學習後精心准備的新聞；當我們打开電商 App，看到的不再是商家想要賣什么，而是我們想要买什么；當我們打开旅遊網站，看到的也不再是那些人滿為患的旅遊經典而是為我們量身定制的旅遊路线。但同時，這也為我們帶來了一些隱憂——由於每個人看到的內容都是不同的，那么AI是否會把更貴的產品賣給我，或是更偏激的觀點推送給我？事實上，這是完全有可能的，在國內甚至已經有了一個專有名詞來形容這一現象“大數據殺熟”。但有時，算法不止決定了商品的價格和推送的內容，隨着人工智能被應用於反恐、徵稅、案件預審、醫療、保險等公共領域，算法的判斷還決定着我們每個人的公民福祉。公平是AI訓練中不可忽略的重要因素，如何讓確保AI訓練的公平呢？

●AI訓練輸出不公平來源-----使用不平衡的數據集訓練機器學習模型

在許多情況下，獲取代表性數據可能過於困難。同時公平性算法對於輸入的變化特別敏感。數據挑战包括在數據標注時的錯誤、測量誤差、偏差和樣本不平衡。數據標籤錯誤是實現公平機器學習嚴重障礙之一。數據類別不平衡也會影響不公平性學習效果。只有通過盡量准確的標注數據，以及針對訓練數據的特點設計機器學習算法實現公平性。同時，建設評估公平性算法的數據集也很關鍵。

如果使用不平衡的數據集訓練機器學習模型，比如一個包含遠多於膚色較淺的人的圖像的數據集，則當模型部署在現實世界中時，該模型的計算存在嚴重風險。但這只是問題的一部分。麻省理工學院的研究人員發現，在圖像識別任務中流行的機器學習模型在對不平衡數據進行訓練時實際上會編碼偏差。即使使用先進的公平性提升技術，甚至在使用平衡數據集重新訓練模型時，模型中的這種偏差也無法在以後修復。

●解決方案----公平性嵌入到機器學習模型中

公平性表示學習包含數據和模型的公平性表示。數據的公平性表示，是指一方面能夠表達出包含數據點相關的大量有用信息，同時這一表示是公平的，即包含有關敏感屬性信息，目的是防止機器學習算法產生歧視性行為。模型的公平性表示，是指把公平性嵌入到機器學習模型中，成為不可分割的一部分。從算法的基本定義出發，用輸入、過程及輸出不同階段描述解決問題的策略機制。這使模型即使在不公平數據上進行訓練也能產生公平的輸出，這一點尤其重要，因為很少有平衡良好的數據集用於機器學習。

     Meta(前facebook)在經歷AI標注歧視事件與Oasis lab建立合作夥伴關系，並推出一個安全多方計算 (SMPC) 來評估 Meta 產品的公平性，同時保護人們的隱私。由第三方調查提供商收集的數據將以某種方式與第三方服務商祕密共享，這樣服務商或 Meta 都無法獲悉用戶的調查回答。然後，促進者使用來自 AI 模型的加密計算數據計算測量值，這些數據由 Meta 以加密方式共享，每個促進者的組合、去識別化結果由 Meta 重組為聚合公平性測量結果。該平臺使用的加密技術使 Meta 能夠衡量偏見和公平性，同時為貢獻敏感人口統計測量數據的個人提供高水平的隱私保護。

●結語

 AI已經應用在人們生活的方方面面，如何摒棄偏見，實現AI公平將是AI能在人們的經濟生活中正確發揮作用的重大挑战。Meta 和Oasis Lab合作的新平臺是AI公平的新的嘗試。期待他們的合作，為更公平、更包容的社會構建負責任的人工智能和負責任的數據使用。

參考資料：https://www.oasisprotocol.org/blog/web3-responsible-ai-by-oasis

https://ai.facebook.com/blog/assessing-fairness-of-our-products-while-protecting-peoples-privacy/）

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。