科學方法：人工智能可能加劇社會的不平等，五種方法幫助預防

圖片來源：Pixabay
作為人類，我們會犯錯誤。我們可能會走神，會曲解得到的信息。但是，當我們重新評估時，可以找出並糾正這些錯誤。
但倘若AI係統出錯，在相同情況下，無論多少次查看相同的數據，他們都會一次又一次犯下相同的錯誤。
現今的AI係統訓練時采用的數據不可避免地隻能反映過去的情況。如果在訓練集中包含了過去人們決策時的陳見，這些偏見也將被AI係統編碼和放大。
亦或者，訓練集中所含有關特定的少數群體數據量較少，係統對該群體的預測將趨於惡化。這被稱為“算法偏差”。
Gradient Institute作為共同作者撰寫了一篇論文，該文章闡述了企業應該如何識別並減少AI係統中的算法偏差。


圖片來源：Pixabay
這篇論文是澳大利亞人權委員會（Australian Human Rights Commission），消費者政策研究中心（Consumer Policy Research Centre），CSIRO's Data61和CHOICE倡導小組（CHOICE advocacy group）合作撰寫的。
算法偏差如何產生？
算法偏差很有可能是由缺乏合適的訓練數據或不適當的係統設計或配置引起的。
例如，一個幫助銀行決定是否放貸的AI係統通常是由該銀行先前的大量貸款數據（以及銀行可以訪問的其他相關信息）訓練而成。
該係統可以將新貸款申請人的財務、就業以及個人的背景資料與先前的申請人進行比較，據此，係統將預測新申請人是否有能力償還貸款。
但這個方法同樣是存在問題的，他所引起算法偏差的部分原因來源於借貸經理在過去對於一些申請人的偏見。
如果在過去，少數群體被惡意駁回了貸款申請，那麽如今的AI仍然會對他們的還款能力進行錯誤判斷，即通常會低估申請人的償還能力。
年輕人、有色人種、單身婦女、殘疾人亦或是藍領工人，他們僅僅隻是處於不利地位群體的一些例子。
偏見既傷害個體也傷害公司
上述所描述的AI係統同樣也給銀行本身帶來兩個主要風險。
首先，該銀行會將這些因偏見而錯失的潛在客戶拱手送給競爭對手，而根據反歧視法，銀行同樣可能會需要承擔相應的法律責任。
倘若一個AI係統在他的決策過程中持續性的存在偏見，那麽政府以及消費者群體將更容易的分辨出這種係統模式的缺陷，這往往招致巨額的罰款與懲處。
1.減少算法偏差
我們的論文中探討了幾種可能會引起算法偏差的情況。


圖片來源：Pixabay
本文同樣提供了有關如何消除這種偏見的技術性指導，將使得AI係統能做出不受種族、年齡、性別或殘疾等特征影響的決策。
在論文中，我們采用了一個由虛擬個體組成的虛擬曆史數據訓練而成的AI為驅動的電子零售商仿真模型，通過這個模型來決定向客戶提供何種產品以及提供產品的方式。
根據實驗結果，我們發現了五種糾正算法偏差的方法，這些方法可以應用於各個領域的企業，以幫助他們確保AI係統的公平、準確。
2.獲得更好的數據
通過獲取有關個體的額外數據或增添數據的種類，尤其對於那些缺乏代表性的個體（少數群體）或在現有數據中可能出現錯誤信息的個體，可以降低產生算法偏差的風險。
3.進行數據預處理
這包括了對數據集進行編輯以覆蓋或清除像種族和性別這類受反歧視法律保護的相關屬性信息。
4.提高模型複雜度
盡管一個簡單的AI模型可以更加輕鬆的進行測試、監視，但是它往往不夠準確，在遇到少數與多數群體共存的情況下，簡單AI模型普遍傾向於多數群體。
5.調整係統
我們也可以主動調整AI係統的邏輯與參數，通過這種方法直接抵消算法偏差。例如：為弱勢群體設置不同的決策閾值。
更改預測目標
我們所選擇的用於引導AI係統的方案會直接影響其在不同群體中做出的決定，因此，找到一個更公平的方案作為預測目標將有助於減少算法偏差。
兼顧法與道德
在對希望采用AI決策的政府與企業的建議中，我們首先強調一定在運用此類技術之前，需要考慮公平原則並重視人權。
我們還建議他們對係統進行嚴格的設計與測試，以確保輸出的結果不會因為算法偏差而受到汙染，係統一經投入測試，就應該對其進行密切監控。
最後，我們建議在運用AI係統的時候不僅應遵守相關的法律法規，更應該以負責任、合乎道德，這意味著AI係統應當符合那些被廣泛接受的社會規範，同時也需要考慮到對個人、社區以及環境的影響。
隨著生活中AI的使用愈加頻繁，我們要做的不僅僅是單純的提高生產力，而是正確的運用AI，以創造一個更加公平公正的社會。
撰文：Tiberio Caetano、Bill Simpson-Young
翻譯：彭琛
審校：董子晨曦
引進來源：techxplore
引進鏈接：https://techxplore.com/news/2021-01-artificial-intelligence-deepen-social-inequality.html


關注【深圳科普】微信公眾號，在對話框：
回複【最新活動】，了解近期科普活動
回複【科普行】，了解最新深圳科普行活動
回複【研學營】，了解最新科普研學營
回複【科普課堂】，了解最新科普課堂
回複【科普書籍】，了解最新科普書籍
回複【團體定製】，了解最新團體定製活動
回複【科普基地】，了解深圳科普基地詳情
回複【觀鳥星空体育官网入口网站】，學習觀鳥相關科普星空体育官网入口网站
回複【博物學院】，了解更多博物學院活動詳情