近日,，聊天機(jī)器人程序ChatGPT在互聯(lián)網(wǎng)上爆火,。它是美國人工智能研究實(shí)驗(yàn)室OpenAI開發(fā)的一種全新聊天機(jī)器人模型,，能夠通過學(xué)習(xí)和理解人類的語言來進(jìn)行對話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng),，并協(xié)助人類完成一系列任務(wù),。
近年來，關(guān)于 AI 倫理和AI歧視的話題屢見不鮮,，其中不乏針對女性的歧視,。AI對女性的偏見主要有貶低女性、女性代表性不足,、刻板印象,、識別能力弱四類。
對于人工智能背后的性別偏見,，本文作者倡導(dǎo)從女性學(xué)與算法學(xué)兩個(gè)方面分別進(jìn)行去偏,，認(rèn)為建立一個(gè)完整的偏見審查機(jī)制是一個(gè)可能的著力方向；同時(shí)提出，在追求性別平等的同時(shí),，科學(xué)技術(shù),、大數(shù)據(jù)背后所引發(fā)的其他社會不公平、不正義現(xiàn)象也應(yīng)為人類所警惕,。算法是絕對科學(xué)的么,？我想絕大多數(shù)人的答案是否定的。然而,，在算法已潛入生活方方面面的當(dāng)下,，我們卻總是不自覺地傾向于信賴算法。面對我們對算法科學(xué)性習(xí)慣性盲從,，數(shù)據(jù)科學(xué)家凱西·奧尼爾（Cathy O'Neil）認(rèn)為,，算法神祇或許是一位男性神——人工智能及其背后所謂科學(xué)的算法隱含著大量的性別偏見——而科學(xué)膜拜卻遮蔽了我們發(fā)現(xiàn)性別偏見的眼睛。
在近年的新聞中,，關(guān)于AI倫理和AI歧視的話題屢見不鮮,，其中包括針對女性的歧視：谷歌圖片搜索中“CEO”的結(jié)果幾乎全部是男性，翻譯軟件總是將“醫(yī)生”翻譯為男性而將“護(hù)士”翻譯為女性,。正如人類的偏見和歧視不可避免一樣,，AI的性別偏見是真實(shí)存在的。AI對女性的偏見可以總結(jié)于如下四類：貶低女性,、女性代表性不足,、刻板印象、識別能力弱,。人工智能六大領(lǐng)域中“自然語言處理”的核心算法之一——詞嵌入,，便表現(xiàn)出了其中若干項(xiàng)：在“女人：男人”=“A ：B”的映射測試中，不僅產(chǎn)生了“壘球：棒球”這樣的刻板印象劃分,，更出現(xiàn)了貶低性的“保姆：老板”組合,。性別偏見背后是強(qiáng)大的歧視理論和算法過程，算法以代碼形式重新包裝后進(jìn)一步放大的社會偏見,，無形地讓女性利益受損,，加劇了社會既有的性別歧視。社會學(xué)角度和算法結(jié)構(gòu)對于隱藏在科學(xué)面具下的不公,，凱西·奧尼爾為這種有害的模型取了一個(gè)有些諷刺的名字：數(shù)學(xué)毀滅性武器WMDs,，其縮寫與大規(guī)模毀滅性武器相同。在某種意義上,，這個(gè)修辭上的小心機(jī)也展示了大規(guī)模使用算法可能造成的殺傷力,。那么，一個(gè)有缺陷的算法何以產(chǎn)生,？我們可以簡單地把人工智能的代表算法之一——神經(jīng)網(wǎng)絡(luò)算法,，理解為一個(gè)有許多層級的回歸函數(shù),。通過大量的訓(xùn)練數(shù)據(jù)，算法將不斷調(diào)整其中的系數(shù),，以使得對訓(xùn)練集的整體誤差最小,。不難發(fā)現(xiàn)，人工智能的本質(zhì)是一個(gè)對大數(shù)據(jù)特征進(jìn)行提取后形成的“黑箱”,。正是通過這些特征值,，這個(gè)“黑箱”才得以對新的個(gè)例做出預(yù)測。大規(guī)模的數(shù)據(jù)是AI實(shí)現(xiàn)的基礎(chǔ),，而算法被用于處理大量個(gè)案,，那么哪些個(gè)體的需求能夠成為一個(gè)算法的主要目的？答案顯而易見,，在統(tǒng)計(jì)性歧視的作用下,，弱者的需求被消解。除性別以外,，女性的種族,、階層、年齡,、性取向等都成為女性被歧視的原因,。單身女性現(xiàn)狀或許能成為大數(shù)據(jù)參與交叉性壓迫的例證：媒體通過大量報(bào)道“大齡未婚女性”“單身母親”等話題，并利用“平均工資低”“年齡大”等刻板印象對單身女性進(jìn)行污名化,。這種刻板印象不僅反映在單身女性被歧視,，也成為其他算法系統(tǒng)學(xué)習(xí)的數(shù)據(jù)，構(gòu)成一個(gè)不恰當(dāng)?shù)姆答伝芈?，加劇了性別不平等,。可以見到，不公平的算法實(shí)際上正在加劇不平等,，而算法本身的非實(shí)體性則很好地為他們開脫了罪名,。假定我們接受了這種“讓機(jī)器擁有話語權(quán)”的方式,，則必須引入一個(gè)更高維的框架對算法進(jìn)行約束與評價(jià),。作為一個(gè)無法了解詳細(xì)結(jié)構(gòu)的“黑箱”，AI算法的各個(gè)層級難以被規(guī)范化,。在一個(gè)只有輸入和輸出的模型中,，算法的輸入數(shù)據(jù)只能通過篩選來規(guī)范，那么我們應(yīng)該如何評價(jià)算法的結(jié)果?一個(gè)廣為接受的評價(jià)體系——機(jī)會平等,，是羅爾斯所提倡的平等理念在機(jī)器學(xué)習(xí)領(lǐng)域的體現(xiàn),，即在不同群體中，有資格并被判斷為有資格的個(gè)體所占比例相同,。對于算法公平性不同定義的應(yīng)用廣泛體現(xiàn)在了各個(gè)去偏算法中,，而它們的結(jié)果卻令人不甚滿意：大部分去偏算法只是掩飾了一部分偏見。那么，針對算法中依然存在的性別偏見,，與其追求平等的概率,，是否可以采取一個(gè)更為激進(jìn)的角度，要求一種暫時(shí)的“不平等”,，以對女性這一弱勢群體做出補(bǔ)償,？我們認(rèn)為，想要實(shí)現(xiàn)機(jī)會公平,，一種“補(bǔ)償正義”是必要的：必須保證每個(gè)人發(fā)展能力的機(jī)會平等,。我們期望算法結(jié)果中針對以女性為代表的弱勢群體的“優(yōu)待”——這不僅能夠?yàn)槿鮿萑后w提供更多的展示的空間，更可以為未來算法學(xué)習(xí)提供數(shù)據(jù),。AI的背后是一套人造的算法模型,，這是無法跳脫出的桎梏。百年前的遴選模型必然不適用于今日,，需要AI背后的工程師們?yōu)樗⑷腱`魂,。而對于性別偏見，我們倡導(dǎo)從女性學(xué)與算法學(xué)兩個(gè)方面進(jìn)行去偏,。性別偏見在家庭,、生育、職場等領(lǐng)域頻繁出現(xiàn),。算法模型記錄了歷史狀態(tài),，因而我們可以更多地關(guān)注訓(xùn)練數(shù)據(jù)、算法模型的選擇,。同時(shí),，我們可以吸納更多的女性進(jìn)入AI研究隊(duì)伍。LinkedIN的分析發(fā)現(xiàn),，全球只有22%的AI專業(yè)人士是女性,。長期以來，以男性為主的創(chuàng)作者難免將偏見帶入算法設(shè)計(jì),，使AI以男性的視角來看待這個(gè)世界,。此外，人工智能的“黑箱”模型并非完全不能干預(yù)——我們期望從算法的角度介入大數(shù)據(jù)中的性別偏見,。如今許多去偏算法,，如幾年前流行的“硬去偏”和谷歌最近在翻譯中施行的“覆寫式去偏”，都是通過修改某個(gè)與性別偏見有關(guān)的數(shù)值,，進(jìn)而干涉算法結(jié)果的例子,。此外，建立一個(gè)完整的偏見審查機(jī)制以平衡訓(xùn)練數(shù)據(jù)中的性別比例和“特征-性別”聯(lián)系,，或許是未來去偏的一大方向,。人工智能在展現(xiàn)其有利于人類的生活一面時(shí),，其性別偏見卻令人心有戚戚。在追求性別平等的同時(shí),，科學(xué)技術(shù),、大數(shù)據(jù)背后所引發(fā)的社會不公平、不正義現(xiàn)象也應(yīng)該為人類所警惕,。人類性別平等的理想不應(yīng)該迷失在技術(shù)的海洋里,。
來源/中國婦女報(bào)（ID：fnb198410） 作者/彭鯤志 黃雋愷
責(zé)編/田園黃蝶 |
