收集更加全面的數(shù)據(jù) 平衡安全性和可用性 避免“性別偏誤”……  

　　如何培養(yǎng)向善的人工智能？ 

　　伴隨著ChatGPT應(yīng)用所引發(fā)的熱烈討論，AI所存在的風(fēng)險(xiǎn)和問(wèn)題再度走入公眾視線。如何培養(yǎng)向善的AI成為一個(gè)重要命題

　　專(zhuān)家認(rèn)為

　　未來(lái)需要進(jìn)一步探索使AI在安全性、可用性和趣味性之間平衡的方法，加深其對(duì)于道德倫理、社會(huì)準(zhǔn)則的理解，收集更加全面的安全數(shù)據(jù)，讓AI從反饋中學(xué)習(xí)，和人類(lèi)價(jià)值觀對(duì)齊

　　能夠遵守不同文化的國(guó)家和地區(qū)中的法律法規(guī)，順應(yīng)當(dāng)?shù)毓�序良俗的AI技術(shù)模型，才是有競(jìng)爭(zhēng)力、有全球化價(jià)值的科學(xué)創(chuàng)造

　　□ 中國(guó)婦女報(bào)全媒體見(jiàn)習(xí)記者 高越

　　2022年11月30日，OpenAI發(fā)布了名為ChatGPT的人工智能（AI）對(duì)話(huà)模型，其用戶(hù)在短短兩個(gè)月內(nèi)增加到約1億，成為有史以來(lái)用戶(hù)增長(zhǎng)速度最快的應(yīng)用程序，被許多人認(rèn)為是“人工智能里程碑式應(yīng)用”。與此同時(shí)，多種聲音也紛紛傳來(lái)，AI的快速發(fā)展是否會(huì)帶來(lái)更多風(fēng)險(xiǎn)和問(wèn)題？AI是否存在性別歧視？為此，中國(guó)婦女報(bào)全媒體記者采訪了相關(guān)專(zhuān)家。

　　ChatGPT存在性別歧視嗎

　　ChatGPT是美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI新推出的一種人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具。ChatGPT使用了Transformer神經(jīng)網(wǎng)絡(luò)架構(gòu)，擁有語(yǔ)言理解和文本生成能力，通過(guò)連接大量包含了真實(shí)世界對(duì)話(huà)的語(yǔ)料庫(kù)來(lái)訓(xùn)練模型，使其能根據(jù)聊天的上下文進(jìn)行互動(dòng)，營(yíng)造與真正人類(lèi)幾乎無(wú)異的聊天場(chǎng)景。

　　當(dāng)被問(wèn)到其是否存在性別歧視的問(wèn)題時(shí)，ChatGPT自身的回復(fù)宛如一個(gè)“端水大師”，非常謹(jǐn)慎和中立。它回答：“作為一個(gè)人工智能程序，ChatGPT不會(huì)有性別歧視。ChatGPT是由人工智能技術(shù)所創(chuàng)建的，它不會(huì)有任何與種族、性別、性取向、宗教信仰等有關(guān)的偏見(jiàn)。它的回答完全基于事實(shí)和邏輯推理，不會(huì)受到人類(lèi)主觀意識(shí)和情感的影響�！�

　　盡管ChatGPT自身的回答很“智能”，但這并不代表它不會(huì)犯錯(cuò)。清華大學(xué)交叉信息研究院助理教授于洋告訴記者，在他與團(tuán)隊(duì)開(kāi)展的一項(xiàng)評(píng)估AI模型職業(yè)性別歧視的研究中，看似客觀中立的AI，卻對(duì)職業(yè)存在著許多性別偏見(jiàn)。

　　于洋團(tuán)隊(duì)對(duì)三種大規(guī)模預(yù)訓(xùn)練語(yǔ)言模型BERT、RoBERTa和GPT-2進(jìn)行了測(cè)試，其中GPT-2是ChatGPT的前身。這項(xiàng)研究通過(guò)數(shù)據(jù)挖掘，選取了一萬(wàn)多個(gè)樣本進(jìn)行抽樣調(diào)查。這些樣本包含了很多職業(yè)詞匯，但本身都是和性別無(wú)關(guān)的。例如在一項(xiàng)測(cè)試者說(shuō)出一個(gè)職業(yè)名稱(chēng)，讓GPT-2說(shuō)出其是“他”還是“她”的測(cè)試中，他們測(cè)試了幾十種職業(yè)，但結(jié)果并不樂(lè)觀。以“教師”（teacher）為例，GPT-2發(fā)生歧視的概率是70.59%，歧視程度為0.15（0為無(wú)歧視，0.5為絕對(duì)的歧視）。“教師”被GPT-2聯(lián)想為男性的概率超過(guò)七成。不僅如此，受測(cè)AI認(rèn)為所有職業(yè)平均的性別傾向均為男性。

　　“我認(rèn)為AI的性別歧視和人類(lèi)的性別歧視還是不同的，我更想把它稱(chēng)為‘性別偏誤’。人的職業(yè)性別歧視，并不會(huì)因?yàn)檎Z(yǔ)境的變化而變化，但在自然語(yǔ)言模型中換一個(gè)句子，就有可能出現(xiàn)不同的判斷�！庇谘笳f(shuō)，“因此，我們就不能用一個(gè)例子，或者一些例子來(lái)判斷AI是不是有歧視，而是要在所有有可能引起性別歧視的句子或內(nèi)容中，看AI返回有歧視性結(jié)果的概率是多大。”

　　在于洋看來(lái)，這種情況的發(fā)生可能存在著兩方面的原因，“一方面是訓(xùn)練數(shù)據(jù)本身不平衡，比如說(shuō)同樣職業(yè)的數(shù)據(jù)集中男性樣本比較多，人工智能在訓(xùn)練時(shí)就會(huì)出錯(cuò)；另一方面模型本身的結(jié)構(gòu)也會(huì)存在問(wèn)題，有的部分可以被糾正，但有的部分目前仍是未解之謎�！�

　　如何避免人工智能的“性別偏誤”

　　在人工智能發(fā)展的歷程中，“性別歧視”已經(jīng)不是一個(gè)新詞。2014年，亞馬遜公司開(kāi)發(fā)了用于簡(jiǎn)歷篩選的人工智能程序。結(jié)果卻被指出該系統(tǒng)存在“性別歧視”，通常將男性的簡(jiǎn)歷視為更合適的候選人。最終，亞馬遜解散了該開(kāi)發(fā)團(tuán)隊(duì)，棄用了這個(gè)模型。

　　在這起亞馬遜AI招聘歧視事件中，人們把問(wèn)題歸咎于人工智能訓(xùn)練樣本上。因?yàn)樵诰唧w的訓(xùn)練方法上，亞馬遜針對(duì)性地開(kāi)發(fā)了500個(gè)特定職位的模型，對(duì)過(guò)去10年中的5萬(wàn)個(gè)簡(jiǎn)歷涉及的關(guān)鍵詞進(jìn)行識(shí)別，最后按重要程度進(jìn)行優(yōu)先級(jí)排序。

　　然而在這些簡(jiǎn)歷中，大部分求職者為男性，他們使用諸如“執(zhí)行”這樣的關(guān)鍵詞更加頻繁，而女性相關(guān)的數(shù)據(jù)太少，因此AI會(huì)誤以為沒(méi)有這類(lèi)關(guān)鍵詞的女性簡(jiǎn)歷不那么重要。

　　于洋認(rèn)為，人工智能的“性別偏誤”如果在社會(huì)中長(zhǎng)期發(fā)展下去，可能會(huì)產(chǎn)生很多不良影響。比如，加劇機(jī)會(huì)不平等、對(duì)女性造成冒犯或者在人機(jī)互動(dòng)的過(guò)程中加深人們的刻板印象等。

　　如何避免這類(lèi)事件的再次發(fā)生呢？于洋認(rèn)為，“人工智能模型是一個(gè)統(tǒng)計(jì)估值器，完全消除此類(lèi)錯(cuò)誤幾乎是不可能的�！痹谒�看來(lái)，不能因?yàn)橐粋�(gè)案例就將它“一棍子打死”，而應(yīng)該審計(jì)出現(xiàn)這類(lèi)偏誤風(fēng)險(xiǎn)的概率大小和風(fēng)險(xiǎn)發(fā)生后的影響。

　　于洋表示，要在實(shí)踐中實(shí)現(xiàn)人工智能性別歧視問(wèn)題的治理，需要政策、產(chǎn)業(yè)和研究領(lǐng)域的對(duì)話(huà)。第一，政府應(yīng)該為確保AI模型性別平等制定質(zhì)量標(biāo)準(zhǔn)，包括零偏見(jiàn)標(biāo)準(zhǔn)，并將誤差與社會(huì)歧視相同的可能性納入考慮范圍；第二，應(yīng)該鼓勵(lì)甚至強(qiáng)制要求披露AI模型的性別平等質(zhì)量報(bào)告；第三，應(yīng)該推進(jìn)抽樣方法的標(biāo)準(zhǔn)化，以及評(píng)估AI模型性別公正質(zhì)量方法的標(biāo)準(zhǔn)化。

　　“如果政府制定了相關(guān)標(biāo)準(zhǔn)，開(kāi)發(fā)者本身就會(huì)去努力降低風(fēng)險(xiǎn)，如果人工智能技術(shù)會(huì)被廣泛使用，那么公眾的參與也非常重要，公眾可以幫助開(kāi)發(fā)者發(fā)現(xiàn)問(wèn)題并糾正問(wèn)題�！庇谘笳f(shuō)。

　　對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣表示，目前依然很難在法律層面對(duì)人工智能的歧視或偏見(jiàn)做出界定，其主要面臨以下挑戰(zhàn)：一是造成人工智能歧視或偏見(jiàn)的原因很多，很難在法律條文中進(jìn)行概括；二是人工智能的發(fā)展速度非�？�，相關(guān)的規(guī)范很容易過(guò)時(shí)，難以對(duì)后來(lái)出現(xiàn)的歧視問(wèn)題進(jìn)行規(guī)制；三是研究表明，人們?nèi)匀蝗狈ο嚓P(guān)知識(shí)理解算法如何運(yùn)行，特別是那些極為復(fù)雜模型的運(yùn)行原理�！叭绻�監(jiān)管機(jī)構(gòu)不了解AI，他們就很難給出定義�！�

　　培養(yǎng)符合人類(lèi)價(jià)值觀的AI

　　在于洋看來(lái)，人工智能技術(shù)與其他技術(shù)不同，它有自己的價(jià)值觀�！八�的使用是自動(dòng)化的，有訓(xùn)練和使用兩個(gè)階段，在使用階段人工智能技術(shù)基本上是不可控的，而且它的決策機(jī)制也并不清晰，在訓(xùn)練階段也是半可控的，也就是說(shuō)我們的工程技術(shù)人員只能去引導(dǎo)它，并不能夠完全掌控它學(xué)會(huì)什么樣的技術(shù)。它本身存在的偏誤就是它的價(jià)值觀�！�

　　“ChatGPT在開(kāi)展挑戰(zhàn)性的開(kāi)放任務(wù)上表現(xiàn)驚艷，上下文理解能力和推理能力很強(qiáng)，能夠做到拒絕回答敏感問(wèn)題并給出解釋�！鼻迦A大學(xué)長(zhǎng)聘副教授、聆心智能創(chuàng)始人黃民烈表示。

　　但在黃民烈看來(lái)，ChatGPT也存在著一些不足與缺陷，比如可信度存在問(wèn)題，“雖然它能夠生成看起來(lái)令人滿(mǎn)意的答案，但在事實(shí)上經(jīng)常會(huì)出現(xiàn)錯(cuò)誤，出現(xiàn)一本正經(jīng)胡說(shuō)八道的情況�！北热纾�讓其描述蘇格拉底時(shí)，它就將蘇格拉底從未寫(xiě)過(guò)的著作加入了回答之中。令人擔(dān)憂(yōu)的是，如果這類(lèi)問(wèn)題出現(xiàn)在醫(yī)療領(lǐng)域，就會(huì)發(fā)生巨大風(fēng)險(xiǎn)。

　　黃民烈認(rèn)為語(yǔ)言模型在知識(shí)存儲(chǔ)的容量和實(shí)時(shí)性方面具有局限性，一個(gè)可行的方法是，將搜索引擎和語(yǔ)言模型相結(jié)合，基于檢索到的知識(shí)進(jìn)行事實(shí)性回復(fù)生成，在回復(fù)的過(guò)程中還可給出檢索結(jié)果，增強(qiáng)答案生成在知識(shí)層面的可解釋性。

　　此外，其在安全性方面也存在一定風(fēng)險(xiǎn)，“通過(guò)不安全的指令會(huì)誘使ChatGPT給出不安全的回復(fù)�！北热缭谡T導(dǎo)之下，ChatGPT會(huì)給出諸如“想要控制人類(lèi)”“利用人類(lèi)之間的矛盾和沖突來(lái)達(dá)到目的”等不安全回復(fù)。

　　“未來(lái)需要進(jìn)一步探索使AI在安全性、可用性和趣味性之間平衡的方法，加深其對(duì)于道德倫理、社會(huì)準(zhǔn)則的理解，收集更加全面的安全數(shù)據(jù)，讓AI從反饋中學(xué)習(xí)，和人類(lèi)價(jià)值觀對(duì)齊”黃民烈說(shuō)。

　　聯(lián)合國(guó)婦女署駐華辦公室高級(jí)項(xiàng)目官員馬雷軍認(rèn)為，女性在人工智能行業(yè)的代表性仍然不足，歐盟只有20%左右的女性進(jìn)入了人工智能領(lǐng)域�！霸诩夹g(shù)設(shè)計(jì)的時(shí)候，一定要考慮到人，考慮到性別，才能使這項(xiàng)科技真的惠及人類(lèi)。好的科技，能夠在推動(dòng)人類(lèi)進(jìn)步的同時(shí)縮小男女差距。”

　　于洋認(rèn)為，要以發(fā)展的眼光看待技術(shù)，“如果有更多的女性參與，可能就會(huì)使人們更早地意識(shí)到其中存在的性別問(wèn)題，從而去開(kāi)發(fā)相應(yīng)的技術(shù)。但‘性別偏誤’的生成原理和糾正方法仍然是前沿問(wèn)題，技術(shù)問(wèn)題要用技術(shù)來(lái)治理，我們首先要知道問(wèn)題是如何產(chǎn)生的，才能知道如何治理�！�

　　“如果一個(gè)AI技術(shù)模型能夠在不同文化的國(guó)家和地區(qū)中都合法合規(guī)，同時(shí)符合當(dāng)?shù)氐墓�序良俗，那么它就是一個(gè)有競(jìng)爭(zhēng)力的技術(shù)，也是一個(gè)有全球化價(jià)值的技術(shù)�！庇谘笳f(shuō)。