科技界的“歷史遺留問題”：人工智能與極右翼勢(shì)力

全文共2037字，預(yù)計(jì)學(xué)習(xí)時(shí)長(zhǎng)7分鐘

圖源：wsj

最近，OneZero的一篇報(bào)道表明，監(jiān)控公司Banjo的創(chuàng)始人兼首席執(zhí)行官達(dá)米安·巴頓曾是3K黨南方騎士的成員，他因1990年在猶太教堂開槍而被指控為仇恨犯罪。

消息一經(jīng)發(fā)出，猶他州總檢察長(zhǎng)辦公室中止了與該公司簽署的價(jià)值至少75萬美元的合同。報(bào)道還稱公司與該州公共安全部門價(jià)值2080萬美元的合同也作廢了。

就在幾周前，《赫芬頓郵報(bào)》的記者盧克·奧布萊恩報(bào)道稱，Clearview AI的創(chuàng)始人Cam-HoanTon-That與極右翼極端分子有聯(lián)系，其包括布萊巴特新聞網(wǎng)的前任編輯查克·約翰遜、披薩門陰謀論大師邁克·賽爾諾維奇和新納粹黑客巨魔安德魯‘韋夫’奧恩海默。

有關(guān)證據(jù)表明，在開發(fā)ClearviewAI軟件的過程中，Ton-That就與約翰遜等人有合作了。

這兩大著名AI公司負(fù)責(zé)人與極右翼組織聯(lián)系的消息備受關(guān)注，令人震驚。它揭示了極右勢(shì)力與AI驅(qū)動(dòng)的監(jiān)測(cè)公司之間有著深度的交往和廣泛的合作，且這些公司正在與執(zhí)法機(jī)構(gòu)以及市、州政府簽約。

這也引發(fā)了一些亟需討論的重要問題：這種右翼和反動(dòng)政治的持續(xù)壓力目前在科技行業(yè)是如何體現(xiàn)的？這些AI創(chuàng)始人對(duì)正在構(gòu)建推廣的技術(shù)持什么態(tài)度？最重要的是——我們對(duì)此應(yīng)該做些什么？

圖源：resonate

這些公司能訪問大量的公眾活動(dòng)數(shù)據(jù)。例如，猶他州允許Banjo訪問其交通監(jiān)控錄像、閉路電視（CCTV）以及911系統(tǒng)的實(shí)時(shí)數(shù)據(jù)流，公司將這些數(shù)據(jù)流與社交媒體以及其它敏感數(shù)據(jù)源相結(jié)合。正如該公司所描述的，它會(huì)梳理這些信息的來源，以在現(xiàn)實(shí)世界中“監(jiān)測(cè)異?！薄?/span>

許多AI系統(tǒng)會(huì)重現(xiàn)種族偏見的社會(huì)不平等現(xiàn)象。很多預(yù)警系統(tǒng)都使用“臟”數(shù)據(jù)：筆者在AI NowInstitute工作的同事證明，在許多司法管轄區(qū)中，執(zhí)法機(jī)構(gòu)都在使用有缺陷的、帶有種族偏見的、有時(shí)是非法警務(wù)實(shí)踐期間產(chǎn)生的數(shù)據(jù)來訓(xùn)練系統(tǒng)。

毋庸置疑，這意味著種族偏見是“預(yù)防犯罪”分析系統(tǒng)的通?。簩W(xué)者薩拉·布萊恩對(duì)預(yù)測(cè)性警務(wù)的研究表明，這些數(shù)據(jù)實(shí)踐重現(xiàn)了既有的不平等模式，加劇了對(duì)有色人種社區(qū)的過度治理和監(jiān)管。

但這個(gè)案例中的情況更甚。ClearviewAI似乎在設(shè)計(jì)時(shí)就明確考慮到了種族主義用例：據(jù)《赫芬頓郵報(bào)》報(bào)道，查克·約翰遜在2017年1月發(fā)帖稱，他參與了“為驅(qū)逐小隊(duì)建立算法以識(shí)別所有非法移 民”的工作，并吹噓其正在開發(fā)的面部識(shí)別軟件的功能。

圖源：artificialintelligence-news

Clearview AI已經(jīng)簽訂了與美國(guó)移 民和海關(guān)執(zhí)法局（ICE）的付費(fèi)合同，使用預(yù)測(cè)分析和面部識(shí)別軟件來加速美國(guó)境內(nèi)非法移 民 的拘留和驅(qū)逐，即使現(xiàn)在正處于疫情大流行時(shí)期。

他們很快就能知道數(shù)百萬位民眾日常生活更私密的細(xì)節(jié)：該公司正在推進(jìn)與州和聯(lián)邦機(jī)構(gòu)的合同簽訂，為冠狀病毒接觸者的追蹤提供面部識(shí)別工具。

很難想象到底需要多強(qiáng)的保護(hù)措施，才能幫助他們的接觸者追蹤工作不受ICE的影響？多虧新聞報(bào)道，在他們幫助“驅(qū)逐小隊(duì)”的消息傳出來之前，我們就已經(jīng)知道了ClearviewAI的活動(dòng)充斥著暴力。

更可拍的事實(shí)是，ClearviewAI和Banjo的問題只是冰山一角。我們需要長(zhǎng)期觀察那些科技行業(yè)成員對(duì)極右翼的癡迷，并將那些創(chuàng)造了AI系統(tǒng)并從中獲利的人的政治和網(wǎng)絡(luò)作為分析的核心。我們必須做好準(zhǔn)備，你不會(huì)喜歡他們挖掘出來的東西。

硅谷的建立者威廉·肖克利，1956年時(shí)由于發(fā)明晶體管而獲得諾貝爾物理獎(jiǎng)，但其最大的熱情不在構(gòu)建半導(dǎo)體，而在優(yōu)生學(xué)。他花費(fèi)數(shù)十年來宣揚(yáng)關(guān)于智商差異的種族主義理論，并支持白人至上主義。

肖克利引導(dǎo)了一場(chǎng)以失敗而告終的運(yùn)動(dòng)，他曾試圖說服斯坦福大學(xué)的教授加入他的行列，包括AI領(lǐng)域的創(chuàng)始人之一，約翰·麥卡錫。肖克利并不是個(gè)案，多年以后，優(yōu)生學(xué)研究的支持者杰弗里·愛潑斯坦，成為了麻省理工學(xué)院媒體實(shí)驗(yàn)室的主要資助者，為AI研究員馬文·明斯基的工作提供了10萬美元的資金。

麥卡錫在2004年的一篇文章中斷言，從生理角度來看，男性比女性更擅長(zhǎng)科學(xué)與數(shù)學(xué)。只有通過技術(shù)增強(qiáng)，女性才能與男性平起平坐。其觀點(diǎn)與詹姆斯·達(dá)莫爾不謀而合。

達(dá)莫爾在谷歌發(fā)布的一份反多元化備忘錄得到了另類右翼成員的支持，其中概述道：“由于生理原因，女性和男性的偏好和能力分布不同，……這些差異或許解釋了，為什么在科技領(lǐng)域和領(lǐng)導(dǎo)人中少有女性?！敝С诌@些看法的人不在少數(shù)。

圖源：Sexism

雖然這兩種情況存有不同，但愈加明顯的是，在人工智能領(lǐng)域的有話語權(quán)的人士中，持續(xù)存在著右翼力量和顯而易見的種族與性別歧視政治。

雖然人們?cè)缫押雎粤诉@些“歷史遺留問題”，但其影響范圍卻越來越大：今天的行業(yè)多樣性已經(jīng)不如19世紀(jì)60年代，而技術(shù)又對(duì)種族主義和偏見假設(shè)進(jìn)行編碼，使它們更難識(shí)別和減輕的同時(shí)，加劇了現(xiàn)有的歧視形式。

更令人難以接受的是，正是這些支持種族主義的公司所創(chuàng)造的技術(shù)，正在慢慢滲透我們生活的每一個(gè)細(xì)節(jié)當(dāng)中：健康、安全、保障、娛樂……在不知不覺中，歧視已經(jīng)發(fā)生了，并且仍在進(jìn)行腐蝕著我們。這值得警惕！

https://www.toutiao.com/i6832837193900229123/