沈向洋：微軟研究院——求索不已，為全人類，打造負責(zé)任的AI

微軟全球執(zhí)行副總裁，微軟人工智能及微軟研究事業(yè)部負責(zé)人沈向洋博士

在微軟研究院（MSR），我們始終都在努力解決關(guān)于未來的問題——我們努力推動計算機科學(xué)最高水平的進展；我們將最新的技術(shù)快速轉(zhuǎn)化、融入到微軟的產(chǎn)品和服務(wù)中；我們還在幫助全球各地的客戶，孵化顛覆性的技術(shù)、開創(chuàng)嶄新的業(yè)務(wù)模式和解決方案。

微軟研究院遍布全球各地，在美國的雷德蒙德、紐約、麻省的劍橋，在加拿大蒙特利爾，在英國劍橋，在印度的班加羅爾，以及中國的北京和上海，我們都開設(shè)了分院。過去的一年中，全球各地的微軟研究院，取得了許多了不起的成就，為微軟自身的發(fā)展，乃至整個計算機科學(xué)領(lǐng)域的進步，做出了重大貢獻。例如，我們開發(fā)出了第一個能將數(shù)據(jù)編碼存儲到 DNA 中的方法，能夠?qū)⒁蛔鶄}庫那么大的數(shù)據(jù)中心，壓縮到只有幾個骰 子大?。晃覀兊?Project Natick 項目，在大洋深處的海底，建成了一座數(shù)據(jù)中心；我們開發(fā)了一套能夠解釋機器學(xué)習(xí)的開源方案，幫助人們開啟人工智能的黑箱；我們還創(chuàng)造了一套叫做 Code Jumper 的工具，利用不同形狀的模塊，幫助視力障礙的孩子們，學(xué)會如何編程。

1991 年，我們創(chuàng)立微軟研究院的時候，就立志于放眼未來，求索不已，創(chuàng)造能夠影響未來的重大突破。為了實現(xiàn)這一目標，我們制定了從今天到未來，跨越 10 到 20 年的戰(zhàn)略路線圖：我們?yōu)?18 個月內(nèi)可能上市的產(chǎn)品和服務(wù)，做好設(shè)計和準備；我們?yōu)槲磥?3 到 5 年的項目，明確方向和要求；最重要的，是我們會對未來 10 到 20 年的技術(shù)趨勢投入更多的關(guān)注。

HoloLens 全息眼鏡的發(fā)展歷程最具代表性：早在 20 多年前，我們已經(jīng)開始投資于 HoloLens 背后的基礎(chǔ)性研究；隨著 Kinect 傳感器和 KinectFusion 的出現(xiàn)，我們實現(xiàn)了真正的突破，用 3D 傳感器完整地重構(gòu)出了三維結(jié)構(gòu)；然后是 HoloDesk，可以將 3D 模型組裝成虛擬的三維環(huán)境；過去三四年間，HoloLens 的技術(shù)和應(yīng)用逐漸成熟，真正實現(xiàn)了混合現(xiàn)實技術(shù)的重大突破——今天，我們就演示了如何以 HoloLens 配合神經(jīng)網(wǎng)絡(luò)文本到語音轉(zhuǎn)換技術(shù)，打造出一個會說多國外語的全息替身——簡直和科幻電影中的情形一模一樣。

未雨綢繆，代表了微軟研究院對未來的思考。今天，以人工智能為代表的一系列技術(shù)創(chuàng)新，正在讓很多不可思議的事情成為現(xiàn)實。但我們不僅要推動技術(shù)的進步，更要認真思考可能由此帶來的社會影響，以及人類將要共同面對的潛在挑戰(zhàn)，未雨綢繆，防患于未然，從頭開始打造負責(zé)任的人工智能。

微軟全球執(zhí)行副總裁，微軟人工智能及微軟研究事業(yè)部負責(zé)人沈向洋博士在“二十一世紀的計算”學(xué)術(shù)研討會上發(fā)

在科技行業(yè)里，微軟率先提出了打造負責(zé)任的人工智能的決心。2016 年，微軟 CEO 薩提亞·納德拉發(fā)表了一篇關(guān)于人工智能共同責(zé)任的專欄文章，幾個月后，第一次公開提出了微軟的人工智能準則：公平、可靠和安全、隱私和保障、包容、透明、責(zé)任。

我們出版了《計算未來》一書，對人工智能發(fā)展過程中可能引發(fā)的道德、法律思考和社會影響，進行了全面詳實的探討。微軟成立了AETHER（“工程與科研中的人工智能道德”的縮寫）人工智能倫理道德委員會，這個委員會由微軟公司領(lǐng)導(dǎo)、工程師、科研人員、律師等組成，負責(zé)對微軟內(nèi)部與人工智能倫理道德相關(guān)的事宜，進行探討和評估。如今，微軟在開發(fā)和應(yīng)用人工智能的過程中，始終堅持遵循六項人工智能準則，我們推出的每一個產(chǎn)品，都要經(jīng)過人工智能道德審查。

通過技術(shù)創(chuàng)新消除 AI 偏見，確保人工智能公平、包容的發(fā)展，我們在這些方面已經(jīng)取得了一些進展。例如，我們的研究團隊，利用稱為“單詞嵌入”的自然語言處理工具，解決了文本搜索中的性別偏見的問題。

所謂單詞嵌入，是一種用來將單詞轉(zhuǎn)換為向量數(shù)字的算法，它能夠以來自新聞數(shù)據(jù)或者網(wǎng)頁數(shù)據(jù)的海量文本數(shù)據(jù)為依據(jù)，為每個單詞賦予一個對應(yīng)的向量數(shù)字。通過在向量坐標系中，比對常見詞匯與“他”、“她”這兩個性別代詞之間的關(guān)聯(lián)度，研究人員發(fā)現(xiàn)了一些明顯的特征，例如“sassy（刁蠻）”、“knitting（編織）”這樣的詞更靠近女性，而“hero（英雄）”、“genius（天才）”更靠近男性。算法之所以會為這些詞匯賦予性別特征，原因在于訓(xùn)練算法用的基準數(shù)據(jù)集——通常是來自新聞和網(wǎng)頁的數(shù)據(jù)——本身，就存在著由語言習(xí)慣造成的“性別偏見”，算法也自然“繼承”了人類對這些詞匯理解的性別差異。

其結(jié)果就是，當我們用試驗算法，根據(jù)梅林達·蓋茨的 LinkedIn 信息推測其職業(yè)時，得到了“教師”的判斷，但只要將人稱代詞換成“他”，蓋茨夫人的職業(yè)就會變?yōu)椤奥蓭煛?。今天的很?AI 系統(tǒng)都在使用這樣的單詞嵌入機制，為了解決由此造成的性別偏見問題，我們提出了一個簡單易行的方案：在單詞嵌入中，刪除區(qū)分“他”和“她”的判斷維度。關(guān)于這個方案的更多細節(jié)，我們發(fā)表了一篇論文，相關(guān)數(shù)據(jù)也共享在 GitHub上 供大家使用。

科學(xué)研究只尊重未來，因此，作為科學(xué)工作者，我們的使命就是挑戰(zhàn)現(xiàn)實、探索新知、創(chuàng)造不同——這也正是微軟研究院幾十年來取得成功和發(fā)展的關(guān)鍵。在微軟研究院，我們相信，所謂未來，是由我們在不斷求索中創(chuàng)造出來的。我們要做的，就是去引導(dǎo)、去創(chuàng)新、去啟迪，通過推動從今天到明天的轉(zhuǎn)變，為全人類創(chuàng)造出更美好的世界。