關于人臉識別濫用的十個可能的應對方案

本文對此提供十項人臉識別政策建議，大致從人臉數據、測試技術、認證評估主體三個層面予以應對潛在的人臉識別風險。

十大建議核心提要：

1. 限制數據存儲期限
2. 限制數據分享
3. 公共場所設立人臉識別標識
4. 提升人臉識別精準度
5. 開展第三方獨立評估
6. 減少附帶信息收集
7. 商業(yè)場景納入opt-in與opt-out機制
8. 制定統一的技術標準
9. 完善標準化組織認證
10. 確保數據代表性以及測試實操化

當前，人臉識別應用不斷深入日常生活，在失蹤搜救、安保升級、導盲、反恐等領域都有廣泛應用，但同時也引發(fā)了民眾的不安與質疑。

鑒于人臉識別技術的應用尚有眾多不確定風險，本文對此提供十項人臉識別政策建議，大致從人臉數據、測試技術、認證評估主體三個層面予以應對潛在的人臉識別風險。

1. 限制數據存儲期限

所謂人臉識別（Facial Recognition），是指針對特定場景的靜態(tài)圖像或動態(tài)視頻，利用現存已存儲好的若干人臉圖像數據庫，驗證和識別具體場景下的單個或多個人的身份匹配。

人臉識別通常由三部分組成： 具體場景中人臉檢測（Face Detection）并分割人臉、抽取分析人臉特征、匹配數據庫識別人臉。

人臉圖像的長期數字化存儲是人臉識別最令人恐懼的原因之一，這些人臉信息有諸多被濫用風險，迫切需要應對方式變革以消解公眾焦慮，方式之一就是設置圖像與視頻存儲期限。當處于突發(fā)狀態(tài)的危急情景之際，某些特定圖像數據存儲確有必要。

一旦危險期已過，則無需保留危急時刻留存的人臉數據。因此，對大多數應用場景來說，限制人臉數據存儲期限可以平衡人臉識別帶來的多重好處與最小化風險二者之間的利益平衡。

具體存儲時間依情景不同而各異。比如為應對突發(fā)狀況所編譯的特定圖像具有高瞬時價值，而其他情形則需納入龐大的數據庫已備后續(xù)匹配并識別人臉特征。

在此介紹一種保障數據安全性的機器學習模式——聯邦學習（Federated Learning）。此種學習模式是一種訓練數據去中心化的機器學習方案，確保數據只存儲在攝像頭終端，而不傳輸到中央數據中心，從而提升數據安全性。

2. 限制數據分享

同一數據被用于多個不同目的之間分享流轉，令人擔憂。例如美國車輛管理局將識別圖像出售給第三方機構，用于其他場景的人臉識別。

此種擔憂在于分享人臉數據過程中，數據主體完全不知曉數據挪作他用，致使知情同意機制失靈，甚至就算數據主體事前知悉，也很可能不同意將面部識別數據分享給商業(yè)機構以用于商業(yè)化利用。因此，若想要跨場景分享人臉識別數據，必須提供正當化事由。

根據布魯金斯學會民意調查，民眾對人臉識別的態(tài)度依場景而異。其中將識別技術用于保護在校學生的同意率高達41%，用于機場安檢以及體育場的同意率大致為30%，而同意率最低的則是商店用來防止偷盜。

3. 公共場所設立人臉識別標識

無論是私主體還是公權力機構，當用于拍照、拍攝視頻或以其他用途收集公眾信息以識別人臉時，都應該在公共場所設立明確的人臉識別標識，明確告知民眾此處有人臉識別系統，進而潛在影響公眾對公共秩序的遵守。

長此以往，不僅會提升民眾對人臉識別使用的公共安全意識，也可保障不愿被記錄面部信息的群體之選擇自由。

4. 提升人臉識別精準度

人臉識別精準度首先會受到識別對象——不同種族群體的影響。人臉模式特征可以分為膚色特征與灰度特征兩大類，膚色作為人臉的重要信息，獨立于其他面部細節(jié)，具備相對穩(wěn)定性。但人臉識別系統針對白人的識別準確率要比非白人群體高，并且膚色越深精準度越低，此時識別偏見傾向會被膚色的相對穩(wěn)定性放大。

此外，由于種族人群的訓練數據的不完整和非代表性，也會加劇人臉識別的固有偏見。當該技術應用于執(zhí)法、邊境安全、零售、機場等公共場所時，會存在不同種族群體被偏見、歧視等問題。

另一個造成識別精準度下降的重要因素是光照。畢竟作為三維物體的人臉不可避免地受光照陰影、照射強度等外在因素的干擾。光照會改變人臉圖像灰度的相對分布，所以光照引起的人臉圖像變化高于個體差異導致的變化。

據卡迪夫大學（Cardiff University）的一項研究表明，澳大利亞曾出現過數千例人臉匹配錯誤事件。由此看出，在大規(guī)模應用于公共場所前，明確人臉識別精準度標準最為迫切，而標準的明確可以從對民眾生活的影響度高低來判斷。若執(zhí)法過程中嚴重干涉到民眾的核心權利，譬如被拘捕或監(jiān)禁，則識別度必然要達到相應級別。

5. 開展第三方獨立評估

引入第三方獨立評估可以提振民眾對其人臉識別產品與服務的信心，消費者希望買到的產品發(fā)揮其固有功效，而不產生其他技術問題。為了幫助消費者知曉人臉產品功能與潛在隱患，可考慮建立人臉識別星級評級體系，或者仿照美國能源部與環(huán)境保護署共同推行的能源之星計劃（Energy Star），將眾多人臉識別應用納入第三方評估認證范圍。

6. 減少附帶信息收集

部分人臉識別應用會收集與主要目的無關的海量信息，違背“最小夠用原則”。例如當警方攜帶隨身攝像機前往現場勘察時，他們不僅在拍攝嫌疑人，也會恰巧拍攝到附近路人。除非有明確表明這些證據與案件相關，否則執(zhí)法機構無需存留無關信息。當拍攝到的圖像不再具有調查價值時，可以模糊處理甚至刪除。

7. 商業(yè)場景納入opt-in與opt-out機制

所謂選擇加入（opt-in）指的是涉及識別的人臉生物信息在分享利用之前，要獲得數據主體的同意。例如，人臉識別技術將檢測出的姓名關聯到個人畫像并向本人推送商業(yè)廣告的情形下，就需要事前尊重其選擇同意權。

在全球加強個人數據保護的大背景下，數據主體愈發(fā)關切個人隱私。作為人臉識別背后的生物信息隱私，本身就具備典型的可識別性，屬于個人生物數據，理應納入個人敏感數據范疇被著重保護。

在選擇加入機制之外，選擇退出機制（opt-out）與被遺忘權也可以適用。在危險系數較低無需長期存儲數據的情景中，賦予民眾有權選擇相關機構不得繼續(xù)收集或者數據分享維持在可接受的合理水平。而隨著時間推移，當初高價值的人臉數據可能逐漸變得過時、不相關、超范圍、甚至有害，此時引入被遺忘權就顯得非常必要，可以提升民眾對人臉識別的接受程度。

8. 制定統一的技術標準

市場私主體制定技術標準以確保產品安全是慣常手段。以當年的移動通訊技術為例，在其尚處于發(fā)展階段之際，業(yè)內專家就制定了通信、安全和兼容性的通用標準。所有手機必須滿足上述技術規(guī)范才能出售。而如今的人臉識別技術也遵循同樣道理。

人臉識別技術也應該制定國際通用技術標準，確保人臉技術安全、隱私不受侵犯，緩解世人恐懼。誠如一切技術都具有兩面性，人臉識別技術也急需打造“負責任的人臉識別”。

慶幸的是，美國電氣和電子工程協會（IEEE）以及美國國家標準與技術研究院（NIST）正在制定統一的技術標準，以規(guī)范相關技術應用。

9. 完善標準化組織認證

企業(yè)系統安全系數由國際標準化組織（ISO）驗證。企業(yè)特定產品由ISO組織評估是否滿足監(jiān)管規(guī)則要求，第三方機構進行合規(guī)測試，從而保障消費者對全流程技術標準的知情權。

在美國，NIST負責產品技術認證。其透過公共數據庫去比對人臉檢測結果，同時認證相關應用。但有聲音批評NIST過度依賴私人網站上的初始數據，無法推廣到日常使用場景；NIST數據選擇面過窄，只聚焦于與執(zhí)法相關的人臉數據；測試標準單純依賴于圖像質量與操作功能等等。因此，人臉技術驗證應當將自動測試與人工審核相結合，完善標準化組織認證，打造可靠測試與可信驗證。

10. 確保數據代表性以及測試實操化

為了確保人臉識別準確度，面部驗證、技術標準以及政府合規(guī)測試方面需建立在有廣泛代表性的、非特定用途的數據基礎之上。而在人臉識別商業(yè)化浪潮下，采用有表性的數據庫用于基線測試以及產品認證顯得尤為關鍵。

單一用途數據例如警用面部照，并不能完整代表所有群體，測試價值會大打折扣。除了數據需要有代表性之外，測試實操化對于提升公眾對人臉識別的疑慮也尤其重要。畢竟基于海量圖像信息、實際應用環(huán)境以及有代表性的人群樣本分組之上的人臉識別測試，可以有效克服光照條件以及圖像分辨率對測試精準度的負面影響。

注：本研究報告出自布魯金斯學會（Brookings Institution）于10月31日發(fā)布的《10 actions that will protect peoplefrom facial recognition software》。

譯者：蔡雄山、袁?。还娞枺候v訊研究院（ID：cyberlawrc）

來源： https://mp.weixin.qq.com/s/A8TII44wUTQi_cmu2ztvsA

https://blog.csdn.net/weixin_42137700/article/details/103553310