安全進(jìn)化的終極猜想— 以“AI之盾”對(duì)抗“AI之矛”

今年的“3.15晚會(huì)”給我最大的震撼就是AI機(jī)器人帶來(lái)的負(fù)面問題，40億騷擾電話播出，每天播出5000個(gè)，一年撥出40億個(gè)，設(shè)備日活躍量5000多臺(tái)，在使用設(shè)備數(shù)量超過3萬(wàn)臺(tái)，6億多用戶隱私泄露。。。。。。。

一、AI本無(wú)罪，懷璧其罪

AI機(jī)器人替代人工，永遠(yuǎn)保持禮貌從不生氣且不知疲倦的聲音，當(dāng)之無(wú)愧成為騷擾電話的主力軍。AI機(jī)器人替代人工撥打騷擾電話的方案已形成“AI撥打電話+AI躲避監(jiān)管+AI收集個(gè)人隱私”的完整黑色產(chǎn)業(yè)鏈。當(dāng)人們用AI的能力輔助做安全、實(shí)現(xiàn)工作效率倍數(shù)提升的同時(shí)，AI已成為一把雙刃劍。正如今年RSAC上，谷歌和Macfee都提到了AI技術(shù)應(yīng)用帶來(lái)的負(fù)面問題。

針對(duì)AI自身的安全風(fēng)險(xiǎn)問題，之前文章已經(jīng)梳理過《RSAC2019安全技術(shù)熱點(diǎn)連載（1）機(jī)器學(xué)習(xí)的陰暗面》。

二、以“AI之盾”，對(duì)抗“AI之矛”

本篇主要是想分享一下，如何更好地使用AI能力來(lái)應(yīng)對(duì)AI被惡意利用而產(chǎn)生的問題。如黑產(chǎn)中反欺詐、自動(dòng)化分析、廣告自動(dòng)攔截、逆向驗(yàn)證客戶端、自動(dòng)化監(jiān)控敏感信息、自動(dòng)化屏蔽不良上網(wǎng)信息等。其實(shí)，我們看到，以AI的能力去對(duì)抗AI，這或許是未來(lái)安全進(jìn)化的終極方案。

利用休息時(shí)間，筆者總結(jié)了目前用AI對(duì)抗AI的四類應(yīng)用方向：

第一類：AI反欺詐平臺(tái)：

1、金融機(jī)構(gòu)反欺詐平臺(tái)；

2、網(wǎng)絡(luò)安全保險(xiǎn)自動(dòng)化分析評(píng)估平臺(tái)；

第二類：AI檢測(cè)機(jī)器人：

1、在線和移動(dòng)生態(tài)系統(tǒng)、網(wǎng)站等廣告自動(dòng)攔截；

2、基于AI的社交媒體事件監(jiān)控與品牌保護(hù)；

3、AI檢測(cè)和對(duì)抗各類機(jī)器程序\機(jī)器人

第三類：AI內(nèi)容發(fā)現(xiàn)與隱私保護(hù)

1、基于AI的網(wǎng)上瀏覽內(nèi)容安全；

2、基于AI+生物識(shí)別+個(gè)人隱私保護(hù)；

第四類：AI***“閃電戰(zhàn)”對(duì)抗

1、AI促使***自動(dòng)化、縮短了***準(zhǔn)備時(shí)間；
2、使用AI能力進(jìn)行自動(dòng)化編排和響應(yīng)，提升防御效率。

三、以色列網(wǎng)安創(chuàng)企AI方向分析

1、Unbotify，AI檢測(cè)機(jī)器人（2015年成立，今年1月底已經(jīng)被移動(dòng)監(jiān)測(cè)和防欺詐公司Adjust收購(gòu)）

官網(wǎng)：http://www.unbotify.com/

核心業(yè)務(wù)方向：機(jī)器人檢測(cè)，可通過分析網(wǎng)站和移動(dòng)應(yīng)用用戶流中的人類行為模式，對(duì)真人與機(jī)器人進(jìn)行區(qū)分，進(jìn)而防止數(shù)字欺詐活動(dòng)的發(fā)生。利用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)技術(shù)，Unbotify從設(shè)備方向(device orientation)、觸摸事件(touch events)與壓力靈敏度等項(xiàng)目數(shù)據(jù)中，提取出上百種特征進(jìn)行檢測(cè)分析，從而辨別出作弊機(jī)器人。此作法使?fàn)I銷商能夠在不混淆合法人為流量的情況下，判定出欺詐性的機(jī)器人活動(dòng)，進(jìn)而確保應(yīng)用發(fā)行商與真人受眾間的互動(dòng)。

收購(gòu)方Adjust從事的領(lǐng)域：移動(dòng)數(shù)據(jù)監(jiān)測(cè)和防欺詐平臺(tái)，為全球移動(dòng)應(yīng)用營(yíng)銷商提供高質(zhì)量的分析、監(jiān)測(cè)和防欺詐解決方案，從而幫助他們更精準(zhǔn)、更快速地作出營(yíng)銷決策。

2、NsKnox ，AI金融反欺詐（2016年初成立，今年2月份完成1500萬(wàn)美元A輪融資，由微軟M12風(fēng)險(xiǎn)基金和Viola Ventures領(lǐng)投）

核心業(yè)務(wù)方向：金融反欺詐平臺(tái)。保護(hù)企業(yè)支付免受欺詐和數(shù)據(jù)操縱多種威脅。nsKnox的解決方案利用了公司所謂的合作網(wǎng)絡(luò)安全（CCS），將加密技術(shù)與來(lái)自多個(gè)組織的數(shù)據(jù)相結(jié)合。

3、ChameleonX ，AI在線反機(jī)器人廣告（2015年成立，16年獲190萬(wàn)美元種子輪資金，由TrueVentures領(lǐng)投）

官網(wǎng)：https://chameleonx.com/

核心業(yè)務(wù)方向：以機(jī)器學(xué)習(xí)的能力，保護(hù)在線和移動(dòng)生態(tài)系統(tǒng)免受廣告注入、機(jī)器人和惡意廣告的侵?jǐn)_。

4、 D- ID，AI個(gè)人圖像隱私保護(hù)（2017年成立，2018年1月完成400萬(wàn)美元種子輪融資，領(lǐng)投方為 Pitango Venture Capital）

官網(wǎng)：https://www.deidentification.co/

核心業(yè)務(wù)方向：反圖片識(shí)別技術(shù)的公司，保護(hù)圖像免受未經(jīng)授權(quán)的自動(dòng)面部識(shí)別系統(tǒng)，有助于個(gè)人生物信息的隱私保護(hù)。深度學(xué)習(xí)解決方案融入名為“de-identification”的數(shù)據(jù)保護(hù)技術(shù)，可以生成算法無(wú)法辨識(shí)的照片和視頻，但同時(shí)保持與真實(shí)人臉相似，以保障個(gè)人隱私及身份信息不被面部識(shí)別技術(shù)惡意讀取。

5、Cyabra — AI網(wǎng)絡(luò)水軍清洗器（2017年成立，種子輪融資金額不詳）

核心業(yè)務(wù)方向：降低網(wǎng)絡(luò)水軍、假消息對(duì)消費(fèi)品牌、政府的不利影響。Cyabra有多名創(chuàng)始人有在以色列軍方，以及商業(yè)智能公司的工作經(jīng)歷。Cyabra的定位在于保護(hù)客戶免遭流氓大軍的損失。通過每個(gè)賬戶的基本資料、照片、發(fā)文內(nèi)容和文風(fēng)等信息，識(shí)別賬戶是虛假賬戶的可能性。另外，由于虛假賬戶經(jīng)?？缙脚_(tái)發(fā)布相同/相似內(nèi)容，Cyabra通過各種手段獲得真實(shí)的虛假賬戶庫(kù)，基于不同社交平臺(tái)賬號(hào)的相似性，擴(kuò)大虛假賬戶庫(kù)。對(duì)于疑似或確診的虛假賬戶，公司會(huì)為客戶提供及早預(yù)判、及早預(yù)警、下一步行為預(yù)測(cè)的服務(wù)。Cyabra有很強(qiáng)的網(wǎng)絡(luò)爬蟲能力、用戶畫像積累和語(yǔ)料情感分析技術(shù)，在自然語(yǔ)言處理技術(shù)上也在持續(xù)爬坡。網(wǎng)絡(luò)輿情屬于自然語(yǔ)言處理應(yīng)用落地極難的領(lǐng)域，這是由于網(wǎng)絡(luò)語(yǔ)言規(guī)范性相對(duì)弱。

6、Shieldren， AI保護(hù)兒童上網(wǎng)健康（2017年成立，種子輪融資金額不詳）

核心業(yè)務(wù)方向：利用機(jī)器學(xué)習(xí)和深度學(xué)習(xí)，監(jiān)控兒童上網(wǎng)瀏覽網(wǎng)頁(yè)，保護(hù)兒童瀏覽健康網(wǎng)站不受侵害。

7、Cyberwrite，網(wǎng)絡(luò)保險(xiǎn)自動(dòng)化評(píng)估平臺(tái)（2016年成立，種子輪融資金額不詳）

官網(wǎng)：https://cyberwrite.com/

核心業(yè)務(wù)方向：自動(dòng)化評(píng)估網(wǎng)絡(luò)保險(xiǎn)金額，提供自動(dòng)化評(píng)估平臺(tái)及服務(wù)。

網(wǎng)絡(luò)保險(xiǎn)覆蓋主要包含四大類：

1) 技術(shù)錯(cuò)誤、失誤(Errorsand Omissions)

例如IT企業(yè)的產(chǎn)品開發(fā)延期，產(chǎn)品集成出現(xiàn)錯(cuò)誤，由此造成的經(jīng)濟(jì)損失；

2) 版權(quán)、商標(biāo)等知識(shí)產(chǎn)權(quán)（MediaLiability）

例如與其他企業(yè)發(fā)生了知識(shí)產(chǎn)權(quán)糾紛，需要法律方面的費(fèi)用、賠償?shù)龋?/p>

3) 網(wǎng)絡(luò)、信息安全

例如企業(yè)存儲(chǔ)的商業(yè)機(jī)密或用戶數(shù)據(jù)泄露、數(shù)據(jù)丟失、病毒傳播和勒索等造成的損失。

4) 隱私數(shù)據(jù)

同樣都是數(shù)據(jù)層面的內(nèi)容，隱私數(shù)據(jù)主要是指現(xiàn)實(shí)環(huán)境中的失誤，如丟失存有敏感數(shù)據(jù)的筆記本，員工將帶有客戶信息郵件發(fā)錯(cuò)，諸如此類。

四、關(guān)于AI對(duì)抗AI的安全方向思考總結(jié)

1、AI能力成為對(duì)抗機(jī)器學(xué)習(xí)\機(jī)器人的核心能力；

2、使用AI對(duì)抗AI已成為安全從業(yè)者的認(rèn)知必然；

3、網(wǎng)絡(luò)保險(xiǎn)自動(dòng)化分析評(píng)估平臺(tái)被安全創(chuàng)企看好；

4、AI在個(gè)人生物識(shí)別信息的隱私保護(hù)領(lǐng)域應(yīng)用被看好；

5、使用AI保障兒童上網(wǎng)屬于AI的創(chuàng)新應(yīng)用領(lǐng)域；

6、AI在金融保險(xiǎn)互聯(lián)網(wǎng)平臺(tái)領(lǐng)域的反欺詐和廣告攔截應(yīng)用廣泛；

7、AI能力實(shí)現(xiàn)自動(dòng)預(yù)警和響應(yīng)及策略編排，進(jìn)而對(duì)抗AI自動(dòng)化***；

五、終極猜想：未來(lái)，安全的終極進(jìn)化能力，是AI之間的對(duì)抗

盡管我們目前僅處于弱人工智能階段，但是AI機(jī)器學(xué)習(xí)及自動(dòng)化已經(jīng)成為駭客手中的武器，安全的對(duì)抗因?yàn)榇髷?shù)據(jù)、人工智能的場(chǎng)景融合變得越來(lái)越復(fù)雜，安全專家的能力不應(yīng)該被海量的安全大數(shù)據(jù)限制，通過AI工具釋放出來(lái)安全專家可以做更多有價(jià)值的工作。故，筆者不成熟的猜想：根據(jù)“二八法則”，未來(lái)，AI工具將用20%的時(shí)間完成安全從業(yè)者80%的工作內(nèi)容，而80%的安全專家將致力于剩余20%高級(jí)安全對(duì)抗工作中去。隨著AI能力的不斷進(jìn)化，以“AI之盾”抵御“AI之矛”，將會(huì)成為業(yè)界共識(shí)。