身邊的人工智能 阿里的“安全AI”

霍金生前曾經對AI(人工智能)有著深深的憂慮，他認為人工智能有可能是人類文明史的終結。但他也強調，當前對人工智能的研究與開發，應該從提升人工智能的能力轉移到最大化人工智能的社會效益上面。

就安全而言，AI在攻防兩端都已經開始使用。用阿里安全研究員陸全的話說，當前如果不使用AI技術，在攻防對抗上無異于用長槍大刀對抗洋槍洋炮，必然落于下風。

阿里安全一直主張用技術解決社會問題，安全AI也在阿里經濟體的多個業務場景落地。

何為“安全AI”

“安全AI”I，ALL IN “安全AI”，這是阿里安全近期提出的口號。

肩負這個使命的，是阿里巴巴集團安全部旗下的人工智能研發團隊——圖靈實驗室。

顧名思義，圖靈實驗室(AlibabaTuringLab)專注于計算機視覺、自然語言處理、機器學習和深度學習等領域的技術研發。

實驗室研發的主要技術包括圖像、視頻識別與分析、人臉識別、自然語言處理、音頻技術，包含聲紋識別、聲音分類、音頻指紋等。

研以致用，這些技術已經被廣泛應用于阿里經濟體，包括手淘、天貓、支付寶、閑魚、優酷土豆、UC、阿里媽媽等核心業務線。不僅驅動阿里經濟體更加智能化，更加安全，同時讓用戶的體驗不斷提升。

那么，何謂“安全AI”?陸全認為，隨著AI的深入應用，它會在不同的領域自我進化，安全領域也是如此。安全領域小樣本、高對抗和高變化的特性，使得AI的應用具有挑戰性，但安全和AI的相結合，可以進化出一種靈活、具有魯棒性、能自進化的，適用于安全場景的AI，即 “安全AI”。

陸全表示，之所以強調ALL IN “安全AI”，首先是因為在阿里的復雜生態里，很多團隊都在做AI產品，安全團隊應從一開始就加入開發過程，讓產品從誕生時就具有安全屬性。其次是阿里的對手黑灰產，在很多場合已經開始使用AI的技術和模型，對阿里進行攻擊，相應的，阿里也應充分借助AI的力量進行防御。

走入現實生活的安全AI

阿里龐大的業務生態可以分為三大部分，分別是大文娛數字化生活、傳統電商、新零售。

與當前通用AI的理念不同，阿里安全更注重在業務安全領域垂直縱深的技術積淀，開發出適應更多安全場景的新一代AI，讓傳統的安全問題找到新的AI解法。

AI+知識產權：原創保護

圖靈實驗室的高級算法專家華棠介紹了阿里如何將AI應用在知識產權的案例。

數字經濟時代，知識產權面臨著比以前更大的挑戰。首先，數字化使得作品復制、抄襲更加簡單，對作品獨創性的判別難度和成本都大大增加。其次，這是一個信息爆炸的時代，知識產權的保護需要具備海量樣本分析的能力。最后是快速傳播，數字化作品的侵權和傳播周期越來越短，對原創作品知識產權的確權和侵權的判定，有著很強的時效性要求。

華棠表示，知識產權保護是IP商業化的基礎保障。作為中國最大的電商平臺，保護好原創產權，才能保護好原創者的熱情和權益，從而激發他們的創新動力。

華棠以故宮文創商品舉例：故宮經常會推出一些以文創為主題的商品，但往往在眾籌階段就會被他人模仿，甚至先一步上線銷售，讓故宮非常頭疼。但通過阿里巴巴原創保護平臺，就可以進行線上原創認定，保護自己原創的知識產權。對一些難以判別的商品，還可以通過人工大眾評審來進行評判，將抄襲商品下架。

華棠介紹，阿里巴巴原創保護平臺具有電子存證、首發認證、版權保護、IP商業化等功能。AI在其中的作用是，通過深度學習技術，和基于內容的大規模檢索系統，從而準確地判別原創和山寨商品。

阿里安全已經建立了一套基于內容的大規模檢索系統，應用在logo識別、盜圖檢索、視頻指紋、商家原創保護等領域。

華棠表示，安全AI應用可有效抵抗轉碼、加噪、裁剪等多種干擾，與此同時，GPU配合大規模分布式計算，使得十億規模的圖像檢索系統，可在幾秒內返回結果，并使百億量級的圖像檢索成為可能。

AI+內容識別：內容安全

內容安全現在無疑是監管的重要領域，新聞中經常可看到某某平臺或應用因為內容違規被要求整改甚至關停。圖靈實驗室的高級算法專家威視表示，無論是從監管要求還是業務要求層面，內容安全已成為互聯網行業的強需求。

面對當前互聯網海量的內容，此時AI就大有用武之地。

例如色情、暴力、反動等內容的文本、圖片、語音等，以往都要靠人工鑒別。傳統的人工鑒黃師一天最多審核1萬張圖片，面對當前互聯網上每天10億張的圖片上傳量，效果可想而知。

但阿里通過AI建立智能模型，來識別違規信息，每天可審核數億張圖片，識別準確率高于99.5%。隨著阿里AI鑒黃語音反垃圾服務的上線，不僅是圖片和文本，語音中存在的涉黃、廣告等違規信息也能被識別。

威視表示，通過不斷地樣本學習，AI在內容識別上越來越聰明，基本可以代替人工識別。對阿里這樣一個龐大的文娛生態來說，特別是“內容化”已經成為其重要發展方向，可以保護其健康的內容產出。

威視提出了AI在內容安全上未來的挑戰與解決方案。首先，是算法與業務需求的矛盾：AI擅長處理有視覺可分性的問題，而不擅長設計理解、推理、主觀判斷的問題，應對方法是讓AI具備推理和想象的能力、設計圖網絡。其次，面對的風險點多，要是針對每個風險點單獨開發算法，會造成人力成本和計算成本提高，應對方法是設計多任務網絡，采用AI專用芯片。最后是AI方式的對抗，理論上只要攻擊者不計成本，可以攻擊現有的任何網絡，應對方法是自主設計非開源網絡、進行對抗樣本檢測和對抗訓練。

AI+視覺識別：新零售安全

以盒馬鮮生、無人超市為代表的阿里“新零售”生態，已經在改變著人們的生活方式。與此同時，自助、開放、無人，在改善體驗和效率的同時也增加了盜損風險。

圖靈實驗室的高級算法專家覺奧表示，相對于傳統的主要依賴人力的防盜手段， “AI保安”更能精準地發現異常行為。

覺奧以一組數字舉例，傳統的零售門店小偷的抓捕率大約為20-30%，而應用了安全AI系統，準確率接近100%，抓捕率可達到90%。

這是怎樣做到的?

覺奧介紹，安全AI以視頻監控系統為基礎，結合了生物特征識別、計算機視覺等技術，重點關注顧客、貨架、收款臺，通過多點信息融合，實現證據鏈的鑒別，自動發現各類高風險行為。例如當有顧客從貨架取貨后直接放進口袋、拎包卻沒有買單，或者故意漏掃商品，結合AI技術的視頻監控系統就能發現此類風險，并及時通知商場。

有了這套視覺安全AI，商家可以更好地控制風險和成本，顧客和經營者雙方的權益都能得到保證，讓“新零售”的發展后顧無憂。

同時，除了安全，在事先認證、授權并充分保障顧客隱私的前提下，商場可以利用AI技術,了解有多少顧客到店以及所到的區域，即可以輕松把到店客流量和商場各區域的熱力圖統計出來。可為新零售提供更佳的營銷方案。

AI智能攻防

“雙11”，阿里共攔截了16億次惡意攻擊，保護了409億次用戶的操作。這是安全AI應用在智能攻防上的實例。

阿里安全資深技術專家鐵花表示，通過AI技術的保障，可以攔截掉黑灰產、羊毛黨的各種操作，讓消費者可以有一個安全、公正的購物環境，而不是面對工具化、產業化、專業化的競爭。

鐵花認為，安全AI在流量識別、人機挑戰、漏洞防御上都有巨大的發展空間，同時還會催生下一代AI智能攻防。

除了上述場景，人臉識別、新型驗證碼等AI技術也被阿里廣泛應用在多個場景中，如景區入園、會場進入、快遞取件、酒店入住等。阿里安全在內容、新零售、知識產權等領域的AI應用實踐和對抗經驗，讓“安全AI”為未來網絡安全問題的解法提供了更多可能。