AI的達(dá)摩克利斯之劍:企業(yè)如何建立安全隱私長城?
摘要: 人類對自己面孔的探索,從上個世紀(jì)就開始了。
在數(shù)據(jù)成為生產(chǎn)要素的當(dāng)下,人頭意味著流量,面孔即是收益,大量從“人臉”開始的經(jīng)濟(jì)活動也逐漸步入了大眾視野。不明真相的人們或許會驚嘆于從商者思維之敏捷,但其實(shí)不然——人類對自己面孔的探索,從上個世紀(jì)就開始了。
早在19世紀(jì)60年代,人類就開始嘗試使用計算機(jī)來進(jìn)行人臉識別,純?nèi)斯じ呔鹊拿娌刻卣鞫ㄎ皇蛊湫蕵O為低下,但每小時僅能辨別40張面孔的速度沒有把人們的熱情澆滅,隨著時間流逝反倒是越發(fā)高漲了。經(jīng)過堅持不懈的鉆研,60年后的今天,人臉識別技術(shù)成為了現(xiàn)代人生活中不可或缺的一部分。

深度學(xué)習(xí)技術(shù)加持下的人工智能(AI)為人臉識別提供了強(qiáng)大的助力,只是技術(shù)沒有自我與思想,它帶來的結(jié)果,無一不和使用者的目的性息息相關(guān)。用在刀刃上的人臉識別,能為如火如荼的基礎(chǔ)設(shè)施建設(shè)添磚加瓦,在金融、醫(yī)療、交通等多個產(chǎn)業(yè)的關(guān)鍵場景發(fā)揮重要作用;但遇上樣本攻擊、深度偽造技術(shù)后,人臉識別也會成為黑灰產(chǎn)的一大幫兇。
Deepfake就是典型的“雙刃劍”:人工智能通過深度學(xué)習(xí),生成了逼真生動的偽造“真相”——對于普羅大眾來說,觸手可及的“換臉”App能帶來不少樂趣,但政商界人士滑稽怪誕的“演講秀”和無中生有的名人色情視頻明顯越過了倫理道德的安全線,這引發(fā)了人們對身份盜用、信息謬誤以及隱私泄露的擔(dān)憂和對技術(shù)的不信任。

要想及早發(fā)現(xiàn)、解決AI技術(shù)帶來的副作用,構(gòu)建安全可信賴的行業(yè)生態(tài),行業(yè)內(nèi)的龍頭企業(yè)必須身先士卒,有所擔(dān)當(dāng);但整個安全行業(yè)目前面臨的,卻是一場大型的“用工荒”——由Cybersecurity Ventures發(fā)布的《2021全球網(wǎng)絡(luò)安全人才報告》顯示,過去八年間,全球網(wǎng)絡(luò)安全職位空缺同比增長了350%,需求崗位從2013年的100萬個增加到了2021年的350萬個。
這種“粥多僧少”的情況在國內(nèi)同樣得到了印證:10月12日,國家網(wǎng)絡(luò)安全宣傳周“網(wǎng)絡(luò)空間安全學(xué)科專業(yè)建設(shè)與人才培養(yǎng)論壇”發(fā)布了《網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報告(2021年版)》,報告指出,在2015年教育部批準(zhǔn)網(wǎng)絡(luò)空間安全學(xué)科為一級學(xué)科后,各大院校都開設(shè)了與網(wǎng)絡(luò)安全有關(guān)的專業(yè),但全國目前每年安全相關(guān)專業(yè)畢業(yè)生僅2萬余人,安全崗位的缺口卻高達(dá)100萬人。
要想改善安全行業(yè)的生態(tài),我們需要更多更YOUNG(年輕)的聲音。
年輕人才需要大舞臺
該如何給安全行業(yè)的年輕人一個展示自我的機(jī)會?模擬訓(xùn)練永遠(yuǎn)不會過時。對于尚在象牙塔內(nèi)的學(xué)生來說,安全賽事可以成為他們接觸業(yè)界的第一道橋梁,也是自我挑戰(zhàn)的第一塊試金石。
筆者想到了近幾年備受矚目的OPPO挑戰(zhàn)賽——2018年的“OGeek算法挑戰(zhàn)賽”和2019年的“OGeek網(wǎng)絡(luò)安全挑戰(zhàn)賽”,都是OPPO安全在前沿技術(shù)領(lǐng)域招募培養(yǎng)后備創(chuàng)新人才的大膽嘗試。高額獎池與直通OPPO關(guān)鍵研發(fā)崗的校招通道,能夠切實(shí)獎勵年輕一代付出的努力,也為安全行業(yè)輸送了更優(yōu)質(zhì)的火種。

有了前兩次賽事的成功作為鋪墊,2021年賽事品牌全面升級為“OPPO安全挑戰(zhàn)賽”,本年度賽事聚焦于人臉識別場景中的反AI的對抗攻擊,是網(wǎng)安領(lǐng)域前沿的課題,自6月中旬啟動報名以來,持續(xù)受到高校學(xué)生的關(guān)注與支持。
賽事報名的消息一出便是一呼百應(yīng),線上參賽團(tuán)隊累計2000+,吸引了來自全球400多所高校的在校大學(xué)生參賽,其中來自清華大學(xué)、北京大學(xué)、上海交通大學(xué)、電子科技大學(xué)等知名高校的10支戰(zhàn)隊順利晉級,獲得了角逐總決賽60萬元獎金的資格。

筆者認(rèn)為,2021年的“OPPO安全挑戰(zhàn)賽”是OPPO安全技術(shù)賽事品牌在以往基礎(chǔ)上的全面提升。這一提升不光體現(xiàn)在更大的規(guī)模,還可以從OPPO對本次賽事匠心獨(dú)運(yùn)的安排中窺見一斑:“AI安全”乃是當(dāng)前技術(shù)領(lǐng)域最為關(guān)注也最需要大量實(shí)踐的熱點(diǎn)話題,為了遴選出最強(qiáng)者,OPPO從實(shí)戰(zhàn)角度出發(fā),利用黑盒模型增加了后臺構(gòu)建對抗樣本的難度,這對參賽者的技術(shù)水平提出了極高的要求。4小時不間斷的“馬拉松”告一段落,最終問鼎冠軍寶座的是來自清華大學(xué)“trivial”戰(zhàn)隊??梢娫绞请y以攀越的高山,越能引發(fā)強(qiáng)勁挑戰(zhàn)者的興趣。

令筆者欣慰的是,本次OPPO安全挑戰(zhàn)賽的參賽團(tuán)隊超過了2000支,這不僅代表著行業(yè)內(nèi)新生力量的欣欣向榮,更創(chuàng)下了參賽規(guī)模方面的新紀(jì)錄——OPPO此前多賽道齊頭并進(jìn)的成功經(jīng)驗(yàn)很好地助力了系列賽事的發(fā)展與提升,同時也為挖掘與培養(yǎng)安全領(lǐng)域相關(guān)人才做出了巨大貢獻(xiàn)。OPPO安全技術(shù)系列賽事,已然成為網(wǎng)絡(luò)安全領(lǐng)域的又一重磅賽事。
不難預(yù)見,未來OPPO仍會持續(xù)加大培養(yǎng)科技創(chuàng)新與技術(shù)人才的投入,通過持續(xù)關(guān)注安全隱私技術(shù)問題,不斷挖掘安全技術(shù)領(lǐng)域的潛力,積極擁抱萬物互融時代的變革。從長遠(yuǎn)來看,OPPO搭建實(shí)戰(zhàn)演練平臺“以賽代練”的模式,可以構(gòu)成對全社會的激勵,刺激良性循環(huán);而OPPO對優(yōu)質(zhì)人才培養(yǎng)路徑的探索,最終能夠反哺社會,為中國網(wǎng)絡(luò)安全事業(yè)的發(fā)展盡自己的一份責(zé)任。
AI技術(shù)如何應(yīng)用于產(chǎn)業(yè)?
有年輕人的朝氣蓬勃,自然也有中堅力量的寶刀未老——在同日下午召開的OPPO“AI 安全新戰(zhàn)場”高峰論壇上,OPPO高級算法工程師李啟明、張文剛,四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授陳文、京東信息安全部風(fēng)控算法負(fù)責(zé)人林元晟、英特爾人工智能架構(gòu)師俞巍等專家學(xué)者發(fā)表了主題演講,圍繞AI在產(chǎn)業(yè)內(nèi)的應(yīng)用與未來趨勢,為參會者帶來了一場硬核的頭腦風(fēng)暴。

在OPPO高級算法工程師李啟明名為《OPPO的深度偽造和檢測的探索與實(shí)踐》的演講中,可以看到OPPO應(yīng)對深度偽造技術(shù)風(fēng)險的經(jīng)驗(yàn),他從業(yè)務(wù)實(shí)戰(zhàn)的維度提供了一系列具體的技術(shù)應(yīng)用方法:包括如何減少模型算法計算量、快速適應(yīng)新偽造技術(shù)、提升模型魯棒性等。

四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授陳文針對AI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用難題,進(jìn)行了名為《動態(tài)變化網(wǎng)絡(luò)環(huán)境下AI模型的自學(xué)習(xí)能力》的分享,他將學(xué)界的前沿研究傾囊相授,展示了在動態(tài)變化的網(wǎng)絡(luò)環(huán)境下,遷移學(xué)習(xí)、協(xié)同學(xué)習(xí),以及多生成器對抗神經(jīng)網(wǎng)絡(luò)等能力在AI模型自適應(yīng)更新中的應(yīng)用。

京東信息安全部風(fēng)控算法負(fù)責(zé)人林元晟通過連線進(jìn)行了名為《智能風(fēng)險監(jiān)測探索與實(shí)踐》的主題演講,他提出,使用深挖用戶行為模式研究以及半監(jiān)督方式對時序數(shù)據(jù)的異常風(fēng)險監(jiān)測,有助于提升電商平臺的安全風(fēng)控能力。

老牌500強(qiáng)企業(yè)英特爾的人工智能架構(gòu)師俞巍則以《基于英特爾隱私保護(hù)機(jī)器學(xué)習(xí)技術(shù)的案例與實(shí)踐》為議題,分享了第三代至強(qiáng)可擴(kuò)展處理器如何提升隱私保護(hù)機(jī)器學(xué)習(xí)的性能和效率,推動隱私保護(hù)機(jī)器學(xué)習(xí)的生態(tài)建設(shè)的經(jīng)驗(yàn)。
只有經(jīng)過大量高價值面部識別數(shù)據(jù)訓(xùn)練,AI才能擁有更高的精確度,人亦是如此:經(jīng)過“AI安全新戰(zhàn)場”安全高峰論壇這場知識的饕餮盛宴,行業(yè)及安全從業(yè)者都能從中汲取養(yǎng)分,將最新的成果和行業(yè)的尖端趨勢內(nèi)化到自身的安全實(shí)踐中去——這類平臺的建立,對于安全業(yè)界的良性健康發(fā)展,必不可少。
從這些專家們的議題中可以看出,無論是業(yè)界還是學(xué)界,對于AI技術(shù)的運(yùn)用都有了新的突破:持續(xù)監(jiān)測解放了人力,節(jié)省了時間;基于風(fēng)險的應(yīng)用控制能夠阻止不受信賴的進(jìn)程;最重要也最關(guān)鍵的,是AI如何得以進(jìn)行保證用戶隱私的學(xué)習(xí),并且在這一過程中得到改善,最終將這一能力反饋到用戶數(shù)據(jù)的保護(hù)之上,才能算“取之于民,用之于民”。
想要達(dá)成這一點(diǎn),具體該怎么做?我們無法得到一個標(biāo)準(zhǔn)答案,但可以在摸索中找尋那條同樣能通向羅馬的路,OPPO高級算法工程師張文剛分享了他的探索。
AI安全大腦:移動應(yīng)用智慧檢測能力構(gòu)建
在名為《智能護(hù)盾安全大腦:移動應(yīng)用智慧檢測能力構(gòu)建》的主題演講中,張文剛提出,日趨復(fù)雜多變的網(wǎng)絡(luò)環(huán)境,層出不窮的移動應(yīng)用,使得用戶數(shù)據(jù)相關(guān)的問題屢屢頻發(fā)——作為應(yīng)用開發(fā)商的OPPO,需要確保自身數(shù)量龐大、面向全球的自研APP安全隱私合規(guī),也要防止來自外部的惡意攻擊;而作為手機(jī)廠商和應(yīng)用分發(fā)平臺的OPPO,則必須肩負(fù)起改善應(yīng)用服務(wù)生態(tài)環(huán)境的職責(zé),平臺內(nèi)部第三方APP的安全隱私問題,同樣重要。

若要從源頭上進(jìn)行治理,智能化、全方位的應(yīng)用安全治理體系是最優(yōu)選——基于大數(shù)據(jù)和AI安全大腦的OPPO智能護(hù)盾,應(yīng)運(yùn)而生。OPPO智能護(hù)盾內(nèi)部的安全大腦采用基于前沿深度學(xué)習(xí)、知識圖譜的多策略檢測、異常發(fā)現(xiàn)方法,集多個智能引擎為一體,顯著提升對隱私泄露、廣告作弊等惡意行為的識別率。而對隱私政策協(xié)議的智能識別,則使用了自然語言處理算法——預(yù)訓(xùn)練語言模型,實(shí)現(xiàn)文本檢測的效率、準(zhǔn)確率的提升。
OPPO智能護(hù)盾以端云協(xié)同的形式,廣泛應(yīng)用于用戶使用APP的所有場景,貫穿APP從測試、上架到卸載、下架的全生命周期,全鏈路安全隱私防護(hù),打通軟件商店、瀏覽器、手機(jī)管家等產(chǎn)品的安全防護(hù)能力,覆蓋用戶所有APP使用場景,為用戶構(gòu)建起了一套縱深、有效的防御體系——圍繞APP安全隱私治理,OPPO安全已累積下架上千款涉及廣告作弊的APP,軟件商店每年的APP上架審核超過100萬次,攔截風(fēng)險APP約35萬次,下架惡意APP約3000款;瀏覽器每天攔截惡意網(wǎng)址約7000萬次,攔截惡意APP下載約300萬次。

另外,OPPO安全還通過對開發(fā)者開放安全隱私云查服務(wù)、安全檢測SDK和安全加固能力,既保障自研APP的安全隱私合規(guī),也為開發(fā)者提供了公平、綠色、可持續(xù)的 APP 生態(tài)環(huán)境,這樣既能真正為開發(fā)者賦能,又有利于企業(yè)與開發(fā)者共筑安全生態(tài)的長遠(yuǎn)目標(biāo)。
這并不是OPPO為改善產(chǎn)業(yè)生態(tài)作出的唯一努力:筆者發(fā)現(xiàn),在剛剛過去的10月,OPPO就分別聯(lián)合德勤和益普索發(fā)布了《移動應(yīng)用(APP)個人信息保護(hù)白皮書》及《2021年-中國智能手機(jī)用戶安全需求洞察報告》。《移動應(yīng)用(APP)個人信息保護(hù)白皮書》縱觀整個行業(yè),將產(chǎn)業(yè)現(xiàn)狀、趨勢和面臨的挑戰(zhàn)一一分析,同時附上了OPPO自身在個人信息保護(hù)工作中的經(jīng)驗(yàn)與心得;而《2021年-中國智能手機(jī)用戶安全需求洞察報告》則從用戶角度出發(fā),明確了用戶的安全需求,為尚在迷茫中的APP開發(fā)者指明了方向。
這意味著OPPO開始更深入地參與到個人信息保護(hù)的行業(yè)生態(tài)共建中。作為一家研發(fā)技術(shù)驅(qū)動、軟硬服一體的生態(tài)型科技公司,OPPO將自己對行業(yè)、用戶的深刻洞察以及業(yè)務(wù)實(shí)踐中積累的相關(guān)經(jīng)驗(yàn)交予全行業(yè),堅持以“用戶體驗(yàn)”為核心,始終關(guān)注用戶的安全與隱私問題——對于開發(fā)者而言,完善的標(biāo)準(zhǔn)、明晰的紅線和無憂的開發(fā)環(huán)境,無疑是開發(fā)路上最好的饋贈。
構(gòu)筑互聯(lián)網(wǎng)生態(tài)安全,OPPO在行動
OPPO常年深耕安全隱私技術(shù),秉持著“十年磨一劍”的精神,持續(xù)挑戰(zhàn)自我,不斷創(chuàng)新。但是,酒香也怕巷子深,本次OPPO安全AI挑戰(zhàn)賽暨AI安全高峰論壇,就是OPPO對外分享安全技術(shù)能力與實(shí)踐,與行業(yè)聯(lián)合創(chuàng)新共建AI安全生態(tài)的一次有力嘗試。
為什么OPPO能夠如此透徹地了解產(chǎn)業(yè)的痛點(diǎn)和用戶的需求?這離不開其安全生態(tài)體系建設(shè)中的關(guān)鍵一環(huán)——OPPO安全應(yīng)急響應(yīng)中心(OPPO Security Response Center,簡稱OSRC)。OSRC面向全社會收集并響應(yīng)安全漏洞與情報,它作為OPPO與安全業(yè)界溝通、交流的平臺,吸引了來自全球59個國家、超過2500位安全研究者加入。
在挑戰(zhàn)賽現(xiàn)場特設(shè)的OSRC年度頒獎環(huán)節(jié)上,我們可以看到包括HackerOne、Intel、百度、奇安信、騰訊、微軟等十幾家知名企業(yè)亮相獎臺。這些名號如雷貫耳的優(yōu)秀合作伙伴,都在OPPO的努力下攜起手來,共同致力于打造更加安全、美好的互聯(lián)網(wǎng)生態(tài)環(huán)境。

技術(shù)洪流滾滾而來,沒有哪一家公司可以絕對自信地說出,自己能夠提供所有完全適合于當(dāng)下的答案。但鼓勵創(chuàng)新、開放包容的心態(tài)能夠很好地幫助一家公司尋求更進(jìn)一步的解決方案、進(jìn)而推己及人,促使整個大環(huán)境正向發(fā)展。筆者認(rèn)為,OPPO安全團(tuán)隊與行業(yè)緊密的交流合作,以及在技術(shù)上的審慎和深思熟慮,都將確保他們的產(chǎn)品和服務(wù)能夠?yàn)橛脩?、開發(fā)者乃至整個社會,都提供力所能及的幫助。
更重要的是,OPPO有力、持續(xù)的“振臂高呼”,能夠啟發(fā)產(chǎn)業(yè)鏈條中更多的人投入到個人信息保護(hù)的行列中去——無論是消費(fèi)者、生產(chǎn)者還是監(jiān)督者。常言道“眾人拾柴火焰高”,如此這般長久下來,一個綠色、健康的安全行業(yè)指日可待。