AI的達(dá)摩克利斯之劍:企業(yè)如何建立安全隱私長(zhǎng)城?
摘要: 人類對(duì)自己面孔的探索,從上個(gè)世紀(jì)就開始了。
在數(shù)據(jù)成為生產(chǎn)要素的當(dāng)下,人頭意味著流量,面孔即是收益,大量從“人臉”開始的經(jīng)濟(jì)活動(dòng)也逐漸步入了大眾視野。不明真相的人們或許會(huì)驚嘆于從商者思維之敏捷,但其實(shí)不然——人類對(duì)自己面孔的探索,從上個(gè)世紀(jì)就開始了。
早在19世紀(jì)60年代,人類就開始嘗試使用計(jì)算機(jī)來進(jìn)行人臉識(shí)別,純?nèi)斯じ呔鹊拿娌刻卣鞫ㄎ皇蛊湫蕵O為低下,但每小時(shí)僅能辨別40張面孔的速度沒有把人們的熱情澆滅,隨著時(shí)間流逝反倒是越發(fā)高漲了。經(jīng)過堅(jiān)持不懈的鉆研,60年后的今天,人臉識(shí)別技術(shù)成為了現(xiàn)代人生活中不可或缺的一部分。
深度學(xué)習(xí)技術(shù)加持下的人工智能(AI)為人臉識(shí)別提供了強(qiáng)大的助力,只是技術(shù)沒有自我與思想,它帶來的結(jié)果,無一不和使用者的目的性息息相關(guān)。用在刀刃上的人臉識(shí)別,能為如火如荼的基礎(chǔ)設(shè)施建設(shè)添磚加瓦,在金融、醫(yī)療、交通等多個(gè)產(chǎn)業(yè)的關(guān)鍵場(chǎng)景發(fā)揮重要作用;但遇上樣本攻擊、深度偽造技術(shù)后,人臉識(shí)別也會(huì)成為黑灰產(chǎn)的一大幫兇。
Deepfake就是典型的“雙刃劍”:人工智能通過深度學(xué)習(xí),生成了逼真生動(dòng)的偽造“真相”——對(duì)于普羅大眾來說,觸手可及的“換臉”App能帶來不少樂趣,但政商界人士滑稽怪誕的“演講秀”和無中生有的名人色情視頻明顯越過了倫理道德的安全線,這引發(fā)了人們對(duì)身份盜用、信息謬誤以及隱私泄露的擔(dān)憂和對(duì)技術(shù)的不信任。
要想及早發(fā)現(xiàn)、解決AI技術(shù)帶來的副作用,構(gòu)建安全可信賴的行業(yè)生態(tài),行業(yè)內(nèi)的龍頭企業(yè)必須身先士卒,有所擔(dān)當(dāng);但整個(gè)安全行業(yè)目前面臨的,卻是一場(chǎng)大型的“用工荒”——由Cybersecurity Ventures發(fā)布的《2021全球網(wǎng)絡(luò)安全人才報(bào)告》顯示,過去八年間,全球網(wǎng)絡(luò)安全職位空缺同比增長(zhǎng)了350%,需求崗位從2013年的100萬個(gè)增加到了2021年的350萬個(gè)。
這種“粥多僧少”的情況在國內(nèi)同樣得到了印證:10月12日,國家網(wǎng)絡(luò)安全宣傳周“網(wǎng)絡(luò)空間安全學(xué)科專業(yè)建設(shè)與人才培養(yǎng)論壇”發(fā)布了《網(wǎng)絡(luò)安全產(chǎn)業(yè)人才發(fā)展報(bào)告(2021年版)》,報(bào)告指出,在2015年教育部批準(zhǔn)網(wǎng)絡(luò)空間安全學(xué)科為一級(jí)學(xué)科后,各大院校都開設(shè)了與網(wǎng)絡(luò)安全有關(guān)的專業(yè),但全國目前每年安全相關(guān)專業(yè)畢業(yè)生僅2萬余人,安全崗位的缺口卻高達(dá)100萬人。
要想改善安全行業(yè)的生態(tài),我們需要更多更YOUNG(年輕)的聲音。
年輕人才需要大舞臺(tái)
該如何給安全行業(yè)的年輕人一個(gè)展示自我的機(jī)會(huì)?模擬訓(xùn)練永遠(yuǎn)不會(huì)過時(shí)。對(duì)于尚在象牙塔內(nèi)的學(xué)生來說,安全賽事可以成為他們接觸業(yè)界的第一道橋梁,也是自我挑戰(zhàn)的第一塊試金石。
筆者想到了近幾年備受矚目的OPPO挑戰(zhàn)賽——2018年的“OGeek算法挑戰(zhàn)賽”和2019年的“OGeek網(wǎng)絡(luò)安全挑戰(zhàn)賽”,都是OPPO安全在前沿技術(shù)領(lǐng)域招募培養(yǎng)后備創(chuàng)新人才的大膽嘗試。高額獎(jiǎng)池與直通OPPO關(guān)鍵研發(fā)崗的校招通道,能夠切實(shí)獎(jiǎng)勵(lì)年輕一代付出的努力,也為安全行業(yè)輸送了更優(yōu)質(zhì)的火種。
有了前兩次賽事的成功作為鋪墊,2021年賽事品牌全面升級(jí)為“OPPO安全挑戰(zhàn)賽”,本年度賽事聚焦于人臉識(shí)別場(chǎng)景中的反AI的對(duì)抗攻擊,是網(wǎng)安領(lǐng)域前沿的課題,自6月中旬啟動(dòng)報(bào)名以來,持續(xù)受到高校學(xué)生的關(guān)注與支持。
賽事報(bào)名的消息一出便是一呼百應(yīng),線上參賽團(tuán)隊(duì)累計(jì)2000+,吸引了來自全球400多所高校的在校大學(xué)生參賽,其中來自清華大學(xué)、北京大學(xué)、上海交通大學(xué)、電子科技大學(xué)等知名高校的10支戰(zhàn)隊(duì)順利晉級(jí),獲得了角逐總決賽60萬元獎(jiǎng)金的資格。
筆者認(rèn)為,2021年的“OPPO安全挑戰(zhàn)賽”是OPPO安全技術(shù)賽事品牌在以往基礎(chǔ)上的全面提升。這一提升不光體現(xiàn)在更大的規(guī)模,還可以從OPPO對(duì)本次賽事匠心獨(dú)運(yùn)的安排中窺見一斑:“AI安全”乃是當(dāng)前技術(shù)領(lǐng)域最為關(guān)注也最需要大量實(shí)踐的熱點(diǎn)話題,為了遴選出最強(qiáng)者,OPPO從實(shí)戰(zhàn)角度出發(fā),利用黑盒模型增加了后臺(tái)構(gòu)建對(duì)抗樣本的難度,這對(duì)參賽者的技術(shù)水平提出了極高的要求。4小時(shí)不間斷的“馬拉松”告一段落,最終問鼎冠軍寶座的是來自清華大學(xué)“trivial”戰(zhàn)隊(duì)??梢娫绞请y以攀越的高山,越能引發(fā)強(qiáng)勁挑戰(zhàn)者的興趣。
令筆者欣慰的是,本次OPPO安全挑戰(zhàn)賽的參賽團(tuán)隊(duì)超過了2000支,這不僅代表著行業(yè)內(nèi)新生力量的欣欣向榮,更創(chuàng)下了參賽規(guī)模方面的新紀(jì)錄——OPPO此前多賽道齊頭并進(jìn)的成功經(jīng)驗(yàn)很好地助力了系列賽事的發(fā)展與提升,同時(shí)也為挖掘與培養(yǎng)安全領(lǐng)域相關(guān)人才做出了巨大貢獻(xiàn)。OPPO安全技術(shù)系列賽事,已然成為網(wǎng)絡(luò)安全領(lǐng)域的又一重磅賽事。
不難預(yù)見,未來OPPO仍會(huì)持續(xù)加大培養(yǎng)科技創(chuàng)新與技術(shù)人才的投入,通過持續(xù)關(guān)注安全隱私技術(shù)問題,不斷挖掘安全技術(shù)領(lǐng)域的潛力,積極擁抱萬物互融時(shí)代的變革。從長(zhǎng)遠(yuǎn)來看,OPPO搭建實(shí)戰(zhàn)演練平臺(tái)“以賽代練”的模式,可以構(gòu)成對(duì)全社會(huì)的激勵(lì),刺激良性循環(huán);而OPPO對(duì)優(yōu)質(zhì)人才培養(yǎng)路徑的探索,最終能夠反哺社會(huì),為中國網(wǎng)絡(luò)安全事業(yè)的發(fā)展盡自己的一份責(zé)任。
AI技術(shù)如何應(yīng)用于產(chǎn)業(yè)?
有年輕人的朝氣蓬勃,自然也有中堅(jiān)力量的寶刀未老——在同日下午召開的OPPO“AI 安全新戰(zhàn)場(chǎng)”高峰論壇上,OPPO高級(jí)算法工程師李啟明、張文剛,四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授陳文、京東信息安全部風(fēng)控算法負(fù)責(zé)人林元晟、英特爾人工智能架構(gòu)師俞巍等專家學(xué)者發(fā)表了主題演講,圍繞AI在產(chǎn)業(yè)內(nèi)的應(yīng)用與未來趨勢(shì),為參會(huì)者帶來了一場(chǎng)硬核的頭腦風(fēng)暴。
在OPPO高級(jí)算法工程師李啟明名為《OPPO的深度偽造和檢測(cè)的探索與實(shí)踐》的演講中,可以看到OPPO應(yīng)對(duì)深度偽造技術(shù)風(fēng)險(xiǎn)的經(jīng)驗(yàn),他從業(yè)務(wù)實(shí)戰(zhàn)的維度提供了一系列具體的技術(shù)應(yīng)用方法:包括如何減少模型算法計(jì)算量、快速適應(yīng)新偽造技術(shù)、提升模型魯棒性等。
四川大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授陳文針對(duì)AI在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用難題,進(jìn)行了名為《動(dòng)態(tài)變化網(wǎng)絡(luò)環(huán)境下AI模型的自學(xué)習(xí)能力》的分享,他將學(xué)界的前沿研究?jī)A囊相授,展示了在動(dòng)態(tài)變化的網(wǎng)絡(luò)環(huán)境下,遷移學(xué)習(xí)、協(xié)同學(xué)習(xí),以及多生成器對(duì)抗神經(jīng)網(wǎng)絡(luò)等能力在AI模型自適應(yīng)更新中的應(yīng)用。
京東信息安全部風(fēng)控算法負(fù)責(zé)人林元晟通過連線進(jìn)行了名為《智能風(fēng)險(xiǎn)監(jiān)測(cè)探索與實(shí)踐》的主題演講,他提出,使用深挖用戶行為模式研究以及半監(jiān)督方式對(duì)時(shí)序數(shù)據(jù)的異常風(fēng)險(xiǎn)監(jiān)測(cè),有助于提升電商平臺(tái)的安全風(fēng)控能力。
老牌500強(qiáng)企業(yè)英特爾的人工智能架構(gòu)師俞巍則以《基于英特爾隱私保護(hù)機(jī)器學(xué)習(xí)技術(shù)的案例與實(shí)踐》為議題,分享了第三代至強(qiáng)可擴(kuò)展處理器如何提升隱私保護(hù)機(jī)器學(xué)習(xí)的性能和效率,推動(dòng)隱私保護(hù)機(jī)器學(xué)習(xí)的生態(tài)建設(shè)的經(jīng)驗(yàn)。
只有經(jīng)過大量高價(jià)值面部識(shí)別數(shù)據(jù)訓(xùn)練,AI才能擁有更高的精確度,人亦是如此:經(jīng)過“AI安全新戰(zhàn)場(chǎng)”安全高峰論壇這場(chǎng)知識(shí)的饕餮盛宴,行業(yè)及安全從業(yè)者都能從中汲取養(yǎng)分,將最新的成果和行業(yè)的尖端趨勢(shì)內(nèi)化到自身的安全實(shí)踐中去——這類平臺(tái)的建立,對(duì)于安全業(yè)界的良性健康發(fā)展,必不可少。
從這些專家們的議題中可以看出,無論是業(yè)界還是學(xué)界,對(duì)于AI技術(shù)的運(yùn)用都有了新的突破:持續(xù)監(jiān)測(cè)解放了人力,節(jié)省了時(shí)間;基于風(fēng)險(xiǎn)的應(yīng)用控制能夠阻止不受信賴的進(jìn)程;最重要也最關(guān)鍵的,是AI如何得以進(jìn)行保證用戶隱私的學(xué)習(xí),并且在這一過程中得到改善,最終將這一能力反饋到用戶數(shù)據(jù)的保護(hù)之上,才能算“取之于民,用之于民”。
想要達(dá)成這一點(diǎn),具體該怎么做?我們無法得到一個(gè)標(biāo)準(zhǔn)答案,但可以在摸索中找尋那條同樣能通向羅馬的路,OPPO高級(jí)算法工程師張文剛分享了他的探索。
AI安全大腦:移動(dòng)應(yīng)用智慧檢測(cè)能力構(gòu)建
在名為《智能護(hù)盾安全大腦:移動(dòng)應(yīng)用智慧檢測(cè)能力構(gòu)建》的主題演講中,張文剛提出,日趨復(fù)雜多變的網(wǎng)絡(luò)環(huán)境,層出不窮的移動(dòng)應(yīng)用,使得用戶數(shù)據(jù)相關(guān)的問題屢屢頻發(fā)——作為應(yīng)用開發(fā)商的OPPO,需要確保自身數(shù)量龐大、面向全球的自研APP安全隱私合規(guī),也要防止來自外部的惡意攻擊;而作為手機(jī)廠商和應(yīng)用分發(fā)平臺(tái)的OPPO,則必須肩負(fù)起改善應(yīng)用服務(wù)生態(tài)環(huán)境的職責(zé),平臺(tái)內(nèi)部第三方APP的安全隱私問題,同樣重要。
若要從源頭上進(jìn)行治理,智能化、全方位的應(yīng)用安全治理體系是最優(yōu)選——基于大數(shù)據(jù)和AI安全大腦的OPPO智能護(hù)盾,應(yīng)運(yùn)而生。OPPO智能護(hù)盾內(nèi)部的安全大腦采用基于前沿深度學(xué)習(xí)、知識(shí)圖譜的多策略檢測(cè)、異常發(fā)現(xiàn)方法,集多個(gè)智能引擎為一體,顯著提升對(duì)隱私泄露、廣告作弊等惡意行為的識(shí)別率。而對(duì)隱私政策協(xié)議的智能識(shí)別,則使用了自然語言處理算法——預(yù)訓(xùn)練語言模型,實(shí)現(xiàn)文本檢測(cè)的效率、準(zhǔn)確率的提升。
OPPO智能護(hù)盾以端云協(xié)同的形式,廣泛應(yīng)用于用戶使用APP的所有場(chǎng)景,貫穿APP從測(cè)試、上架到卸載、下架的全生命周期,全鏈路安全隱私防護(hù),打通軟件商店、瀏覽器、手機(jī)管家等產(chǎn)品的安全防護(hù)能力,覆蓋用戶所有APP使用場(chǎng)景,為用戶構(gòu)建起了一套縱深、有效的防御體系——圍繞APP安全隱私治理,OPPO安全已累積下架上千款涉及廣告作弊的APP,軟件商店每年的APP上架審核超過100萬次,攔截風(fēng)險(xiǎn)APP約35萬次,下架惡意APP約3000款;瀏覽器每天攔截惡意網(wǎng)址約7000萬次,攔截惡意APP下載約300萬次。
另外,OPPO安全還通過對(duì)開發(fā)者開放安全隱私云查服務(wù)、安全檢測(cè)SDK和安全加固能力,既保障自研APP的安全隱私合規(guī),也為開發(fā)者提供了公平、綠色、可持續(xù)的 APP 生態(tài)環(huán)境,這樣既能真正為開發(fā)者賦能,又有利于企業(yè)與開發(fā)者共筑安全生態(tài)的長(zhǎng)遠(yuǎn)目標(biāo)。
這并不是OPPO為改善產(chǎn)業(yè)生態(tài)作出的唯一努力:筆者發(fā)現(xiàn),在剛剛過去的10月,OPPO就分別聯(lián)合德勤和益普索發(fā)布了《移動(dòng)應(yīng)用(APP)個(gè)人信息保護(hù)白皮書》及《2021年-中國智能手機(jī)用戶安全需求洞察報(bào)告》?!兑苿?dòng)應(yīng)用(APP)個(gè)人信息保護(hù)白皮書》縱觀整個(gè)行業(yè),將產(chǎn)業(yè)現(xiàn)狀、趨勢(shì)和面臨的挑戰(zhàn)一一分析,同時(shí)附上了OPPO自身在個(gè)人信息保護(hù)工作中的經(jīng)驗(yàn)與心得;而《2021年-中國智能手機(jī)用戶安全需求洞察報(bào)告》則從用戶角度出發(fā),明確了用戶的安全需求,為尚在迷茫中的APP開發(fā)者指明了方向。
這意味著OPPO開始更深入地參與到個(gè)人信息保護(hù)的行業(yè)生態(tài)共建中。作為一家研發(fā)技術(shù)驅(qū)動(dòng)、軟硬服一體的生態(tài)型科技公司,OPPO將自己對(duì)行業(yè)、用戶的深刻洞察以及業(yè)務(wù)實(shí)踐中積累的相關(guān)經(jīng)驗(yàn)交予全行業(yè),堅(jiān)持以“用戶體驗(yàn)”為核心,始終關(guān)注用戶的安全與隱私問題——對(duì)于開發(fā)者而言,完善的標(biāo)準(zhǔn)、明晰的紅線和無憂的開發(fā)環(huán)境,無疑是開發(fā)路上最好的饋贈(zèng)。
構(gòu)筑互聯(lián)網(wǎng)生態(tài)安全,OPPO在行動(dòng)
OPPO常年深耕安全隱私技術(shù),秉持著“十年磨一劍”的精神,持續(xù)挑戰(zhàn)自我,不斷創(chuàng)新。但是,酒香也怕巷子深,本次OPPO安全AI挑戰(zhàn)賽暨AI安全高峰論壇,就是OPPO對(duì)外分享安全技術(shù)能力與實(shí)踐,與行業(yè)聯(lián)合創(chuàng)新共建AI安全生態(tài)的一次有力嘗試。
為什么OPPO能夠如此透徹地了解產(chǎn)業(yè)的痛點(diǎn)和用戶的需求?這離不開其安全生態(tài)體系建設(shè)中的關(guān)鍵一環(huán)——OPPO安全應(yīng)急響應(yīng)中心(OPPO Security Response Center,簡(jiǎn)稱OSRC)。OSRC面向全社會(huì)收集并響應(yīng)安全漏洞與情報(bào),它作為OPPO與安全業(yè)界溝通、交流的平臺(tái),吸引了來自全球59個(gè)國家、超過2500位安全研究者加入。
在挑戰(zhàn)賽現(xiàn)場(chǎng)特設(shè)的OSRC年度頒獎(jiǎng)環(huán)節(jié)上,我們可以看到包括HackerOne、Intel、百度、奇安信、騰訊、微軟等十幾家知名企業(yè)亮相獎(jiǎng)臺(tái)。這些名號(hào)如雷貫耳的優(yōu)秀合作伙伴,都在OPPO的努力下攜起手來,共同致力于打造更加安全、美好的互聯(lián)網(wǎng)生態(tài)環(huán)境。
技術(shù)洪流滾滾而來,沒有哪一家公司可以絕對(duì)自信地說出,自己能夠提供所有完全適合于當(dāng)下的答案。但鼓勵(lì)創(chuàng)新、開放包容的心態(tài)能夠很好地幫助一家公司尋求更進(jìn)一步的解決方案、進(jìn)而推己及人,促使整個(gè)大環(huán)境正向發(fā)展。筆者認(rèn)為,OPPO安全團(tuán)隊(duì)與行業(yè)緊密的交流合作,以及在技術(shù)上的審慎和深思熟慮,都將確保他們的產(chǎn)品和服務(wù)能夠?yàn)橛脩?、開發(fā)者乃至整個(gè)社會(huì),都提供力所能及的幫助。
更重要的是,OPPO有力、持續(xù)的“振臂高呼”,能夠啟發(fā)產(chǎn)業(yè)鏈條中更多的人投入到個(gè)人信息保護(hù)的行列中去——無論是消費(fèi)者、生產(chǎn)者還是監(jiān)督者。常言道“眾人拾柴火焰高”,如此這般長(zhǎng)久下來,一個(gè)綠色、健康的安全行業(yè)指日可待。