近日，三六零(601360.SH，下稱“360”) AI安全實驗室對谷歌Tensorflow進行安全評測，共新發(fā)現(xiàn)71個漏洞，目前均已被谷歌確認并修復(fù)。據(jù)悉，在不到一年的時間里，360 AI安全實驗室已經(jīng)累計發(fā)現(xiàn)并幫助谷歌修復(fù)Tensorflow漏洞（CVE）98個，其中高危、嚴(yán)重漏洞共24個，在數(shù)量上均位列全球首位。

360 AI安全實驗室負責(zé)人鄒權(quán)臣指出，機器學(xué)習(xí)框架是人工智能基礎(chǔ)設(shè)施的核心，作為目前最流行的機器學(xué)習(xí)框架之一，Tensorflow安全性問題直接關(guān)系到廣大AI應(yīng)用開發(fā)者和用戶。然而，當(dāng)前Tensorflow等開源機器學(xué)習(xí)框架缺乏嚴(yán)格的安全測試，可能存在嚴(yán)重的安全風(fēng)險，一旦被攻擊者惡意攻擊，將會危及整個AI服務(wù)的可用性和可靠性，甚至有可能導(dǎo)致重大財產(chǎn)損失與惡劣的社會影響。

目前，360 AI安全實驗室共發(fā)現(xiàn)機器學(xué)習(xí)框架漏洞150余個，涉及被廣泛使用的Tensorflow，PyTorch等國內(nèi)外7個機器學(xué)習(xí)開源框架，利用這些漏洞可造成任意代碼執(zhí)行、拒絕服務(wù)攻擊、信息泄露等危害。

據(jù)介紹，能夠發(fā)現(xiàn)這些漏洞，關(guān)鍵在于360 AI安全實驗室旗下機器學(xué)習(xí)框架的安全評測平臺AIFater。該平臺能夠從算法實現(xiàn)、漏洞類型、編譯優(yōu)化等多角度持續(xù)開展對機器學(xué)習(xí)框架的安全風(fēng)險研究，采用動、靜結(jié)合的分析方法對Python、C++、Go等不同語言中的不同漏洞類型進行全面系統(tǒng)的檢測，檢測過程著重關(guān)注從訓(xùn)練到推理、從數(shù)據(jù)到模型、從云端到終端過程中存在的安全風(fēng)險。

除基本的安全性評測功能，AIFater基于豐富的安全專家知識庫，能夠提供對AI框架業(yè)務(wù)的定制化檢測，如對計算圖優(yōu)化、圖編譯、分布并行等模塊的安全性檢測。

360 AI安全實驗室隸屬于360未來安全研究院，專注于人工智能與安全前沿技術(shù)研究。實驗室發(fā)現(xiàn)AI框架、智能設(shè)備、AI應(yīng)用等多維度AI系統(tǒng)安全風(fēng)險，并提供安全評測和防護服務(wù)；開展AI賦能網(wǎng)絡(luò)安全的研究工作，應(yīng)用AI技術(shù)在惡意代碼識別、流量分析、漏洞挖掘、涉詐APK檢測等重要場景中取得突破性進展。

此外，實驗室還承擔(dān)了由科技部批復(fù)、360集團承建的“安全大腦國家新一代人工智能開放創(chuàng)新平臺”的建設(shè)工作。該平臺致力于解決人工智能系統(tǒng)安全風(fēng)險、人工智能在網(wǎng)絡(luò)安全領(lǐng)域創(chuàng)新成果落地難以及人工智能創(chuàng)新環(huán)境匱乏等問題，將賦能中小初創(chuàng)安全企業(yè)、垂直行業(yè)、人工智能產(chǎn)業(yè)，提升國家人工智能安全整體防御能力，打造人工智能“安全底座”。

360 AI安全實驗室建議，各廠商應(yīng)繼續(xù)加強在框架安全方面的重視和投入，并協(xié)同硬件安全、算法安全、數(shù)據(jù)安全等軟硬件各維度的安全防御技術(shù)，建立一體化安全防御體系。