在AI人工智能新時(shí)代，歸屬于防毒軟件的“輝煌年代“是否己經(jīng)結(jié)束了？AI人工智能做為推動(dòng)新一波科技革命和產(chǎn)業(yè)變革的革命性技術(shù)，己經(jīng)滲入了社會(huì)日常生活的方方面面?？稍谛录夹g(shù)為人們?nèi)粘Ｉ顜碇T多便利的同時(shí)，其帶來的的安全隱患也備受關(guān)注，比如數(shù)據(jù)信息泄露、算法偏見、算法系統(tǒng)漏洞等問題，給經(jīng)濟(jì)發(fā)展和社會(huì)安全帶來了多種挑戰(zhàn)。
“安全是發(fā)展的前提條件，保證 AI人工智能安全、可靠、可控，才算是守衛(wèi)AI人工智能穩(wěn)健發(fā)展的根本?！比鹑R智慧CEO田天說。
4月8日，這一來自清華大學(xué)AI人工智能研究所的創(chuàng)業(yè)團(tuán)隊(duì)發(fā)布了國內(nèi)第一個(gè)針對算法模型本身安全的檢測系統(tǒng)——RealSafeAI人工智能安全平臺(tái)。做為AI人工智能新時(shí)代的“防毒軟件”，該平臺(tái)可提供從測評到防御完整的解決方法，迅速減輕對抗樣本攻擊威脅。AI人工智能問世60多年來，技術(shù)獲得了長足的進(jìn)步，但仍存有著模型缺點(diǎn)、算法不可解釋性、數(shù)據(jù)信息強(qiáng)依賴感等“軟肋”。伴隨著數(shù)據(jù)量、算力的大幅度提高，未來AI人工智能技術(shù)的應(yīng)用場景會(huì)日漸提升，而且將從語音識(shí)別技術(shù)、面部識(shí)別等領(lǐng)域逐漸拓寬向金融管理決策、工業(yè)生產(chǎn)經(jīng)營、醫(yī)療診斷、自動(dòng)駕駛等更高市場價(jià)值的應(yīng)用領(lǐng)域，這將對AI人工智能技術(shù)的安全性、可靠性提出更高要求，提高算法安全性成為新一波AI人工智能智能產(chǎn)業(yè)升級下的新方位。
2018年，中國通信網(wǎng)絡(luò)研究所安全研究編制的《AI人工智能安全白皮書》中提到，“算法安全”是AI人工智能六大安全隱患之一，并著重指出了“對抗樣本攻擊引誘算法鑒別出現(xiàn)誤判漏判“這種算法模型缺點(diǎn)為算法安全的關(guān)鍵風(fēng)險(xiǎn)項(xiàng)。田天講解，對抗樣本是機(jī)器學(xué)習(xí)模型的1個(gè)有意思狀況，但根據(jù)在源數(shù)據(jù)信息上提升人類沒法根據(jù)感官識(shí)別到的微小改變，能夠讓機(jī)器學(xué)習(xí)模型接受并作出錯(cuò)誤的歸類決定。比如，在一張“阿爾卑斯山”的照片上添加一些人眼沒法覺察的噪聲，一切正常狀況下人眼依然能分辨這張圖顯示信息的是高山，可是圖像分類模型卻會(huì)將它錯(cuò)誤鑒別為狗。
歷經(jīng)持續(xù)的升級演變，對抗樣本攻擊己經(jīng)不僅滯留在數(shù)據(jù)世界，針對物理世界的攻擊也開始出現(xiàn)。如在地面上粘貼對抗樣本貼紙效仿合拼雜帶，誤導(dǎo)特斯拉自動(dòng)駕駛汽車拐進(jìn)逆行車道；佩戴對抗樣本生成的眼鏡，輕易破解手機(jī)面部解鎖；胸前張貼對抗樣本貼紙即可實(shí)現(xiàn)“隱身”等?！霸诰W(wǎng)絡(luò)安全新時(shí)代，網(wǎng)絡(luò)攻擊的大規(guī)模滲透倒逼了防毒軟件的問世?！碧锾煺f，“針對算法系統(tǒng)漏洞這種‘新型病毒’，人們同樣需要開展安全評估評測能力建設(shè)，打造AI人工智能新時(shí)代的‘防毒軟件’，以技術(shù)手段為支撐，切實(shí)規(guī)避AI人工智能算法缺點(diǎn)可能帶來的安全隱患。
借助于清華大學(xué)人工智能研究院及本身數(shù)年來的技術(shù)累積，瑞萊智慧研發(fā)的人工智能安全平臺(tái)，內(nèi)嵌了優(yōu)秀的攻防優(yōu)化算法模型，為政府部門、公司等提供安全性測評與安全防范，高效用對優(yōu)化算法威脅。相比于普遍的開源工具需要自主部署、撰寫代碼，這一“殺毒”平臺(tái)只需要使用者提供相應(yīng)的數(shù)據(jù)，就可以線上進(jìn)行評定，降低了優(yōu)化算法測評的技術(shù)難度。該平臺(tái)支持五種去除對抗噪聲的通用防御方法，可對輸入數(shù)據(jù)進(jìn)行自動(dòng)去噪處理，破壞攻擊者惡意添加的對抗噪聲。經(jīng)測試，一部分第三方人臉對比應(yīng)用程序接口在使用平臺(tái)的防御方案加固后，安全性可提升 40%以上。
“發(fā)布安全性檢測平臺(tái)是規(guī)避人工智能風(fēng)險(xiǎn)的1條路徑，未來我們還需要聯(lián)合各界力量，共同推動(dòng)人工智能安全性相關(guān)的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、聯(lián)盟標(biāo)準(zhǔn)的制定，為人工智能產(chǎn)品安全評估測評的統(tǒng)一參考?！碧锾熳詈笳f。
