人工智能安全解決方案
背景介紹
據(jù)Gartner預(yù)測，到2020年將有20%的公司使用人工智能技術(shù)提升企業(yè)內(nèi)部應(yīng)用和流程，到2030年人工智能將促使全球生產(chǎn)總值增長14%，人工智能技術(shù)將會在眾多領(lǐng)域中得到應(yīng)用。
然而，訓(xùn)練一個深度學(xué)習(xí)模型通常意味著大量訓(xùn)練數(shù)據(jù)、龐大的計算資源和擁有人性化專業(yè)知識的專家學(xué)者，這使得模型的知識產(chǎn)權(quán)保護(hù)成為非常關(guān)鍵的問題。另一方面，研究發(fā)現(xiàn)深度神經(jīng)網(wǎng)絡(luò)對于輸入中帶有的輕微擾動較脆弱，會導(dǎo)致錯誤的輸出。這些都限制了人工智能深度模型的廣泛應(yīng)用。
解決方案
- (1)借鑒傳統(tǒng)數(shù)字水印技術(shù)思想，研發(fā)出能夠確認(rèn)深度學(xué)習(xí)模型所有權(quán)的框架，該框架會為模型所有者生成定制水印和預(yù)定義標(biāo)簽；生成水印后，通過訓(xùn)練，它會將生成的水印嵌入到目標(biāo)模型中；完成嵌入后，新生成的模型能夠進(jìn)行所有權(quán)驗證，一旦發(fā)現(xiàn)模型被盜用，所有者可以把水印作為輸入，檢查它的輸出。
- (2)在對抗樣本攻防上，攻擊方法上從經(jīng)典的快速梯度攻擊、雅克比映射攻擊、深度欺騙攻擊和邊界攻擊等上發(fā)展演化出新的攻擊算法；防御方法上在完全防御和檢測防御方向均有所突破。
方案特色
- (1)魯棒性高，加入水印的深度學(xué)習(xí)模型，不影響訓(xùn)練過程和模型性能，有效確認(rèn)所有權(quán);
- (2)建立對深度學(xué)習(xí)系統(tǒng)安全評估方法和評估指標(biāo)，對抗攻擊具有很強(qiáng)的遷移性;
- (3)算法成熟，具體內(nèi)容可定制。