AI模型水印
應(yīng)用背景：神經(jīng)網(wǎng)絡(luò)模型作為一種服務(wù)提供給用戶(hù)使用，既可能通過(guò)遠(yuǎn)程API接口提供給用戶(hù)進(jìn)行黑盒使用，也可能借助神經(jīng)網(wǎng)絡(luò)良好的遷移性將網(wǎng)絡(luò)完全提供給用戶(hù)進(jìn)行白盒使用。這兩種場(chǎng)景下都存在惡意用戶(hù)盜取模型的可能性，此時(shí)就需要一種機(jī)制來(lái)證明模型的知識(shí)產(chǎn)權(quán)。
解決方案：在模型中嵌入水印，借助于水印來(lái)標(biāo)識(shí)模型的所有者。具體來(lái)說(shuō)包括兩類(lèi)，一是在模型的權(quán)重中嵌入水印，另一種是借助于后門(mén)的思想在網(wǎng)絡(luò)訓(xùn)練的過(guò)程中引入后門(mén)觸發(fā)集。
