科技日報記者 劉霞
據(jù)英國《新科學(xué)家》網(wǎng)站4日報道，人工智能（AI）深度偽造技術(shù)日益泛濫，美國加州大學(xué)爾灣分校科學(xué)家開發(fā)出一款通用檢測器，能以95%—99%的準(zhǔn)確率識別各類AI深度偽造視頻，有望成為打擊網(wǎng)絡(luò)虛假信息的有力武器。
隨著AI技術(shù)門檻降低，深度偽造視頻正以驚人速度污染網(wǎng)絡(luò)空間。從偽造政客演講干擾選舉，到制作名人色情視頻進(jìn)行敲詐，再到仿冒高管實(shí)施金融詐騙，這些“數(shù)字贗品”已成為新型網(wǎng)絡(luò)公害。然而，現(xiàn)有檢測工具大多只能識別換臉視頻。
為精準(zhǔn)檢測出各種各樣的深度偽造視頻，研究團(tuán)隊(duì)開發(fā)出新款“打假神器”。這款檢測器可發(fā)現(xiàn)深度偽造視頻中時空維度的失真痕跡，不僅能捕捉人臉部位的細(xì)微破綻，還能發(fā)現(xiàn)背景光影的異常波動，發(fā)現(xiàn)純AI生成視頻中不自然的像素排列，甚至辨別出高仿真游戲畫面的非AI生成本質(zhì)。
測試數(shù)據(jù)顯示，這款“打假神器”在識別4類主流偽造視頻時，準(zhǔn)確率碾壓所有現(xiàn)有工具。
值得注意的是，研發(fā)團(tuán)隊(duì)成員包括多位谷歌科學(xué)家。雖然谷歌尚未回應(yīng)是否會在YouTube部署該技術(shù)，但作為AI內(nèi)容水印技術(shù)的倡導(dǎo)者，這家科技巨頭的參與預(yù)示著該檢測器可能擁有廣闊的應(yīng)用前景。
研究團(tuán)隊(duì)接下來將攻關(guān)實(shí)時視頻會議的偽造檢測，以應(yīng)對最新的視頻會議詐騙手法。
