工信部：将推出 AI 換臉詐騙風險提醒功能，僅在手機端本地運行

IT 之家 8 月 18 日消息，據央視網報道，AI 換臉詐騙檢測與預警技術正在測試中。

工業和信息化部反詐工作專班專家李坤表示：" 我們正在會同行業内的手機終端企業，将推出 AI 換臉詐騙風險提醒功能，這項功能僅在手機端來本地運行，能夠有效保護用戶數據不洩露。經過用戶授權後，可爲用戶提供 AI 換臉詐騙風險預警提醒。"

當用 AI 換了臉的技術人員與記者發起視頻通話時，測試手機終端提示 " 對方疑似假冒身份 "。點擊檢測按鈕，經過圖像掃描，系統提示 "AI 換臉合成概率 93%"。

IT 之家了解到，AI 換臉主要是使用深度合成技術。《互聯網信息服務深度合成管理規定》提出了算法備案、安全評估的手段，要求深度合成服務提供者對深度合成的内容添加顯式或隐式水印。

中國信通院人工智能所安全與元宇宙部專家陳文弢稱：" 要對生成合成的内容去添加一些水印，這個水印的本質其實就是要一方面去提示公衆這個内容是由 AI 生成或者合成的，另一方面也是要追溯它的來源。"