IT 之家 2 月 19 日消息，随着深度僞造技術（deepfake）的不斷發展，人們對虛假信息、詐騙和身份盜竊的擔憂日益加劇。一項最新研究顯示，人們對 AI 工具的認知水平極低，難以有效識别深度僞造内容。
根據 iProov 的一項最新研究，大多數人在區分深度僞造内容與真實内容時存在困難。該研究邀請了來自英國和美國的 2000 名參與者，向他們展示了一系列真實和 AI 生成的圖像及視頻。結果顯示，僅有 0.1% 的參與者 —— 也就是兩個人，能夠準确區分真實内容與深度僞造内容。
研究還發現，老年人更容易受到人工智能生成的虛假内容的欺騙。大約 30% 的 55 至 64 歲人群和 39% 的 65 歲以上人群此前從未聽說過深度僞造。盡管年輕參與者對自己的深度僞造檢測能力更有信心，但他們在測試中的實際表現并未優于其他年齡段。
研究發現，深度僞造視頻比圖像更難被識别，參與者正确識别假視頻的可能性比識别假圖像低 36%。
IT 之家注意到，社交媒體平台被認爲是深度僞造内容的主要傳播渠道。近半數參與者（49%）認爲 Meta 旗下的平台，包括 Facebook 和 Instagram，是深度僞造内容最常見的來源，而 47% 的人則指向 TikTok。
即使人們懷疑某個内容是深度僞造，大多數人也不會采取行動。隻有 20% 的受訪者表示，如果在網上遇到疑似深度僞造内容，他們會進行舉報。
随着深度僞造技術愈發逼真，iProov 認爲僅靠人類感知已無法可靠地識别深度僞造内容，需要采用帶有活體檢測功能的生物識别安全解決方案來應對日益逼真的深度僞造威脅。
