人工智能驅動的騙局已經成爲國際關注的問題，據《韓國時報》報道，最近在消息應用程序 Telegram 上發現了許多涉嫌創建和分發帶有普通女性和女性軍人被篡改照片的深度僞造色情材料的聊天室。據報道，肇事者使用 Instagram 等社交媒體平台保存或截屏受害者的照片，然後用于制作深度假色情材料。
類似 "N 号房 " 的事件再次發生，引發了公衆對深度僞造技術（Deepfake）濫用的擔憂。這種技術通過人工智能算法，能夠将人物的面部特征無縫地替換到另一個人的身上，從而制造出極其逼真的僞造視頻或圖片。
愈演愈烈
Deepfake 源于 2017 年，一名 Reddit 用戶通過深度學習算法将色情女演員的面部替換成了一些美國知名演員，引起了一些争議。
其後，層出不窮的 Deepfake 技術的濫用也引發了廣泛的社會關注和争議。例如，攻擊者可以利用該技術生成虛假的視頻和音頻内容，以誤導公衆、散布謠言或進行詐騙等不法行爲。這些行爲嚴重威脅到了信息的真實性和社會的信任體系。
不久前，一場由 Deepfake 技術創建的虛拟 " 馬斯克 " 在深夜直播，引起了極大的關注，上萬名觀衆在線圍觀并打賞。這位 " 馬斯克 " 不僅手舞足蹈模仿火箭發射，甚至還與網友連麥互動，活力滿滿不似本尊。
外媒曾報道過一名 82 歲的美國退休老人因信以爲真的虛拟馬斯克宣傳視頻，損失了 69 萬美元的退休金。詐騙分子利用 Deepfake 制作了 " 馬斯克 " 宣傳投資機會的視頻，誘導老人将錢投資給了虛假的公司。自去年年底以來，馬斯克出現在近 1/4 的深度僞造詐騙視頻中，其中針對加密貨币的視頻出現率更是達到 90%。
如何甄别
真實圖像與篡改圖像在紋理、顔色等顯性特征，以及肉眼不可見的隐性特征上存在差異。通過深度學習模型，能夠深入挖掘和分析這些差異，從而有效檢測并識别 Deepfake 圖像。
合合信息圖像算法研發總監郭豐俊告訴動點科技記者，當人們在網上發送含有個人信息的圖片時，這些資料包含的信息很可能被不法分子使用 OCR 技術提取并洩露。OCR 對抗攻擊技術可對場景文本或者文檔内文本進行擾動，爲個人或企業的重要文件 " 上鎖 "，防止第三方通過 OCR 系統讀取并保存圖像中所有的文字内容，降低數據洩露的風險，達到保護隐私信息的目的。
郭豐俊指出，今年的 AI 圖像篡改檢測技術相比去年有了顯著的優化和升級，尤其是在處理截圖篡改方面。" 區别于傳統圖像，截圖場景幾乎沒有背景紋理，這對篡改檢測提出了更高的挑戰。合合信息技術團隊通過大規模樣本預訓練模型，成功拟合出截圖篡改中微弱信息，實現了對截圖場景的有效篡改檢測。這一技術還能夠通用推廣到掃描文檔的場景中。"
相比圖像和語音，視頻鑒僞可以利用的線索更多，所以準确率往往更高。例如，即使單個僞造畫面看上去都沒有瑕疵，但連續僞造畫面可能會出現時序瑕疵，例如畫面抖動、違反物理規律的現象，這些都會在視頻鑒僞模型裏加以建模。
據了解，瑞萊智慧打造的 DeepReal，就能夠快速、精準地對圖像、視頻、音頻、文本内容進行真僞鑒别，有效打擊 AI 詐騙、色情黑産、虛假宣傳、證據造假等違法違規行爲，主要服務于監管機構、公安機關等。而 RealBelieve 則是瑞萊智慧首個可實時檢測 AI 合成内容産品，它直接面向終端用戶服務，能夠提供主動實時檢測防護，可接入視頻流鑒别人臉真僞，也可在用戶浏覽網頁内容時提供 AIGC 合成可能性提示，現在正在進行内測。
瑞萊智慧聯合創始人、算法科學家蕭子豪告訴動點科技記者，随着生成式人工智能技術的迅猛發展，深度僞造内容越來越逼真且多元。主要挑戰在于新的僞造技術層出不窮，網絡傳播環境的日趨複雜，加上基于深度神經網絡的檢測算法存在結構性缺陷等，反深僞檢測技術也面臨 " 強對抗性 "，需要持續更新與叠代優化。類似于 " 貓鼠遊戲 "，深度僞造和檢測在不斷學習攻防過程中會自我進化，規避上一代的對抗技術。這是一場沒有終點的對抗，需要持續進行大量投入。
信也科技副總裁、大數據和 AI 負責人陳磊則指出："（人工智能）一般是先有生成的能力，才會有鑒僞的能力，所以從大的原理上來說，它其實就是在不斷地對抗。我們一方面要關注單點上面技術的對抗，另外一方面要綜合看一些實際的問題，比如針對風險或者欺詐，不能從單一的維度看語音或者圖像，而是要綜合各個維度進行綜合的判斷。技術進步可能在單點上能有很大的突破，但從全局角度來講，需要更系統地進行融合，既要看對話的部分，也要看曆史表現的部分。"
結語
随着人工智能技術的飛速發展，Deepfake 技術帶來的挑戰日益凸顯，它不僅在社交媒體上引發了關于隐私和安全的廣泛擔憂，也對現有的法律和倫理規範提出了嚴峻考驗。從 " 韓國 N 号房 " 事件到虛拟名人詐騙，Deepfake 技術濫用的案例不斷提醒我們，技術進步的同時也需要加強監管和防範措施。
面對這一挑戰，全球範圍内的科技公司、監管機構和社會各界都在積極探索解決方案。一方面，加強技術研發，提升 Deepfake 内容的檢測和識别能力，以确保信息的真實性和可信度；另一方面，完善法律法規，明确界定 Deepfake 技術的合法使用範圍，加大對濫用技術的懲處力度，同時提高公衆的防範意識和自我保護能力。
未來，随着技術的不斷進步和應用場景的不斷拓展，Deepfake 技術也将面臨更多的挑戰和機遇。如何在保障個人隐私和公共安全的前提下，合理利用這一技術，将是我們共同需要思考和解決的問題。這場關于技術與道德、法律與倫理的讨論，無疑将持續下去，直到我們找到最佳的平衡點。
