根據 Juimo《2024 在線身份研究報告》（簡稱《報告》）對包括美國、英國、新加坡和墨西哥等在内的多個國家超 8000 名消費者的調研顯示：近四分之三的消費者（72%）每天都擔心被深度僞造欺騙，從而洩露敏感信息或被騙金錢。隻有 15% 的全球消費者（新加坡隻有 7%）表示他們從未遇到過深度僞造的視頻、音頻或圖像。
深度僞造正在成爲網絡欺詐的重點難題
伴随着生成式 AI 的發展，AI 技術在給帶來便捷的同時也被不法分子所利用，網絡犯罪的成本更低、效率更高，且更難被人們識破。奇安信集團發布的《2024 人工智能安全報告》中顯示，2023 年基于 AI 的深度僞造欺詐暴增 3000%，基于 AI 的釣魚郵件增長 1000%。
Jumio 亞太區區域總監丁娜娜告訴钛媒體 APP，深度僞造技術是數字世界的隐蔽 " 傀儡師 "，他們操縱視覺内容，通過使用強大的算法和人工智能實現 " 換臉 "，并創建非常逼真但完全虛構的視頻或圖像，從而捏造虛假現實。新興換臉技術的出現是深度僞造的又一次演變，涉及網絡犯罪分子結合現有視頻或直播的新方法，并在原始信息流上實時疊加另一個身份。
據統計，僅 2022 年一年，冒名欺詐就給英國消費者造成了 1.07 億英鎊的損失，給美國消費者造成了 26 億美元的損失，給新加坡造成了 1.01 億新元的損失。
不僅于此，在中國，利用 AI 實施電信詐騙的案例也已屢見不鮮。2023 年 5 月，内蒙古包頭市公安局電信網絡犯罪偵查局發布一起使用智能 AI 技術進行電信詐騙的案件，福州市某科技公司法人代表郭先生 10 分鍾内被騙 430 萬元。
案件具體如下：4 月 20 日中午，郭先生的好友突然通過微信視頻聯系他，自己的朋友在外地競标，需要 430 萬元保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基于對好友的信任，加上已經視頻聊天核實了身份，郭先生沒有核實錢款是否到賬，就分兩筆把 430 萬轉到了好友朋友的銀行卡上。郭先生撥打好友電話，才知道被騙。騙子通過智能 AI 換臉和拟聲技術，佯裝好友對他實施了詐騙。
顯然，生成式 AI 技術的發展，已經對線上交流的 " 信任度 " 造成了極大的沖擊。在企業側亦是如此，Gartner 預測，到 2026 年，30% 的企業将因爲 AI 生成的人臉生物識别深度僞造攻擊，而認爲此類身份認證和驗證解決方案不再能夠起到可靠的作用。
通過深度僞造技術，不法分子可僞造員工身份，進而非法訪問企業内部系統。通過精心制作的僞造視頻和音頻，攻擊者可以模仿高層管理人員的面部表情、語氣甚至行爲模式，從而增加對指令的信任度，實現非法操作或竊取敏感數據。這不僅可能導緻企業遭受重大經濟損失，還可能洩露核心商業機密，影響企業的競争力。
另一方面，Gartner 預測，到 2025 年，生成式 AI 的采用将導緻企業機構所需的網絡安全資源激增，使應用和數據安全支出增加 15% 以上。
用 AI 抵抗 AI
面對 AI 帶來的日益嚴峻的安全挑戰，" 用 AI 抵抗 AI" 已經成爲安全行業的共識，" 面對 AI 大模型時代的深度僞造技術欺詐，我們建議企業使用先進的人工智能和生物識别分析來防範和對抗，" 丁娜娜告訴钛媒體 APP，" 爲了防止深度僞造，解決方式是必須控制自拍過程并拍攝一系列圖像，以确定該人是否真實存在并保持清醒，而不是睡眠狀态，不是面具、照片或視頻，也不是深度僞造。"
從企業角度出發，企業應該将基于機器學習和深度學習的圖像、視頻、音頻檢測算法等在内的技術引入到自身安全系統之中，這些技術可以幫助識别出僞造内容，從而減少虛假信息的傳播。
在丁娜娜看來，真實性檢測步驟必須使用先進的 AI 和機器學習模型，而這些模型已經通過各種真實世界數據的訓練。" 這一步對于阻止欺詐者絕對至關重要，因爲欺詐者現在可以輕而易舉地制造出非常逼真的深度僞造照片，輕松騙過舊的身份驗證技術。" 丁娜娜強調。與此同時，自拍驗證步驟還應該提供其他生物識别檢查，如年齡評估，以标記與身份證件數據不符的自拍照。
通過活體檢測技術，企業可以發現複雜的攻擊，包括人臉交換、人臉變形和其他高級的欺騙攻擊。不僅于此，在丁娜娜看來，企業還應當采用包括主動光源、視頻注入檢測以及眼部和面部運動分析等在内的先進技術，阻止攻擊，并确認當前用戶及其身份證件确實存在。" 對于 Jumio 來說，我們能夠基于面部的生物識别技術将自拍照中的特定面部特征（如眼睛、鼻子和耳朵的間距）與身份證件照片中的面部特征進行比較，來判斷兩者是否爲同一個人。" 丁娜娜指出。
以金融行業爲例，金融行業在傳統的 eKYC（基于區塊鏈的企業電子身份認證信息系統）之外，結合生物識别認證技術将有助于增強安全性。例如，驗證用戶的個人身份信息 ( PII ) 、驗證年齡、評估用戶電子郵件和電話号碼的信用級别、通過 IP 地址驗證用戶的位置，評估設備的可信度以評估用戶的風險等級。擁有高度準确和主動化的身份驗證解決方案，将有助于實時攔截可疑交易并迅速采取适當的行動。對于出海企業來說，還需要考慮不同國家和地區的客戶盡調标準和跨境支付工作流程。
40+ 模型接入，黑名單數據庫 ...... 讓客戶轉化率提升 40%
通過 AI 模型的技術，能讓企業在進行 eKYC 時，效率更高，準确率更高，線上用戶提供自拍進行人臉身份認證登入賬号，增強了平台的安全性的同時，還可以确保 KYC 的合規性。
以 Jumio 的 eKYC 身份證件驗證系統爲例，該系統擁有 200 餘個國家，超 5000 款證件的模闆，并接入了 40 多個機器學習模型，并且依托于全球第二大黑名單數據庫。據丁娜娜介紹，通過自動化在線身份驗證技術，用戶可以在幾秒内就能完成 KYC 流程，從而提升用戶體驗和客戶轉化率約 40%。與此同時，實施線上身份驗證解決方案後，對于跨境的企業而言，可以在保持低運營成本的同時，在全球範圍内招攬更多的用戶。
而面對钛媒體 APP 提出的，用戶是采用本地化部署，還是雲付費的模式時，Jumio 亞太區副總裁 Frederic Ho 則表示，無論是采用哪家提供的 eKYC 服務，用戶使用該服務的最好的方式還是采用雲計算的模式，" 有些用戶會在交付的時候，提出交付 eKYC 系統的方式，但這類方式讓企業隻能看到公司内部的數據，以及安全趨勢，"Frederic Ho 指出，" 而采用雲的方式，企業可以實時掌握全球的安全趨勢，并具備全域數據訓練出的模型能力。"（本文首發于钛媒體 APP，作者｜張申宇，編輯丨蓋虹達）
「關于創新場景 50」
場景不是案例，它更加精準、也更加抽象。數字化就是創新場景的不斷疊加和叠代。
在此背景下，钛媒體重磅推出「創新場景 50」評選，每年遴選并解讀 50 個全行業與業務深度融合的創新性場景及其解決方案，并在钛媒體年度ITValue Summit 數字價值年會上隆重頒獎、深度交流。
目前場景正在征集中，更精準的解讀、更廣泛的曝光、更強大的品牌勢能，歡迎你提出問題，更歡迎你留下解決的方法和工具。點擊這裏投遞更多場景信息
