生成式 AI 人臉造假套路多,怎麽辦?
現在,專門用于 DeepFake 的綜合性産品上新了——
ZOLOZ Deeper,螞蟻數科 ZOLOZ 出品。我們日常的支付寶刷臉支付,正是依托于他們技術支撐。
值得注意的是,這可不僅僅是簡單的 AI 檢測算法,而是一套覆蓋全鏈路的技術産品體系——
它能夠有效應對系統、服務器、應用等多環節 Deepfake 安全威脅。
而爲了不斷精進它的能力,内部實驗室每個月都會對他進行超過 20000 次 " 攻擊 " 測試。
甚至,ZOLOZ 還對外拿出百萬獎金池,邀請 " 白帽黑客 " 參與找 Bug。
螞蟻數科 DeepFake 産品上新
AIGC 時代,DeepFake 已經不再簡單替換技術來生成,還有像活化(Animation)、編輯(Editing)以及合成(Synthesis)等攻擊手段。
攻擊形式,DeepFake 也從簡單的呈現式攻擊朝着更爲複雜的注入式攻擊轉變。
呈現式攻擊,顧名思義,也就是在攝像頭前放一張假臉,來突破檢測技術。注入式攻擊則是從系統層面來劫持攝像頭,注入準備好的圖片 / 視頻,替換攝像頭畫面。
這也就給檢測技術帶來了不少的挑戰。
ZOLOZ Deeper則是專門針對注入式、活化等複雜攻擊手段的産品。
現在,ZOLOZ Deeper 主要用于在用戶刷臉場景中攔截 "AI 換臉 " 風險。
從身份安全切入之後,他們還将進一步擴展到内容合規 AIGC 防控、金融詐騙場景、社交詐騙場景、輿情 AIGC 風險等多個實踐中去。
如何實現?
最直接的思路是,用魔法打敗魔法。
據透露,在技術實現上,ZOLOZ 主要采取攻和防兩條路線。
防這方面,ZOLOZ Deeper 搭建了端雲一體的全鏈路技術體系,能應對系統、服務器、應用等多環節的安全威脅。
前端通過精密的傳感器校驗與多維特征動态風控,對攝像頭狀态、設備及網絡環境、輸入圖像等進行嚴格審查,确保軟硬件環境安全無風險,采集到的生物特征數據真實無篡改;
在用戶操作過程中,運用深度學習模型對用戶面部動态進行細緻入微的分析,捕捉微表情、肌肉紋理、眼神流轉等細微特征,精準判斷其是否爲真人實時互動。
攻則是借助天玑實驗室來進行自動化攻防測評。
此前量子位曾探訪過,這是一個高自動化的生物識别安全實驗室。
天玑實驗室投入大量的科研資源,自主研究生成了當下黑産攻擊人臉安全的 " 道具 ",定義了上百種不同級别的攻擊方法和假體制作工藝。
此次,天玑實驗室則是通過 GAN 模型生成超 30 萬測試樣本,來交給 ZOLOZ Deeper 進行判别訓練。
除此之外,每個月還會對它進行超過 20000 次的攻防測評,模拟上百種僞造攻擊情況。
誰是 ZOLOZ?
ZOLOZ 是由螞蟻數科孵化出來的科技品牌,主攻生物識别技術。最早在 2015 年支付寶上線的刷臉和支付,背後技術正是由他們來支撐。
2019 年,他們就啓動了 DeepFake 相關算法研發。當時還主要針對是一些簡單的人臉攻擊,比如将圖片、視頻、面具等 Fake 内容呈現在攝像頭面前,攻破人臉識别系統。
而随着攻擊手段逐漸複雜,ZOLOZ 技術與産品也在不斷升級叠代之中,ZOLOZ Deeper 正是應對當下 AIGC 時代下的産品。
這樣的研發實力,得到了市場和權威組織的認證。
比如在服務印尼某頭部銀行時,其産品上線一個月時間内實現了 Deepfake 風險 "0 漏過 "。
除此之外,ZOLOZ 在 2020 年,作爲亞太第一家,獲得 iBeta 國際生物安全認證組織最高等級 Level2 認證。
另外在 2023 年,ZOLOZ 通過了中國信通院深度僞造視頻檢測服務能力檢驗,滿足安全可靠、透明性、數據保護、明确責任、公平性等方面的可信能力要求。
上個月,有 20 年風險管理經驗的趙聞飙擔任螞蟻數科 CEO。支付寶和螞蟻集團的核心風控體系就是他牽頭搞的。
ZOLOZ Deeper,也是他上任 CEO 以來首推的安全産品。
還懸賞百萬給新産品找 bug
最後,ZOLOZ 還聯合螞蟻安全響應中設立了超百萬的獎金池,誠邀白帽黑客們來給産品找 bug,可以通過 " 螞蟻集團安全響應中心 " 官網提報漏洞。
所以極客們趕緊關注起來~
— 完 —
點這裏關注我,記得标星哦~
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~