就離譜！隻因開了一個視頻會議，直接被騙 1.8 個億。
這是真真切切已經在香港發生的一場犯罪：
一家跨國公司香港分公司的财務人員，按照 "CFO" 的指令，給對方指定賬戶共計轉賬 2 億港币（約合 1.8 億人民币）。
誰曾想，這個剛剛在視頻會議裏跟自己 " 面對面 " 聊過的人，完全是Deepfake出來的！
先别着急罵這大兄弟警惕性太低，Ta 也不是沒有過一絲絲懷疑，但是，這可不是什麽詐騙界常見的一對一視頻通話——
參與會議的有好幾個熟面孔，無論是臉還是聲音，當事人描述 " 每個人看起來都很真實啊 "。
甭管怎麽說，這事兒的驚悚程度，是有點吓到網友們了。
借由 AI 技術犯罪的話題，一時間又成爲了各大平台的讨論焦點。
沖鋒在 AI 批評一線的馬庫斯就第一時間拉着網友們吃起了瓜：好家夥，這是《黑鏡》降臨了。
深度僞造的狗屎越來越真實了。
事件始末
我們暫且稱這位被騙的财務人員爲 " 小帥 "，事情的具體經過是這樣嬸兒的……
最初，小帥收到了一封遠在英國總部的 "CFO" 發來的郵件。由于内容提到需要執行一項秘密交易，小帥一開始有些疑慮，并懷疑這是網絡釣魚信息。
不想，騙子立馬展開下一步動作，邀請小帥進行視頻會議。
小帥進入視頻會議後徹底被眼前的一幕唬住了：不僅公司 CFO 在，小帥的一些同事也在，還有一些外部人員。
關鍵是，這些假同事和小帥認識的真同事無論是模樣長相還是聲音，都别無二緻。
會議中，這個假冒 CFO 還讓小帥做自我介紹，不過在此過程中會議突然中斷。
騙子随後又通過即時通訊平台、電郵、一對一視頻通話與小帥保持聯系。
如此接連下套，小帥最終中了騙子的詭計，按照會議中的指示，分别向 5 個香港銀行賬戶進行了 15 次轉賬，總計 2 億港元，也就是約 2560 萬美元，約合 RMB1.8 個億。
從騙子聯系小帥開始，整個事件大概持續了一個周，直到小帥之後向公司總部核實情況，才驚覺整個事件不過是一場精心策劃的詐騙。
之後他們報了警。警方立即展開調查，發現會議中除小帥外的所有參與者，都是騙子使用公開的個人視頻和音頻片段重建的數字人。
視頻中讓小帥自我介紹并不是真的在和他互動，而隻是單純的用虛拟形象下達指令。
警方還透露，不法分子曾使用相同的多人視頻通話策略，試圖詐騙該公司分部的另外一名員工，總共接觸了兩到三名員工。但警方未提供有關他們遭遇的完整信息。
目前該案還在進一步調查中，尚未對詐騙者實施逮捕。
後續在新聞發布會上，香港警方表示已逮捕 6 名與此類詐騙有關的人員，且類似案件還有很多：
去年 7-9 月，有 8 張被盜的香港身份證被用于申請了 90 份貸款、登記了 54 個銀行賬戶；
至少有 20 次，AI Deepfake 被用來模仿身份證上的人像，以騙過面部識别程序。
AI" 克隆 " 有多猛
可以看到，整個案件中，最終讓小帥放下戒備的一大關鍵點就在于視頻會議中的假人過于真實。
那麽現在的 " 數字克隆人 " 究竟能有多真？一起來看幾個栗子。
就比如下面這段黴黴說中文的視頻就來自一款爆火 AI 工具—— HeyGen。
音色口型簡直完美複刻，網友看了之後都吓得直喊媽：
HeyGen 的最新技術展示中，和數字克隆人實時聊天也已成爲現實。
AI 語音合成方面，最近比較火的是一家叫做 11Labs（ElevenLabs）的初創公司。
11Labs 不僅能實現 29 個語種的語音生成，而且僅需短至1 分鍾的音頻素材，就能很好地 " 克隆 " 任何一個人的聲音，語調、情緒變化都能模仿到位的那種。
關鍵是，現如今這些 AI 克隆術不僅真實度越拉越滿，門檻也在逐漸降低……
比如下面這種開源項目，已經可以分分鍾實現實時視頻換臉。
項目主頁列有不少現成的不同人的面部模型，如果不喜歡還可以自己訓練模型。
" 數字克隆版的你即将到來 "
或許是受到這一事件和前段時間的影響，上述這個實時換臉項目再獲關注，還新鮮沖上了 GitHub 趨勢榜。
就在這個項目的 issues 中，不少網友的抵觸情緒早已彌漫多時。
但正如許多網友提到的那樣，技術沒有善惡之分。并且更現實的問題在于，開弓沒有回頭箭。
于是很多人把關注的重點，放到了 " 如何防禦 " 這件事上。
除了更多規範和政策的制定，從技術的角度來說，Nature 就在 "2024 最值得關注的七項技術 " 一文中提到：
讓開發者在 AI 工具中加入隐形水印機制或許是一種方案。
而從個人的角度來說，提高警惕，已經成爲 AIGC 技術爆發時代不得不面對的命題。
香港警方也在這次事件中表示，将擴大警報系統，以提前警告、阻止用戶向詐騙相關賬戶轉移資金。
不過，Deepfake 假 CFO 騙走公司 1.8 個億這種事兒，多少還是有點過于離譜。
以緻于不少網友提出了質疑：
這麽大一個公司，就沒點風險管理措施？
怕不是有内鬼吧。
那麽，你怎麽看？
參考鏈接：
[ 1 ] https://www.scmp.com/news/hong-kong/law-and-crime/article/3250851/everyone-looked-real-multinational-firms-hong-kong-office-loses-hk200-million-after-scammers-stage
[ 2 ] https://twitter.com/garymarcus/status/1754188331188130201
— 完 —
點這裏關注我，記得标星哦～
一鍵三連「分享」、「點贊」和「在看」
科技前沿進展日日相見 ~
