出品 | 虎嗅青年文化組
作者 | 木子童
編輯、制圖丨渣渣郡
本文首發于虎嗅年輕内容公衆号 " 那個 NG"（ID：huxiu4youth）。在這裏，我們呈現當下年輕人的面貌、故事和态度。
" 我将價值 2 億人民币的黃金藏在了某海域，想要我的寶藏嗎？想要的話可以全部都給你！"
日前被判死刑的越南女首富張美蘭，一句話讓《海賊王》走進現實。根據一段網絡瘋傳的庭審視頻，她承認将巨量财産藏在了海上。
此言一出，仿佛一針腎上腺素戳進動脈，春天裏昏昏欲睡的越南人民一下子精神起來，就連中國沿海網友，也準備拜拜媽祖揚帆起航了。
張美蘭何許人也？
華裔女商人、房地産大亨、億萬富豪。因爲涉嫌越南史上最大金融詐騙案，不久前被判死刑，并處 673 萬億越南盾罰金。
即便以當地極端膨脹的貨币面額來計算，673 萬億也是一筆超越感知極限的巨款，折合人民币約合 1924 億元。
網傳外洩的庭審視頻中，審判委員會詢問張美蘭消失的巨額資金去向，張美蘭鎮定自若且略帶挑釁地回答，所有錢都在海上：
" 有人知道被告把錢藏在哪裏嗎？"
" 還沒有人知道。"
" 因此，被告必須誠實地告知審判委員會，才能獲得寬大處理。"
" 是的是的，在海上，是的，沒錯，有六百七十三萬億盾 ......"
中文網絡盛傳的 " 兩億人民币 " 還是過于保守，真按源視頻說法，找到這筆寶藏的話，那将真正 " 富可敵國 "。
死刑、财寶、大海，張美蘭大秘寶像極了《海賊王》的開篇。
坐擁無盡寶藏的海賊王羅傑臨刑前公開喊話：" 想要我的财寶嗎？想要的話可以全部給你，去找吧！我把所有财寶都放在那裏。"
《海賊王》世界由此開啓千帆競渡的 " 大海賊時代 "。
庭審視頻一出，張美蘭俨然已經成了當代羅傑。" 尋找張美蘭寶藏 " 詞條沖上越南熱搜，此時點開 TikTok，你會覺得所有越南朋友都已經沖進了大海。
有人開着自家漁船乘風遠航，有人穿好潛水裝備組團摸金，技術流大佬分析排查可能藏匿黃金的位置、經驗流小哥向魚群打聽方向……
沒錢出海的，批一筐火龍果，倒賣 " 惡魔果實 "，有裝備基礎的，扣一頂草帽，開始 cos 路飛。
就連谷歌地圖上也憑空冒出許多名爲 " 張美蘭寶藏 " 的地址，不過循迹而去，該地隻會有一家再普通不過的小餐館，店老闆露出促狹的笑容。
不，等等，這事兒怎麽越看越透着一股樂子人的氣息？
沒有錯，正如你所感受到的違和感。張美蘭大秘寶事件是一則徹頭徹尾的假新聞。
張美蘭辯護律師、庭審參與者等多方人士相繼向媒體證明，庭審當日，張美蘭沒有說過任何 " 海上藏寶 " 相關的發言。
網絡熱傳的庭審視頻完全出自僞造，根據其流暢度來判斷，很有可能是借助了 AI 深僞（deepfake）技術。
離譜的 1924 億大寶藏，壓根就沒存在過。但平凡的生活實在太過無聊，一些人明知是假，一些人半信半疑，張美蘭的寶藏就這麽在吃瓜群衆的半推半就下，迅速流行起來。傳到中國，又演化出 "2 億黃金 " 的本地适配版本。
AI 深僞資訊又又又又又一次，如此輕易地騙到了我們。
熟練掌握 AI 生圖，人手一塊金磚
一年前，AI 技術大爆炸之際，我們對它的應用前景提出過很多反烏托邦焦慮，比如 AI 搶人飯碗、AI 控制人類。一年後，它們統統還停留在遙遠的預言階段，唯獨 AI 深僞資訊焦慮迅速落進現實。
當 AI 技術大幅降低資訊造假成本，每個人都能随手生成逼真的新聞圖片、視頻，AI 深僞信息極速激增，" 深僞 " 已經不再是未來想象中的一個遙遠課題。
它正在迅速侵入現實、改變現實、成爲現實，而我們大多數人，還遠遠沒有做好準備。
AI 深僞時代，" 眼見爲實 " 不複存在。
因爲造假的成本無限降低。
幾個月前，一座名爲 Almendralejo 的小鎮中，20 多名初中女生突然發現同學正在傳看她們的 " 裸照 "。赤裸的陌生身體、本人的臉，毫無疑問，是 AI 深僞照片。
而嫌犯是她們的同學，幾名同樣年輕、普普通通的初中男孩。
幾個青春期的毛頭小子也能随手制造足以亂真的虛假信息，指向了 AI 深僞時代最恐怖的一點：" 造假 " 從一門需要學習的手藝，淪落爲人人皆可随意利用的工具。
不需要學習任何技術，隻要擁有一台 "NUCA 相機 "，就可以對任何人實現 " 一鍵脫衣 "。
對準拍攝對象，咔嚓，十秒後，NUCA 相機就會吐出一張專屬 " 裸照 "。這是藝術家 Mathias Vef 和 Benedikt Gro ß 創作的一個特殊裝置。
成像原理非常簡單，相機拍攝照片後，聯網 Stable Diffusion，請 AI 參照相片生成對應 " 裸照 "。生成後的圖片當然不是被拍攝者本人的身體，但乍看起來已經相當有說服力。
藝術家希望借此提醒人們，當下時代，生成一張侵犯隐私的虛假色情圖片有多麽輕而易舉。
與低廉的造假成本相對的，是高昂的代價。維系一段良性關系需要幾年甚至幾十年的長久經營，而摧毀它，隻需要一段幾秒鍾的 AI 深僞視頻。
Netflix 一檔名爲《情場深僞術》（deep fake love）的戀愛綜藝中，一對相戀長達 9 年的親密情侶也沒扛 AI 深僞的考驗。
節目組把情侶二人拆開，分别扔進熱辣單身異性環繞的别墅，然後每隔一段時間，向他們展示一段對方的生活視頻。
視頻内容通常都很 " 過分 "，有時伴侶在與單身異性調情、有時在講對方壞話、甚至有時直接與單身異性滾上床單，展開熱吻。其中有真有假，假貨由 AI 深僞生成。
西班牙情侶 Manuel 和 AIDA 經過 9 年戀愛長跑，馬上準備結婚，結果僅僅分開兩天，Manuel 就看到未婚妻在帥氣單身漢面前淪陷：兩人在泳池對視幾秒，随後親到了一起。
Manuel 當場震驚離席，不敢相信自己的眼睛：" 什麽？這個女孩是誰？她是誰？她跟一個男人親熱！他們親熱了！"
盡管很快主持人告知，視頻可能是 AI 深僞，Manuel 還是久久無法釋懷——視頻實在是太逼真了。
陽光下毛糙的發絲、水珠滑過略顯紋理的皮膚，肌肉柔軟地伴随動作起伏，精心制作下，沒有任何一處流露 AI 的痕迹。
實際情況是，AIDA 尴尬微笑着避開了帥氣單身漢的進攻，深僞視頻中，她的動作被篡改爲迎合了男人的熱吻。
" 深僞已經存在很長一段時間了，現在最大區别是它們變得越來越好。"
試想如果并非在電視節目中，而是在現實生活中看到這樣一段視頻，我們還能夠對伴侶、朋友、合作夥伴堅守信任嗎？
現實生活中，沒有人會在最後揭曉正确答案。而深僞之所以可怕，正是因爲懷疑的種子一旦種下，就會啜吸着不安自己生根發芽。
AI 深僞不僅僅是惡作劇和性侮辱，甚至會妨礙國家的政治活動。
早在 2018 年，華盛頓大學研究團隊就利用一段奧巴馬講話的深僞視頻，預言了深僞技術出現在政治領域的恐怖。
視頻中，深僞技術合成的奧巴馬生動自然地說道：
" 我們正在進入一個時代，我們的敵人可以讓任何人在任何時間點說任何話——即使他們永遠都不會說那些話。比如，他們可以讓我說這樣的話。"
在合适的時間，合适的地點，AI 深僞隻需要輕輕施加一點推力，就能達到四兩撥千斤的效果。
去年斯洛伐克選舉期間，進步黨領導人 Michal Š ime č ka 便深受其害。投票前 48 小時，一段他聯系記者讨論操縱選票的錄音突然出現在社媒平台。
音頻中，他用平淡呆闆的聲音嘲諷了自己的選民、還拿兒童色情制品開了個低級玩笑。
斯洛伐克内政部打擊虛假信息部門負責人 Daniel Milo 表示這段錄音假得不能再假了：" 你絕對可以聽出這不是一個真人——但這段錄音卻迅速傳播開來。"
顯然，這是一次洞悉人性與規則的精心策劃。很快多家事實核查部門證實，錄音系深僞制造。但根據斯洛伐克選舉規則，在選舉前這一關鍵時段，媒體和政界人士應該保持沉默，因此辟謠很難廣泛傳播。
AI 深僞技術還遠遠談不上完美，但已經足夠說服那些想被說服的人。
傾向 " 相信 " 的動力始終積攢在暗處，隻需要一個小小的憑依，就能自己滾動起來。
奧巴馬深僞視頻出現的同年，非洲國家加蓬的一次未遂政變便是絕佳證明。
時任總統阿裏 · 邦戈 · 翁丁巴因在海外接受治療而長期缺席國内公共生活，而且政府對于他的情況諱莫如深。一些人開始質疑他的身體狀況，甚至懷疑他已經死亡。
疑雲密布中，總統發表了一次視頻新年緻辭。本意是辟謠：看，我還活着！
結果事與願違，他在視頻中看起來古怪、僵硬，處處充滿違和。于是反對派當即斷定視頻是僞造的，迅速發動政變——總統可能已經去世，是政府秘不發喪！
" 那些頑固地掌握權力的人，再次利用總統，以保住一個已經失去身體和精神能力的病人。"
政變領導人奧比昂如此深信不疑地說道。
很不幸，視頻并非僞造，總統确實還活着，而且精神狀态尚可。政變迅速被挫敗，策劃者被或抓或殺。事後事實核查專家指出，看起來僵硬古怪，可能是總統注射肉毒杆菌并過度化妝所緻。
這次深僞引發的政權颠覆未能成功，但下一次會如何，誰也說不準。
我們已經進入與 AI 深僞資訊深度共生的時代。身邊的任何一個普通人都可能輕而易舉地制造深僞信息。他們的初衷或許是惡意，也或許隻是單純的玩笑，但虛假信息一旦出現，流通就不再可控。
當空氣中充滿 AI 制造的懷疑氣氛，公衆人物甚至可以反而利用它作爲逃避責任的途徑。試想如果水門事件發生在今天，那麽尼克松完全可以聲稱那段關鍵性錄音證據是 AI 僞造的。
傳播學者羅伯特 · 切斯尼形象地稱之爲，" 說謊者的紅利 "。
前所未有的 AI 深僞焦慮讓那個曾經遙遠的問題，驟然變得現實而緊迫：
我們有辦法控制 AI 深僞嗎？在這樣真假難辨的時代，普通人又該如何生存？
技術層面上來說，完全管制 AI 深僞就像試圖管制盜版制品，很難。
最努力的，是提供流通渠道的各大社交平台。因爲歐盟制定《數字服務法案》（DSA）規定，相關企業對有害内容、虛假信息等承擔法律責任，一旦被認定違反，将面臨最高達全球營業額 6% 的罰款。
爲了不被罰錢，Meta、X、TikTok、YouTube 都擺出了相當積極的姿态。
它們與高校合作，開發 AI 虛假信息識别工具，成立對策運營中心，并爲識别可能 AI 生成的内容打上強制标簽。深僞色情視頻一經發現立刻删除，Reddit 甚至直接關停了參與者超過 9 萬的 deepfake 話題。
但看似靠譜的平台規則就像杜甫的房頂，處處漏風。
首先準确檢測就是一項不可能完成的任務。正如 Lusia Verdoliva 所說：" 你無法做出一個通用檢測器——這太難了。"
她是深僞視頻識别軟件 FaceForensics++ 的開發者之一，這款軟件可以發現多數常用僞造軟件露出的馬腳，但并不能做到百分百的概率。
如同鑒寶人與赝品販子之間的貓鼠較量，每當技術專家找到一種鑒僞秘訣，深僞制造者就迅速更新叠代。
與此同時，殺滅 " 深僞癌細胞 " 時，平台投鼠忌器，必須避免誤傷真實信息，因此審查總是 " 高擡貴手 "。
換句話說，未來的日子裏，我們已經注定要與海量的深僞信息共存。
那麽普通人會因爲深僞喪失真假判斷力嗎？一個小測試，來試試你的成色。
以下 6 張圖片，或爲真實照片，或爲 AI 深僞，你認爲哪些是真？
答案公布：假真真假假真。
圖片來自美國西北大學凱洛格管理學院制作的在線測試 "deepfake，can you spot them？"。研究者試圖通過收集真實人類數據，分析人類能否分辨 AI 深僞圖片，以及判斷依據。
另一項歐洲研究發現，人們報告，16 歲 -64 歲人群中，58% 的人認爲他們經常與 AI 信息交互，但其中隻有五分之一對識别 AI 生成内容表示很有信心。
另外每四個受訪者就有一個表示，他們認爲自己經常暴露在 AI 深僞信息之中。
研究者指出，實際數字可能比研究顯示得更加糟糕，因爲許多人在接觸 AI 信息時，并未意識到該信息來自 AI。
如何在 AI 時代辨别信息的真僞，俨然已經是一門新興學科。
當媒體從廣播電視的大衆傳媒轉向網絡世界時，人們開始談論 " 網絡時代的媒體素養 "：如何正确地使用網絡媒體、識别網絡信息。
AI 時代，又一次媒體革命，是時候談論 "AI 時代的媒體素養 " 了。
MIT 率先開辦了網絡公開課《深僞時代的媒體素養》，專門教導人們如何習得鑒别深僞信息的能力。
可以借助政府和公共機構提供的工具，比如 Sensity 的 " 深度僞造檢測 " 平台、美國國防高級研究計劃局（DARPA）的 MdeiFor 計劃、Adobe 的内容真實性計劃、TinEye 的圖像識别軟件，以及國際特赦組織的 YouTube 數據查看器。
或者更簡單一些，尋找有信譽度的傳統媒體，看看事實核查員和專業媒體人的判斷。
" 傳統媒體有時确實傳播錯誤信息，但它們依然是最可靠的信息來源。"
就像過馬路的口訣，" 一看二慢三通過 "，點擊分享前，先多一秒懷疑。
說起來多少有些諷刺，在這個陰謀論滿天飛的時代，最稀缺的品質卻是 " 懷疑 "。
多項調查顯示，" 批判性思維 " 被認爲是當今最稀缺的媒體素養技能。
歐洲音視頻觀察組織對歐盟成員國的 547 個媒體素養項目進行統計發現，批判性思維是最常被提及的技能。另一項調查指出，95% 的人認爲批判性思維在當今世界至關重要，但他們大多數（85%）認爲公衆缺乏這些技能。
在懷疑一切的同時，我們又總是輕信那些符合自己刻闆價值觀的内容——如果一段視頻顯示特朗普準備當衆招妓，以表達對女性主義的不滿，那麽想必相信者衆，畢竟特朗普在我們心中就能這麽離譜。
說不清究竟是真的分辨不清，還是半推半就，深僞信息總是能在 " 看熱鬧不怕事兒大 " 的心态下廣泛傳播。
而此時，一個具有批判性思維的普通公民就無比珍貴了起來：他們将在謠言傳播鏈中，扮演阻燃劑的角色。
真正可怕的其實從來不是 AI 深僞，而是深僞的病毒式傳播。
太陽底下無新事，要說媒體革新帶來信任焦慮，其實每一次媒體叠代時都曾發生過。
photoshop 出現時，有了 P 圖造假。
廣播剛剛出現時，人們把廣播裏的外星人入侵故事信以爲真。
這些新技術帶來的信息信任危機，很快伴随司空見慣，不再引起焦慮。
現如今，每當出現明星 " 裸照 "，很多人心裏都會問上一句 " 是不是 P 的 "？
當公衆見識過越來越多 AI 深僞信息，今後每當出現過于反常的信息，同樣一句話也将前置于所有反應：" 這是不是 AI？"
AI 深僞技術确實值得焦慮，但也無需過慮。
如同自然生态系統，人類社會也在自我調節中不斷适應着新的變化，新技術短時間打破的平衡，很快在社會的自我調節下恢複平穩。
說到底，AI 深僞問題，錯不在 AI，也不在深僞。AI 深僞如同過去每一種造假技術一樣，不過是爲選擇提供了一種憑依。技術無罪，問題還是人的問題。
爲什麽人類熱衷傳播謠言？爲什麽千萬年來謠言永不止息？
因爲信息從來不隻是信息，還是價值、偏見、姿态。
接收信息是被動而客觀的，傳播信息則是主觀行爲，從海量資訊中選擇哪些來傳播分享，往往隻取決于個人的好惡：
一言以蔽之，你的分享就是你。
