從 2022 年底的 Midjourney、stable diffusion，再到 Open AI 的 Chat GPT、DALL · E，Sora，谷歌的 Gemini，AI 已經在寫文章、畫畫、制作圖片、視頻等領域展現出了自己無與倫比的能力。
看着 AI 一次又一次展現出令人驚歎的本領，不知道你是否有過擔憂，既然 AI 能夠生成接近于真人的圖片、視頻，作爲普通人的我們，以後還能分辨出一張圖片或者一段視頻是不是真實的嗎？
這樣的擔憂不無道理。我們不妨做一個小測試，看看你是否能在下面的四張圖片中，找到唯一一張真人照片？
生成這些圖片的是 " 此人不存在 " 網站：thispersondoesnotexist.com
答案
點擊下方空白處獲得答案
四張照片中，隻有第一張是真人照片，其餘三張圖片均爲 AI 生成。
當然了，除了人像，AI 還能夠生成各種各樣的風景照片，以及本身就是用電腦制作的 CG 圖片。而要分辨這些照片，對普通人來說就更加困難了。
但幸好，在大部分情況下，是否能分辨圖片是不是出自 AI 之手，并不會對我們的生活産生實質性的影響。網絡上的絕大部分圖片，我們都是一看了之。
而近幾年，也出現過一些用 AI 圖片制作的假新聞。
AI 生成的特朗普被捕圖，圖片截取自 X（原推特）
這些假新聞雖然大部分是惡作劇，但如果這樣的假新聞充斥網絡，可能會讓人們對新聞事件的可信度産生懷疑。畢竟，眼見都不一定爲實了，那我們怎麽知道哪些是真的，哪些是假的？
AI 生成的圖片 " 馬斯克與機器人女友 "，圖片截取自 X（原推特）
如何分辨圖片 " 真假 "？
既然網絡上的圖片真假混雜，我們到底要怎樣判斷一張圖片是否是由 AI 生成的？其實，有一些簡單的方法可以幫助我們判斷。
1
利用常識尋找不合常理之處
最直接有效的方法，就是利用我們的 " 常識 "。
在過去一兩年裏，AI 圖片生成的人類手部特征一直是被吐槽的焦點。雖然一些模型比如 Midjourney V5，Stable Diffusion 針對手部進行了一些優化，但如果觀察 AI 假新聞中的圖片，依然會發現一些 " 奇怪的手部 "。
利用 GPT4.0 的 DALL · E 繪制的手，依然能看出 " 不合理 " 的手部特征
除了手部會露出破綻，AI 生成的圖片也可能會出現一些不合常識的錯誤。
比如還是前面提到的 " 特朗普被捕圖 " 中，就有幾處奇怪的地方。
AI 生成圖片中不合邏輯之處
首先，特朗普的身後出現了一個朝向奇怪的且不屬于任何人的腳。另外，特朗普的左臂扭曲成了不正常的形狀。而身後的路人面對這樣 " 重大 " 的事件，表情漠不關心，而追逐的警察們，似乎眼睛關注的焦點也不在特朗普身上。
因此，人類世界的常識以及我們對物理世界的了解，是我們識别 AI 圖片的巨大武器。如果圖片中出現了一些違背常識和物理規律的細節，那基本可以認定這是一張 AI 生成的圖片。
2
查詢圖片來源
但有些圖片的常識性錯誤隐藏在很細節的地方，乍一看不太容易分辨。對這一類圖片，同樣有一個簡單的判斷方法。
現在的搜索引擎都有" 圖片查詢 "功能，不少在線網站也可以提供類似的功能。你可以直接将 " 可疑圖片 " 上傳。通過 " 查找圖片來源 "，就能找到發布過這張圖片的網站。
假如對于一個非常重大的新聞事件，發布媒體卻無一例外地是個人媒體或者營銷号，那麽這張圖片大概率是假的。如果有可靠媒體發布過，并且報道的内容也證實了圖片内容，那這樣的圖片才可能是真的。
現有網站和圖片來源查詢工具可以直接搜索圖片來源，圖片截取自網絡
3
借助識别網站
目前，有很多網站可以直接查詢圖片的 EXIF 信息（記錄着相機的鏡頭、光圈、快門等參數）。
假如别人向你發來了一張圖片炫耀自己的假期或者是攝影技術，你可以直接将圖片上傳查詢。
如果能夠看到相機參數，那這張圖片大概率是真實的，至少說明确實是用相機拍攝的。而如果沒有這些信息，有可能是 AI 生成，但也有可能是經過了壓縮處理的圖片。
除此之外，還有專門的識别 AI 圖片的網站，比如 "AI or not 網站 "。這些網站也可以識别給定的圖片是 AI 生成的還是人類創作的，雖然不是百分之百準确，但可以作爲一個參考。
AI or not 對于兩張圖片的判斷結果，圖片截取自 AI or not 網站
當然了，對于大部分的新聞事件，熱度很快就會過去，并不會對普通人的生活産生實質性的影響。但接下來要提到的 " 深度僞造 " 技術，是會對每一個人産生直接影響的。
當心！AI 騙局：深度僞造
深度僞造（deepfake）是一個由深度學習（deep learning）和僞造（fake）合成的詞。它的意思很好理解，就是利用深度學習技術來僞造一些圖片、視頻，這類圖片和視頻一般以人類爲主體。
其實早在 GPT、midjourney 之類的 AI 工具出現之前，深度僞造技術就已經出現了。它最典型的一個應用，就是 AI 換臉。
在 2019 年，古裝劇《長安十二時辰》裏的 " 崔六郎 " 角色，就經過了 AI 換臉。另外，在 2020 年的《三千殺鴉》《了不起的兒科醫生》等影視劇中，也使用了 AI 換臉技術。
而最近的 " 短劇出海 "，深度僞造技術也發揮了重要作用，利用 AI 換臉技術，一鍵就可以把中國人面孔換成外國人面孔，免去了翻拍的成本。
出海短劇一鍵換臉，圖片截取自 X（原推特）
現在一些 AI 換臉工具，甚至可以根據一張照片完成面部替換。
這些技術既可以用于平時的娛樂，也可以用于商業行爲中，比如制作主播的數字人替身，實現 24 小時無間斷直播賣貨。
但如果深度僞造技術到了不法分子的手中，可能會成爲他們做壞事的工具。
比如，騙子可以利用在網絡上收集到的圖片，制作 AI 換臉視頻，利用這樣的視頻進行詐騙。
今年年初，中國香港的警方就接到一起報案，騙子通過 AI 換臉冒充某公司的首席财務官，要求公司财務轉賬 2 億港币（約合人民币 1.8 億元），公司财務轉賬之後幾天，才意識到上當受騙了。
除此之外，還有騙子利用 AI 換臉，冒充被害人的朋友、兒女、父母等角色，對人實施詐騙。而在視頻中看到自己親朋好友的畫面，會讓受害人放下戒心。
當壞人掌握了深度僞造技術，就實實在在地會對普通人的生活産生影響，任何人都有可能成爲受騙者。
面對深度僞造内容
我們該怎麽辦？
那究竟要如何甄别深度僞造内容？對此，AI 機構和個人都有可以做的事情。
對于 AI 公司
AI 機構也在努力減少深度僞造技術濫用。
在一些圖片生成模型的使用過程中，比如 Open AI 的 DALL · E 模型中，你是沒有辦法讓 AI 對某張具體照片進行處理的，也沒有辦法生成特定的人臉内容。
大部分的 AI 生成模型都會屏蔽特殊的詞彙，以防止模型被用來生成惡意的圖片或者視頻。比如在 " 特朗普被捕 " 的假新聞圖片泛濫之後，Midjourney 禁止了 arrest（被捕）這個詞的使用。
另外，大部分機構包括 Open AI、Meta、midjourney 等等，都會在生成的圖像數據中添加水印，而正規的提供 AI 換臉的機構，也會在視頻裏内嵌水印，和真人視頻做區别。
當然了，不法分子在利益的驅使下，會絞盡腦汁去掉僞造痕迹。他們的目的就是讓人認爲，這些圖片視頻是真的。
因此對每一個人來說，我們也需要了解一些防範方法。
對于個人
對于我們普通人來說，我們手中不太可能有專門的鑒别軟件，也不太可能逐幀去分析畫面中的破綻，但依然有一些簡單方法可以幫助我們分析判斷。
比如，因爲有一些 AI 換臉視頻是犯罪分子提前制作的。
如果視頻裏的人提到了讓你轉錢，你可以要求視頻裏的人做一些特定的動作，比如轉個身，以及用手在攝像頭前面停留一會、揮一揮。
通過這種方法，既可以分辨對方是不是一個提前錄制好的視頻，同時，手在臉前面晃動也會對一些簡單的 AI 換臉工具進行幹擾，" 假人 " 可能會露出破綻。
除此之外，你也可以讓對方回答一些隻有你們才知道的消息，比如 " 你們最後一次見面是在哪裏？" 或者明知道對方沒有孩子，也故意問一問對方孩子的消息，看看是不是騙子冒充的。
畢竟，對方已經提到讓你轉錢了，讓對方做幾個動作回答幾個問題驗證身份也并不過分。而自己的錢袋子，當然要自己守護好。
此外，大家可以牢記公安部提到的，防詐騙 " 六個一律 "" 八個凡是 " 原則。
" 六個一律 "
1、談到銀行卡，一律挂斷；
2、談到中獎了，一律挂斷；
3、談到 " 電話轉接公檢法 " 要求彙款的，一律挂斷；
4、所有短信，讓你點擊鏈接的，一律删掉；
5、微信陌生人發來的鏈接，一律不點；
6、提到 " 安全賬戶 " 的，一律是詐騙。
" 八個凡是 "
1、凡是自稱公檢法要求彙款的；
2、凡是讓你彙款到 " 安全賬戶 " 的；
3、凡是通知中獎、領獎要你先交錢的；
4、凡是通知 " 家屬 " 出事要先彙款的；
5、凡是在電話中索要銀行卡信息及驗證碼的；
6、凡是讓你開通網銀接受檢查的；
7、凡是自稱領導要求彙款的；
8、凡是陌生網站要登記銀行卡信息的。
參考文獻
[ 1 ] https://thispersondoesnotexist.com/
[ 2 ] http://www.news.cn/legal/20240226/da985bba58bf4ea2a65b872d06aec6a5/c.html
[ 3 ] https://www.scientificamerican.com/article/how-to-tell-if-a-photo-is-an-ai-generated-fake/
[ 4 ] https://about.fb.com/news/2024/02/labeling-ai-generated-images-on-facebook-instagram-and-threads/
[ 5 ] https://www.aiornot.com/
策劃制作
作者丨小玮 科普創作者
審核丨于旸 騰訊玄武實驗室負責人
策劃丨王夢如
責編丨王夢如
校對丨徐來 林林
相關推薦
5.以爲是腸胃小毛病，沒想到是癌症！這些人注意！及時檢查真的能救命
點亮 " 在看 "
一起長知識！
