本文來自微信公衆号：極客公園 （ID：geekpark），作者：Xin Ling，編輯：鄭玄，原文标題：《INS 排名第一的網紅餐廳：有美食照、有故事、有好評，隻是沒有這個餐廳》，題圖來自：AI 生成
近日，Instagram 上一家名爲 Ethos 的餐廳火了。這家餐廳在網頁上的展示非常 " 高大上 "：食物精美，用餐環境一流，還有名流大佬爲你調酒。憑借這些展示，Ethos 得到了成千上萬個網友的點贊和追捧，在 Instagram 上吸引了 7.2 萬名粉絲，成爲奧斯汀排名第一的餐廳。
這看起來很正常，直到被 a16z 投資人賈斯汀 · 摩爾指出：這家 " 餐廳 " 根本不存在，Ethos 在 Instagram 上發布的食客自拍、留言、廚師介紹以及餐廳介紹全部由 AI 生成。
目前尚不知道這場鬧劇的始作俑者，也就無法探究其背後動機到底是出于一場社會實驗、惡搞，還是存有更多的經濟、利益目的。但這件事依然給公衆敲響了警鍾：從 DeepFake 色情門、到明星 AI 換臉、雷軍罵人事件，以及剛剛結束的美國大選期間層出不窮的 AI 生成假圖片、假新聞 ……
生成式 AI 快速發展的當下，AI 造假正在以各種各樣無法預料的形式占領社交媒體。相比于過去移花接木式的假新聞，AI 生成的内容更加真實，普通人更加難以分辨，同時造假成本和門檻卻更低。而要維持社交平台的真實性，需要社交平台做更多的工作。
一家不存在的餐廳
Ethos 是 Instagram 上一家餐廳的賬号。點開賬号，裏面的食物極具創意且十分誘人。芝士蛋糕上鋪着流淌着新鮮蜂蜜的蜂巢，焦脆的洋蔥圈外環印着滕瓦爾語撰寫的 "one ring to rule them all"，仿佛中土世界的至尊魔戒。還有各種奇妙造型的美食，比如把奶酪片和生菜紮成一襲抹胸裙，草莓做的糖果小屋，恐龍形态的 " 牛角包 "。
圖片來源：Ethos 餐廳 Instgram 賬号
賬号裏不僅有精緻而富有巧思的食物，用餐環境也很神奇。根據介紹，餐廳提供 " 泡澡壽司 " 服務，食客竟然可以一邊泡澡一邊吃水上漂來的壽司，而廚師會和食客一起泡在巨大的浴缸裏，親手制作每一件壽司。帖子下面還有對此的 " 真實 " 評論：" 上周我們不得不縮短 omakase 時間，因爲有人在壽司熱水浴缸裏弄髒了自己。管理人員很通情達理，還免費給我們送了一杯香槟。"
這家神奇的餐廳人脈還非常強大。有一篇帖子是關于亞馬遜首席執行官傑夫 · 貝佐斯在酒吧提供雞尾酒服務。圖片介紹稱因爲餐廳廚師和貝佐斯恰好是朋友，所以來到這家餐廳食客，将有機會品嘗到貝佐斯親自調制的雞尾酒。
Ethos 憑借别具匠心的食物和服務，在 Ins 上逐漸積累起 7.2w 粉絲的關注。良好的用戶留言與反饋，則讓其成爲奧斯汀排名第一的餐廳。
正當網友驚歎于這家餐廳之奇特時，矽谷風險投資公司 Andreessen Horowitz 的合夥人賈斯汀 · 摩爾（Justine Moore）看穿了真相，在社交媒體上發布了她的發現：這家名爲 Ethos 的餐廳自稱是一家位于德克薩斯州奧斯汀的高檔餐廳，餐廳社交媒體帳戶擁有數萬名關注者，并且帶有藍色認證标記。然而，事實上，這家餐廳并不存在，網站上的所有信息都是由人工智能生成的。目前還不清楚是誰在運營 Ethos 賬号。
圖片來源："X" 截圖
在相關平台上爲餐廳美化圖片、刷好評，這事并不新鮮。在生成式 AI 技術的時代到來之前，商家雇水軍刷評論或者好評返現就能實現。如今随着技術升級，不僅 p 圖、刷評論都省了，甚至 " 創造 " 一家餐廳可以直接通過 AI 完成。
生成式 AI 作爲一項技術并沒有好壞之分，在幫助我們更好地創作時會給人們帶來樂趣，如果使用不當，則會使我們的創造能力得到退化，甚至造成惡劣的社會影響。
技術濫用，平台有責
AI 技術的發展已經讓我們的生活邁入到了 " 生成 " 時代。視頻生成的頭部創業公司 Runway 的 CEO Cristóbal Valenzuela 在最近的一封公開信中對此闡述道："就像相機改變了我們捕捉現實的方式，AI 也正在改變我們創造現實的方式。"
Cristóbal Valenzuela 站在 AI 創作的角度，對未來的内容和媒體作出了美好的暢想：" 模拟世界，讓内容能夠實時自我塑造，才能消解創造與分發之間的界限。這不僅是構建全新媒體景觀的基礎，也将從根本上重新定義媒體：它既是互動的、生成性的、個性化的，同時又是共享和普遍的。"
這裏要厘清一個概念，Cristóbal Valenzuela 所傳達的，是說生成式 AI 的使用可以幫助人們更好地創作，而不是替代創作本身。
例如 Runway 一直在推動生成式 AI 創意的邊界，其推出的 Gen-3 Alpha，能夠從簡單的提示詞生成高質量視頻。這就把創作者從需要使用各種複雜的制作工具中解放出來，大大降低人們創作的門檻，真正釋放人們講好故事的創意能力。
因此，AI 替代的是 " 生成 " 部分，而不是 " 創作 " 部分。如果意圖在創作部分使用 AI，會造成過分依賴 AI，令人在創意上産生惰性，同時也抹殺了 " 人 " 在内容創作中自然帶來的溫度與情緒。
例如某外賣平台最近上線的新功能裏，用戶可以用圖文形式發布自己購買過的外賣訂單，幫助其他用戶發現優質的商品和商家。發布過程中，平台提供了 "AI 幫你寫 " 功能，讓用戶可以使用 AI 技術一鍵生成文案。這一功能，雖然看似降低了用戶的創作門檻，但是在實際體驗中，讓創作過程完全消失，内容的社交真實感也因此大打折扣。
因此，平台需要在恰當的環節爲人們提供 AI 技術能力的幫助，而不是粗暴地讓 AI 幫助造假。
此外，對于那些出于某種目的，在平台上使用并傳播 AI 造假内容的行爲，平台也負有去僞存真的鑒别與清理責任。本文提到的這家不存在的餐廳隻是一條漏網之魚。在今年的美國大選期間，Facebook 平台上虛假圖片的傳播産生了更惡劣的影響。
在剛剛結束的美國大選，Facebook、Instagram 等社交媒體作爲黨派發表政見、吸引選民投票的重要平台，成爲 AI 生成圖片泛濫之地。極客公園最近發布的文章《比飓風更可怕的，是一張 AI 生成圖片》中就提到，在碎片化的社交媒體平台，政客們随意使用 AI 生成的照片來宣傳政見，攻擊對手。感性的印象取代客觀事實，" 造謠一張嘴，辟謠跑斷腿 " 的傳播學原理在 AI 時代更猛烈地回響着。
美國 Pew Research 最近的一項調查發現，66% 的美國人表示，他們 " 至少有時 " 會遇到被篡改或者完全虛構的内容；63% 的人表示，捏造或更改的圖像或視頻會導緻人們對于時事的 " 認知混亂 "。
在 AI 生成内容的時代，内容的真實性和可信度受到了極大的挑戰。對于這些社交平台來說，用戶對平台的信任是其最大的資産。如果平台不引導大家往正确方向去使用，放縱虛假信息的傳播，當用戶有一天對平台失去信任的時候，平台将被反噬，變得毫無價值。
平台：已經行動，仍需努力
事實上，針對日益泛濫的 AI 内容，Meta 這樣的平台企業已經開始采取行動。
Meta 的最高政策主管曾在今年二月表示，該公司将在未來幾個月開始使用一套内置在文件中的隐形标記，檢測和标記其他公司的人工智能服務生成的圖像。
Meta 全球事務總裁 Nick Clegg 在一篇博客文章中寫道，公司将對發布在 Facebook、Instagram 和 Threads 服務上的任何帶有标記的内容應用這些标簽，以向用戶表明，這些圖像——在很多情況下類似于真實照片——實際上是數字創作。
Clegg 表示，一旦新系統啓動并運行，Meta 将對 OpenAI、微軟、Adobe、Midtravel、Shutterstock 和谷歌運營的服務上創建的圖像進行同樣的處理。
值得注意的是，該行動開始于今年二月份，這家名叫 Ethos 的餐廳一直在 Instagram 上火到了十月份才被揭破身份，而美國大選期間 Facebook 上的假圖片也沒有被第一時間識别清理。
Meta 在上周剛剛發布的财報中多次強調，公司本季度社交 " 應用家族 " 部分的廣告收入增長 19%，主要歸功于 AI 技術的應用。很顯然，AI 爲 Meta 帶來可觀的收入，但是在爲用戶提供足夠清朗的社交環境方面，Meta 仍需努力。
