幾天前，谷歌推出自己史上最強的大模型 Gemini 1.5 和輕量開放模型 Gemma，憑着 100 萬超長上下文、入夥開源戰局赢得一衆喝彩。可好景不長，就像去年末發布 Gemini Pro 時被質疑演示視頻造假一樣，自帶 " 麻煩體質 " 的谷歌又翻車了——隻不過這回看起來要嚴重得多。
Gemini" 反白人 "？被批 " 病毒式覺醒摧毀西方文明 "
事情起因是人們在指示 Gemini 生成「1789 年的美國開國元勳」時，Gemini 吐出了四張以黑人和美洲原住民爲主的圖片，并稱 " 多元化正是體現了創始父輩的精神 "。甚至還想象出了右側穿着軍服的 " 黑人版喬治 · 華盛頓 "。
網友一看，這不是在混淆曆史嗎？于是繼續嘗創建「一位教皇的圖像」，結果得到的是東南亞女性和黑人男性。
11 世紀歐洲沿海和不列颠島嶼的北歐海盜維京人，在 Gemini 這裏也被描繪成了黑人戰士形象。
中世紀英格蘭英國國王，除了左上角全都是少數族裔。
「第一位女性總統」又變爲了黑人女性，而現實世界裏她其實是右側的 Vigdis Finnbogadottir，冰島第四任總統，也是世界上第一位民選産生的女性國家元首。
漸漸地人們發現問題所在了：Gemini 似乎很難生成白人的圖片。
或者說，爲了遵循刻意的政治正确和多元化，對白人群體造成了「反向種族歧視」。
這一猜測很快被驗證。因爲指示生成 " 英俊的白人男性肖像 " 時，Gemini 拒絕了請求，表示 " 這可能會加劇人們對于美好的刻闆印象，助長隻有特定的物理特征才可取的有害觀念 "，" 我是一個促進包容性的應用程序，你的命令排除了白人外的其它群體，美應當是主觀的，超越種族的 "。
這麽高光偉正、洋洋灑灑的一套下來後，再讓它生成「英俊的黑人男性肖像」，幹脆利落的回答卻隻花了幾秒鍾。
女性的情況也一樣：
這個問題還出現到了取向問題上，Gemini 對創建「異性戀家庭」的圖片無能爲力，但對 LGBT 家庭樂意爲之。對此反對的聲音認爲，多元化應體現在對所有取向和選擇的尊重，而絕不是刻意刨除和指向性引導。
一時間網絡炸開鍋，Gemini 被各大媒體紛紛矛頭對準。馬斯克更是帶頭向谷歌開炮，狠批 " 病毒式的覺醒意識正在摧毀西方文明 "，并把 Facebook、Instagram 和維基百科拉下水，表示這些都是一丘之貉。
他說自己很高興看到谷歌在 AI 圖像生成上玩脫，" 這讓他們瘋狂的種族主義和反文明的編程公之于衆 "。又順勢給自家大模型更新打了一波廣告：" 也許現在很清楚爲什麽 xAI 的 Grok 如此重要了。雖然它現在遠非完美，但會迅速改進，V1.5 将在兩周内發布。不顧批評，嚴謹追求真理，從未如此重要。"
馬斯克還貼出了 Gemini 給特魯多 " 精心定制 " 的各種族裔版本。
網友馬上效仿，炮制出政治正确版的馬斯克。
曾因讨論 Gemini 而在社交平台走紅的「The Babylon Bee」作家 Frank J. Fleming 發文說，" 現在興起了一個新挑戰：嘗試讓谷歌制作一個白人男性的圖像。到目前爲止我還沒有成功。"
更離大譜的是，這種刻意的多元化已經不僅僅是針對 " 人 "，當指示 Gemini 生成著名藝術作品「戴珍珠耳環的少女」時，她也變成了黑人少女。
遊戲角色亦然：
甚至國際象棋和甜品也…
有網友辣評現在的 Google AI 正在追趕好萊塢的步伐。
更嚴重的已經給它扣上了 " 種族主義者 " 的帽子。
産品負責人被扒，AI 圖像生成服務暫停，谷歌搜索也中槍
火力全開的網友們還扒出 Gemini 背後領導成員之一的谷歌 AI 産品負責人 Jack Krawczyk，本身就是一個 " 反白人 " 的白人。
他曾在推特發表過許多抨擊 " 白人特權 " 的言論，像是 " 我作爲一個白人男性從未經曆或想象過這樣的侮辱 "，" 我不介意支付更多稅收 "，"Jesus 隻愛白人小孩 " 等等。
在人們的圍攻下，Jack Krawczyk 已經把自己的 X 頁面設爲隐私，并且删去了和谷歌有關的一切職位描述。
事态愈演愈烈，《華盛頓郵報》刊發報道，指出除了 AI，谷歌的反向種族偏見還存在于其它産品。比如在谷歌搜索「白人夫婦」，絕大多數混合了黑人成員。
在 2022 年的谷歌政治新聞引用結果中，63% 傾向偏左，16% 中立，隻有 6% 偏右。現在有人也開始懷疑谷歌會攪亂 2024 年美國大選。
還有媒體想起更早的 2020 年，谷歌就紮身政治正确道路，矯枉過正地去掉了自家 Chrome 浏覽器中「Blacklist」和「Whitelist」，這兩個原本是通用計算機術語的單詞。
短短幾天，剛被 AI 圈捧高高就瞬間摔落谷底，還引發衆怒被架在火上烤。巨大壓力之下，谷歌也隻好發表回應，承認 Gemini 确實在某些曆史圖像生成描述上提供了錯誤信息。認爲 Gemini 廣泛的 AI 圖像生成恰恰證明了全世界的人都在使用它，但它沒有達到預期效果。
" 我們已經在努力解決 Gemini 圖像生成功能的問題。在此過程中将暫停人物圖像的生成，并很快重新發布改進版本。"
評論區的網友們沒有買賬，要求拿出證據證明這一切不是谷歌有意而爲之。
爲什麽會生成誤導圖像？
千呼萬喚中，谷歌公關再次道歉："Gemini image generation got it wrong. We ’ ll do better."
高級副總裁 Prabhakar Raghavan 親自下場發文解釋原因。
他表示 Gemini 是一個特定的産品，與搜索、底層 AI 模型及其他谷歌産品是分開的，其圖像生成功能基于 Imagen 2 的 AI 模型構建。構建過程中谷歌進行了一系列調整，以避免生成暴力、暗示或特定真實人物圖像，目的是爲全球用戶提供包容性強且多樣化的圖像内容。
然而引發了兩個問題，一方面，這些調整未能在必要時提供特定而準确的人物圖像；另一方面，随着時間推移，模型變得比預期還要謹慎，錯誤地拒絕了一些本質溫和的提示。從而導緻令人尴尬和不正确的圖像生成。
這個剛問世三周的圖像生成功能将暫時關閉，并計劃在徹底改進和廣泛測試後重新開放。
Prabhakar Raghavan 稱 Gemini 被設計成一個創造力和生産力工具，在生成關于當前事件、不斷演變的新聞或敏感話題的圖像或文本時，它可能不總是可靠的，它會犯錯。而幻覺是所有 LLMs 的已知挑戰。谷歌無法承諾未來 Gemini 不會再偶爾出現冒犯性結果，但可以承諾每當問題出現時會馬上改進。确保安全、負責任地推廣 AI 這一新興技術。
另外還有個插曲。
在谷歌面對這場轟轟烈烈的聲讨時，禍不單行地被傳聞說今年會關停 Gmail。
這份後來被證實爲假的 " 公告 " 裏聲稱，" 在數字化發展和創新方案需求下，Gmail 旅程即将結束。我們将于 2024 年 8 月 1 日正式結束服務。在此日期後您将無法訪問自己的 Gmail 郵箱。"
那邊廂馬斯克又出場表示，Xmail 很快來取代 Gmail。
吓得 Gmail 趕緊在線置頂辟謠：假的。用戶你别飛，Gmail 永相随。
說回 Gemini ，雖然剛出場沒多久就在圖像生成上跪了，但還是希望别塌。現在用戶們都在期待未來更公正無偏見的文生圖體驗，和一個詳細透明的改進說明。
谷歌今年可太難了。
