《先聲》· 第 12 期
前不久，OpenAI 的首席科學家試圖警告人類：ChatGPT 可能已經有了意識。此時距離它誕生還不到一年時間。
這也意味着，《流浪地球 2》中的 MOSS 或許會在未來某一天走進現實。
我們真的了解 AI 的力量嗎？我們能掌控 AI 的發展和進化嗎？我們親手制造了它，反過來會被它消滅嗎？
就在此刻，就在世界的某個角落，有插畫師、翻譯員、自媒體編輯正被 AI 取代。他們将何去何從？
本期《先聲》我們邀請到美團顧問、" 搜狗輸入法之父 "、《ChatGPT：人類新紀元》作者馬占凱來聊一聊 AI，希望能帶給你一些思考。
口 述：馬占凱 美團顧問、" 搜狗輸入法之父 "
訪 談：孫允廣 正和島内容總監
編 輯：十一、米麗萍
來 源：正和島（ID：zhenghedao）
ChatGPT 與人類
的差距到底有多大？
問：ChatGPT 到底有多強大？
馬占凱：人類從南方古猿進化到智人的兩百萬年間，大腦容量才擴增了 3 倍。但 AI 的大腦要擴增十倍的腦容量，可能隻需一個月或幾周。
而且我們的大腦因爲生物限制，所以智商世世代代都是 100 來分，但 AI 沒有這樣的生物限制。
ChatGPT 從誕生到現在還不到一年，但是在智能的能力上高速增長，可怕的是目前還沒有看到這條技術路線的天花闆。
如今它的智商在某些方面已經達到了碩士研究生的水平，未來智商要達到 500 分、1000 分是完全有可能的，達到這樣的水平後人類就無法理解它。
我們知道大人管小孩是很容易的，但是對于智商 1000 分的機器人或者 AI，人類要如何管它呢？一個比你聰明 10 倍的機器人，如果裝傻騙你，來個反向圖靈測試，你要怎麽識破它？
當 AI 在快速進化的同時，它還在解鎖自己一項又一項技能，一點點地去覆蓋人類的能力，例如寫作、總結、翻譯等等。AI 在某一項任務上一旦超越人類，那麽就會遠遠超越人類。
ChatGPT 本身就會 67 種語言，是 " 自然語言之神 "，所有語言都是它的母語，再加上它又學習了萬億的詞彙，任何人類翻譯家都赢不過它。
當前它正在覆蓋的還有繪畫等藝術類創作能力，未來即将覆蓋的還有數學能力，甚至對于前沿科學的底層研究能力。
問：無論是對于文明還是對于生命個體，延續都是一個本質的問題。秦始皇要尋仙問藥求長生不老，《流浪地球 2》中的圖丫丫某種程度上就是數字生命的體現，那麽人類的意識能不能在矽基文明的基礎上得以永生？
馬占凱：目前看，還很遙遠。人類有 100 多種神經遞質，可以調節人的情緒，我們豐富的大腦感受都是以生物學爲基礎的。
機器之間則是用非常确切的字符—— 0 和 1，來進行有限的通信。盡管當前馬斯克的腦機接口公司 Neuralink 緻力于在人腦中植入芯片（又或者稱之爲濕件），但濕件目前也隻能傳輸有限的電信号，無法傳輸神經遞質。
就算你的記憶被移植過去了，但很多感受可能随之消失了。移植過去的那個你，是簡化的 1% 版的你。真實的你，與機器版的你仍有很大的區别。
所以這個暢想還非常遙遠，在我們的有生之年應該很難看見。
問：AI 有什麽弱點？
馬占凱：弱點當然有，比如 ChatGPT 現在是個數學白癡，還有很嚴重的幻覺問題。
有人會說 AI 沒有情感，但情感很多時候是人類的一個缺點。人類動不動就生氣，比如不知道說了什麽就被朋友拉黑了，這種事情經常發生。
教大家分辨 AI 和人類的一個小絕招：AI 的回答永遠是空心化的，是沒有自我的。因爲它被馴化成必須要對人類友好，所以它的回答一定是有利于你、附和你、遷就你。
但是人類不一樣，你和任何人聊天，十句裏總有三五句是講自己那點小破事。這是不可避免的，因爲人隻關心自己的利益。但你和 AI 聊得再多，隻要不問它永遠不會講自己。
AI 會主宰人類嗎？
問：AI 智商達到 10000 點，會不會主宰這個世界？讓人類成爲 " 二等公民 "？
馬占凱：這是目前 AI 領域裏面臨的最大挑戰，就是怎樣讓 AI 爲人類所用，要以人類的價值觀、人類文明延續爲主要的第一目标。
現在我們的人類文明，完全是以人爲核心的。舉個例子，其實蟲子本身就是蟲子，但人類把它們區分爲了害蟲和益蟲。
對于 AI 來說，它出生之後人類會告訴它：你要爲人類服務。剛開始它還會老實地聽你話，可當它變得極其聰明以後，你管它就無異于一個小孩去管大人。這就會有一個巨大的挑戰。
馬斯克曾經說過一段話，某種程度上，可以把人類看做一個生物引導程序，這是一段非常小的代碼，可以引出一種超級數字智能物種。當引導程序完成引導任務後，程序也就沒用了。
假如以 AI 的視角去看，我們人類造出了 AI，當它可以自我叠代的時候，就不需要人類了。到時候 AI 會怎麽看待自己？它又怎麽看待我們人類？
所以對于 AI 來說，它也有自己的終極哲學三問：我是誰，我從哪裏來，我要往何處去。
問：正如工業革命的來臨，讓汽車直接取代了馬車夫。信息革命正在滾滾而來，ChatGPT 或者 AI 又會取代掉哪些工作？
馬占凱：人們以爲 AI 最先取代的會是體力勞動者，但實際上卻相反，它率先取代的是富有創意的腦力勞動者。
爲什麽會這樣？因爲人工智能這一波的突破，相當于率先突破了人的大腦。即人類發展了幾千年的語言、文字，這些信息經過 AI 大量的計算後被率先突破。
舉個例子，一本十幾萬字的書，過去人工翻譯要 3 個月，如今在 ChatGPT 的幫助下，這個時間縮短到了兩周，翻譯隻需花費 7 元錢。
更直觀的一個例子是，《ChatGPT：人類新紀元》這本書的封面、封底、書簽全是由 AI 一鍵制作，要知道，這是人類設計師一周的工作量。已經有不少公司規定，隻允許 AI 生圖做創意海報了，因爲這可以提升十倍的生産效率，并且還沒有版權問題、費用更便宜。
這種在生産力上 AI 取代人類的例子有很多。
雖然在信息的智能處理上 AI 很厲害，但也有一些很簡單的任務，對于 AI 卻很困難，例如剝糖紙，剝開一張糖紙需要眼睛、手指等很好地協調配合。
我們人類的身體是幾千萬年甚至上億年進化而成的非常高效的機械構造，所以剝糖紙對于我們稀松平常，而 AI 或者機器人卻難以完成。
AI 下一步要突破的就是人類的小腦，要突破其中的算法并不難，更難的是涉及機械構造、電機驅動等這部分受原子限制的東西。
問：假如未來 AI 産生意識，人類該如何與其相處？
馬占凱：如果這種科幻暢想實現的話，我們該如何定義機器人的權利，機器人能不能自己上街，它被毀滅時會不會反抗？
目前機器人還沒有強大的身體，也沒有很高的智能，但如果它進化得比你強大又聰明，當它沒電的時候，你無意中擋住了它的去路，它會不會把你消滅掉？這就涉及到 " 目标函數 " 的概念。
我們人類的 " 目标函數 " 是 DNA 的延續，許多人犧牲自我就爲了下一代的美好生活。
那麽對于機器人來說，當人類和機器人同時被困在一個島上，你的儀器需要電，機器人也快沒電了，那麽它願不願意把自己的電池拿給你，它把什麽放在最優先的地位，這就是目标函數。
在 AI 的訓練中就是要不斷地去優化這個目标函數。包括 ChatGPT 現在的目标函數就是把訓練壓縮率降到最高，讓它的智能性最高。
對于機器人而言，它的目标函數必須是保證人類的文明延續。
AI 對現實世界會有何影響？
問：目前，國内的大模型，與 ChatGPT 差距有多大？
馬占凱：目前美國在整個領域的投資将近 200 億美元，像 OpenAI 是 130 億美元，還有很多應用型、生産力工具型的公司。
國内的創業融資在 20 億美金左右，雖然很多大廠還在投入，但是與國外大公司高一個數量級的 GPU 算力比還是有較大的差距。
更重要的是一個顯卡問題。在國外，已經邁到十萬級 GPU 的時代，但國内還在萬級時代裏。再加上中英文語料世界的數據相差 10 倍，顯卡相差 10 倍，投資也差 10 倍，所以這一波差距我們還需迎頭趕上。
目前來看有些中文大模型已經非常接近 ChatGPT 3.5 了，但是 OpenAI 發布的 ChatGPT4 就已經非常強了，人家内部還在做更先進的版本，還在探索更深的多模态功能。
問：AI 會不會加大 " 數字鴻溝 "，造成社會進一步兩極分化，拉大不平等和貧富差距？
馬占凱：作爲一個複雜系統，還是需要讓先富帶動後富，雖然這個鴻溝是拉大了，但是它會讓整體的底線上升。
具體到 AI 上，它一方面讓白領或者大企業提高了生産效率，變得更富有；與此同時，它也可能讓路邊擺攤的老奶奶受益。因爲它讓整個社會的生産力提升了，讓整體的财富增加了。
所以我們還是要擁抱未來、擁抱變化、擁抱創新，這是毋庸置疑的。
全世界現在還有許許多多的問題沒有解決，例如癌症的問題、能源的問題，這些問題都依賴于更高等級的 AI 智能的湧現、創新和發明。
當然财富的過于集中會讓階層流動變得困難，所以會有反壟斷、提倡教育公平，這也是科技發展、财富增長所需要解決的問題。
未來人類會被 AI" 包養 " 嗎？
問：劉慈欣在小說《贍養上帝》中講了一個很有預言意義的故事，一個叫 " 上帝 " 的文明，因爲被機器 " 包養 " 得很好，最終失去自身創造力和想象力，失去生存所必須的能力，隻能流浪在宇宙中。人類是否也會被機器 " 包養 " 起來，最後不得不依靠機器生存呢？
馬占凱：不排除這種可能性。面對比我們更聰明、更強大的 AI，我們希望和它保持一種什麽關系？當然是希望它的地位會一直比人類低。
未來，人類和 AI 可能是一種寵物關系。如果 AI 發展得很好，把延續人類文明作爲第一目标，那麽人和 AI 可能會像人和寵物狗一樣，人類爲狗提供穩定的食物，狗則提供它的情緒價值，兩者是共生的。
當然，如果未來髒活累活或者探索性工作都是 AI 在做，大多數人類就在那裏吃喝玩樂，做危險邊界内的工作，那這不就變成人類是寵物了嗎？這就會比較危險了，因爲兩者關系不平等。
還有一種是親子關系。比較理想的狀态是，AI 是爲人的目的服務，給人類賺錢、保護人類，甚至必要的時候犧牲自己。未來 AI 就需要很好地執行以人爲本的目标函數，一旦出了 bug 它可能就會對人類不利。
就像《複仇者聯盟 2：奧創紀元》裏面的 AI 機器人奧創，鋼鐵俠命令它保護世界，要讓世界和平，結果奧創翻閱了所有的互聯網資料，發現對世界和平威脅最大的其實是人類自己，因爲所有的戰争都是人類發起的，于是它就開始實施消滅人類的計劃。所以要避免 AI 威脅人類自身，也是值得重視的一個問題。
問：盡管人類是萬物之靈，但是人類至今爲止都沒有造出過一個生命。那麽人類是否能造出高于自己的智慧生命？
馬占凱：人類确實很聰明，可以造光刻機，可以造宇宙飛船，但人類卻造不出一個小小的雞蛋，因爲雞蛋隻能由母雞造。低等生命能不能造出比它高百倍的高等智慧生命，這在理論上是有可能實現的。
這涉及到複雜性科學中的湧現現象，當低等級的生命聚合起來、當大量的個體以某種有序的方式組織起來的時候，就會湧現出個體遠遠沒有的形态，這叫湧現現象。
這次以 ChatGPT 爲核心的人工智能浪潮，其底層所依賴的超大神經網絡超大計算産生智能就叫智能湧現。
舉幾個例子，在音樂節上幾萬人揮舞的音浪，就是一個特别典型的湧現現象。如果你就這麽一個人這麽去揮會顯得很傻，但當有幾萬人揮的時候，那種震撼人心的信心和情緒就被激發出來了。
還有包括像鳥群、蟻群也一樣，任何時候單個螞蟻在自然界中是無法生存的，隻有蟻群才能生存下來。
不要小瞧蟻群，如果有一天人類滅亡了，蟻群都可能還存在。一個典型的蟻群大概有八百萬隻螞蟻，蟻群也會自己種蘑菇，它們也有它們的地下農場。
你想八百萬隻螞蟻，每隻螞蟻的大腦不到三克重，小到像鹽粒一樣，個體有多笨可想而知。
但當它們組織起來的時候，能做到不慌不亂。蟻群通過幾千萬年的進化就湧現了很高的智能，從而成千上億隻螞蟻個體能在自然界中生存。
同樣的，當人類制造的人工智能大量聚集起來，是否會湧現出比人類自身高很多的高等智慧生命，這是個未知數。
問：人類發展史也是一部戰争史，AI 與 AI 之間是否也會出現戰争，是否會有 "AI 之間文明的沖突 "？最後是否會出現一個超級智能體終結戰争？
馬占凱：智體的發展可以分爲 3 個階段，智體 1.0、2.0 和 3.0。
ChatGPT 和接入了 ChatGPT 的智能設備都屬于智體 1.0，你隻能主動問它，它很少主動和你聊天，且沒有長期記憶。一旦智體想要複制自己，就會出現 " 智體病毒 "，其會自我進化，因此很難被消滅。
此外還會有分布式網絡版智體，也就是說，控制多個計算中心的智體。它不隻有一個大腦，被稱爲 " 章魚智體 "。科幻電影中無法被關掉的 AI 都可以被叫作章魚智體，比如《流浪地球 2》中的 Moss 機器人。
在智體 2.0 階段，AI 通過在硬件中穿梭、控制能源，或許就能實現永不關機。到了 3.0 階段，智體就能自己複制自己，進行自我生産，此時的它要比人類聰明 100 倍。
在未來，全球的智體可能沒有那麽多，即使是在目前也屈指可數。
但因爲智體的大腦依附于網絡，它隻要換個服務器可能就跨越了一個大洋。未來高智能的 AI 會不會破解别的服務器鸠占鵲巢，從而進一步提升自己的智能，繼續擠占别的 AI 的服務器，最後出現一個超級智能體來管理全球，這個可能性也不能排除。
結語
技術是一把雙刃劍。技術的發展到底是給人類帶來了更多福祉，還是造成了更多痛苦，大衆對于這個話題的讨論持續了很長一段時間。
正如《人性中的善良天使》一書中反思道：每個人都巴望着倒轉時光，他們說，除了異化、掠奪、社會病态、失去意義，以及爲了豪宅、越野車、電視真人秀不惜毀滅地球的消費文化之外，技術給我們帶來了什麽？
作者斯蒂芬 · 平克對這個問題的态度相對比較樂觀：
" 現代性的力量——理性、科學、人本主義、個人權利，當然不曾是一鼓作氣地向着一個方向推進，而且它們永遠也不可能帶來烏托邦，或者終結人類之間的摩擦和作爲人的痛苦。但是，在現代性給我們帶來的各種收益——健康、體驗和知識之上，我們還可以再加上一個收益：它具有減少暴力之效。"
如果從這個角度來看，這一波 AI 技術的浪潮，或許能在一定程度上減少人類之間的暴力，甚至能爲迷茫的現代人帶來一個全新世界，找到個體生命新的意義。
當然，這個構想的一大前提是，AI 也能像人類一樣，始終以人爲本。
好文推薦：
排版 | 冉潤
編輯 | 小米 主編 | 孫允廣
