GPT-5别整了！馬斯克Bengio等聯名疾呼：所有先進AI系統暫停研發6個月

GPT-4 讓大牛慌了，緊急聯名成立人類拯救派：

所有 AI 實驗室立即暫停訓練 GPT-4 更先進的 AI 系統！

至少 6 個月限期。

包括馬斯克、Bengio 在内的上千位産學研代表聯名發表公開信 " 暫停巨型 AI 實驗 "，瞬間引起軒然大波。

信中強調：如果不迅速實施，那麽政府應該介入強制執行。

我們熟知的一些大咖，比如 Stability AI CEO、07 年圖靈獎得主、蘋果聯合創始人、多位 DeepMind 工程師也都赫然在列。

有網友表示：這是三體照進現實？降臨派、拯救派和幸存派不是開玩笑的。

我目前是幸存派。

馬斯克 Bengio 聯名呼籲

在這封聯名公開信中，他們提出了三個方面的需求和建議舉措：

首先、立即暫停比 GPT-4 更先進的 AI 系統訓練，時間至少是 6 個月。

這一要求是覆蓋了所有的人工智能實驗室，尤其是這當中的關鍵參與者。

并且暫停舉措必須是公開、可驗證的。如果 AI 機構不能立即實施，那麽政府應該介入強制執行。

其次，利用這段時間，開發和實施一套共享安全協議，用于高級人工智能設計和開發，并由獨立外部專家進行嚴格審核和監督。

信中還明确指出：這并不意味着總體限制一般人工智能的發展，而是從目前危險的競技中退後一步，避免更強大、更不可預測的黑箱模型和新興能力出現。

人工智能的研究和發展，應該重新聚焦于朝着更準确、安全、可信可解釋等的 AI 系統開發工作上來。

第三，開發者應同政策制定者一道，共同加速開發人工智能治理系統。這個治理系統至少包括：

專門負責人工智能的全新監管機構；

監督和跟蹤高能力的 AI 系統和大型算力池；

注明出處和水印系統，幫助區分真實和合成、以及跟蹤模型洩露；

健全的審計和認證生态系統；

對人工智能造成的傷害進行責任認定；

爲人工智能安全技術研究提供強大的公共資金；

以及提前預防人工智能導緻的巨大經濟政治破壞。

最後，還暢想了一下未來。

在成功創造出強大的 AI 系統之後，我們現在享受一個 " 人工智能夏天 "。但這個夏天希望能夠漫長一點，需考慮到所有人的利益，并給社會一個适應的機會，暫停使用一些危害系統；而不是毫無準備地沖進 " 秋天 "。

内涵 OpenAI 和奧特曼

這麽做的原因，無非就是忌憚當前 GPT-4 的強大。

畢竟連 OpenAI 老闆奧特曼自己也承認：AI 确實可能殺死人類。

在公開信的最前面，他們（用一堆車轱辘話）解釋了這麽做的原因，其中不乏一些内涵 OpenAI 和老闆奧特曼的話。

比如一上來就是，正如廣泛研究和頂級人工智能實驗室所承認的那樣，能與人類競争的 AI 系統會對社會和人類構成風險。

本該進行謹慎的規劃和管理沒有進行，反而演變成一場失控的 AI 競速。沒有人——甚至他們的創造者——能夠理解、預測或可靠地控制。

甚至還發四連問：

我們應該讓機器人在我們的信息渠道中充斥着宣傳和不真實嗎？

我們是否應該把所有的工作都自動化，包括那些有成就感的工作？

我們是否應該開發非人類的大腦，使其最終超過我們的數量，勝過我們的智慧，淘汰我們并取代我們？

我們是否應該冒着失去對我們文明的控制的風險？

他們認爲這樣的決定決不能委托給未經選舉的技術領袖。

（奧特曼：直接報我名字得了）

而 OpenAI 最近關于人工通用智能的聲明提到「獨立的審查」、「限制先進模型的計算增長速度」等方案，他們認爲應該現在就開始進行。

截至現在，這個公開信已有 1100+ 的 AI 從業者簽署，其中不乏一些知名的大牛。

學界包括伯克利計算機系教授 Stuart Russell、Hopfield 網絡發明者 John J Hopfield，2007 年圖靈獎得主 Joseph Sifakis、IEEE 計算機先驅 UML 之父 Grady Booch、沃爾夫物理學獎得主斯坦福教授 Pablo Jarillo-Herrero 等。

産業界有蘋果聯合創始人 Steve Wozniak、Stable Diffusion 背後公司 Stability AI 首席執行官 Emad Mostaque，多位 Deepmind 工程師等。

不過需要多說一句的是，這封聯名信屬于公開署名，任何人都可以申請，後續名單的真僞性有待查證。