人工智能風口正盛,一封呼籲暫停大型 AI 研究的公開信在矽谷科技圈流傳開來,激起千層浪。
最具戲劇性的是,OpenAI CEO Sam Altman 的名字也曾赫然出現在公開信上。
不過周三晚些時候被證實是虛假簽名,Altman 在接受媒體采訪時,他并沒有計劃呼籲暫停人工智能的開發。
Altman 并不同意這封信的觀點,他指出:
OpenAI 不僅非常重視 AI 安全,而且比業内其他公司更重視。我們談論這些問題的聲音最大、強度最大、時間最長。
公開信引發争議
近日,OpenAI 發布了 ChatGPT 升級版 GPT-4,GPT-4 在與人類交互方面和一些最具挑戰性的标準化測試中表現出色,但同時這也引起了人們的警覺。
3 月 22 日,非盈利組織生命未來研究所發布了一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比 GPT-4 更強大的人工智能系統的訓練,暫停時間至少爲 6 個月。圖靈獎得主 Yoshua Bengio、馬斯克、蘋果聯合創始人 Steve Wozniak 等上千名科技大佬和 AI 專家均簽署了公開信。
在衆多大佬的光環下,這封信引起軒然大波,部分認爲這就是是 " 酸葡萄心理 ",AI 競賽中落後的玩家在爲自己争取 6 個月的時間。
不過,也有人認爲擔憂有一定的合理性,AI 發展太快,監管和審查方面沒有跟上步伐。
仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。比如,蘋果聯合創始人 Steve Wozniak 簽署了信,Pinterest 聯合創始人 Evan Sharp 也是如此。大約 30% 的簽署者爲學者,馬斯克似乎是與人工智能最相關的上市公司負責人。
值得一提的是,盡管圖靈獎得主 Yoshua Bengio 名字在内,但深度學習學界三巨頭另外兩位,泰鬥級的 Hinton 沒有公開表态,LeCun 則清晰指出不同意這一觀點前提。
簽署者名單還缺少 Jack Clark,他是人工智能安全和研究公司 Anthropic 的聯合創始人。Anthropic 與谷歌雲建立了正式合作夥伴關系,谷歌在 Anthropic 上投資了近 4 億美元,加劇了該公司與 OpenAI 的競争。
馬斯克爲什麽簽署公開信?
本來是 AI 的支持者,特斯拉曾舉辦兩個人工智能日,向投資者介紹該公司的 AI 工作,并招募頂級 AI 科學家爲這家電動汽車制造商工作。那馬斯克爲什麽會簽署反對的公開信?
分析指出,馬斯克并不是 AI 的狂熱愛好者,他隻是想開發關于汽車的狹義人工智能。
"這是馬斯克爲了改善特斯拉處境而做出的精明舉動。"Wedbush 分析師 Dan Ives 表示:
這封信的呼籲将限制微軟的發展速度,因爲微軟幾乎在 AI 競賽中處于霸主地位,谷歌緊随其後。
對于特斯拉來說是一把雙刃劍,馬斯克下一步的重點是推動自動駕駛技術研發。
分析指出,一方面馬斯克下一步的重點是推動自動駕駛技術,其在暫停期間可以加快該技術研發;另一方面暫停大型 AI 研發是否會波及到暫停特斯拉的研發,目前尚不清楚。任何影響自動駕駛汽車潛力的事件都可能影響特斯拉的股價。
特斯拉正在以 15000 美元的價格出售其 " 全自動駕駛 " 輔助軟件,目前這個系統尚不能完全自動化,仍需要駕駛員監督。
而特斯拉最大的投資者之一木頭姐 Cathie Wood,相信自動駕駛軟件将解鎖數千億甚至數萬億的市值。木頭姐預計,到 2026 年,自動駕駛軟件将每年爲特斯拉帶來 2800 億美元的利潤。值得一提的是,木頭姐并不在簽署者名單上。