OpenAI 的創始人兼 CEO 薩姆 · 阿爾特曼認爲,馬斯克等人聯名簽署的暫停大型 AI 模型訓練的公開信有一定道理,但暫停訓練并非解決問題的方法,并稱 OpenAI 目前還沒有開發 GPT-5。
在阿爾特曼積極爲 OpenAI 辯護的同時,帶頭簽署公開信的馬斯克卻自己搞起了大模型。據《華爾街日報》報道,馬斯克在美國内華達州成立了一家名爲 X.AI 的人工智能(AI)公司,旨在與聊天機器人 ChatGPT 的開發公司 Open AI 展開競争。
圖片來源:視覺中國 -VCG31463611930
OpenAI:GPT-5 不存在
當地時間 4 月 13 日,在麻省理工學院舉行的一個讨論商業和人工智能的會議上,阿爾特曼發表了視頻演講。他表示,部分同意公開信中關于 AI 風險的内容,但指出信件 " 缺少何時需要暫停研究的大部分技術細節 "。
" 我認爲謹慎行事和對安全問題越來越嚴格非常重要,但我不認爲這封信是解決這個問題的最佳方式," 阿爾特曼表示。
3 月,馬斯克、蘋果聯合創始人沃茲尼亞克、圖靈獎得主本吉奧等多名業内大佬呼籲暫停訓練與 " 比 GPT-4 更強大 " 的大型語言模型相關研究,以便更好地研究快速發展的 AI 給人類帶來的安全風險。當前,這封公開信已經有超過 2.5 萬人簽名。
" 我也同意,随着 AI 能力變得越來越強大,安全标準必須提高," 阿爾特曼表示," 我們正在 GPT-4 之上做其他事情,我認爲這些事情存在各種需要解決的重要安全問題,但這封信卻隻字不提。"
阿爾特曼強調,OpenAI 花了六個月研究 GPT-4 的安全性,接受了外部審核,也進行了内部的安全測試,之後才正式公開。
公開信呼籲暫停比 GPT-4 更強大的 AI 系統的研究,劍指 OpenAI 的 GPT-5,而此前有傳言稱更新的 GPT 系統即将面世。對此,阿爾特曼直接表示,目前還未開發 GPT-5。
" 這封信的早期版本稱我們正在訓練 GPT-5。我們沒有訓練,而且未來一段時間也不會訓練,所以從這一點來講,(這封信)有點傻," 阿爾特曼表示。
此外,阿爾特曼還認爲,AI 界追逐大語言模型規模的競賽可能正在接近極限,規模更大并不代表性能更強。
" 我想我們已經在追逐大模型時代的末尾,我們将從其他方面來提升模型," 阿爾特曼表示," 我想對參數量的關注太多了,也許參數量還會繼續攀升。這讓我想起了 1990 年代和 2000 年代的芯片千兆赫茲競賽,所有人都在追求更大的數字。"
" 我認爲重要的是我們把焦點放在快速提升性能上。如果未來有理由讓參數量下降,或者用多個更小的模型組合起來工作,我們會這麽做的。我們想帶給世界的是性能更強、更有用和更安全的模型,而不是對參數量沾沾自喜," 阿爾特曼表示。
" 雙面人 " 馬斯克
在阿爾特曼積極爲 OpenAI 辯護的同時,帶頭簽署公開信的馬斯克卻自己搞起了大模型。
據《華爾街日報》報道,馬斯克在美國内華達州成立了一家名爲 X.AI 的人工智能(AI)公司,旨在與聊天機器人 ChatGPT 的開發公司 Open AI 展開競争。内華達州備案文件顯示,馬斯克是爲 X.AI 的唯一董事,而馬斯克家族辦公室主任賈裏德 · 伯查爾則是該公司的秘書。
此前就有媒體報道稱,馬斯克近日大手筆購置 1 萬張英偉達 A100 GPU,這是訓練大模型必備的高性能芯片。
知情人士透露,馬斯克正在組建一個由 AI 研究人員和工程師組成的團隊,他還與特斯拉和 SpaceX 的一些投資者讨論了投資這家新公司的問題,投資者對此感到非常興奮。
人員方面,馬斯克從谷歌的 AI 部門 DeepMind 等公司挖來大語言模型專家,包括 DeepMind 的高級科研工程師 Igor Babuschkin,他在 DeepMind 前後一共工作了約 5 年,中間還跳去 OpenAI 工作了一年半;以及 Manuel Kroiss,他在 DeepMind 工作了六年。
熟悉馬斯克想法的人士透露,新 AI 公司與他的其他公司是區分開來的,但這家公司可以使用推特的内容來訓練其語言模型,也可以利用特斯拉的計算資源。
實際上,馬斯克正是 2015 年 OpenAI 成立時的聯合創始人之一。2018 年,馬斯克被 OpenAI 踢出了董事會,媒體報道稱是因爲特斯拉深入研究自動駕駛的 AI 技術,與 OpenAI 出現了利益沖突,同時馬斯克在安全方面的想法與 OpenAI 産生了分歧。
每日經濟新聞