周三,2024 諾貝爾物理學獎獲得者、"AI 教父 "Geoffrey Hinton 在獲獎後接受多倫多大學校長 Meric Gertler 采訪時表示,他非常自豪自己的一個學生解雇了 OpenAI 的首席執行官 Sam Altman。
" 我非常幸運,有很多非常聰明的學生,他們比我優秀得多。他們後來都做了偉大的事情。我特别爲我的一個學生解雇了 Sam Altman 而感到自豪。"
近年來,Hinton 一直在警告,如果不加以控制,他參與創建的 AI 系統可能會帶來災難性的後果。
事實上,不止是 Hinton,越來越的人也開始表達對 Altman 行爲的不滿。近日,馬斯克也表示,他 "不希望世界上最強大的 AI 被不值得信賴的人控制。"
Hinton:Altman 更關心利潤,而不是安全
昨日,Hinton 和 John Joseph Hopfield 一同獲得了 2024 年度諾貝爾物理學獎。以表彰他們"利用人工神經網絡實現機器學習的基礎性發現和發明"。
Hinton 也被廣泛稱作"神經網絡之父"、"AI教父",是人工智能和深度學習領域的領軍人物之一,他的學生和後輩遍布現在整個 AI 學術界和工業界。
其中,最廣爲人知的學生之一是前 OpenAI 聯合創始人兼首席科學家 Ilya Sutskever,他于去年 11 月領導公司董事會解雇了 Altman,但随後又迅速重新聘用 Altman 成爲公司 CEO。Hinton 表示:
" 我的學生之一,Ilya Sutskever 曾是 OpenAI 的首席科學家。随着時間的推移,事實證明,Altman 更關心利潤,而不是安全。"
Sutskever 于 5 月離開 OpenAI,并于 6 月宣布創辦了的新公司 Safe Superintelligence Inc,稱公司隻專注于一個目标:通過革命性突破實現安全超級智能,這與 OpenAI 的初衷不謀而合。
Hinton 曾在谷歌工作了近 10 年的時間,擔任副總裁兼工程研究員職務,幫助谷歌在圖像識别、語音識别等人工智能領域取得重大進展。2023 年,他辭去了這一職務,并簽署了多封公開信,警告人工智能及其不受約束的發展所帶來的"毀滅性風險"。
Hinton 表示,Altman 對 AI 安全的關注要比利潤的關注小得多。本月 3 日,OpenAI 發表聲明稱,已經完成 66 億美元的新一輪融資。4 日,OpenAI 又拿到 40 億美元信用額度,公司流動資金超百億美元。Altman 曾警告投資者不準支持馬斯克的 xAI 等勁敵。
馬斯克:不希望世界上最強大的 AI 被不值得信賴的人控制
事實上,不止是 Hinton,越來越多的人開始表達對 Altman 的不滿。
近日,馬斯克在接受媒體人 Tucker Carlson 采訪時表示,他不信任 OpenAI 或 Sam Altman,他不希望世界上最強大的 AI 被不值得信賴的人控制。
"OpenAI 原本是一個開源公司,但現在不是了,并且正在實現利潤最大化。
顯然 Sam Altman 會得到 100 億美元股票或類似的東西,所以我不信任他,我認爲我們不想讓世界上最強大的 AI 被一個不值得信任的人控制。"
華爾街見聞此前提及,一位知情人士向媒體透露,OpenAI 在上周四舉行了一次全體員工會議,會上董事會決定考慮将公司重組爲營利性企業。若該轉變發生,非營利部門将繼續作爲獨立實體存在。
在會議上,Altman 否認了有關他将獲得 " 大量股權 " 的報道,稱這些信息 " 完全不真實 "。
>