财聯社 4 月 15 日訊(編輯 牛占林)在讨論人工智能 ( AI ) 系統帶來的威脅時,OpenAI 的首席執行官兼聯合創始人 Sam Altman 表示,人工智能确實存在重大的安全挑戰,但暫停訓練并非解決之道。此外,他還透露,目前該公司還沒有開發 GPT-5。
當地時間周四,在麻省理工學院舉行的一個讨論商業和人工智能的會議上,Altman 對此前的 " 公開信事件 " 以及 GPT-4 等問題發表了講話。
Altman 指出,馬斯克等人呼籲将人工智能研發工作暫停六個月的公開信缺乏 " 技術細節 "。他表示,我也認爲需要謹慎行事,并提高人工智能的安全指導意見,但公開信中提到的方法并非正确的解決之道。
在 3 月 29 日,馬斯克等千名業界和學界人士聯署公開信,呼籲所有人工智能實驗室立即暫停訓練比 GPT-4 更強大的人工智能系統,暫停至少 6 個月,以便制定和實施安全協議。
這些大佬們警告說,OpenAI 和谷歌等人工智能研發的參與者在沒有對潛在風險進行充分管理和規劃的情況下展開競賽。上周,美國總統拜登在白宮與一個科學家顧問委員會讨論了這個話題。當記者問及該技術是否危險時,拜登回應稱:" 還有待觀察,有可能是危險的。"
Altman 補充道,我也同意,随着人工智能的能力變得越來越強大,安全門檻必須提高。在今年早些時候,Altman 承認人工智能技術讓他 " 有點害怕 "。他認爲,随着人工智能技術的不斷發展,人類可能面臨着前所未有的挑戰和風險。
此外,Altman 還明确表示,目前還未開發 GPT-5,而且在一段時間内也不會。然而,對于那些擔心人工智能安全的人來說,這些言論可能不會帶來太多安慰。
這位人工智能專家提到,人工智能監管的一個重要挑戰:難以衡量和跟蹤進展。有編号的版本隻是爲了強調技術的明确發展,但并不能說明具體的技術進步程度。實際上隻是營銷工具,比如 iPhone 35 要比 iPhone 34 好。Altman 指出,該公司仍在提升 GPT-4 的潛力。
Altman 表示,大語言模型 ( LLM ) 的規模可能正在接近極限,而且不是說規模越大就越好,人們太關注參數數量了,我認爲最重要的是提升性能。
與此同時,據媒體最新報道,馬斯克計劃成立人工智能初創公司與 Open AI 競争,他已經爲其人工智能初創公司獲得了英偉達處理器。