谷歌 CEO 警告稱,如果對人工智能的部署不當,可能造成非常嚴重的危害。
4 月 16 日周日,谷歌的 CEO Sundar Pichai 在接受媒體采訪時表示,推動采用人工智能技術必須受到良好且強有力的監管,以避免潛在有害影響。
此前谷歌表示,人工智能存在的一個問題是其 " 突發屬性 "(emergent properties),即它可以自學沒有受過訓練的技能。谷歌上個月推出了人工智能聊天機器人 Bard,但谷歌發現,Bard 在得到孟加拉國語的提示後,無需訓練就能學習孟加拉國語。
Pichai 承認,他并不 " 完全理解 "Bard 是如何運作的," 我認爲我們也沒有完全理解人類的思維是如何運作的 ":
這其中有一個方面,我們所有人都稱之爲 " 黑匣子 "。你知道,但你并沒有完全理解。你不知道它爲什麽會這樣說,也不知道它爲什麽會出錯。
我們有一些想法,随着時間的推移,我們的理解能力會越來越強。但這就是目前的技術水平。
值得注意的是,Bard 還寫了一篇關于經濟學中通貨膨脹的文章,并推薦了五本書,但是這些書實際上并不存在。
當被問及是什麽讓他無法安然入睡時,Pichai 說:" 工作的緊迫性,并需要以有益的方式部署人工智能;如果部署不當,它可能造成非常嚴重的危害。"
谷歌一直是人工智能領域開發和實施的先驅者之一,但該公司部署這項技術的步伐一直是十分謹慎的。Pichai 表示:" 我們還沒有找到所有的答案,但技術正在快速發展。這讓我晚上睡不着覺嗎?絕對的。"
谷歌現在正在迎頭趕上,希望向其産品注入生成式人工智能,這可以根據用戶提示創建文本、圖像、音樂甚至視頻。但盡管存在緊迫感,Pichai 仍警告企業不要被卷入到競争态勢中。他認爲,社會還沒有爲人工智能的快速發展做好準備:
他們提出的一個觀點是,當這種技術非常非常強大時,你不想推出這種技術,因爲它沒有給社會适應的時間。
我認爲這是一個合理的觀點。我認爲有負責任的人在試圖弄清楚如何使用這項技術,我們也是如此。
華爾街見聞此前提及,3 月 22 日,生命未來研究所(Future of Life)向全社會發布了一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比 GPT-4 更強大的人工智能系統的訓練,暫停時間至少爲 6 個月。圖靈獎得主 Yoshua Bengio、馬斯克、蘋果聯合創始人 Steve Wozniak 等上千名科技大佬和 AI 專家已經簽署公開信。
Pichai 強調,生成式人工智能的風險之一是 " 深度僞造技術視頻 "(Deepfake videos)。此類視頻可将已有圖像或視頻疊加至目标圖像或視頻上,僞造面部表情并将其呈現至目标視頻。在這些視頻中,人們所說的話實際上并非出自其口。Pichai 表示,這些隐患說明了監管的必要性。
他還警告稱,人工智能将影響 " 每一家公司的每一款産品 "。将被人工智能颠覆的工作包括 " 知識工作者 ",其中有作家、會計師、建築師。具有諷刺意味的是,甚至還有軟件工程師。