财聯社 9 月 5 日訊(編輯 牛占林)對于人工智能 ( AI ) 可能帶來的風險以及哪些風險最可怕,目前仍是輿論場上最熱鬧的話題之一,每隔幾天就要拿出來炒一炒,人工智能行業的先驅們也爲此争論不休,而這背後又隐藏着什麽樣的秘密呢?
簡單來講,專家們主要分爲兩大陣營,其中一個陣營主要包括一些開發先進人工智能系統的高管,他們認爲人工智能的發展可能會帶來災難,相對 " 務虛 " 一些。他們更加關注存在風險 ( Existential Risk ) ,即能夠威脅到人類或其他生命形式存在的一種極端風險,這種風險可能導緻人類或其他生物種群的滅絕,或者使其無法繼續存在。
另一派陣營則主要是以科學家爲主,他們認爲關注的重點應該放在人工智能目前可能導緻的風險,以及它會對我們的日常生活造成怎樣的傷害,相對更爲 " 務實 " 一些,聚焦當前實際的問題和解決具體的困難。
人工智能初創公司 Anthropic 首席執行官兼聯合創始人 Dario Amodei 是對存在風險發出警告的人之一。今年夏天,他在國會作證時表示,人工智能将比預料的更接近于超越人類智能,甚至會幫助制造大規模殺傷性武器。OpenAI 首席執行官 Sam Altman 在世界各地巡回演講時表示,人工智能有一天可能會對人類造成嚴重傷害,甚至更糟的後果。馬斯克在接受采訪時表示:" 人工智能毀滅人類的可能性很小,但絕非不可能。"
美國參議院多數黨領袖查克 · 舒默已經宣布從下周 ( 9 月 13 日 ) 開始舉行人工智能論壇的計劃,屆時将有許多重量級人物出席,包括馬斯克、Altman、Meta 的紮克伯格、谷歌的桑達 · 皮查伊、英偉達的黃仁勳和微軟聯合創始人比爾 · 蓋茨,讨論包括 " 世界末日情景 " 在内的主題。
争論不休的背後
人工智能科學家則警告稱,讨論科幻小說中的一些場景會分散焦點,甚至可能是這些科技公司的一種營銷策略。他們表示,人工智能公司和監管機構應将有限的資源集中在該技術現有的和迫在眉睫的威脅上,比如制造有關選舉的錯誤信息,或者放大人類偏見影響的系統。
随着世界各地的公司和政府都在努力決定将資源和注意力集中在人工智能的某些方面,以使這項可能改變世界的技術的好處最大化、壞處最小化,這場争端正在加劇。
人工智能治理智庫 Future Society 聯合創始人 Nicolas Miailhe 指出,關于人工智能風險的讨論越來越分割和對立,這是 " 月底風險 " 和 " 世界末日 " 之間的隔閡。
前谷歌律師 Daniel Schoenberger 表示:" 很明顯,仍在升溫的炒作會使這些科技公司獲益,政策制定者應該更多地關注當下的風險,比如人工智能使傳播虛假和誤導信息變得更容易,或者人工智能主導權問題。"
所謂的末日論者并沒有說人工智能一定會像《終結者》電影中的天網那樣崛起,最後摧毀人類。一些人擔心,人工智能系統最終可能會有追求權力的沖動,無意中傷害人類,或者幹脆超越人類,控制我們的命運。
相比之下,人工智能倫理和公平領域的專家擔心的是,這些工具是如何無意或有意地剝削工人,加劇人類之間的不平等。他們希望科技公司和監管機構實施某些規則和技術,以減少這種威脅。
人工智能科學家 Melanie Mitchell 在一次采訪中說,關于存在風險的讨論 " 都是基于猜測,真的沒有科學依據 "。
麻省理工學院的教授 Max Tegmark 更加直接,他指責科技公司在關注公平問題的人和關注存在風險的人之間制造分歧,以避免監管。
人工智能公司 Conjecture 首席執行官 Connor Leahy 表示:" 我們看到,所有主要參與者都在圍繞人工智能展開一場荒謬的死亡競賽。" 他補充說,他對大型科技公司對存在風險的擔憂持保留态度。" 需要做的是實實在在的行動,而不是光靠嘴巴。"