OpenAI CEO Sam Altman 在美國參議院聽證會的直播截圖
美國國會正就監管人工智能(AI)技術尋求共識。
钛媒體 App 獲悉,美東時間 5 月 16 日,ChatGPT 締造者、OpenAI 公司 CEO 奧特曼(Sam Altman)首次參加美國參議院司法委員會聽證會,全程接近三個小時。面對議員提出有關 AI 影響選舉、就業和過度集中于少數企業的問題,他呼籲美國政府對 AI 技術應進行更嚴厲的監管,并表示 OpenAI 以及谷歌等同行都應當承受壓力。
奧特曼表示,目前 AI 技術處于早期階段,仍會出現錯誤。如果 AI 技術出了問題,後果會相當嚴重,尤其 AI 不是社交媒體,它需要不同的應對方式。他認爲,使用 AI 技術用來幹擾美國總統選舉是一個 " 值得關注的重要領域 ",并補充說這一領域需要監管," 我對此感到緊張。"
所以他提到,OpenAI 希望美國考慮強制許可公司開發強大的 AI 技術,比如支持其聊天機器人 ChatGPT AI,并稱 OpenAI 會在新系統發布前對其進行測試和審查," 像我們這樣的公司可以與政府合作 "。
奧特曼強調,未來 6 個月内沒有訓練 GPT-5 的計劃。
實際上,随着超 17 億月訪問的 AI 聊天機器模型 ChatGPT 風靡全球,産品體驗令人驚歎,但與此同時,這也引發全球對 AI 技術風險的擔憂。
今年 3 月 31 日,意大利打響調查 ChatGPT 第一槍,要求暫時禁止使用 ChatGPT,并對 OpenAI 公司展開調查;随後法國、愛爾蘭、西班牙跟進,歐洲數據保護委員會則成立專門工作組開展調查,中國、加拿大、德國和澳大利亞等國也在推進調查或規範 AI 發展。
美國各界也開啓了 ChatGPT 監管風暴。今年 3 月,美國聯邦貿易委員會(FTC)接到人工智能和數字政策中心(CAIDP)的投訴,後者聲稱 OpenAI 違反 FTC 法案規定和 AI 治理規則,要求 FTC 對 OpenAI 及 GPT-4 進行調查。更早之前,特斯拉 CEO 馬斯克(Elon Musk)以及上千名專家聯名呼籲暫停訓練比 GPT-4 更強大的 AI 系統。
不僅如此,谷歌、阿裏等科技巨頭都在競相将日益通用 AI 技術或是大模型産品推向市場,投入了無窮無盡的數據和數十億美元來應對挑戰。但一些批評者擔心大模型技術會加劇社會危害,其中包括偏見和錯誤信息,還有行業人士警告稱,AI 可能會終結人類本身。
5 月 4 日,美國副總統哈裏斯會見了微軟、谷歌和 OpenAI 的 CEO,讨論 AI 潛在風險。美國總統拜登(Joe Biden)則明确表示,這些 AI 企業必須在推出産品之前确保其安全性," 你們正在做的事不僅有巨大的影響力,還将帶來巨大的危害。"
此次,奧特曼參加美國參議院司法委員會舉行的聽證會,主要是回應美國各界對于 AI 技術擔憂。
聽證會開場時,一位參議員播放了一段由 AI 編寫和制作的錄音,與其本人的聲音一模一樣,凸顯了 AI 在欺騙方面具有的能力,并稱 " 與面對社交媒體風險時一樣,國會現在也有一個選擇機會,我們有義務在威脅和風險成爲事實之前做到監管服務到位,避免重蹈先前錯失監管社交媒體的覆轍。"
美國共和黨籍聯邦參議員霍利(Josh Hawley)開場指出,生成式 AI(Generative AI)發展規模有如互聯網發展,爲人類曆史上最重要的技術創新之一,随即提出警告說," 這可能會招緻類似原子彈的嚴重後果 "。他還認爲,如果 AI 生成的内容是支持烏克蘭投降或是支持俄羅斯總統普京領導 " 這景象很可怕 "。
随後,奧特曼開始發表證詞并表示,AI 這項新技術可以解決人類最大的問題。但他也警告稱,AI 可以強大到以不可預測的方式改變社會," 政府的監管幹預是減輕風險的關鍵。"
" 我們迄今部署的工具的好處遠遠大于風險,但确保其安全對我們的工作至關重要。我們付出了巨大的努力,以确保我們系統在各個層面都實現了安全。在發布任何新系統之前,開放人工智能都會進行廣泛的測試,聘請外部專家進行詳細的審查和獨立審計,改進模型的行爲,并實施強大的安全和監控系統。" 奧特曼表示。
他認爲,GPT-4 未來将使一些工作實現自動化,同時将帶來新的工作機會。他還透露,目前公司并沒有訓練 GPT-5,未來六個月也沒有這方面的計劃。
此前消息稱,有美國參議員正提議考慮叫停 OpenAI 更進一步的 AI 技術研發,以及主張設立一個新的監管機構,或名爲 OASIS,将 AI 在内的一衆新興技術納入管轄。
對此奧特曼表示贊同,他稱,這種方式有望讓美國本土的新興技術繼續領跑。奧特曼在聽證會上建議美國政府考慮實施 3 項計劃:成立新的機構批準 AI 模型;建立一套安全準則規範 AI 模型;要求獨立專家學者對 AI 模型進行審核。
比起這些," 我最擔心的是,我們這個技術行業可能會對世界造成重大的傷害。如果這項技術出了問題,它可能會變得非常糟糕。" 阿爾特曼特别指出,他非常擔心 AI 對選舉産生的影響。
民主黨籍參議員布克(Cory Booker)提到 OpenAI 與微軟相互合作,并稱美國科技巨頭控制大衆生活,影響力與日俱增,令人感到恐怖。他認爲美國政府應加強立法監管 AI 技術。
對此,奧特曼回應稱,OpenAI 要将 AI 系統投入民主化,調整價值觀,更重要的是需要讓人們廣泛使用這類工具,而不是交給少數幾家公司。" 由于所需的資源,能夠訓練真正的前沿模型的公司數量将會很少,這是千真萬确的。" 奧特曼稱。
據報道,奧特曼已經在 5 月 15 日和美國兩黨約 60 名衆議員私下會晤。另據 The Information 引述消息人士稱,OpenAI 正準備向公衆發布一款新的開源語言模型,但不太可能發布是與 GPT 規模進行競争的模型。目前,OpenAI 估值已接近 300 億美元。(本文首發钛媒體 App,作者|林志佳)
更多精彩内容,關注钛媒體微信号(ID:taimeiti),或者下載钛媒體 App