中新經緯 9 月 7 日電 ( 常濤 ) 大模型的生成能力讓 " 隐私洩露 " 的方式變得多樣化，造成隐私保護更加困難，怎麽辦？
在 9 月 7 日開幕的 2023 INCLUSION · 外灘大會上，中國科學院院士何積豐開出了他的 " 藥方 "：利用對齊技術爲大模型戴上緊箍咒。
何積豐認爲，大模型的安全問題主要是在未經同意的情況下，收集、使用和洩露個人信息。隐私問題既可能發生在訓練過程，也可能發生在使用過程中。而模型的通用能力，又讓其能夠應用到人類生産生活的各個場景中，可謂 " 無孔不入 "，這就帶來了很大的安全隐患。
" 爲了應對這些問題，我們需要大模型對齊技術。" 何積豐說，" 對齊 ( alignment ) " 是指系統的目标和人類價值觀一緻，使其符合設計者的利益和預期，不會産生意外的有害後果。" 如果把人工智能看作西遊記裏的孫悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非爲。"
不過，對齊技術同樣面臨挑戰。首先，對齊的基礎，需要保證大模型爲人服務、與人爲善；其次，大模型的有用性與無害性之間目标也不完全一緻。如何對錯誤進行有效糾正，設好大模型的 " 緊箍咒 " 也是挑戰。
因此，對齊技術已經成爲了一項令人眼花缭亂的跨學科研究，不僅考驗技術，也審視文化。何積豐介紹，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給模型不同的獎勵信号，引導模型的高質量輸出；另一種方式，事先給大模型提供明确的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。" 這意味着，不僅智能系統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。" 何積豐說。
( 更多報道線索，請聯系本文作者常濤：[email protected] ) ( 中新經緯 APP )
中新經緯版權所有，未經書面授權，任何單位及個人不得轉載、摘編或以其它方式使用。
責任編輯：羅琨 李中元
作者：鄭铮
