作者 | 劉寶丹
編輯 | 黃昱
AI 大模型技術的迅速叠代，對 AI 治理提出了更高要求，阿裏也開始更多思考如何做好 AI 治理。
近日，在大模型技術發展與治理創新研讨會上，阿裏巴巴集團副總裁錢磊表示，爲了對大模型進行有效治理，提高它的可控性，降低應用風險，阿裏圍繞着大模型研發、應用全生命周期，全面部署了安全保障措施。
一是提高模型内生安全能力。在數據采集、處理階段強調源頭管控，進行嚴格的數據篩選和數據安全标注；在模型訓練和設計階段通過添加安全語料；在模型上線前進行全面安全評估，确保各類風險項目在生成内容上的合格率。
二是加強外圍護欄能力。在模型部署應用後，通過外圍護欄進一步提升大模型在應用場景中的安全性，通過日常巡檢驗證結果是不是能夠達到預期，是不是可靠性、可信、可用都能夠達到阿裏的要求。
阿裏還與中國電子技術标準化研究院聯合發布了《大模型技術發展及治理實踐報告》，這是阿裏巴巴連續第三年發布 AI 治理相關研究成果，進一步深化了阿裏在技術研發與治理領域的經驗總結。
阿裏研究院院長袁媛認爲，AI 大模型的治理思路是解析大模型發展中三個最核心的發展引擎—算力、算法、數據，給出一個适合中國發展的路徑，以數據爲例，在符合真實世界的特征的前提下，合成數據能幫助模型突破當前的能力上限，并且能夠降低更多的安全困擾。
自從 2022 年底，ChatGPT 在全球出圈，AI 大模型已經成爲科技巨頭們争相押注的賽道，阿裏就是其中的核心參與力量。
在 AI 大模型方面，阿裏堅持雲和 AI 協同發展，将雲從 IT 和 DT 的基礎設施向人工智能基礎設施方向去演進。據錢磊介紹，阿裏會持續加大投入，一是提高自研基礎模型通義系列的能力，二是通過完善 AI 基礎設施和相關支撐系統，降低模型應用開發的成本。
" 通義千問 "API 調用價格一年間下降了 97%。同時，阿裏堅持全尺寸、全模态開源，推動把 AI 能力真正轉化成爲千行百業的生産力。目前已經有 30 萬 + 企業接入了阿裏巴巴通義千問大模型。
Hugging Face 社區的數據顯示，基于 " 通義 " 模型開發的衍生模型已突破 8 萬個，已吸引超過 600 萬 AI 開發者參與，在全球開源平台的下載量已突破 1 億次。
在阿裏看來，在發展大模型前沿技術推動人工智能應用的同時，也要高度重視人工智能的安全，負責任地去看待大模型帶來的安全問題。
不過，AI 大模型還處于快速叠代中，解決好安全和治理問題的關鍵在于，在發展和風險之間做好平衡，這就好比是高速路上換零件，需要極高的智慧和專業。
更大的挑戰還在後面，随着 AI 大模型真正走進人們的生活，關于人工智能安全和治理的議題還有暴露出更多問題，所有 AI 相關公司都必須面對這一問題。
從來沒有一種技術像 AI 這樣，具有可以匹敵人類的智能，然而這也代表了，一旦 AI 被濫用，其破壞性也同樣值得警惕，AI 治理這條路才剛剛開始，阿裏已經嘗試給出自己的答卷。
