全球首部人工智能領域的全面監管法規草案達成協議。
據媒體報道，歐洲議會、歐盟成員國和歐盟委員會三方，在曆經近 40 個小時的漫長談判後，于布魯塞爾當地時間 12 月 8 日晚，就《人工智能法案》達成協議。
據悉，該項法案旨在通過全面監管人工智能，爲這一技術的開發和使用提供更好的條件，談判同意對生成式人工智能工具（如 OpenAI 的 ChatGPT 和谷歌的 Bard）實施一系列控制措施。
歐盟委員 Thierry Breton 在 X 平台發文稱：
"《人工智能法案》（AIAct）不僅僅是一本規則手冊，它還是歐盟初創企業和研究人員引領全球人工智能競賽的跳闆。"
據相關報道，該立法草案仍需得到歐盟成員國和議會的正式批準，一旦雙方正式批準，該立法預計将于明年初生效，并應在兩年後實施，或将爲全球範圍内監管人工智能技術定下基調。
矛頭直指 ChatGPT 和谷歌 Bard
根據官網介紹，歐洲議會推行 AI 監管的首要任務是确保歐盟使用的人工智能系統安全、透明、可追溯、非歧視和環境友好；人工智能系統應該由人而不是自動化來監督，以防止産生有害結果。
因此，據稱，該立法草案提出了一種平衡、适度的人工智能橫向監管方法，僅限于解決人工智能相關風險和問題的最低必要要求，而不會過度限制或阻礙技術發展，或以其他方式不成比例地增加将人工智能解決方案投放市場的成本。
具體來看，該草案的主要内容包含以下幾點：
采用基于風險占比的方法，爲歐盟内人工智能系統的開發、市場投放和使用制定了統一規則。
禁止某些違背歐盟價值觀、特别有害的人工智能做法。這類做法包括：使用人工智能進行 " 社會評分 "、操縱人類行爲以規避其自由意志等。
針對某些執法用途的遠程生物識别系統提出了具體的限制和保障措施。比如，将禁止根據政治或宗教信仰、性取向或種族等敏感特征對人進行分類的生物識别掃描，媒體稱這是談判中最困難、最敏感的問題之一。
規定了一種可靠的風險方法，以界定對人的健康和安全或基本權利構成重大風險的 " 高風險 " 人工智能系統。
對于某些特定的人工智能系統，隻提出了最低限度的透明度義務，特别是在使用聊天機器人或 " 深度僞造技術（deepfake）" 時。
值得注意的是，Breton 表示，立法者同意采取兩層辦法，即 " 對所有通用人工智能模型（例如 ChatGPT）提出透明度要求 "，以及對整個歐盟 " 具有系統影響的強大模型提出更嚴格的要求 "。
知情人士也曾于 12 月 8 日向媒體透露，談判代表已同意對 OpenAI 的 ChatGPT 和谷歌的 Bard 等能夠根據命令生成内容的生成式人工智能工具進行一系列控制。
也就是說，該草案直接要求 ChatGPT 和通用人工智能系統（GPAI）等基礎模型在投放市場之前遵守透明度義務，其中包括起草技術文件、遵守歐盟版權法以及傳播有關培訓内容的詳細摘要。
比如，具有系統性風險的高影響力 AI 模型必須進行模型評估，評估和減輕系統性風險，進行對抗性測試，向歐盟委員會報告嚴重事件，确保網絡安全并報告其能源效率；具有系統性風險的 GPAI 可能需要依靠實踐守則來遵守新法規。
在處罰規定方面，拟議的立法将對違反規定的公司處以經濟處罰，罰款最高可達 3500 萬歐元，或全球營業額的 7%，具體取決于違規情況和公司規模。
接下來，歐盟等還将就此草案讨論細節，這可能會改變最終立法的形式。法案正式頒布實施後，各成員國将基于本國的公共政策基礎，做出一定的變通适用。
率先立法，歐洲領跑 AI 競賽？
該項草案如果成功立法，意味着歐盟将成爲第一個制定人工智能法律的世界主要強國。
Breton 表示：
" 歐洲将自己定位爲先鋒，了解其作爲全球标準制定者角色的重要性。是的，我相信，這是曆史性的一天。"
根據央視新聞報道，此前，歐盟方面一直希望推動《人工智能法案》盡早出台。
2019 年以來，歐盟一直布局人工智能監管領域，先後發布人工智能倫理準則并出台《人工智能白皮書》。
2021 年 4 月，歐盟委員會提出《人工智能法案》提案的談判授權草案。此後，歐洲議會和歐盟理事會就草案進行了多輪修訂和讨論。
2023 年 6 月，歐洲議會以 499 票贊成、28 票反對和 93 票棄權，高票通過了《人工智能法案》談判授權草案，推動了該法案進入立法程序的最後階段，即舉行歐洲議會、歐盟成員國和歐盟委員會的 " 三方談判 "，以确定法案的最終條款。
《人工智能法案》的出台也将爲歐洲自身的 AI 技術發展帶來便利。
草案中提及：
" 鑒于技術變革的速度和可能面臨的挑戰，歐盟緻力于努力采取一種平衡的方法。保持歐盟的技術領先地位，确保歐洲人能夠從根據歐盟價值觀、基本權利和原則開發和運行的新技術中受益，符合歐盟的利益。"
反對的聲音
今年 6 月，包括空客和西門子在内的數十家歐洲大型企業曾采取集體行動，以 " 可能損害歐洲競争力 "" 不能應對潛在挑戰 " 等爲由，公開反對歐盟通過《人工智能法案》。
Open AI 的 Altman 也此前曾批評歐盟監管 AI 技術的計劃。
此前起草的拟議法律暗示 ChatGPT 和大型語言模型 GPT-4 都可能被指定爲高風險。Altman 曾就此回應道：" 如果我們能遵守，我們會，如果我們不能，我們将停止運營。我們需要試試，但可能存在技術限制。"
草案達成協議的結果公布後，歐盟高級政策顧問 Ella Jakubowska 表示：
" 歐盟首次采取措施使整個歐盟範圍内的實時公共面部識别合法化，這很難讓人感到興奮。"
" 雖然議會努力限制損失，但生物識别監視和分析的整體方案充其量隻是冷淡。"
商業組織 DigitalEurope 的總幹事 Cecilia Bonefeld-Dahl 稱：
" 我們達成了一項協議，但代價是什麽？我們完全支持基于人工智能使用的基于風險的方法，而不是技術本身。"
不過，該法案草案達成協議的背後，更重要的意義或許在于提供了監管 AI 技術的政策藍圖。
歐盟執行機構歐盟委員會主席 Ursula von der Leyen 表示：在該法案完全适用之前，我們将支持企業和開發商預見新規則。大約 100 家公司已經表示有興趣加入我們的《人工智能法案》。
