美國總統拜登(Joe Biden)
傳聞已久的美國政府對人工智能(AI)新的管制新規終于要落地了。
當地時間 10 月 30 日,據美國白宮官網,美國總統拜登發布一項針對 AI 的新的行政命令,确保美國在 AI 領域的領導地位,同時管理其潛在風險。
美國政府表示,這一行政命令具有裏程碑意義。該命令将采取有史以來最全面的行動,爲 AI 安全和保障制定了新标準,保護美國人的隐私,促進公平和公民權利,維護消費者和工人的利益,促進創新和競争,提升美國在世界各地的領導地位等。
" 讓 AI 爲美國人民服務。"美國政府在 AI.gov 官網中指出,AI 是拜登的首要任務。拜登已明确表示,美國必須采取大膽行動,利用 AI 的好處并降低其風險,保護 AI 時代的安全和權利,讓每個人都能從 AI 的承諾中受益。
美國政府高級官員在簡報會上表示,安全準則主要适用于未來的 AI 模型,并不會召回公開的現有模型,但現有的 AI 模型仍然受到反歧視規則等法規約束。
具體來說,新的美國 AI 行政命令包含八個内容目标:AI 安全與安全性新标準;保護美國人的隐私;推進平等和公民權利;維護消費者、病人和學生的權益;支持工人;促進創新和競争;在國外推進美國的領導地位;确保政府對 AI 的負責任和有效使用。
钛媒體 App 簡單梳理了其中的核心規則如下:
AI 安全與安全性新标準:要求開發高級 AI 系統的公司與美國政府分享安全測試結果等信息;制定 AI 系統的安全、安全性和可信度的标準、工具和測試;針對使用 AI 的生物材料風險制定新标準;針對 AI 生成的内容制定标準,并明确标記;開展 AI 網絡安全程序;開發一個涉及 AI 與安全的國家安全備忘錄。 保護美國人的隐私:加強對隐私保護技術的支持和研究;評估并加強聯邦機構的隐私指南。 推進平等和公民權利:提供指導以防止 AI 算法加劇歧視;通過培訓和技術援助解決算法歧視問題;在刑事司法系統中确保公平性。 維護消費者、病患和學生的權益:推動 AI 在醫療保健領域的負責任應用,并開發負擔得起的救生藥物;通過創建資源來支持教育工作者部署 AI 支持的教育工具(例如學校的個性化輔導),塑造 AI 改變教育的潛力。 支持工人:制定準則和最佳實踐,以減少 AI 對工人的潛在負面影響;對 AI 在勞動力市場的影響進行研究。 促進創新和競争:通過研究資金和其他手段支持 AI 研究;促進公平、開放和競争的 AI 生态系統;優化簽證程序,吸引外國人才。 在國外推進美國的領導地位:與其他國家合作,确保 AI 的安全和可靠部署。 确保政府對 AI 的負責任和有效使用:對政府機構使用 AI 的指導;提高 AI 産品和服務的采購效率;加快 AI 專業人才的招聘。
據悉,國家标準與安全研究所(NIST)将負責制定标準,以便在公開發布之前對 AI 模型進行 " 紅隊 " 測試,而能源部和國土安全部則負責應對 AI 對基礎設施的潛在威脅,以及化學、生物、輻射、核和網絡安全風險。新規要求,包括 OpenAI 的 GPT,Meta 的開源模型 Llama 2 等大模型開發者必須分享安全測試結果。
而且,美國政府還計劃要求各機構解決失業問題,并就 AI 對勞動力市場的影響編寫一份報告。白宮希望鼓勵更多工人在 AI 生态系統中工作,提供研究資源、關鍵信息和技術援助。
目前,美國政府已公布《AI 權利法案藍圖》、《NIST AI 風險管理框架》、《國家 AI 研發戰略規劃》、《國家 AI 研究資源路線圖》等 AI 相關法律規定。另外,拜登政府早前還與 Meta、谷歌、OpenAI、英偉達和 Adob e 等多家 AI 公司之間達成一系列監管協議。
另外,白宮稱,在美國推進這一形成命令的同時,過去的幾個月中,美國已廣泛地就 AI 治理框架與其他國家地區進行磋商,涉及的國家和地區 20 餘個:包括澳大利亞、巴西、加拿大、智利、歐盟、法國、德國、印度、以色列、意大利、日本、肯尼亞、墨西哥、荷蘭、新西蘭、尼日利亞、菲律賓、新加坡、韓國、阿聯酋和英國。
白宮強調," 拜登最新發布的 AI 行政命令,是美國在安全、可靠和可信賴 AI 方面向前邁出的重要一步。下一步,美國政府需要将采取更多行動,并繼續與國會合作尋求兩黨立法,幫助美國在負責任的科技創新方面發揮引領作用。"
(本文首發钛媒體 App,作者|林志佳)