嚴格限制AI風險！澳大利亞考慮設置強制性“護欄”

财聯社 1 月 17 日，澳大利亞将考慮對人工智能的發展引入強制性 " 護欄 "，試圖在這項新技術帶來的生産力效益與傳播虛假信息等潛在風險之間做些平衡。

" 對 AI 發展的資源限制是不夠的 "

當地時間周三，澳大利亞工業和科學部部長艾德 · 胡錫克（Ed Husic）宣布，計劃成立一個專家小組，以權衡限制人工智能的使用和研究的選擇。

該部門正在考慮的其他限制規定包括：設立低風險應用程序的自願安全标準，要求人工智能創建内容加上水印等。

胡錫克在新聞發布會上談到人工智能技術時表示：" 我們确實需要有那些強制性的護欄，告訴你這些是你不能越過的紅線。"

他還提到，政府 " 清楚地聽到，澳大利亞人希望有更強的護欄來管理高風險的人工智能。"

澳大利亞政府于 2023 年 6 月開始對人工智能的 " 安全和負責任 " 使用進行審查，并在收到 500 多份相關方的意見書後決定延長回應期。

澳政府表示，在政府咨詢期間标記的 AI 風險中，存在諸如不準确、帶有偏見和缺乏透明度等問題。從審查中可以清楚地看出，對人工智能發展自願做出限制是不夠的。胡錫克表示，将 " 立即 " 開始制定人工智能法規。

更多監管考驗即将到來

在全球範圍内，AI 技術既被視爲提高生産力的驅動因素，也被各國政府視爲潛在風險因素，包括可能助長虛假信息的傳播。

在澳大利亞，預計到 2030 年，采用人工智能和自動化每年将爲經濟産出增加多達 6000 億澳元（約合 3970 億美元）。

澳大利亞政府表示，他們的目标是限制人工智能高風險應用的危險，同時允許低風險的人工智能應用 " 蓬勃發展 "。

雖然政府沒有詳細說明高風險可能包括什麽，但胡錫克在接受采訪時将其定義爲 " 任何影響人們生命安全，或某些人未來工作或法律前景的因素 "。

在國際人工智能安全峰會之後，澳大利亞是去年 11 月在英國簽署布萊切利宣言的 27 個國家之一，該宣言緻力于在人工智能測試方面進行全球合作。

這是世界各國和地區（特别是歐盟、美國、中國和英國等）爲迅速制定人工智能法規而采取的日益增長的行動的一部分。但這些措施隻是開始，從今年開始，人工智能技術将在各國面臨更多的監管考驗。