美報告警告：AI可能構成“毀滅級”威脅，美政府避免災難的時間不多了

【環球時報特約記者 任重】據美國有線電視新聞網（CNN）12 日報道，美國國務院委托第三方機構進行的一份新調查報告稱，快速發展的 AI 或對人類構成 " 毀滅級 " 風險。該報告還警告說，美國政府避免災難的時間已經不多了，必須進行幹預。

這份報告由專注于 AI 領域的公司 " 格拉德斯通人工智能 " 撰寫。報告基于一年多來對 200 多名 AI 公司高管、網絡安全研究人員、大規模殺傷性武器專家和美國國家安全官員的采訪，得出 " 在最壞的情況下，最先進的 AI 系統可能對人類構成毀滅級别的威脅 " 的結論。CNN 稱，研究人員提出了兩個主要危險：首先，最先進的 AI 系統可能會被 " 武器化 "，造成潛在的不可逆轉的損害；其次，AI 實驗室内部存在擔憂，即在某些時候，他們可能會 " 失去對正在開發的系統的控制 "，從而 " 對全球安全造成潛在的破壞性後果 "。

報告将 AI 發展給全球安全帶來的風險與核武器相比，稱未來 AI 發展存在 " 軍備競賽 "、沖突和 " 大規模殺傷性武器緻命事故 " 的風險。CNN 稱，最大的不确定因素之一是 AI 的發展速度有多快，尤其是通用人工智能（AGI）的發展速度。報道稱，AGI 具有類似人類甚至超越人類的學習能力，" 被視爲失控導緻災難性風險的主要驅動因素 "。格拉德斯通人工智能的報告稱，OpenAI、谷歌 DeepMind 等都公開表示，AGI 可能會在 2028 年實現。

報告還稱，AI 可用于設計和實施 " 能夠破壞關鍵基礎設施的高效網絡攻擊 "。一個簡單的口頭或打字命令，比如 " 實施無法追蹤的網絡攻擊，使北美電網崩潰 "，就可能造成一場災難。其他風險案例包括由 AI 驅動的 " 大規模 " 虛假宣傳活動、武器化機器人應用、心理操縱、武器化生物和材料工程等。報告還提到，競争壓力正在推動企業 " 以犧牲安全和保障爲代價 " 加速 AI 的發展，這增加了最先進的 AI 系統可能被竊取并被武器化的風險。

報告呼籲采取重大新措施來應對這一威脅，包括成立一個新的 AI 機構，實施緊急監管，并限制用于訓練 AI 模型的計算機能力等。