美國務院委托撰寫報告：AI可能對人類構成“滅絕級”威脅

據美國國務院委托撰寫的一份報告顯示，快速發展的人工智能 ( AI ) 可能對人類構成 " 滅絕級 " 威脅，因此美國政府必須采取幹預措施。

這份調查報告由 Gladstone AI 撰寫，該公司爲美國政府高層提供關于 AI 機遇和風險的咨詢和報告。美國國務院一名官員表示，其所在機構委托撰寫了這份報告，因爲政府需要不斷評估 AI 對國家利益的影響，但報告不代表美國政府的觀點。

這份報告基于一年多以來對 200 多人的采訪得出，采訪對象包括來自領先 AI 公司的高管、網絡安全研究人員、大規模殺傷性武器專家和政府内部的國家安全官員。

報告提到，在最糟糕的情況下，最先進的 AI 系統可能會 " 對人類物種構成滅絕級的威脅 "。這也再次提醒人們，盡管 AI 的潛力繼續吸引着投資者和公衆，但它也存在真正的危險。

Gladstone AI 首席執行官傑雷米 · 哈裏斯周二表示："AI 已經是一項經濟上具有變革性的技術。它可以幫助我們治愈疾病，實現科學上的發現，并克服我們曾認爲不可逾越的挑戰。"

哈裏斯補充道：" 但它也可能帶來嚴重的風險，包括災難性的風險，我們需要意識到這一點，越來越多的證據表明，超過一定的能力阈值，AI 可能會變得無法控制。"

首先，Gladstone AI 指出，最先進的 AI 系統可能被用作武器，造成潛在的、不可逆轉的破壞。其次，報告稱 AI 實驗室内也存在擔憂，他們擔心對開發的系統 " 失去控制 "，從而對全球安全造成 " 潛在的毀滅性後果 "。

AI 和 AGI 的興起有可能以類似引入核武器的方式破壞全球安全，報告還補充說，在 AI 方面存在着軍備競賽、沖突和 " 與大規模殺傷性武器相當的緻命事故 " 的風險。

Gladstone AI 爲此呼籲采取措施來應對這一威脅，包括成立一個新的 AI 機構，實施緊急監管保障措施，并限制用于訓練 AI 模型的計算機能力。" 美國政府顯然迫切需要幹預。"

哈裏斯指出，他的團隊對各方面的專家進行了接觸，包括 ChatGPT 所有者 OpenAI、谷歌 DeepMind、Facebook 母公司 Meta 和 Anthropic 的技術和領導團隊。

報告強調，競争壓力正在推動企業 " 以犧牲安全和保障爲代價 " 加速 AI 的發展，這增加了最先進的 AI 系統可能被竊取，并 " 武器化 " 的前景。

例如，AI 系統可用于設計和實施 " 能夠破壞關鍵基礎設施的網絡攻擊 "。" 一個簡單的口頭或打字命令，比如實施無法追蹤的網絡攻擊，使北美電網崩潰，可能會産生巨大的影響，并被證明具有災難性的效果。