規範各類AI、算法！我國《人工智能安全治理框架》1.0版正式發布

快科技 9 月 9 日消息，今日，全國網絡安全标準化技術委員會發布《人工智能安全治理框架》1.0 版。

《框架》提出了包容審慎、确保安全，風險導向、敏捷治理，技管結合、協同應對，開放合作、共治共享等人工智能安全治理的原則。

針對模型算法安全、數據安全和系統安全等内生安全風險和網絡域、現實域、認知域、倫理域等應用安全風險，《框架》提出相應技術應對和綜合防治措施，以及人工智能安全開發應用指引，爲促進人工智能健康發展和規範應用，提供了基礎性、框架性技術指南。

這也是目前各國、機構都在尋求規範的領域，因爲近兩年 AI 技術發展迅速，目前已經深入到各方各面，如果沒有規範管理，在灰色地帶很容易産生一些風險。

今年早些時候，歐盟就批準了《人工智能法案》，其中嚴格禁止 " 對人類安全造成不可接受風險的人工智能系統 "。

包括有目的地操縱技術、利用人性弱點或根據行爲、社會地位和個人特征等進行評價的系統等，還規定人工智能公司要對算法進行人爲控制，提供技術文件，并建立相應的風險管理系統。