IT 之家 10 月 26 日消息，谷歌公司于 10 月 24 日發布博文，宣布推出 SAIF 風險評估工具，旨在幫助人工智能開發者和組織評估其安全态勢，識别潛在風險，并實施更強的安全措施。
SAIF 簡介
IT 之家注：谷歌去年發布了安全人工智能框架（SAIF），旨在幫助用戶安全、負責任地部署 AI 模型，SAIF 不僅分享了最佳實踐，還爲行業提供了一個安全設計的框架。
爲了推廣這一框架，谷歌與行業夥伴共同成立了安全人工智能聯盟（CoSAI），以推動關鍵的 AI 安全措施。
SAIF 風險評估工具
谷歌目前已經在新網站 SAIF.Google 上提供 SAIF 風險評估工具，該工具以問卷形式運行，用戶回答後會生成定制化的檢查清單，指導他們确保 AI 系統的安全。
工具涵蓋多個主題，包括：
AI 系統的訓練、調優和評估
對模型和數據集的訪問控制
防止攻擊和對抗性輸入
生成性 AI 的安全設計與編碼框架
用戶在回答問題後，工具會立即生成一份報告，突出 AI 系統面臨的具體風險，如數據中毒、提示注入和模型源篡改等。
每個風險都附有詳細解釋及建議的緩解措施，此外用戶還可以通過互動 SAIF 風險地圖了解在 AI 開發過程中如何引入與緩解不同的安全風險。
