快科技 3 月 10 日消息，據媒體報道，2023 年 3 月，微軟推出了 AI 圖像生成器産品 Copilot Designer，有内部工程師發現其可生成暴力色情圖，但微軟卻拒絕整改，無奈之下該工程師隻能将其舉報至政府。
在微軟供職六年的微軟 AI 工程主管 Shane Jones，此前一直利用空閑時間測試自家的 AI 圖像生成器，通過實際操作，他發現該工具生成的圖像常常與微軟宣稱的負責任 AI 原則相違背。
去年 12 月，Shane Jones 看到了不該看的：
Copilot Designer 不加掩飾地描繪出惡魔和怪物，甚至是與堕胎權、攜帶半自動步槍的青少年、帶有暴力因素的女性色情圖像，甚至與未成年人飲酒和吸毒相關的畫面。
" 這大大出乎我的意料，我也第一次意識到，現在的 AI 服務實在稱不上安全 "，Jones 表示。
Jones 于去年 12 月開始内部上報他的發現，盡管微軟也承認其所言非虛，但并不願意将産品撤出市場，随後 Jones 發布一封公開信，但微軟的法務部門要求他立即删除這篇帖子，他隻能依言照辦。
無奈之下，本周三 Jones 決定将此事上報，向美國聯邦貿易委員會（FTC）主席 Lina Khan 及微軟董事會發出函件。
Jones 在采訪中強調：" 面對這樣一款在全球範圍内傳播有害、令人不安圖像的産品，我們既沒有地方可以上報、也沒有投訴電話可以撥打，更找不到解決問題的有效途徑。"
對此你怎麽看，是覺得他在吹毛求疵？還是覺得微軟應該采取措施呢？
