AI 也需要考慮 " 政治正确 " 嗎？
《Nothing，Forever》是一部最近在 Twitch 平台上引發了廣泛關注的動畫作品，基本由粗糙的畫面、不知所雲的劇情和機械的電子音構成，之所以能引起讨論，是因爲它純粹是由 AI 生成的，。
這部形式上模仿了美國 90 年代的情景戲劇《宋飛傳》的動畫，在 Twitch 平台上号稱 " 永不停播 "，因爲它采用了 OpenAI 裏 GPT-3 語言預測模型，号稱可以實時采集評論區用戶的文字内容，并根據觀衆的反饋來調整劇情走向。
不過雖然在技術上能做到 " 永不停播 "，但在兩個星期前，這個節目還是因爲其他原因被平台封禁。
2 月 5 日，在該動畫的一場深夜個人脫口秀中，虛拟人物 Larry 發表了一系列關于跨性别者的侮辱性言論，包括了 " 質疑變性人是否患有精神疾病 " 以及 " 變性人是否正在破壞社會結構 " 等内容。
顯然，這樣的言論勢必會引發多數人的抵制與不滿，按照規定，Twitch 平台對《Nothing，Forever》采取了 14 天封禁的處罰，而這部動畫在最近即将重新恢複播放。
雖然發表争議言論的是 AI 而非真人，但 AI 背後的研發團隊無疑需要爲這起事故承擔相應的責任。在開發團隊發布的一份聲明中，他們就表示這 " 完全是我方錯誤導緻的一個技術問題。"
開發團隊宣稱根本原因是由于 OpenAI 的内容審核工具對 AI 模型意外失效，才導緻了後續的事故。爲了能避免類似問題的再次出現，開發人員表示正在組建一個關于 AI 的 " 安全委員會 "，以便人工智能的審核水平能夠緊随技術發展，以做到實時檢測可能的敏感内容。
如果 AI 可以與人類互動并學習相應知識，那麽如何避免它被大量錯誤或者無意義的内容 " 污染 "？這可能是之後人們需要探讨的問題。
爲了讓節目重新上線，團隊還宣布會引入一個 " 觀衆互動系統 "，這個系統能夠讓觀衆安全地與節目互動，并且依舊能産出有創意的新内容，但他們目前暫未透露更多的情報。
盡管 AI 已經顯現出了自己的一部分 " 創造力 "，但在徹底取代人類工作之前，人類還得發明出新的崗位來解決它産生的問題，這可能也算是一種另類的 " 塞翁失馬 " 了。
點擊下方卡片關注遊研社
公衆号近期改版，文章容易在時間線消失
推薦把遊研社設爲星标，不錯過每一篇報道
