IT 之家 3 月 27 日消息，去年，抖音發布《關于人工智能生成内容的平台規範暨行業倡議》，明确平台不鼓勵利用 AI 生成虛拟人物進行低質創作，将嚴格處罰違規使用 AI 生成虛拟人物發布違背科學常識、弄虛作假、造謠傳謠的内容。
抖音安全中心今日發布公告，近期平台發現，站内仍有不當使用 AI 技術生成虛拟人物發布内容的賬号，平台進行了嚴厲處置。
其中典型行爲包括：
1、生成境外虛假人設，消費愛國心理、博取關注。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。
2、生成俊男美女虛假形象，騙取互動，交友導流。直接稱用戶爲 " 你 "" 娘 "" 媽媽 "" 老公 " 等，發布情感誘導、唱情歌、爲你謀福利等表達虛假情感的内容，将用戶導流至私人聊天工具，甚至進行詐騙。
3、生成精英人士虛假人設，發布心靈雞湯、财商、僞國學、厚黑學、僞成功學等不良内容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。
針對違規使用 AI 生成虛拟人物的行爲，平台會對違規視頻下架，對違規賬号進行取消其投稿和營利權限、抹除賬号粉絲、封禁賬号等處置，并利用模型、技術識别能力等手段，進行長期系統的識别發現和處置。同時，平台已掌握部分黑産團夥不當使用 AI 生成虛拟人物用于犯罪的線索，将報警打擊。
抖音官方表示，人工智能技術的快速發展，豐富了互聯網内容生态，但也帶來技術濫用的挑戰。平台重申，創作者、主播、用戶、商家、廣告主等平台生态參與者，在抖音應用生成式人工智能技術時，須遵循相關規範。IT 之家整理如下：
1、發布者應對人工智能生成内容進行顯著标識，幫助其他用戶區分虛拟與現實，特别是易混淆場景。
2、發布者需對人工智能生成内容産生的相應後果負責，無論内容是如何生成的。
3、虛拟人需在平台進行注冊，虛拟人技術使用者需實名認證。
4、禁止利用生成式人工智能技術創作、發布侵權内容，包括但不限于肖像權、知識産權等。一經發現，平台将嚴格處罰。
5、禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的内容。一經發現，平台将嚴格處罰。
