随着 AI 技術的發展，AI 換臉不再有門檻，新事物的新奇刺激着很多人 " 嘗鮮 "，一些 AI 換臉 App 背後的法律風險和侵權糾紛，也浮出了水面。4 月 11 日，國家互聯網信息辦公室發布《關于 < 生成式人工智能服務管理辦法（征求意見稿）> 公開征求意見的通知》，這也是國家首次針對于當下爆火的生成式 AI 産業發布規範性政策。
征求意見稿中包含了不少亮點，與社會大衆關系最密切的，當數提出對于生成式人工智能産品，提供者需要對生成的圖片、視頻等内容進行标識。相關 App 能夠主動做到嗎？現代快報記者進行了調查。
國家網信辦出手，首個生成式人工智能監管規定即将出台
4 月 11 日，爲促進生成式人工智能技術健康發展和規範應用，國家互聯網信息辦公室發布了《關于 < 生成式人工智能服務管理辦法（征求意見稿）> 公開征求意見的通知》（以下簡稱《征求意見稿》），這也是國家首次針對于當下爆火的生成式 AI 産業發布規範性政策。
《征求意見稿》共 21 條，其中明确，生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等内容的技術。
《征求意見稿》提出，利用生成式人工智能産品提供聊天和文本、圖像、聲音生成等服務的組織和個人，要承擔該産品生成内容生産者的責任。另外要求，不利用生成内容損害他人形象、名譽以及其他合法權益。
《征求意見稿》中明确，利用生成式人工智能産品提供聊天和文本、圖像、聲音生成等服務的組織和個人 ( 以下稱 " 提供者 " ) ，承擔該産品生成内容生産者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。
《征求意見稿》中與社會大衆關系最密切的一條，莫過于對于生成式人工智能産品，提供者應當對生成的圖片、視頻等内容進行标識。
△ AI 換臉軟件進行了标識
AI 換臉 App 五花八門，多數能主動做到換臉标識
人工智能技術本身并沒有善惡，但若是被有心之人惡意使用，就會産生一系列負面的 " 蝴蝶效應 "。《征求意見稿》的出現，讓 AI 的 " 移花接木 " 有法可依，網友們也是紛紛點贊。" 可以預知的隐患，必須先堵上 "" 希望使用 AI 的人遵紀守法有道德，别用先進技術擾亂互聯網 "" 這技術更新太快，生成内容的能力太強，真等到泛濫再去治理那就來不及了 "……
那麽，各大換臉 App 是否能夠主動做到對生成的内容進行标識？4 月 12 日，現代快報記者下載了應用市場内 15 款涉及到 AI 換臉功能的 App，并對其一一進行了測試。在這些 App 中，有 9 款需要充值費用升級到 VIP 才可使用 AI 換臉功能。在剩餘的 6 款 App 中，有的可以三天免費試用，有的則可以直接使用，其中有 2 款可直接輸出無任何标識版本的換臉視頻、圖片。
在測試中，這兩款換臉 App 可以提供五花八門的風格模闆，用戶動一動手指，就可以 " 大變活人 "。無論你想要青春少女，還是知性女強人，隻需十幾秒，軟件就可以幫你實現。
這兩款可以輸出無标識換臉視頻的 App 也有共通點，那就是其軟件名稱并不涉及 AI 換臉，乍一看上去隻是普通的拍照 App。但在用戶使用的過程中，卻可以使用換臉功能來制作視頻和圖片。
△未進行标識的 AI 換臉視頻截圖
視頻解封、P 圖換臉，AI 技術帶來的安全隐患真不少
AI 技術在改善人們生活的同時，也面臨着萬千用戶個人隐私的安全問題。
2023 年 3 月，廣州一名女子在網上曬出自己在地鐵列車上的照片，被别有用心的網友下載，并用 AI 技術 " 一鍵脫衣 "。女子 " 除衣 " 後的照片被廣泛傳播，引發大批網友的關注。而這隻是冰山一角，在此之前，很多國外一線女明星也都被迫 " 出鏡 "，換臉成不雅影片的女主角。
2023 年 3 月 28 日，江蘇首例 " 人臉解封 " 侵犯公民個人信息案，在常州宣判。常州經開區人民法院經過審理查明，2021 年 8 月至 2022 年 2 月間，被告人鄭某在被害人不知情的情況下，從他人處購得包含被害人姓名、身份證号碼、身份證照片、視頻動圖等個人信息，随後在 QQ、微信群聯系客戶接單，爲涉嫌通訊網絡詐騙、網絡賭博等違法犯罪被封的 QQ 号提供解封服務，共從中獲利人民币 2 萬餘元。
最終，法院判決被告人鄭某因犯侵犯公民個人信息罪，被判有期徒刑八個月，緩刑一年，并處罰金人民币 4 萬元，作案工具予以沒收。
律師分析：《征求意見稿》填補了該領域立法的空白，對整治亂象意義重大
如何讓 AI 技術 " 向陽發展 "？北京康達（鄭州）律師事務所律師姚坤認爲，《征求意見稿》的頒布，填補了我國在該領域立法的空白，對于整治行業亂象意義重大。
姚坤表示，" 尤其是提供者利用生成式人工智能産品提供聊天和文本、圖像、聲音生成等服務，應當對生成的圖片、視頻等内容進行标識這一點，對違反相關法律法規，生成式人工智能服務的組織和個人進行追責時，有重要作用！"
江蘇網警也曾發布提醒，網絡時代大家在社交軟件中最好堅持 " 四不曬 "。即不曬個人或家人照片，不曬位置信息，不曬行程票據，不曬車牌、門牌。如果受到 AI 換臉照片的敲詐威脅，一定要冷靜，保存證據是關鍵。
現代快報 + 記者 季雨
（編輯 李蔚蔚）
