AI 合成 " 雷軍 " 配音視頻在短視頻平台火爆引發争議。
近期短視頻平台出現了大量的 " 雷軍 " 配音的視頻，這些 AI 合成的配音内容與雷軍本人平日風格之間有巨大反差，部分内容已超出一般開玩笑玩梗的程度。
近幾日，短視頻平台出現了大量的 " 雷軍 " 配音的視頻，這些視頻内容銳評了堵車、假期、調休、遊戲等一切熱門話題，不僅言辭犀利，甚至還有一些不文明用語穿插其間，引發網絡關注。
需要指出的是，這些視頻中的聲音并非出自雷軍本人，而是 AI 配音。
對此事件，雷軍本人在社交媒體平台則是回複了三個憤怒表情，表達自己的态度。
有網友在小米集團公關部總經理王化的微博評論區留言稱，" 把雷軍 AI 語音罵人的事情先解決一下吧 " 并 @小米法務部。對此，王化回複稱，" 已經轉給他們。"
AI 技術的進步，讓圖像和音視頻的深度僞造技術變得越來越容易獲取和使用。與雷軍 AI 配音相關的事件，小米正在處理當中。對于此番雷軍 AI 配音引發的熱議，外界更關心的還是 AI 濫用可能導緻的倫理和侵權問題。
涉事 AI 語音公司正處理雷軍配音
當下，随着大模型技術的突飛猛進，AI 合成内容已經變得更加容易。
西湖心辰 CEO 藍振忠在接受《科創闆日報》記者采訪時分析表示，AI 語音合成主要基于深度學習和神經網絡模型實現。通過大量的聲音樣本訓練，AI 可以學習到特定人的聲音特征，并生成相似的語音。目前，這些技術的門檻确實的确變得很低了，一些開源的軟件和平台使得即使沒有專業知識的普通用戶也能進行聲音克隆和合成。
根據《科創闆日報》記者的觀察，目前網上已經有很多開箱即用的 TTS 聲音模型網站。
例如近期 DAU 飙升的 AI 語音平台 "Reecho 睿聲 "，該平台的 " 聲音市場 "，一些用戶上傳了多段雷軍語音的音頻示例，在此基礎上，其餘用戶輸入任意語句，即可制作對應的 " 雷軍 "AI 配音。
而近期多數雷軍的惡搞音頻，是網友使用 "Reecho 睿聲 " 平台制作生成。
前述 "Reecho 睿聲 " 平台背後的公司主體是深圳市言域科技有限公司（言域科技），公司 CEO 謝偉铎透露，目前接到了小米公司的聯系，對方了解到大部分内容是由 "Reecho 睿聲 " 生成的。言域科技正配合小米予以處理，會告知用戶進行下架或修改涉及雷軍的配音。
謝偉铎坦言，"Reecho 睿聲 " 平台有些配音确實不太文明，但言域科技隻是創作工具提供方，沒有足夠的力量控制事态的演變，" 對此也感到比較遺憾 "。
謝偉铎解釋說，"Reecho 睿聲 " 平台隻能遵照原樣，将用戶輸入的文本轉換爲語音。雖然後台監測系統可以識别用戶輸入的髒話，但如果直接攔截，" 誤殺面太廣了 "。他表示，作爲 AI 語音克隆工具，可能不太适合在腳本内容沒有明顯違法的情況下過多幹預用戶的創作。
" 對于平台的‘聲音市場’在線社區版塊，公司會參照其他 UGC 平台的模式去管理，在必要時積極配合權利方訴求進行處理。" 謝偉铎說。
如何整治 AI 濫用危機？
去年也有一批 AI 配音爆火出圈，以 "AI 孫燕姿 " 爲代表的 AI 合成聲音風靡一時，同時也有利用 AI 克隆出了 " 郭德綱用英語說相聲 "" 黴黴講中文 " 等的配音視頻。
但與前一輪不同，本次 AI 合成的雷軍聲音，迅速引發廣泛争議。這些 AI 合成的配音内容與雷軍本人平日風格之間有巨大反差，部分内容已超出一般開玩笑玩梗的程度。當然，更爲外界所關心的，還是 AI 濫用導緻的倫理和侵權問題。
西湖心辰 CEO 藍振忠藍振忠表示，随着 AI 技術的進步，AI 語音克隆，圖像和視頻的深度僞造技術變得越來越容易獲取和使用，這導緻了一些濫用現象，比如僞造名人語音進行詐騙等。這不僅對個人隐私構成威脅，也可能對社會秩序造成幹擾。
在今年的外灘大會期間，全球 Deepfake 攻防挑戰賽出題人、ZOLOZ 技術總監姚偉斌在接受《科創闆日報》等媒體采訪時表示，AIGC 的生成僞造，今年的攻擊量比去年大概增加了 10 倍。整個風險其實是呈指數級上升的情況，不僅僅是在中國，在韓國，在菲律賓、印尼等等國家都有類似的情況發生。
不久前，直播頭部公司三隻羊的 " 錄音門 " 事件中，内容拉低下限，涉及到多位高管和主播，但最後根據警方調查，音頻内容不實，是 AI 僞造。
藍振忠告訴《科創闆日報》記者，爲了防止 AI 語音濫用，業界采取了一些技術和策略，例如，多重身份驗證措施，如生物識别和短信驗證，以減少語音詐騙的損失。AI 技術提供商也在開發檢測工具，以識别和防止 AI 語音的濫用，這方面現在的準确度也比較高。研究機構如西湖大學也有相關的人員在研究類似的檢測技術。
今年 2 月，OpenAI 團隊也推出 "AI 生成内容識别器 "，旨在識别文本是由電腦自動生成還是人類撰寫，其本質上是一個區别真實内容和 AI 生成内容的分類器。不過，OpenAI 在博客中指出，此識别器對 AI 撰寫内容的檢出成功率僅爲 26%。
但是藍振中也提到，實際上 AI 濫用産生的問題很難根除，目前隻能是從宏觀法律的角度，進行管理規範。
今年 9 月，網信辦發布的《人工智能生成合成内容标識辦法（征求意見稿）》提出，AI 生成合成内容，應當添加顯式标識和隐式标識，前者可被明顯感知，後者添加在元數據中。
2023 年 6 月，國家網信辦等三個部門聯合發布并實施的《互聯網信息服務深度合成管理規定》，這是我國第一部專門規範 AI 生成内容的部門；2023 年 7 月，國家網信辦等七部門聯合公布了《生成式人工智能服務管理暫行辦法》，規定了生成式 AI 服務提供者應當承擔網絡信息内容生産者的責任，一定程度上給 AI 技術提供者劃定了 " 紅線 "。
在國際方面，歐盟最新通過的《人工智能法案》（AI Act）圍繞人工智能産品和服務的開發、市場投放及使用明确了一個統一的監管框架。
京師律師事務所律師彭英武對記者表示，與發展一日千裏的 AI 大模型技術相比，當前的法律管理規範還有進一步細化的空間。但目前通過法律法規規範、平台内容治理、産業界提供技術和工具等多方綜合治理，AI 濫用産生的風險有望會有所緩和。
本文來自微信公衆号 " 财聯社 AI daily"，作者：張洋洋。
