近幾年 AI 的高速發展，讓許多科幻電影裏才能發生的事變成現實。最近，AI 仿冒知名人士進行虛假宣傳一事登上熱搜，微信也馬上跟進進行了處理。
就在昨日，" 微信珊瑚安全 " 公衆号發布《關于打擊利用 AI 仿冒知名人士進行營銷宣傳的公告》。
公告顯示，微信平台近期發現了一些不法分子利用 AI 技術，通過合成視頻、模拟聲音等手段，仿冒知名人士進行帶貨、傳播謠言等不當營銷、惡意博取流量的活動。微信已經宣布從速從嚴打擊了一批此類違規行爲，并累計處置相關内容 532 條，關閉賬号 209 個。
圖源：公衆号 @微信珊瑚安全
目前仿冒名人進行營銷宣傳是仍然最常見的手段之一。不法分子通過 AI 技術合成知名人士的視頻或音頻，進行虛假宣傳，誘導消費者購買相關産品或服務。
比如近期，知名醫生張文宏的面部信息就被盜用，不法分子将其換臉并放置在賣貨視頻中帶貨某蛋白類産品以此牟利。張文宏也表示，這樣的賣貨賬号不止一個且經常變動，他也多次向平台投訴。
另外 AI 生成知名人士用于搞怪或帶貨也常有發生。前段時間雷軍的 AI 合成聲音在短視頻平台爆紅，許多不了解情況的中老年用戶信以爲真，最後雷軍本人都出面發聲，他已經覺得困擾，希望大家都不要再玩 " 雷軍語音包 " 了。
圖源：微博 @央視财經
今天的 AI 技術無疑已經成爲一把雙刃劍。一方面，它豐富了人們的娛樂生活。極大地提高了工作效率；另一方面，它也被一些不法分子用來進行欺詐和侵犯他人權益。就 AI 發展的現狀來看，想要讓 AI 技術得到合理利用，還需要平台方和個人用戶雙方共同努力。
首先，平台利用人工智能、大數據統計等技術手段加強對平台内容的監測和識别，合理控制 AI 内容的生成數量和趨勢，做好對 AI 内容的提醒。小雷注意到，已經有許多平台會爲 AI 内容啓用相應明顯的 "AI 生成 " 提醒。而對于違規 AI 内容，平台需要及時下架并對發布賬号進行處罰。
其次，個人用戶也需要遵守相關法律法規和道德規範，避免利用 AI 技術生成違規或不當内容。同時，個人也可以了解相關 AI 案例，避免被引導和詐騙。
圖源：網絡
總之，微信平台對 AI 仿冒名人營銷行爲的打擊，不僅是對違規行爲的懲罰，更是對技術濫用的警示。在享受 AI 技術帶來便利的同時，我們也應該警惕 AI 的濫用。
