随着開源大模型不斷壯大、使用成本不斷降低、應用場景越來越豐富。
咱們普通用戶，也能現學現用，吃上不少新鮮的 AI 應用。
比如之前機哥就寫過的「豆包一句話修圖」，用過的都說好。
不過真要說起來，AI 技術這玩意兒，就跟菜刀一樣。
好人隻會用它來砍瓜切菜，守護好自家廚房。
而壞的人，就往往會用來搞詐騙，騙别人的錢。
就這一兩個月以來，機哥已經過看到好幾例「AI 作惡」的事兒。
AI 又被拿來做壞事
現在 AI 繪圖技術有多猛，機友們應該能從各類新聞中，或者實際測試中感受得出來。
早在 2023 年，我就聊到小紅書上突然冒出了很多美女網紅。
隻是和真人不同的是。
這些賬号裏的美女照片，其實都不是真人，而是背後運營者用 AI 工具生成。
時間來到 2024 年 9 月。
抖音、小紅書等平台上，又冒出一新的 AI 網紅賬号。
在 Flux 模型的加持下，這些賬号的美女照片，簡直是到了以假亂真的程度。
關鍵是這技術叠代到現在，使用門檻幾乎爲零。
網上就有開箱即用美女生成工具，把你想要的動作、衣服和人物表情給描述好，按下「立刻生成」就完事兒。
此時的 AI 繪圖，就成了一把鋒利的菜刀。
有人用來切菜做飯，有人用來砍人傷人。
根據澎湃新聞報道呢。
最近就有團夥用批量生成的 AI 美女，在短視頻平台起号引流，進行 " 廣撒網式 " 行騙。
具體的操作并不複雜。
團夥裏面分工合作，有人專門用 AI 來調整參數，生成美女。
有人充當聊天業務員，和被害人聊天 " 建立戀愛關系 "。
有人專門提供虛假證件和病例，一步步把受害人的錢騙過來。
而且有時候，你真的不能怪受害人警惕性不高，又或者是人傻錢多。
從團夥提供的 AI 美女照片能看出，他們 "AI 煉丹 " 的技術已經是很爐火純青了。
甭管是人物主題，還是背景的街道，愣是看不出啥明顯破綻。
（團夥利用 AI 生成的照片）
（團夥利用 AI 生成的照片）
機哥盲猜一手啊。
那團夥用的應該還是 Flux+Comfyui 那一套工作流，能在控制人臉不變的情況下，生成出各種背景和衣服不同的圖片。
這套技術主打的就是生成效率高，而且效果夠好。
很多網友看到那團夥生成的圖，都不由得背後發涼。
要是被騙子盯上的是自己。
那不得被狠狠爆金币啊。
即使是那些精通刷機 Root，每天在網上高強度沖浪，對詐騙套路無比熟悉的老哥。
遇上這樣的圖片，也很難一眼看出是真人還是 AI。
反正最後官方通報的結果是——
那個 10 人團夥，通過 AI 生成美女、聊天建立關系和騙錢一條龍操作，騙到了近千名男性，涉案金額也來到 200 多萬元。
所以說 AI 發展得太快，也未必是件好事啊。
除了明面上的搞詐騙，最近機哥還看到一種很離譜的 AI 玩法：數字人。
顧名思義，就是用 AI 生成特定的人物畫面和配音，說一些針對性很強的話來騙中老年人互動、關注乃至掏錢下單。
機哥刷短視頻，就刷到不少類似的數字人賬号。
有一說一啊，光看封面我是壓根看不出他不是真人。
還得是點進去 " 欣賞 " 好幾個視頻後，才初見端倪。
隻見這哥們整個肢體相當僵硬。
而且永遠都是皺着個眉頭，情緒穩定得可怕。
配音更是重量級。
初聽可能覺得沒啥違和感，但多聽幾次就會發現人機味兒太沖了。
一點人類說話該有的抑揚頓挫、情緒變化都沒有。
更讓人覺得逆天的，是賬号的内容調性。
說白了，純純是沖着家裏有點閑錢，但又對互聯網了解不深的中老年人去的。
我給大夥展示點片段就懂了。
這哥們一會兒說要給 " 姐姐 " 們跳個舞。
接着讓 " 姐姐 " 們評價一下跳得怎麽樣。
視頻标簽也是演都不演了，标了個# 姐弟和# 情感。
大姐大媽們，看到一個穿西裝的小夥子，擱這激情熱舞。
早已失去激情多年的内心，又久違泛起了波瀾。
可天上不會掉餡餅。
互聯網上，也不會有真正免費給你跳舞的人。
機哥在其他視頻中能看到，賬号裏的數字人總會在視頻結尾，引導觀衆去櫥窗消費。
有時候這數字人甚至會開啓帶貨直播。
左下角櫥窗帶的貨也基本是保健品、家具日用品和生活消耗品。
大夥都懂吧。
這類産品特性很明顯，價格便宜、退貨率低，平時又用得上。
哪怕大姐大媽們本來用不着。
主播也能用花言巧語，哄得她們當場下單。
" 姐姐，這是弟弟花了很長時間爲你準備的，拍了後要告訴弟弟哦。"
" 姐姐，你知道嗎，當我浏覽你的作品的時候，我仿佛看到了一位天使，真的無法用言語，不知道姐姐可不可以幫弟弟拍一單。"
緊接着直播間的彈幕，就變成了這樣。
在我們看來，這不過是一場逆天程度極高的帶貨。
但大媽們又怎麽會知道，在鏡頭前對她噓寒問暖、深情表白的人，其實是個 AI 數字人呢。
更逆天的是。
機哥搜索相關關鍵詞，發現這哥們居然使出了影分身之術。
關鍵是好幾個直播間的人氣和熱度都不低。
可想而知，有多少大姐大媽，爲了讨好這個可愛的弟弟，心甘情願掏錢下單。
有多少顆真心，又被這一堆由代碼和數據組成的數字人，騙得死去活來。
這不會是第一個，也不會是最後一個。
反正機哥在平台上随手一搜，就能看到賊多這種，内容文案完全沖着中老年人去的 AI 賬号。
一口一個姐姐，一口一個家人們。
有針對大姐大媽的，自然也有針對大叔大爺的。
最終目的，也隻不過是讓姐姐們打開商品櫥窗，掏錢下單。
據我全網高強度深挖。
這樣的 AI 數字人賬号，可謂是遍布各大平台，流程也大緻相同。
文案内容主打情感、養生，自稱也是妹妹、弟弟，給中老年人親切的感覺。
最後絲滑帶貨變現一條龍。
機友們可能會說，這些賬号其實流量也不多啊。
确實。
但因爲搞這玩意成本低，背後的運營團隊，基本上能用一個 AI 形象，運營幾十上百個賬号。
能爆一個視頻，就能帶來不少收益。
而聊到這兒，機哥心裏多少有點複雜。
大概是從一年前開始吧。
市面上關于 AI 詐騙、AI 爆老年人金币的案例，便數不勝數。
有的直播間，用 AI 換臉技術，把主播的臉換成大明星帶貨。
也有的人，用靳東的人臉和聲音素材，合成出和本人有九成相似的數字人形象，在短視頻平台誘導中老年人互動和消費。
這些狗狗祟祟的團隊，也能用 AI 換臉俄羅斯美女，把大爺們的養老金榨得一滴不剩。
這下看懂了。
這些事情的本質，不特麽都是" 秀才迷倒大媽 "的套路複現麽？
一個秀才倒下了，千千萬萬個 AI 換臉、AI 數字人賬号原地起号。
隻是這次不同的是。
以前忽悠人的，還算個人。
現在忽悠人的，甚至都不是人。
有時候機哥都覺得，平台光是在視頻底下标注個小字兒——" 内容由 AI 生成 "，都不太管用了。
那些低質量、批量化，誘導消費又明顯的 AI 賬号。
留着給它玩下去，又有啥意義呢？
好消息是，抖音前陣子已經表示要出手打擊騙老年人的 AI 賬号。
小紅書這邊，今年同樣把 AIGC 黑灰産，作爲重點打擊對象。
不管怎麽說，希望 AI 大模型和 AIGC，能回歸到真正實用、向善的價值吧。
