想讓自己更貼近電視上的形象完美明星或動漫人物嗎?
現在,一個 app 就能做到——隻是需要你花點小錢。
AI 美工上線,App 即可體驗
Lensa 是一個「老樹發新芽」的應用。
2018 年它就上架了,最近爆火完全是因為人工智能生成自拍的新功能 Magic Avatar(魔法化身)。
用戶上傳 10-20 張自拍照,Lensa 就能給你生成 50~200 張不同風格的 AI 自畫像或頭像。聽上去是不是很耳熟,我們曾經介紹過類似的 AI 自拍生成網站,現在也有了類似的 app,但底層還是最熟悉的 AI 作圖工具。
今年 8 月在 GitHub 上免費開源的深度學習文生圖模型 Stable diffusion 為這些服務提供了基礎支持。和以前 DALL-E、Midjourney 這樣的文生圖模型僅能通過雲計算服務訪問相比,Stable Diffusion 支持在大多數配備有适度 GPU 的電腦硬件上運行,這給它的火爆打下了基礎。
Stable diffusion 作品
Lensa 就用這個時下最火 AI 賺了個盆滿缽滿。12-18 元可以生成 50-100 張 AI 自拍,這可能是 AI 商業化最被接受的案例。真的有很多人大方買單,就為了看看 AI 到底能把自己做成什麼樣子。
隻要确保輸入的照片盡可能清晰,最終呈現的效果就很難翻車。
名人照片生成的圖片
有的照片充滿科幻色彩,将你變身未來賽博人,服裝造型都很有未來感;有的無中生有讓你在風景中留下自拍紀念,背景景色頗具油畫風格,你也能完美融入景色之中;還有将你的臉漫改為動畫人物的,時尚畫風和可愛畫風都有,但依舊保留了五官特色。
不同風格、不同造型、不同年代是 AI 美工給你修圖的最大特色。
AI 愛好者 Fabian Stelzer 曬出在 Strmr 網站生成自拍效果的時候,還成功實現了男變女,搖滾年代、銀翼殺手、鄉村田園風格應有盡有,背景甚至比 Lensa 生成的更為豐富。
但 Lensa 火也是有理由的,app 體驗新功能是用戶更為熟悉的形式。别管生成效果如何,用戶能輕松用上才是第一步。
就算生成過程中,AI 做出來的照片多了一隻手或者某些方面不夠完善,看在 12 元 50 張圖的數量上也完全可以原諒——挑挑揀揀,總能發個朋友圈。
但别以為 Lensa 用的開源模型就能省錢,為你生成頭像照片的過程也需要大量的計算資源,這也不是一本萬利的買賣。
三隻手就屬于有些怪異的案例
在能讓用戶體驗最新 AI 效果的加持下,Lensa 日流水超過了 TikTok,點點數據統計發現目前 Lensa 的全球日流水已超過了百萬美金。
Lensa 具備所有的 AI 「通病」
Lensa 火了,但見多了 AI 生成的用戶還沒開始為 Lensa 的便于使用、成片效果好而開心,就已經發現了 Lensa 的種種問題。
從某種程度上,降低用戶使用門檻的 Lensa 也讓 AI 各種問題暴露了出來。
有了它,所有人都能意識到,AI 的偏見有多嚴重。
性别偏見膚色偏見兒童色情未經授權版權風險
不患寡而患不均的道理在 Lensa 這個應用上顯現得淋漓盡緻,如果你給男用戶什麼,那也應該給女用戶什麼。可惜的是,AI 是被人類産出的數據「喂大的」,所以那些日常生活中還可能被忽略的「隐性偏見」到了應用上都被 AI 暴露了出來。
女性用戶在用 Lensa 生成照片後,就發現自己的照片過于性感,很可能穿着丁字褲或者戴着仙女翅膀。
一位女用戶表示,在生成的 100 張照片中,有 16 張照片都直接顯示大部分裸體,有 14 張照片穿着過于暴露的服裝擺出了性感且引人遐想的姿勢,AI 還會給你自動美白、隆胸、瘦腰,以符合它被輸入的數據。
與此同時,男用戶在使用此功能時往往不會生成太多性感圖像,他們獲得的都是有趣且正經的照片。變身宇航員,成為未來戰士,擁有或炫酷或深沉的封面照,極少展示健美性感的身體,更多還是正經又不出格的風格。
華盛頓大學研究人工智能系統中的偏見表征的助理教授 Aylin Caliskan 對此作了總結:「女性與性内容相關,而男性則與醫學、科學、商業等任何重要領域的專業、職業相關内容相關。」
AI 在任何領域表現出來的種族問題也沒逃掉,它被喂了太多白人的數據,這也導緻了其他有色人種用戶生成的圖像更像白人。
如果你是女性用戶,就很容易被生成性感白人女孩的照片,黑人女性也會被自動美白使之更符合審美,亞洲女性則和電子遊戲動漫中常見的色情照片進行匹配,它們得到的性感裸露照片也會更多。
圖片來自:technologyreview
小朋友如果用這個 app 也會有相同的結果——他們的照片過于性感,不符合本年齡段。
雖然 Lensa 要求使用此功能的用戶在 18 歲以上,但實際 app 本身缺乏驗證手段,它們也無法阻止 AI 自動把年輕的面龐搭配那些過分成熟性感的身體。
兒童色情内容在互聯網屬于紅線,而 Lensa 或者說這種技術還沒準備好規避這些危險的内容。
Wired 記者嘗試的十幾歲用戶内容生成
隻能說這些 app 呈現的所有圖像都在說明,年輕性感露膚較多的白人女性最能迎合大衆的審美。
這些生成圖像過于性感也有新的問題,如果用戶是自己生成自己的照片,這無傷大雅,最多不将它公開就沒有人能看到,但如果這是他人用你的照片生成的圖像,這就可能導緻更多問題。
仿真的圖像會為謠言提供土壤,缺乏辨别能力的用戶一旦信以為真,這會給圖片的主角帶去不少困擾——而且他往往對這個圖片生成的過程一無所知。
最後的問題則是 AI 一直被诟病的版權問題。
AI 是被數不清的圖片喂大的,這些圖片也是有版權的。但像 Lensa 這樣的商業化公司真正盈利了,可沒有一分錢會分到原始圖片創作者手裡,或者說,就算想分也不知道怎麼分。
但數字藝術家可不會坐以待斃,要知道 AI 所做的一切都在搶走它們未來的飯碗。所以很多藝術家發言抵制 Lensa 這類應用,甚至直接将這類 app 稱為小偷。當然,藝術家說的也不是完全沒道理,AI 的海量數據都是被它們創作出來的,但最後卻威脅到了它們的職業生涯。
還有用戶在生成的照片上發現了一些簽名,這也成了 AI 留下的「侵權」證據。
圖片來自:量子位
體驗下,你也可能被 AI「性騷擾」
和當年的 deepfake 相比,這是身邊普通人都能輕易做到的「性騷擾」。
不需要學什麼技術,也不需要懂什麼代碼,隻需要自己下載一個 app,花十幾元生成的 100 張圖片中總可能有些讓人感到不适的。要麼是給你加上了誇張的胸部,要麼是美白瘦腰過度,或者将你的臉放在一個性感裸露的身體之上擺出誘人的 Pose。
女權主義者 Shirley Chisholm 也要被隆胸
總的來說,AI 生成一切未知,要真遇到一個你覺得過火了的也隻能忍了。
覺得被冒犯了嗎?覺得自己沒有被尊重嗎?
隻能說這個世界本身的偏見通過 AI 反映了出來,當你打開它,就能看到這個世界對男性女性的刻闆印象。男性就該勇猛,女性就該柔媚,不存在什麼包容和多元的可能,因為一張又一張藝術作品就是這麼呈現的。
圖片來自:technologyreview
被這些積累了多年反映社會觀念作品喂大的 AI 或許就是最不政治正确的存在。
因此國外有不少用戶在 Lensa 火了之後開始大聲抗議,表示自己被 AI 性騷擾,認為這個 app 的存在就是互聯網侵犯用戶的又一案例。這些互聯網應用不在乎你是誰,不在乎你有怎樣的性格和愛好,它們隻是按照大數據和主流審美将你塞到一個固定的框架中。
在那個框架裡,你有白皙的皮膚,過于纖瘦的身材,時尚性感的穿着,妩媚誘人的動作。這樣的你是 AI 人之中大家都會喜歡的美人,具有濃濃的性吸引力。雖然照片中 AI「生産」的人像五官和你相似,但那并不是真正的你。
整形醫院有人拿着 Lensa 生成的照片要求對照整容,因為那就是主流嚴重受歡迎的樣子
這就像是社會觀念對用戶的集體冒犯。Caliskan 就表示不管你是否願意,女性在這套 AI 系統運作中都很可能會被性化處理:
人造的、未經過濾的在線數據将模型引入了人類現有的偏見。
本文來自微信公衆号 "APPSO"(ID:appsolution),作者:冷思真