财聯社 4 月 27 日訊（編輯 史正丞）随着 AI 技術快步邁入大規模應用的階段，技術遭到惡意濫用的問題再度浮上水面。前陣子一度引發微博熱議的 " 一鍵修圖變成一鍵去衣 "，正在美國以更加惡意的形式上演。
據美國技術媒體 404 Media 周五報道，在該媒體的推動下，蘋果、谷歌分别從應用商店内下架了多款标榜能夠進行 " 一鍵去衣 " 的應用。真正的問題在于，包括收廣告費推廣這些應用的 Meta 在内，這些互聯網巨頭似乎并不能自行找到這些違反其政策的應用。
惡意 AI 應用 " 登堂入室 "
報道稱，通過比對 Meta 平台的廣告資料庫，404 Media 找到一系列推廣 " 一鍵去衣 " 軟件的廣告，投放記錄顯示宣傳這些惡意 AI 軟件的廣告曾在 3、4 月間，在 Meta 旗下的多款社交媒體平台上投放。
這類軟件标榜的功能，正是可以上傳真人照片，并且可以 " 一鍵擦除任意衣服 "，開發者通過收費來牟利。
更令人震驚的是，這類軟件并不是存活在互聯網的陰暗角落中，而是正大光明地出現在蘋果應用商店裏。當用戶點擊社交媒體上的廣告後，會直接跳轉至蘋果應用商店。在商店裏的應用被僞裝成了AI 藝術生成器，并沒有披露應用背後的實際用處（因爲這肯定違反應用商店政策）。
在本周這件事情被曝光前，這些廣告仍一直在 Meta 的社交平台上挂着，非法應用也一直混迹在蘋果、谷歌的應用商店裏。
接到舉報後，Meta 找到爆料的媒體，請求他們 " 将所有看到的廣告鏈接發給他們 "，并迅速下架删除。公司發言人 Daniel Roberts 随後表示，Meta 不允許存在成人内容的廣告，一旦發現會迅速删除。公司接下來将加大審查力度，并對違反政策的賬戶采取行動。
周五的最新消息顯示，蘋果公司在收到舉報後，也把媒體發現的 3 款應用程序做了下架處理。谷歌則在近期下架了一款 AI" 換臉 " 程序。
事實上，這類具有 " 深度僞造 "（DeepFake）功能的 app 至少在 2022 年就已經出現在應用商店裏，但當時蘋果、谷歌接到舉報後，僅僅是要求開發者停止投放廣告宣傳不法用途，而不是将其下架。
已有美國學生因此被捕
雖然互聯網平台對這類 app 處理的方式頗爲被動，但這些應用已經産生了惡劣的社會後果。
據《連線》雜志報道，去年 12 月有兩名佛羅裏達州的中學生，因爲使用 AI 生成同學的裸照遭到警方逮捕和重罪控訴。
警方提供的報告稱，兩名男孩的年齡分别是 13 和 14 歲，所制作照片的對象是 12 至 13 歲之間的學生。根據佛羅裏達州法律，他們的行爲與重大汽車盜竊、非法拘禁同屬三級重罪。
雖然該案被美國媒體稱爲 " 首個引發逮捕和起訴的案例 "，但在公開報道中，加州、華盛頓州、新澤西州的中學都有過類似的事件，隻不過沒有提到是否引發刑事指控。
目前在美國隻有十個州将此類行爲入罪，并沒有聯邦層面的法律進行規管。轉機出現在今年 1 月底，由于在馬斯克的 X 平台上爆發使用 AI 制作泰勒 · 斯威夫特露骨照片的事件。在事态最嚴重的狀态下，X 平台不得不禁止使用 " 泰勒 · 斯威夫特 " 作爲關鍵詞進行搜索。
在這一事件後，美國參議院兩黨議員聯合提起了一項名爲《2024 打擊非法僞造圖像和未經同意編輯法案》的立法。
聯名提出這項法案的共和黨參議員喬什 · 霍利當時對媒體表示，無論是明星還是普通人，都不應該發現自己出現在 AI 色情制品中。無辜者有權捍衛自己的名譽，并在法庭上追究加害者的責任。
