作 者丨郭美婷
編 輯丨吳立洋
AI 潮水洶湧,數據正成爲一門火爆的生意。
爲了給人工智能喂上充足的 " 養料 ",從發掘、采集到标注,企業在數據處理的各個環節掘金。到如今,真實的數據已無法滿足日漸膨脹的 AI" 胃口 ",企業開始探索 AI 自産自銷的 " 假 " 數據——合成數據産業應用而生。
上個月底,國内合成數據公司 " 光輪智能 " 宣布完成天使 + 輪融資;幾個月前,新加坡合成數據初創公司 Betterdata 也獲得一筆 165 萬美元規模的種子輪融資。互聯網大廠也開始了布局。微軟、英偉達、meta、亞馬遜等數得上号的科技巨頭中,均有合成數據相關的業務布局、投資或收購舉動。
合成數據究竟是 " 何方神聖 "?它有怎樣的産業價值和風險?會給 AI 産業帶來怎樣的颠覆?
" 人造 " 數據崛起
相比于從現實世界中采集或測量的真實數據,合成數據顧名思義是人工合成的 " 假 " 數據。由于能夠反映原始數據的屬性,合成數據可以作爲原始數據的替代品來訓練、測試和驗證 AI 模型。
但人工合成并不意味着完全憑空捏造。現階段,大部分合成數據的 " 根 " 仍然是真實數據。
Unity 中國高級軟件工程師錢文億向 21 世紀經濟報道記者介紹了其合成數據産品在計算機視覺相關項目中的普遍生成過程:第一步,在現實中找到可識别的對象,通過掃描技術,将物體模型真實地還原在 3D 場景中;在此基礎上,對該物體模型進行打标簽,如顔色、大小等,具體标簽類型依據訓練需求而定;最後,将這些物體放置于各種設定的場景中,随機組合,快速地生成多張圖片。
因此,訓練同一個 AI 模型時,使用真實數據也許需要攝像頭不斷變換地捕捉物體在不同場景、狀态下的多張照片,而合成數據則能夠通過調整物體位置、角度、所處背景等參數,一分鍾内生産成百上千張不同的圖片,降低成本,提高數據集生成效率。
事實上,合成數據的概念并不新穎。據說,這一概念早在 1993 年 Donald Rubin 的一篇文章中就有雛形。近年來,随着人工智能技術一次次取得突破性發展,真實數據的采集、獲取難度也水漲船高,已難以填飽 AI 訓練的龐大 " 胃口 "。
合成數據常常作爲真實數據的 " 平替 " 而存在。據人工智能初創公司 Cohere 首席執行官 Aiden Gomez 在上個月底透露,由于 Reddit、推特等公司的數據采集要價太高,微軟、OpenAI 和 Cohere 等公司,已使用合成數據來訓練 AI 模型。Gomez 表示,合成數據可以适用于很多訓練場景,隻是目前尚未全面推廣。
但在廣州大學計算機科學與網絡工程學院教授王員根看來,價格反而不是選擇合成數據最主要的考慮因素。
真實數據涉及大量個人隐私,冒然使用可能引起嚴重的法律糾紛問題,而且并非所有的真實數據都是可用的。互聯網上充斥着大量真僞難辨的信息,要從雜亂無章的真實數據中挖掘出可用的信息,需要大量的人工篩選。另外,真實數據還存在分布不均衡的問題。例如,訓練人臉識别系統時,從互聯網上爬取到的人臉數據中亮皮膚人臉圖像占多,而暗皮膚人臉圖像偏少,這将導緻所訓練的模型存在偏見。合成數據恰能在一定程度上人爲規避上述問題。
" 部分真實數據無法獲取,如清晰的水下圖像等,通過合成數據技術模拟生成相關數據,能夠補充訓練數據的完備性。" 王員根補充道,盡管現階段大量合成數據建立在真實數據基礎上,但随着技術的進步,未來對真實數據的依賴将逐步減少,目前已有技術能讓直接合成的數據 " 以假亂真 "。
但合成數據并非十全十美。在 AI 訓練數據服務商 Appen 澳鵬官方發布的一篇文章中,就提到合成數據缺乏異常值,而這些異常值自然出現在真實數據中,對于模型精确度至關重要。另外,合成數據的質量通常取決于用于生成的輸入數據,輸入數據中的偏見很容易傳播到合成數據中,因此不能低估使用高質量數據作爲起點的重要性。所以,企業需要将合成數據與人工标注的真實數據進行比較,作爲額外的輸出控制。
越敏感,越先突破
目前,合成數據主要應用于哪些領域?
相比于自然語言、音頻等形式,合成數據最先在計算機視覺上展露拳腳。受訪專家們認爲,這與圖片處理更加簡單直接、人類與環境進行交互時優先通過視覺系統等因素相關。未來,其他領域的合成數據也将得到進一步的發展。
合成數據在自動駕駛、醫療、金融等場景有着廣闊的應用前景。這些場景的共同點在于,真實數據敏感,難以獲取,但又關涉重大,有的還涉及人身安全,對數據質量要求極高。" 哪裏最有需要,哪裏就會最先得到發展和應用。合成數據技術最有可能在這些敏感場景中取得突破。" 王員根表示。
以自動駕駛爲例,實際駕駛過程中,車輛可能會碰到各種複雜多變的路況,甚至是極端情況,如嚴重的交通堵塞、事故、惡劣天氣等。尤其是在極端情況下,使用真車冒險測試幾乎不可能,極難采集和獲取到真實數據。
合成數據可以模拟出這些情景。王員根介紹," 比如,要模拟暴雨天氣,我們就用日常能夠收集到的普通天氣的數據,構建一個物理或網絡模型,将‘暴雨’的關鍵參數輸入進去,就能生成相應的場景。模型和參數越準确,場景的逼真程度越高。" 如此,能夠在保障人員和設備安全的條件下,提升自動駕駛能力。
公開資料顯示,許多自動駕駛汽車廠商都在合成數據和模拟方面進行了大量投資。例如,谷歌母公司 Alphabet 旗下的自動駕駛子公司 Waymo 在 2106 年就生成了 25 億英裏的模拟駕駛數據來訓練其自動駕駛系統(相比之下,從現實世界收集的駕駛數據僅爲 300 萬英裏)。到 2019 年,這一數字已達到 100 億英裏。
國内,騰訊自動駕駛實驗室開發的自動駕駛仿真系統 TADSim 已經可以自動生成無需标注的各種交通場景數據。華爲雲也基于盤古大模型開發了場景重建大模型,該模型可基于采集的路采視頻數據做場景重建(合成數據),普通用戶很難用肉眼分清這些重建的場景跟真實場景有何區别。
然而,自動駕駛涉及人身安全,合成數據畢竟不是完全真實的,這注定了企業使用這類數據進行訓練時會表現得更加謹慎。
小馬智行聯合創始人兼 CTO 樓天城向 21 記者強調,合成數據既有憑空生成的虛拟數據,也有基于真實數據加以修改得到的數據,目前在 L4 的感知模塊中,小馬智行沒有使用憑空生成的虛拟數據。主要是因爲 L4 方案依賴于激光雷達,對于如惡劣天氣、長尾物體等難度場景,生成激光雷達的虛拟數據與真實數據的分布差異較大,無法用虛拟數據來達到在真實場景下提升的效果。
但小馬智行會對真實數據加以修改來合成數據用于感知算法,對于不依賴原始傳感器輸入的模塊,例如路徑規劃和一些場景理解等算法,也會使用合成數據進行訓練和仿真評估。
樓天城認爲,要把虛拟數據做到足夠逼真對标注質量的要求反而更高。而對于一般的簡單場景,做數據挖掘和智能标注的數據閉環相比于研發合成逼真的虛拟數據的成本還要低不少。目前學術界對使用完全虛拟的數據進行自動駕駛的訓練有一些研究,不少公司也在做相關預研。從訓練效果來看,從 0 到 80 分有幫助,但對 90 到 99 分效果一般,實際落地部署的案例并不普遍。
" 我們也在關注合成虛拟數據相關的技術進展并持開放的态度,如果某一天技術足夠成熟時也會考慮應用。" 樓天城表示。
數據标注産業将被重構?
據咨詢公司 Gartner 預測,到 2030 年,合成數據将徹底取代真實數據,成爲 AI 模型所使用的數據的主要來源。而美國 AI 研究機構 Cognilytica 數據顯示,2021 年合成數據市場規模大概在 1.1 億美元,到 2027 年将達到 11.5 億美元。這是一塊讓不少科技大廠和初創公司垂涎的大蛋糕。
多家的科技巨頭均有合成數據相關的業務布局、投資或收購舉動。例如,2021 年,英偉達發布了用于訓練 AI 的 Omniverse Replicator 合成數據生成引擎,今年 7 月,英偉達初創加速計劃成員 Rendered.ai 将 Omniverse Replicator 集成到其合成數據生成平台,使 AI 訓練變得更加簡單易用;亞馬遜也在多個場景探索合成數據的應用,例如使用合成數據來訓練、調試其虛拟助手 Alexa,以避免用戶隐私問題等;Meta 則直接收購了合成數據創業公司 AI.Reverie,以整合至旗下元宇宙部門 Reality Labs。
創業公司方面,合成數據領域的投資并購持續升溫。計算機視覺合成數據提供商 Datagen 于 2022 年初宣布完成 5000 萬美元 B 輪融資;今年 4 月,新加坡合成數據初創公司 Betterdata 在獲得一筆 165 萬美元規模的種子輪融資;7 月末,國内合成數據公司 " 光輪智能 " 宣布完成天使 + 輪融資,這家今年剛成立的新公司,已經完成種子輪、天使輪、天使 + 三輪融資,累計融資金額達數千萬元。
錢文億觀察到," 過去幾年,全球幾乎每年都有好幾百甚至上千家新型初創公司建立,爲各行各業提供用于算法訓練的合成數據産品。"
産業繁榮之下,我國也開始鼓勵和引導合成數據産業的發展。今年 3 月初,中國證監會科技監管局局長姚前曾在《中國金融》雜志撰文稱,建議重點發展基于 AIGC 技術的合成數據産業。以更高效率、更低成本、更高質量爲數據要素市場 " 增量擴容 ",助力打造面向人工智能未來發展的數據優勢。5 月 19 日,北京發布的 " 北京市通用人工智能産業創新夥伴計劃 ",提到謀劃建設國家級數據訓練基地,也提出了支持發展基于 AIGC 技術的合成數據新産業。
而在過去很長一段時間裏,人工智能對數據的海量需求催生了一批數據标注師的就業群體。如今,當合成數據逐漸成勢,數據标注産業的格局是否會因此遭到沖擊?
王員根認爲,沖擊是必然的,但需求仍在。" 首先這件事沒有那麽快到來,其次,标注師們要進行轉型。比如,過去需要标注的是原始數據,如今則變成了 AI 生成的數據;又如在原本數據标注工作的基礎上,标注師們還将被要求分辨哪些是 AI 生成的數據,哪些是自然數據等。即使合成數據越來越多、質量越來越高,也離不開人類的引導和監督,以及時修正可能出現的偏差。"
SFC
本期編輯 江佩佩 實習生 章寶怡
21 君薦讀