用“人造”的數據喂養AI?合成數據億級市場涌現
21世紀經濟報道 記者郭美婷 林曦 實習生溫泳珊 廣州報道
(資料圖片僅供參考)
AI潮水洶涌,數據正成為一門火爆的生意。
為了給人工智能喂上充足的“養料”,從發掘、采集到標注,企業在數據處理的各個環節掘金。到如今,真實的數據已無法滿足日漸膨脹的AI“胃口”,企業開始探索AI自產自銷的“假”數據——合成數據產業應用而生。
上個月底,國內合成數據公司“光輪智能”宣布完成天使+輪融資;幾個月前,新加坡合成數據初創公司Betterdata也獲得一筆165萬美元規模的種子輪融資。互聯網大廠也開始了布局。微軟、英偉達、meta、亞馬遜等數得上號的科技巨頭中,均有合成數據相關的業務布局、投資或收購舉動。
合成數據究竟是“何方神圣”?它有怎樣的產業價值和風險?會給AI產業帶來怎樣的顛覆?
“人造”數據崛起
相比于從現實世界中采集或測量的真實數據,合成數據顧名思義是人工合成的“假”數據。由于能夠反映原始數據的屬性,合成數據可以作為原始數據的替代品來訓練、測試和驗證AI模型。
但人工合成并不意味著完全憑空捏造。現階段,大部分合成數據的“根”仍然是真實數據。
Unity中國高級軟件工程師錢文億向21世紀經濟報道記者介紹了其合成數據產品在計算機視覺相關項目中的普遍生成過程:第一步,在現實中找到可識別的對象,通過掃描技術,將物體模型真實地還原在3D場景中;在此基礎上,對該物體模型進行打標簽,如顏色、大小等,具體標簽類型依據訓練需求而定;最后,將這些物體放置于各種設定的場景中,隨機組合,快速地生成多張圖片。
因此,訓練同一個AI模型時,使用真實數據也許需要攝像頭不斷變換地捕捉物體在不同場景、狀態下的多張照片,而合成數據則能夠通過調整物體位置、角度、所處背景等參數,一分鐘內生產成百上千張不同的圖片,降低成本,提高數據集生成效率。
事實上,合成數據的概念并不新穎。據說,這一概念早在1993年Donald Rubin的一篇文章中就有雛形。近年來,隨著人工智能技術一次次取得突破性發展,真實數據的采集、獲取難度也水漲船高,已難以填飽AI訓練的龐大“胃口”。
合成數據常常作為真實數據的“平替”而存在。據人工智能初創公司Cohere首席執行官Aiden Gomez在上個月底透露,由于Reddit、推特等公司的數據采集要價太高,微軟、OpenAI和Cohere等公司,已使用合成數據來訓練AI模型。Gomez表示,合成數據可以適用于很多訓練場景,只是目前尚未全面推廣。
但在廣州大學計算機科學與網絡工程學院教授王員根看來,價格反而不是選擇合成數據最主要的考慮因素。
真實數據涉及大量個人隱私,冒然使用可能引起嚴重的法律糾紛問題,而且并非所有的真實數據都是可用的。互聯網上充斥著大量真偽難辨的信息,要從雜亂無章的真實數據中挖掘出可用的信息,需要大量的人工篩選。另外,真實數據還存在分布不均衡的問題。例如,訓練人臉識別系統時,從互聯網上爬取到的人臉數據中亮皮膚人臉圖像占多,而暗皮膚人臉圖像偏少,這將導致所訓練的模型存在偏見。合成數據恰能在一定程度上人為規避上述問題。
“部分真實數據無法獲取,如清晰的水下圖像等,通過合成數據技術模擬生成相關數據,能夠補充訓練數據的完備性。”王員根補充道,盡管現階段大量合成數據建立在真實數據基礎上,但隨著技術的進步,未來對真實數據的依賴將逐步減少,目前已有技術能讓直接合成的數據“以假亂真”。
但合成數據并非十全十美。在AI訓練數據服務商Appen澳鵬官方發布的一篇文章中,就提到合成數據缺乏異常值,而這些異常值自然出現在真實數據中,對于模型精確度至關重要。另外,合成數據的質量通常取決于用于生成的輸入數據,輸入數據中的偏見很容易傳播到合成數據中,因此不能低估使用高質量數據作為起點的重要性。所以,企業需要將合成數據與人工標注的真實數據進行比較,作為額外的輸出控制。
越敏感,越先突破
目前,合成數據主要應用于哪些領域?
相比于自然語言、音頻等形式,合成數據最先在計算機視覺上展露拳腳。受訪專家們認為,這與圖片處理更加簡單直接、人類與環境進行交互時優先通過視覺系統等因素相關。未來,其他領域的合成數據也將得到進一步的發展。
合成數據在自動駕駛、醫療、金融等場景有著廣闊的應用前景。這些場景的共同點在于,真實數據敏感,難以獲取,但又關涉重大,有的還涉及人身安全,對數據質量要求極高。“哪里最有需要,哪里就會最先得到發展和應用。合成數據技術最有可能在這些敏感場景中取得突破。”王員根表示。
以自動駕駛為例,實際駕駛過程中,車輛可能會碰到各種復雜多變的路況,甚至是極端情況,如嚴重的交通堵塞、事故、惡劣天氣等。尤其是在極端情況下,使用真車冒險測試幾乎不可能,極難采集和獲取到真實數據。
合成數據可以模擬出這些情景。王員根介紹,“比如,要模擬暴雨天氣,我們就用日常能夠收集到的普通天氣的數據,構建一個物理或網絡模型,將‘暴雨’的關鍵參數輸入進去,就能生成相應的場景。模型和參數越準確,場景的逼真程度越高。”如此,能夠在保障人員和設備安全的條件下,提升自動駕駛能力。
公開資料顯示,許多自動駕駛汽車廠商都在合成數據和模擬方面進行了大量投資。例如,谷歌母公司Alphabet旗下的自動駕駛子公司Waymo在2106年就生成了25億英里的模擬駕駛數據來訓練其自動駕駛系統(相比之下,從現實世界收集的駕駛數據僅為300萬英里)。到 2019 年,這一數字已達到100 億英里。
國內,騰訊自動駕駛實驗室開發的自動駕駛仿真系統TADSim已經可以自動生成無需標注的各種交通場景數據。華為云也基于盤古大模型開發了場景重建大模型,該模型可基于采集的路采視頻數據做場景重建(合成數據),普通用戶很難用肉眼分清這些重建的場景跟真實場景有何區別。
然而,自動駕駛涉及人身安全,合成數據畢竟不是完全真實的,這注定了企業使用這類數據進行訓練時會表現得更加謹慎。
小馬智行聯合創始人兼CTO樓天城向21記者強調,合成數據既有憑空生成的虛擬數據,也有基于真實數據加以修改得到的數據,目前在L4的感知模塊中,小馬智行沒有使用憑空生成的虛擬數據。主要是因為L4方案依賴于激光雷達,對于如惡劣天氣、長尾物體等難度場景,生成激光雷達的虛擬數據與真實數據的分布差異較大,無法用虛擬數據來達到在真實場景下提升的效果。
但小馬智行會對真實數據加以修改來合成數據用于感知算法,對于不依賴原始傳感器輸入的模塊,例如路徑規劃和一些場景理解等算法,也會使用合成數據進行訓練和仿真評估。
樓天城認為,要把虛擬數據做到足夠逼真對標注質量的要求反而更高。而對于一般的簡單場景,做數據挖掘和智能標注的數據閉環相比于研發合成逼真的虛擬數據的成本還要低不少。目前學術界對使用完全虛擬的數據進行自動駕駛的訓練有一些研究,不少公司也在做相關預研。從訓練效果來看,從0到80分有幫助,但對90到99分效果一般,實際落地部署的案例并不普遍。
“我們也在關注合成虛擬數據相關的技術進展并持開放的態度,如果某一天技術足夠成熟時也會考慮應用。”樓天城表示。
數據標注產業將被重構?
據咨詢公司Gartner預測,到2030年,合成數據將徹底取代真實數據,成為 AI 模型所使用的數據的主要來源。而美國AI研究機構Cognilytica數據顯示,2021 年合成數據市場規模大概在1.1億美元,到2027 年將達到11.5億美元。這是一塊讓不少科技大廠和初創公司垂涎的大蛋糕。
多家的科技巨頭均有合成數據相關的業務布局、投資或收購舉動。例如,2021年,英偉達發布了用于訓練AI的Omniverse Replicator合成數據生成引擎,今年7月,英偉達初創加速計劃成員Rendered.ai將Omniverse Replicator集成到其合成數據生成平臺,使AI訓練變得更加簡單易用;亞馬遜也在多個場景探索合成數據的應用,例如使用合成數據來訓練、調試其虛擬助手Alexa,以避免用戶隱私問題等;Meta則直接收購了合成數據創業公司AI.Reverie,以整合至旗下元宇宙部門Reality Labs。
創業公司方面,合成數據領域的投資并購持續升溫。計算機視覺合成數據提供商Datagen于2022年初宣布完成5000萬美元B輪融資;今年4月,新加坡合成數據初創公司Betterdata在獲得一筆165萬美元規模的種子輪融資;7月末,國內合成數據公司“光輪智能”宣布完成天使+輪融資,這家今年剛成立的新公司,已經完成種子輪、天使輪、天使+三輪融資,累計融資金額達數千萬元。
錢文億觀察到,“過去幾年,全球幾乎每年都有好幾百甚至上千家新型初創公司建立,為各行各業提供用于算法訓練的合成數據產品。”
產業繁榮之下,我國也開始鼓勵和引導合成數據產業的發展。今年3月初,中國證監會科技監管局局長姚前曾在《中國金融》雜志撰文稱,建議重點發展基于AIGC技術的合成數據產業。以更高效率、更低成本、更高質量為數據要素市場“增量擴容”,助力打造面向人工智能未來發展的數據優勢。5月19日,北京發布的“北京市通用人工智能產業創新伙伴計劃”,提到謀劃建設國家級數據訓練基地,也提出了支持發展基于AIGC技術的合成數據新產業。
而在過去很長一段時間里,人工智能對數據的海量需求催生了一批數據標注師的就業群體。如今,當合成數據逐漸成勢,數據標注產業的格局是否會因此遭到沖擊?
王員根認為,沖擊是必然的,但需求仍在。“首先這件事沒有那么快到來,其次,標注師們要進行轉型。比如,過去需要標注的是原始數據,如今則變成了AI生成的數據;又如在原本數據標注工作的基礎上,標注師們還將被要求分辨哪些是AI生成的數據,哪些是自然數據等。即使合成數據越來越多、質量越來越高,也離不開人類的引導和監督,以及時修正可能出現的偏差。”
關鍵詞:
您可能也感興趣:
為您推薦
47歲陳坤疑隱婚生子!狗仔曝光其兩個3歲兒子,五官長相撞臉周迅
對華“脫鉤斷鏈”,說易行難
杭州首條“云公交”線路來啦!掃碼下單10分鐘內可享“定制”服務
排行
最近更新
- 用“人造”的數據喂養AI?合成數據億級市場涌現
- 平安證券:半導體行業下行周期延續,但結構性機會依然存在
- 德國外長所乘專機因機械故障在阿聯酋備降
- 全國公安機關嚴打食藥領域犯罪 今年4月以來破獲相關案件6100余起
- 青海茶卡鹽湖:從綠水青山走向金山銀山
- 多因素拖累 秦川物聯再陷虧損
- 社區警務與基層治理深度融合,武漢武昌警方打造“平安華錦”...
- 越野車中的“鯰魚”,比亞迪方程豹亮相,DMO平臺滿滿黑科技
- 未來10天死亡人數或將大幅上升,美國夏威夷大火何以至此?
- 2023世界機器人大會在京開幕 深圳多家機器人企業亮相
- 旅比大熊貓“寶弟”“寶妹”歡慶4歲生日
- 8月16日基金凈值:華夏盛世混合最新凈值1.233,跌1.28%
- 8月16日基金凈值:華商穩定增利債券A最新凈值1.803,漲0.11%
- 電子五所牽頭,國內首部以“數據確權授權”命名標準已立項
- 8月16日基金凈值:泓德裕祥債券A最新凈值1.3287,跌0.1%
- 8月16日基金凈值:工銀招瑞一年持有混合A最新凈值0.9803,跌0.03%
- “你好,潮流香港!”巡回展亮相天津 中西文化交融薈萃的底...
- 瑪納斯縣廣東地鄉兵戶村:食用菌大棚托起致富路 這里的“菇...
- 又一工程機械巨頭進軍高端農機領域
- 原油收盤:經濟增長擔憂抵消庫存下降利好 紐約原油大幅下挫...
- “我侵權我自己?”視覺中國再惹爭議!專家:索償須獲專有許可
- 經濟增長迎來新動力:助推創新經濟發展,吉利雷達在行動
- 2022北京車展首發 集度首款概念車細節
- 2999元,150W+驍龍8 Gen2,原來它對標的是小米13
- 衡山縣質安站開展“送清涼、送關懷”慰問活動
- 揭曉1982年屬狗人的一生宿命,38歲后是窮是富?看看是怎么回事
- 《她的城》都由誰主演?
- 深圳市正德高級中學2023年中招補錄公告
- 8月20日廣州南國書香節活動一覽表
- 2023年下半年上海自考幾月報名