以大模型“對抗”大模型,2023WAIC專家熱議大模型時代如何保護(hù)隱私和安全
憑借大數(shù)據(jù)、大算力的"大力出奇跡", AI大模型帶來的"智能涌現(xiàn)",讓人類又一次站在了技術(shù)革命的轉(zhuǎn)折點。與之伴生的用戶隱私泄漏、數(shù)據(jù)濫用等問題被敲響了警鐘。作為平衡數(shù)據(jù)使用與隱私安全的關(guān)鍵技術(shù),隱私計算面臨新的機(jī)遇和挑戰(zhàn)。
在2023世界人工智能大會(WAIC)"數(shù)據(jù)要素與隱私計算高峰論壇"上,復(fù)旦大學(xué)教授、上海市數(shù)據(jù)科學(xué)重點實驗室主任肖仰華與中國信通院云大所大數(shù)據(jù)與區(qū)塊鏈部副主任閆樹展開高端對話,深入研討了大模型時代隱私計算研究發(fā)展。
(資料圖)
(圖:"數(shù)據(jù)要素與隱私計算高峰論壇"對話大模型時代的隱私計算)
兩位專家共同認(rèn)為,總體上大模型是先進(jìn)生產(chǎn)力,不能因為隱私等的顧慮放棄對大模型的應(yīng)用。某種程度上,大模型是一種不確定市場,要正面正視隱私等問題,積極應(yīng)用大模型。
但大模型的破壞性已經(jīng)顯化,要兼顧安全,不能盲目發(fā)展。要建立大模型安全底線和合規(guī)規(guī)范,從數(shù)據(jù)源頭把關(guān),加快大模型語料合規(guī)性認(rèn)證等。非常重要的一點是,要用大模型"對抗"大模型,如利用大模型對生成內(nèi)容的評估,用大模型自身的能力來保護(hù)我們的隱私。要用隱私計算的隨機(jī)性、匿名化等方法,優(yōu)化大模型數(shù)據(jù)分層,同時提升隱私計算本身的性能。
"隱私安全是老問題,但是在大模型時代變得特別突出"
"對于AI的發(fā)展來說,今年可能是比較特殊的一年。各類大模型‘智能涌現(xiàn)’,再一次詮釋了數(shù)據(jù)的重要價值。然而 AI 大模型是把雙刃劍,帶來了突出的隱私和安全問題,隱私計算作為保護(hù)數(shù)據(jù)安全的技術(shù)可以做什么?"閆樹強(qiáng)調(diào)了加速隱私計算研究的必要性。
肖仰華認(rèn)為,大模型對隱私保護(hù)問題帶來了前所未有的挑戰(zhàn),主要表現(xiàn)在侵權(quán)識別和保護(hù)兩個層面,比如隱私泄露、版權(quán)侵犯。首先,大模型是一個大規(guī)模參數(shù)化的模型,訓(xùn)練數(shù)據(jù)來源多樣,隱私保護(hù)非常困難。其次,生成式大模型往往是一種概率化的生產(chǎn),是一種海量拼接式的生產(chǎn),大模型是否侵犯隱私的識別本身很困難。所以傳統(tǒng)意義上的隱私侵犯認(rèn)定,在大模型時代往往會失效。另外,從保護(hù)角度來說更困難。大模型是基于深度神經(jīng)網(wǎng)絡(luò)的架構(gòu),本質(zhì)上是黑盒模式。它的不同的參數(shù)到底習(xí)得了什么樣的知識或能力我們無從得知。"問題是老問題,但是在大模型時代這些問題變得特別突出"。
解決使用大模型時的隱私安全問題,隱私計算技術(shù)已有探索
不止訓(xùn)練大模型帶來隱私安全問題,大模型使用的安全問題也是當(dāng)前的重點。隱私計算如何保證大模型使用的隱私安全?當(dāng)前業(yè)界已經(jīng)有了一些探索。
閆樹介紹,現(xiàn)在隱私計算各種各樣的路線,包括可信執(zhí)行環(huán)境TEE、多方安全計算MPC等都有與大模型結(jié)合的探索,比如在云端部署TEE,用戶在推理時將輸入數(shù)據(jù)加密傳輸至云端,在其內(nèi)部解密然后進(jìn)行推理;還有在模型推理階段使用多方安全計算來提升隱私保護(hù)能力,但不可避免地會對模型訓(xùn)練和推理的性能造成影響。
肖仰華認(rèn)為,一是要建立系統(tǒng)性防范體系。從用戶角度講,要建立大模型隱私安全意識,充分意識到使用過中數(shù)據(jù)有可能被服務(wù)方收集;從提供服務(wù)的廠商來看,要提升服務(wù)的規(guī)范性,在用戶完全授權(quán)的情況下收集用戶相關(guān)的使用數(shù)據(jù),不能超出用戶授權(quán)范疇。二是從技術(shù)本身做創(chuàng)新,比如通過設(shè)置網(wǎng)絡(luò)中間層,在中間層來自很多用戶的查詢或者使用可以混淆打亂,這時平臺方就無法知道哪個用戶在查哪個數(shù)據(jù)。所以傳統(tǒng)的隨機(jī)化匿名化,在大模型時代仍然還是有一定的適用性。
大模型時代隱私計算研究的機(jī)遇與挑戰(zhàn)
大模型一定程度上也會改變隱私計算技術(shù)的發(fā)展和研究,那么該如何更好地適用與大模型?
閆樹認(rèn)為,首先可以重點關(guān)注隱私計算的可用性研究。就是目前來講,隱私計算用于大部分訓(xùn)練時,性能是主要問題。另外合規(guī)性的探討也是需要各界攜手來,加強(qiáng)技術(shù)和法律領(lǐng)域的聯(lián)合研究,共同探討隱私計算技術(shù)的應(yīng)用場景和效果,明確隱私計算技術(shù)的合規(guī)性。
肖仰華認(rèn)為,大模型時代隱私計算迎來全新機(jī)遇。傳統(tǒng)的隱私計算如差分隱私、聯(lián)邦學(xué)習(xí)多是算法層開展工作。但算法工作前提是保護(hù)對象是明確的,協(xié)作機(jī)制清晰。但大模型時代是海量參數(shù)化的模型,不透明、無邊界、不可解釋,對于以前的基于可解釋、清晰、可控的技術(shù)路線的隱私計算方法提供了全新挑戰(zhàn)。包括上升到技術(shù)架構(gòu)層面,大模型的隱私保護(hù),要分層分級保護(hù)數(shù)據(jù),大模型做基本的智能能力,要保護(hù)的數(shù)據(jù)還是在傳統(tǒng)的加密數(shù)據(jù)庫,二者如何協(xié)同,這個是從架構(gòu)層面要研究的。
行業(yè)已有很多動作助力隱私計算未來更復(fù)雜更高要求的應(yīng)用。在本次論壇上螞蟻就開源了自研隱語技術(shù)棧中的隱語框架1.0版,和國產(chǎn)金融安全級TEE方案"HyperEnclave",將為行業(yè)提供易用通用的技術(shù)方案。
(圖:2023WAIC,業(yè)內(nèi)首個金融安全級國產(chǎn)TEE方案 HyperEnclave正式開源)
由螞蟻牽頭的行業(yè)首個"可信執(zhí)行環(huán)境安全"國際標(biāo)準(zhǔn)IEEE2952-2023在論壇上正式發(fā)布,制定了基于TEE技術(shù)的安全計算系統(tǒng)的技術(shù)框架,為將為業(yè)界提供有效指導(dǎo)。
關(guān)鍵詞:
您可能也感興趣:
今日熱點
為您推薦
孕婦新冠陽了怎么辦(藍(lán)天生活日記:一位孕婦分享了她的新冠治愈經(jīng)驗)
長沙2023個人社保繳費標(biāo)準(zhǔn)表一覽 2023年社保最低繳費標(biāo)準(zhǔn)基數(shù)及比例
知乎宣布將下線“匿名功能”
排行
- 水利部預(yù)算執(zhí)行中心副主任劉鵬鴻一行來浙江水利水電學(xué)院調(diào)研...
- 深圳要求建設(shè)工地落實“六個到位” 建設(shè)項目實施圍合式管理
- 截至3月末,深圳29個金融科技應(yīng)用試點項目已全部上線運(yùn)行
- 廈企投資建設(shè)的高性能膜材項目開工 未來總產(chǎn)值將達(dá)60億元
- 重慶巴南第二季度重點項目集中簽約,合同投資金額215億元
- 全國知名民企走進(jìn)重慶萬州區(qū),簽約重點合作項目21個
- 青海海西4000兆瓦風(fēng)光儲氫一體化項目簽約,總投資額214億元
- 深圳寶安區(qū)啟動23個新開工項目,年度投資計劃42.1億元
- 一季度沈陽新簽約億元以上項目480個,同比增長22.1%
- 福州晉安招商大會簽約項目45項,總投資208.43億元
最近更新
- 以大模型“對抗”大模型,2023WAIC專家熱議大模型時代如何保...
- 鉑傲推出新款Beosound A9五代家用藍(lán)牙音響 售價27980元
- 河南嵩縣:養(yǎng)蠶鋪就致富“絲路”
- 三星Tab S9系列配置詳情揭曉,或迎來全面升級
- 新手必養(yǎng)的觀賞魚
- 上海好樂迪價格表_上海好樂迪價格
- 網(wǎng)紅“小白奶”被遺忘,破產(chǎn)重組難救科迪
- 三年內(nèi)將打造1000個精品示范項目,廣東青年大學(xué)生“百千萬工...
- 九大組件龍頭企業(yè)發(fā)起倡議 矩形硅片組件尺寸迎統(tǒng)一
- 貝萊德再喊超配中國股市!多家外資投行看多中國經(jīng)濟(jì)復(fù)蘇前景
- 海爾風(fēng)冷多門冰箱472L僅2959元,限時優(yōu)惠
- 13天完成100%簽約,7天完成100%搬遷,居民盼來舊住房成套改造
- DO:阿森納醫(yī)療主管加里-奧德里斯科爾轉(zhuǎn)投曼聯(lián)
- 老當(dāng)益壯!36歲于漢超過人-推進(jìn)-射門一氣呵成,獲個人賽季第5球
- “遺”起開“嬉”,本周末非遺館帶你玩轉(zhuǎn)四項非遺技藝!
- 2023年第二季度各省直轄市核準(zhǔn)批復(fù)的電網(wǎng)項目匯總
- 應(yīng)用案例 | 3D線激光平面度檢測,讓你的鍵盤更絲滑!
- 在岸人民幣兌美元收報7.2336 漲129點
- 太公釣魚打一生肖什么意思(太公釣魚打一生肖)
- 南昌一市民得了這種病反復(fù)不好!醫(yī)生提醒……
- 華為云CEO張平安:寫詩、作畫是最不該被AI大模型替代的能力
- 螞蟻集團(tuán)發(fā)布AI安全檢測平臺“蟻鑒2.0”,可用生成式能力檢測...
- 上海市第一批科技類校外培訓(xùn)項目目錄:包含機(jī)器人、無人機(jī)等
- 華為云CEO張平安:寫詩、作畫是最不該被AI大模型替代的能力
- "富貴命定!揭秘四大生肖女天生“少奶奶”命,享受貴族般的寵愛...
- 海南:實行師德考核評價“一票否決”!
- 夏威夷旅游攻略自由行 夏威夷旅游攻略
- 馬自達(dá)3昂克賽拉想和你交個朋友!
- 上任兩年,“山水旅游第一股”張家界董事長及董事辭任
- 2023年河南省養(yǎng)老金最新調(diào)整方案有消息?企業(yè)退休養(yǎng)老金如何...
今日要聞
- 華為云CEO張平安:寫詩、作畫是最不該被AI大模型替代的能力
- 13天完成100%簽約,7天完成100%搬遷,居民盼來舊住房成套改造
- 三星Tab S9系列配置詳情揭曉,或迎來全面升級
- 瞄準(zhǔn)全場景智慧出行,深藍(lán)汽車要解決行業(yè)與用戶痛點
- 2023年河南省養(yǎng)老金最新調(diào)整方案有消息?企業(yè)退休養(yǎng)老金如何調(diào)整?
- 浙江證監(jiān)局對螞蟻基金銷售及公司總經(jīng)理林思思給予警告并處罰款
- 2023甘肅高考錄取什么時候開始?
- 長安cs35怎么樣及2019款本田CR-V多少錢
- 北數(shù)所數(shù)字資產(chǎn)登記平臺發(fā)布 靈境、數(shù)元、虹宇宙成首批發(fā)行平臺
- 梁河縣第一中學(xué)組織師生到昆明理工大學(xué)開展研學(xué)活動