生成式人工智能(以下簡稱AIGC,Artificial Intelligence Generated Content)作為人工智能領(lǐng)域的重要分支,在文本生成、圖像設(shè)計、音樂創(chuàng)作等領(lǐng)域都取得了突破性進(jìn)展,國內(nèi)大模型項目的數(shù)量呈井噴式增長的態(tài)勢,引發(fā)了各行各業(yè)的廣泛關(guān)注。技術(shù)的迅猛發(fā)展,也伴隨著安全和挑戰(zhàn)。

10月18日,由北京市科學(xué)技術(shù)協(xié)會指導(dǎo),北京軟件和信息服務(wù)業(yè)協(xié)會主辦,北京人工智能產(chǎn)業(yè)聯(lián)盟人工智能安全專委會協(xié)辦的2023年首都學(xué)術(shù)資源開放共享沙龍“生成式人工智能應(yīng)用及安全”專場活動于中關(guān)村知識產(chǎn)權(quán)大廈成功舉辦。活動邀請了人工智能領(lǐng)域的專家學(xué)者、產(chǎn)業(yè)和技術(shù)大咖分享其在AIGC研究和實踐中的經(jīng)驗,探討AIGC應(yīng)用的安全與合規(guī)、發(fā)展與治理、知識產(chǎn)權(quán)保護(hù)等話題,助力AIGC行業(yè)的健康與規(guī)范發(fā)展。活動由北京軟件和信息服務(wù)業(yè)協(xié)會首席研究員倉劍主持。

北京軟件和信息服務(wù)業(yè)協(xié)會首席研究員倉劍

嘉賓演講

今年以來,圍繞AIGC的競賽愈加激烈,國內(nèi)科技企業(yè)爭相進(jìn)入了大模型賽道,據(jù)悉,北京市已有百余款大模型產(chǎn)品,占全國總量的一半左右。自8月15日起,《生成式人工智能服務(wù)管理暫行辦法》(以下簡稱“《暫行辦法》”)施行,對生成式人工智能進(jìn)行專項監(jiān)管。8月底,北京首批五個大型模型備案,并陸續(xù)向公眾提供服務(wù)。《暫行辦法》對于AIGC的提供者和使用者的影響和作用是什么?在主旨演講環(huán)節(jié),中國信通院產(chǎn)業(yè)與規(guī)劃所主任工程師王強對其重點內(nèi)容進(jìn)行了分享,他表示,促進(jìn)AIGC健康發(fā)展和規(guī)范應(yīng)用,是《生成式人工智能服務(wù)管理暫行辦法》的核心主旨,為此,《辦法》通過“劃定合規(guī)底線”、“采取有效措施鼓勵發(fā)展”、“采取更精細(xì)化監(jiān)管舉措”這三個層面推進(jìn)落實。

中國信通院產(chǎn)業(yè)與規(guī)劃所主任工程師 王強

AIGC飛速發(fā)展,與此同時,虛假信息、學(xué)術(shù)倫理等安全合規(guī)的問題也引發(fā)了關(guān)注和熱議,中國政法大學(xué)教授、博士生導(dǎo)師、中國政法大學(xué)互聯(lián)網(wǎng)金融法律研究院院長李愛君以法學(xué)的視角圍繞“生成式人工智能安全合規(guī)”的主題進(jìn)行了發(fā)言。她表示,生成式人工智能的安全合規(guī)的核心是數(shù)據(jù)安全合規(guī)和生成內(nèi)容的合規(guī)。AIGC的發(fā)展過程中應(yīng)充分發(fā)揮《數(shù)據(jù)二十條》中的原則和指導(dǎo)思想進(jìn)而促進(jìn)AIGC的健康發(fā)展。

中國政法大學(xué)教授、博士生導(dǎo)師、　中國政法大學(xué)互聯(lián)網(wǎng)金融法律研究院院長 李愛君

伴隨著大模型演進(jìn)發(fā)展,AIGC內(nèi)容的合規(guī)性要求也越發(fā)清晰,百度安全副總經(jīng)理馮景輝圍繞大模型在訓(xùn)練,部署,推理和運營的全生命周期內(nèi)遇到的安全挑戰(zhàn),分別從數(shù)據(jù)清洗,敏感數(shù)據(jù)保護(hù)、業(yè)務(wù)風(fēng)險控制和內(nèi)容合規(guī)等多個角度介紹目前主要的風(fēng)險類型,并貼合《生成式人工智能服務(wù)管理暫行辦法》及“生成式人工智能上線備案要求”等合規(guī)性規(guī)范,闡述了百度在構(gòu)建大模型安全防線的最佳實踐。

百度安全副總經(jīng)理 馮景輝

分享交流

在分享交流環(huán)節(jié),北京師范大學(xué)新聞傳播學(xué)院副教授劉茜、北京郵電大學(xué)計算機學(xué)院副教授張成文、國家工業(yè)信息安全發(fā)展研究中心人工智能所工程師王淼、中國科學(xué)院自動化研究所研究員趙曉光、華為戰(zhàn)略研究院AI治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪、騰訊安全內(nèi)容安全總經(jīng)理王翔、智譜AI安全負(fù)責(zé)人王笑塵、中科聞歌副總經(jīng)理王璋盛、智源研究院數(shù)據(jù)智能研究中心趙波博士等十余位專家、學(xué)者、企業(yè)代表暢所欲言,碰撞思維的火花。圍繞AIGC在快速發(fā)展和不同場景應(yīng)用落地的過程中所面臨的安全風(fēng)險問題和應(yīng)對措施進(jìn)行了深入的交流和熱烈的討論。

活動尾聲

當(dāng)前,AIGC的迅猛發(fā)展持續(xù)為各行各業(yè)帶來新變化,并不斷催生著新產(chǎn)業(yè)、新業(yè)態(tài)和新商業(yè)模式,培育了經(jīng)濟發(fā)展的新動能。北京是我國人工智能行業(yè)發(fā)展的開拓先驅(qū)和創(chuàng)新高地,北京軟件與信息服務(wù)業(yè)協(xié)會基于數(shù)字驅(qū)動創(chuàng)新的發(fā)展模式,秉承“提供價值服務(wù) 促進(jìn)產(chǎn)業(yè)發(fā)展”的宗旨,將為產(chǎn)、學(xué)、研、用各方搭建交流、場景開放、需求對接平臺,以推動人工智能產(chǎn)業(yè)的深度融合發(fā)展。

免責(zé)聲明：市場有風(fēng)險，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：