波多野结衣按摩,在线观看亚洲视频,国产嫩草在线观看,91视频最新地址

首頁 資訊 > 公司 > 正文

RPA與大語言模型融合有哪些難點?看看廠商怎么說

RPA廠商對于大語言模型(LLM,Large Language Model)的應用,比大家想象的還要早一些。

畢竟,2019年興起的這一波RPA熱,背后都是因為AI技術。沒有AI技術與RPA的融合,也就沒有現在的RPA。


(資料圖片)

為了全力拓展RPA的能力邊界和適用場景,廠商們一邊圍繞AI+RPA積極構建與訓練NLP、OCR、CV等相關小模型,另一邊也對大模型保持了足夠的關注。

谷歌于2018年發布了BERT,不久后,有些RPA廠商就引入并探索BERT與RPA的融合應用。

ChatGPT的上線與爆發,徹底引燃了RPA超自動化領域對于LLM的熱情,全球廠商都在探索RPA與GPT的集成應用。

從UiPath、Automation Anywhere、Blueprism到國內的來也科技、弘璣Cyclone、金智維、影刀RPA等廠商,目前全球數十家RPA廠商都已引入LLM。超自動化集合下所涉及的低代碼、流程挖掘等技術相關廠商,亦引入了LLM。

同時還有一些主打生成式AI的RPA初創項目,已經擁有多個客戶,并順利拿到了融資。

在國內,廠商們除了引入GPT,還會考慮一眾國產大語言模型,文心一言、通義千問等都是廠商們的重點研究的對象。因為在國內市場做基于LLM的RPA產品,必然要研究與國產大語言模型的融合應用。

而隨著更多開源模型的發布,ChatGLM、LLaMA等越來越多的開源模型也成了廠商們的座上客,這也是面向私有化部署客戶需求的必經之路。

除了引入LLM,國內還有多家RPA廠商推出了自研的領域大模型,通過自有模型充分釋放大模型潛力并加以控制,以滿足政務、能源等領域的央企、國企等大客戶所需。

受大環境、數據安全等因素影響,相對于國外廠商重點融合GPT與開源模型,國內廠商在LLM的引入與應用方面更加多元化。

國內RPA在LLM方面動作頻頻,具體產品及解決方案也是層出不窮。然而從ChatGPT上線到現在的8個月時間里,各廠商在RPA\超自動化與LLM融合的進度到底如何?LLM與RPA超自動化融合的難點在哪里?LLM的落地情況怎么樣?

為了弄清楚這些問題,王吉偉頻道與來也科技CTO胡一川進行了交談,并通過調查問卷與金智維、影刀RPA、藝賽旗、弘璣Cyclone、容智信息、實在智能、云擴科技、云鈉科技等幾家廠商做了交流。

本文,就跟大家聊聊這些。

廠商在LLM方面的動作

由于當代RPA基于AI重新構建,在產品發展的進程中,廠商們都在持續關注AI技術的各項進展。因此RPA廠商在LLM方面的研究與投入方面,比我們想象的還要早一些。

從調查情況來看,已經推出IDP、Chatbot等產品的廠商,已在2022年OpenAI發布ChatGPT之前甚至更早的時間節點引入了LLM。

比如來也科技,在谷歌發布BERT不久后,便在其IDP 和Chatbot產品中引入了此模型,后來也是第一批與微軟OpenAI服務達成合作的。

再如容智信息,2022年就開始就在AiLab產品中引入了大語言模型,目前已經引入ChatGLM, baichuan, InternLM等多個大語言模型。

云鈉科技也是如此,從去年10月開始已在自身的產品矩陣與技術架構中引入大語言模型,包括NLP(自然語言處理)技術、多模態技術等。

在ChatGPT上線后幾個月里,RPA是對GPT關注最高的領域之一,并且大部分廠商都在第一時間通過集成API等方式引入了GPT。

王吉偉頻道曾在5月份發布的《多家廠商引入ChatGPT,集成與融合生成式AI成為RPA技術新趨勢》一文中,介紹過都有哪些國產廠商引入了生成式AI。時隔2個月,現在這些廠商都已經將產品及技術架構與LLM做了更深的融合。

其中有些廠商已經確定了大語言模型戰略:比如來也科技正在全面擁抱大模型;容智信息對于LLM的態度更為激進,正在All in 大語言模型。

下面,簡單說說各廠商已經推出的產品及發布的戰略。

弘璣Cyclone發布了多個RPA與GPT結合的應用demo,同時該廠商將RPA與GPT的結合應用定義為GPT×RPA。7月7日,弘璣在人工智能大會上首次提出“AIGA”產品概念。

來也科技在Laiye Lead年度產品發布會上,發布了由大語言模型驅動的企業級數字化勞動力平臺。

金智維發布了以RPA為基礎融合AI技術與GPT模型的AI助手發布,該產品支持智能AI對話、實時交流,接收命令自動執行流程。

達觀數據發布了達觀助手Windows系統Office-word版本,并在2023WAIC期間宣布對外公測垂直專用國產大語言模型“曹植”。

藝賽旗在2023年春季產品發布會推出融合GPT的全新超自動化產品iS-RPA,并于5月29日正式發布iS-RPA 2023.1.0。

實在智能超自動化平臺在五月中旬全新升級,該平臺三大AIGC產品包括具備AIGC能力的“超進化”數字員工、能和文檔自動對話的智能產品Chat-IDP”以及一站式的智能自動化統一門戶系統“實在智能門戶”。6月底,實在智能自研垂直領域大語言模型TARS(塔斯)正式開啟內測。

九科企業級超級自動化平臺在3月份完成與ChatGPT的集成,6月份RPA產品bit-Worker任務助手功能上線。

壹沓科技在其主辦的AI無界·智鏈全球”高端論壇,正式發布基于LLM的大供應鏈物流超自動化平臺-運小沓。這是一款基于大供應鏈上下游(生產制造、物流配送、新零售)企業推出的平臺,可以助力企業實現業務超自動化。

中關村科金推出了自有領域大模型,并發布了兩類知識助手類的應用:一類是面向企業內部員工的知識助手;另一類是幫助企業員工賦能客戶的服務助手。

云鈉科技將AIGC技術集成在「松耦合的魔像RPA系列產品」與「場景化的行業作業臺系列產品」中,打造端到端自然語言驅動流程自動生成的新產品「魔i」,發布了「AIGC落地業務」服務解決方案。

還有一些廠商在LLM方面沒有過多官宣,王吉偉頻道通過調查問卷才了解了其情況,比如影刀和容智信息。

影刀RPA在4月份已經接入微軟Azure和百度文心一言,做了二次工程化的深度定制,讓大模型有了落地通道,自研了思維鏈、知識庫等功能,推出影刀copilot解決方案。

容智信息已引入多款LLM,推出私有化部署的垂直領域的大模型產品——聞道大模型。并發布了三款基于大模型的產品,包括容智聞道專家知識庫產品平臺、容智AGI超級自動平臺和iBot助手。

云擴科技已引入Azure Open AI,推出針對個人文檔處理的相關產品和解決方案。

除此之外,擁有RPA業務并已推出LLM的云廠商及AI廠商,也已將RPA\超自動化產品與LLM進行了融合。比如華為也早已將其大語言模型能力開放給了旗下超自動化產品WeAutomate,科大訊飛也在發布星火認知大語言模型之際推出了生成式RPA。

當然,這里只盤點了目前市面上的大部分RPA廠商所推出了融合LLM的新產品,還有更多廠商也都在跟進LLM。

看到了這里可能有人會問,這么多廠商都推出了基于LLM的產品,難道LLM融合型產品這么容易搞嗎?

事實上,兩者融合還真不是一個容易活兒,下一小節我們就會講到。

技術融合不是一句話

王吉偉頻道在之前的文章跟大家探討過引入LLM的幾種方式,分別是直接調用API、私有化部署+模型微調以及面向特有技術或者業務模式的原生模型。

從調查與調查來看,不同廠商因為自身優勢、產品特性及技術特點的不同,在引入LLM上也有一些差異化做法。

已經推出領域大模型的廠商,引入LLM的方式會更加多元。

比如金智維正在通過兩種方式引入LLM:第一種方式是使用LLM替代NLP/OCR等基礎AI能力,輔助RPA完成智能識別、檢測等自動化流程;第二種方式是使用LLM完成RPA的構建過程,即開發人員通過對話形式完成業務開發流程。

云鈉科技則通過直接調用LLM、整合LLM以及將LLM作為核心引擎串聯整個流程等方式,引入大語言模型。

沒有推出自有模型的廠商在與LLM的融合上則比較直接,一般是直接調用引入對話功能和微調模型。比如藝賽旗正在進行模型的微調,除了純文本大模型外,還將微調多模態大模型,使其具備理解UI界面的能力,根據用戶指令直接執行自動化操作。

客戶們的差異化與個性化需求,意味著RPA廠商也需在大模型方面提供更多的服務,這也為其產品與技術融合帶來了一定的挑戰。

在實在智能看來,目前大語言模型的整體發展尤其是在國內的發展主要面臨三個方面的共性問題:一是中文訓練語料和基準評測集的欠缺;二是大模型生成結果的可控性和可解釋性問題;三是大模型落地過程中的推理成本問題。

同時,多元化的大語言模型引入方式,也為RPA與LLM的融合帶來了更多的難點和挑戰。

從多家廠商的反饋來看,這些難點和挑戰主要包括以下幾個方面:

1、成本問題。一方面,訓練行業領域模型及行業小模型,需要大量的計算資源、大規模的數據訓練和專業的算法工程師進行參數調優和模型驗證,這些都會產生較高成本。另一方面,自研LLM依賴ChatGLM/LLaMA等開源LLM項目底座,從零開始訓LLM成本過高。

2、數據問題。目前的大模型通用能力還不夠懂業務,難以理解內部工作邏輯和機制,需要更加特定和細致的數據集。同時開源項目的自然語言處理和交互式對話效果較差,導致垂直領域訓練效果嚴重依賴數據質量。大模型需要海量的數據訓練,行業數據不足也會導致大模型應用效果大打折扣。

3、安全問題。LLM應用方式多樣,進化速度快,用戶在使用大模型無法得到完整的管控,包括成本、用法和數據安全方面,使用過程中難免會涉及的核心數據和個人信息等敏感數據泄露問題。這些技術可能會被惡意利用,比如信息泄露、詐騙等。

4、集成不同模型的技術問題。為了滿足客戶的差異化需求,RPA會與國內外的各種大語言模型進行融合。而當前國內外大語言模型的較大差距,也使得技術集成等方面會有較大的技術差距,增加技術融合難度。

5、大語言模型能力不足問題。大語言模型本身存在一本正經胡說八道、基礎邏輯能力缺失、多模塊組合困境等固有缺陷,使得AI技術本身面臨著不確定性、安全性、可靠性和道德性等問題。

對于以上五點,這里簡單說說成本問題。大語言模型之所以耗費資源,主要是因為模型的參數規模,其背后核心則是模型的訓練和推理所需要的硬件資源消耗大小問題和模型在特定領域的準確性問題。

因此,在弘璣Cyclone看來,如何在小參數規模、消耗硬件資源不斷降低的情況下還能保障模型在特定領域的準確性,將是業內下一步技術攻關的核心方向。

為了克服以上五大挑戰,廠商們八仙過海各顯神通,基于自身優勢摸索各種模式和方法給予各項能力補齊。

比如金智維與自研LLM的廠商合作,通過購入參數量更高的LLM自研或者以共創模式共同開發,解決LLM模型效果和算力問題。

藝賽旗則通過與企業和高校合作,針對性地微調模型,保證數據安全,并自行搜集數據以應對數據不足和缺乏標準與規范等挑戰。

容智信息則通過構建自己領域模型及相關技術生態,來實現LLM與RPA的高效融合。

云擴科技通過建立完善的內外部合規檢測+大模型專屬風險應對,及時跟進新的大模型能力、風險、法規和應用方式,并加大研究和開發安全控制辦法比如建立合規審查機制等。

云鈉科技依托行業積累的高質量數據進行集調優訓練,并能夠通過接入第三方工具極大提升AIGC模型的可靠性及基礎能力。

除了這些措施,為了更好的融合LLM并使其發揮更佳性能,還有一些RPA廠商推出了自有的領域大模型。從調查來看,目前至少已經有6家廠商推出了專有領域模型。

簡單來講,在LLM的構建方面,目前的主流方式分為兩種:一是大模型底座+小樣本數據;二是底座大模型和領域小模型協同。

兩種方式各有優劣勢,目前而言推出領域模型更加吸睛。研發自有領域模型,一方面可以讓LLM更加穩定、高效的釋放潛能,另一方面可以通過雙重模型為客戶提供更好的服務。

事實上,是否推出領域模型主要還是因廠商重點拓展的領域以及所服務客戶群體而異,大模型+領域模型可以更好的賦能某些領域的客戶通過業務流程自動化更好的實現增效降本。

所以推出領域模型并不意味在LLM方面略勝一籌,更多的是面向所服務群體以及行業解決方案上的考量,畢竟多一個模型也就意味著更多的成本。

正是因此,沒有相對固且穩定的專有領域客戶群體,廠商們一般不會貿然推出領域模型。

大語言模型對RPA的影響

毋庸置疑,引入具備生成能力、語義理解能力和邏輯推理能力的LLM,為RPA\超自動化帶來了有何舉足輕重的影響。

通過調查,廠商們的反饋可以總結為以下幾個方面:

1、實現技術升級,RPA更加智能。LLM去RPA帶來了經驗判斷和推理的能力,使得RPA在自動化業務流程的實現上,從單純的規則驅動升級到具備一定的判斷和決策能力。LLM猶如大腦,RPA相當于四肢,它比以往的AI+RPA更加智能。

2、優化人機交互,改變應用模式。LLM的語義理解能力和邏輯推理能力,能夠讓用戶通過自然語言和多輪對話驅動RPA,增加了人機交互理解能力,交互模式更加自然和友好,進而提升用戶使用體驗。

3、降低使用門檻,實現人人可用。LLM引入使得用戶能夠通過自然語言的方式驅動RPA場景落地,縮短開發鏈路。由此降低RPA使用門檻,實現讓不懂編程的人熟練應用RPA。

4、擴展能力邊界,拓寬應用場景。LLM的引入,使得RPA機器人由邏輯性和規則性的重復能力模型逐漸過渡到邏輯推理、抽象總結、意圖識別等自主復合能力模型,使得其應用場景也將大幅拓寬,超越傳統的結構化任務,應用于更多非結構化數據處理任務中,并能夠適應更多的場景。

在金智維看來,RPA解決自動化流程和數據處理問題,大語言模型解決自然語言處理和對話式交互問題,RPA引入LLM可提高數字化轉型的效率和質量。

在弘璣Cyclone看來,只有基于大模型才有可能達到人機的完美融合從而形成大型企業所有業務域的充分自動化,大模型的核心能力可以實現企業內部所有業務對象的語義化連接,并進一步實現跨各類業務對象的自動化。

云鈉科技則認為,大語言模型+RPA,正在從根本上改變人們的工作方式,讓技術更容易獲得,進一步加速生產力工具的變革。

當前RPA廠商都在將產品和LLM進行融合,導致產品易用性拉平,更具有通用性。LLM+RPA可以讓廠商們的產品整體擁有更強大的自然語言處理能力、更高級的自動化能力和更好的用戶體驗。

實在智能認為,LLM技術與RPA深度結合,擴展數字員工的“AI生成能力”,可以自動執行任務,識別和理解用戶的語言輸入,從而更好地滿足用戶的需求運用場景。減小RPA的使用者在開發RPA流程時的成本,提高產品使用體驗。

用影刀RPA的觀點來說,大模型時代顛覆了交互方式,把所有的SaaS產品都拉到了統一起跑線。

同時LLM也大大降低了RPA使用門檻,使得人人都可用RPA。這種情況下,衡量RPA產品能力的標準,更多的是其與大模型融合后產品確定性和綜合性能的提升。

王吉偉頻道認為,雖然LLM使得革RPA\超自動化的產品形態、商業模式及市場生態等產生了巨大變化,但在為RPA進行一番統一的賦能使其能力整體提升能力后,廠商們的核心競爭力仍舊在于之前的各種行業積累。

目前來看,廠商們的核心競爭力仍然體現為原有的資源積累、技術沉淀與創新、行業經驗、生態合作、客戶資源及人才優勢等方面。這一波LLM技術趨勢下,在某些領域業務做得較深以及在技術上具備先發優勢的廠商,將會在業務和資本雙重市場獲得更多機會。

當然,LLM也會帶來寡頭效應的可能。比如藝賽旗就認為,隨著RPA廠商將產品和LLM融合,核心競爭力將從單純的工具開發轉向數據和模型訓練全流程。這將導致數據占優勢的公司競爭力增強,產生強者愈強的局面。

因此,藝賽旗的競爭優勢在于其擁有與高校和世界500強大公司的合作,能夠獲得更多高質量的數據和知識,保持其行業領先地位。

寡頭效應是行業發展的必然,每個行業都會存在二八原則。

但總體而言,LLM還是為更多廠商帶來了彎道超車的機會。憑借LLM技術,更多廠商們可以在更短時間用更低的成本和資源打造更好的RPA與超自動化產品,由此能夠獲得更多客戶的青睞。

畢竟,LLM+RPA\超自動化所帶來更智能的表現、更易用的操作和更顯著的成效,正在To B市場獲得更多客戶的認可。

RPA&LLM的落地情況

《2023年中國RPA行業研究報告》數據顯示,2022年RPA需求方對產品的整體認可度有所上升:高度認可上升到13.1%,認可上升到31.9%,一般認可上升到39%。

影響RPA認可度的主要原因,在于一半以上的客戶認為產品體驗差。影響產品體驗的主要因素則包括運行環境不匹配、實際業務數據與測試不一致以及所依賴的第三方系統變更造成的RPA無法識別和運行等。

事實上,融合更多技術的超自動化就是為了解決這個問題,幫助用戶實現更穩定的端到端自動化的。只是因為成本、實施等因素,目前超自動化解決方案更多的面向大型企業,中小企業尚未系統化引入這項技術。

現在有了LLM的助力,大語言模型能夠拔高原有相關場景深度,增強與用戶的直接交互。

在國內,目前LLM與RPA的融合應用主要分為兩部分:一是語言開發功能中流程自動生成與執行,二是業務場景升級和延伸中的自動文本生成、聊天機器人及智能文檔處理。

因此,文檔處理、機器人對話以及流程創建也成了與LLM結合最快、落地最多的場景。

不管是自研LLM還是調用LLM,融合LLM的RPA\超自動化產品體驗正在大幅提升,使得很多組織對于融合LLM的RPA產品都在躍躍欲試。大部分企業都對LLM保持足夠的關注,有些激進的廠商已經在使用這類產品。

從王吉偉頻道(id:jiwei1122)的調研來看,目前客戶對于融合LLM的RPA產品的態度,跟客戶屬性有一定的關系。

比如央企、國企或者比較重視數據安全及用戶隱私的企業,不能使用LLM云服務,更偏向于私有化部署。同時現階段LLM本地化部署需要較高的資源配置,投入成本比較大,目前大多處于觀望狀態。

而電商等領域的中小商家,都在積極擁抱LLM,并在積極開發適合自身業務的應用。

為了解決客戶對于數據泄露和資源需求過大的顧慮,RPA廠商也在通過「數據保密性、安全性和LLM量化部署(金智維)」「限定應用場景來實現減少計算量和保證生成內容的可靠性(藝賽旗)」「專注使用層面安全、管控和應用方式(云擴科技)」「多方案解決大模型不確定性問題(云鈉科技)」等方式方法和管控模式,保障更多客戶能夠安全、放心、高效地應用LLM。

目前,各家廠商都已經有具體落地的融合LLM的產品和解決方案。

金智維用于智能問答和數據處理領域智能客服LLM方案,電信智能客服及企業規章助手已經在某些企業落地。

容智信息融合LLM的智能客戶、城市運營中心等解決方案,已在多個政府項目中完成交付,大模型產品也已在城運12345等項目中實際應用。

實在智能已經將AIGC組件融合進RPA設計器,實現自動生成文案等功能,深受電商客戶的喜愛,其結合金融垂直領域的大模型已在某金融機構上線運用。

藝賽旗基于LLM的RPA項目“RPA學堂”,正在助力客戶高效運營。

很多消費零售的客戶,也已在用影刀RPA的大模型能力。

企業數字化轉型發展到今天,經過一系列的理論探索和實踐驗證,通過基于RPA\超自動化的業務流程自動化驅動的「自上而下與自下而上共同推進」的成效更快的數字化轉型解決方案,已經被已被廣大組織所接受,同時“自動化優先”也正在成為更多企業的主流管理思維。

RPA已成為企業運營不可或缺的系統連接與管理軟件,超自動化也已成為保障端到端自動化的解決方案。

LLM的到來對于RPA\超自動化如虎添翼,隨著RPA廠商們推出更加安全有效的LLM解決方案,可以預見更多企業必然會引入融合LLM的RPA\超自動解決方案。

后記:LLM帶來的大市場

對于企業商業化引入大語言模型,來也科技CTO胡一川提到了兩種思路:

一種思路是客戶買了大模型但不知該從哪里應用,RPA廠商可以建議先用在數字化勞動力平臺(來也科技的超自動化產品)上,這樣廠商就可以為其提供基于大模型的超自動化部署服務;

第二種思路是客戶已經引入了數字化勞動力平臺解決方案,廠商可以詢問其是否想用私有化部署LLM,需要的話就能順理成章的通過RPA廠商引入LLM。

某種程度上,RPA廠商成了大模型廠商在自動化領域的咨詢實施合作伙伴了。

事實上,對于廣大企業而言,通過某些業務場景來引入LLM是較為穩妥方式,可以有效避免先引入LLM再去發現和搭建各種應用的資源與技術浪費,要知道企業自身在大模型調優、模型訓練等方面需要投入的成本還是蠻大的。

同時,企業還可以基于所引入的LLM做更多的業務。以自動化業務場景需求下引入融合LLM的RPA為例,要引入這個融合解決方案需要同步引入大語言模型,企業在LLM之上部署完RPA之后,還可以在此模型之上部署低代碼、流程挖掘等更多產品與解決方案。在技術能夠實現的情況下,未來企業的所有管理系統都可以部署在這個LLM之上。

因為有些客戶的全業務部署需求,一些RPA廠商目前已經提供從RPA到LLM私有部署的一站式解決方案。比如云鈉科技推出了包括客戶需求、落地方案、訓練集成以及運維優化在內的AIGC落地業務,其他廠商也已有了類似的一站式LLM落地解決方案。

與此同時,廠商們也正在集成更多的LLM并最終會成為一個模型工廠,以滿足用戶對于國內外大語言模型的不同需求。

目前一些廠商已經集成了GPT、文心一言等LLM,還有些廠商比如金智維集成了ChatGLM、LLaMA等更多的開源LLM。來也科技的戰略規劃是在今年下半年集成所有的基于公有云的大語言模型,明年上半年會集成更多的開源模型。

RPA廠商既為用戶提供超自動化服務,也提供大語言模型的私有化部署服務,帶來的必然是市場規模的倍數級增長。

這個倍數會多大?在來也科技看來,自動化能解決的場景流程變得更加多元化,廣義RPA市場可能是原來的10倍,甚至于100倍,大家在把蛋糕做大的同時也將重構流程。

在王吉偉頻道看來,LLM所帶來的整體市場規模擴大,意味著RPA也將從激烈競爭的市場狀態,進入一個短暫的“都有肉吃,皆有湯喝”的階段。

這對處于“三困”境地(拓客困境、贏利困境、投資困境)的RPA行業,委實是莫大的紅利。

而隨著LLM徹底的全方位重構RPA\超自動化,新的市場格局也將被在技術、產品、生態、市場皆有話語權的頭部先行者所改寫。

最終誰能成為先行者,就要看誰能抓住這次機遇厚積薄發了。

關鍵詞:

最近更新

關于本站 管理團隊 版權申明 網站地圖 聯系合作 招聘信息

Copyright © 2005-2023 創投網 - www.extremexp.net All rights reserved
聯系我們:39 60 29 14 2@qq.com
皖ICP備2022009963號-3