“大模型的迭代是一場‘暴力’填數據、拔規模而造就的‘美學盛宴’”,中金公司研究團隊在“AI浪潮之巔”系列報告中如是說。
在大模型發展初期,大模型或許還稱得上是“大廠的游戲”,但半年之后的今天,國內10億參數規模以上的大模型已發布79個,大模型賽道迅速完成了從概念到落地的進程。
業內開始關注能夠真正扎進行業、給企業帶來生產力躍升的大模型產品。
而智能客服和營銷領域,正是大模型改造落地的核心場景之一。
在近日舉辦的2023世界人工智能大會(WAIC 2023)上,容聯云正式發布面向企業應用的垂直行業多層次大語言模型“赤兔大模型”,并發布了“生成式智能營銷服一體化工作空間——機器貓”和“生成式一體化智能客服平臺”,旨在推動企業營銷和服務數智化轉型。
當大模型競爭的重點從通用大模型轉向行業大模型,將為產業帶來什么樣的變化?
行業大模型 帶來“溝通智能”
當下行業內達成的一個基本共識是,以ChatGPT為代表的大模型出現,標志著通用AI的起點和強AI的拐點,正在成為新時代數字化的“發電廠”。
利用大模型,以云服務的方式接入到干行百業,所有數字化系統和各個行業都值得重做一遍,更多人期望大模型能使企業數字化業務流程更快、更高效、更智能。
因此,作為大模型率先落地的智能客服和營銷領域,正在迎來多方入局。
無論是互聯網巨頭、運營商,還是云、大數據、AI等技術公司,都紛紛發布大模型試圖進軍智能客服領域。然而聚焦到具體的行業應用,通用大模型卻逐漸顯出短板。
比如,內容的不可控性。在企業服務場景下,很多回答要求正確、嚴謹、合規,既希望大模型能夠靈活的回答問題,又能夠在專業內容上符合行業預期,但通用大模型開放式的生成內容,還不能實現行業化、場景化的適配。
隨之而來的還有規模和落地的挑戰。通用大模型的能力來源于規模大,但正是因為大,限制了企業應用中很多場景的落地,不僅對企業IT基礎設施建設提出了更高的要求,同時也帶來了更多的成本支出。
如何在通用與行業兩個方向平衡,給企業客戶帶來實際的“降本增效”,成為了大模型廠商關注的問題。
很顯然,大模型之路已經進入一個新階段,即實打實地“扎”進行業,針對性地給出行業所獨有的大模型解決方案。
發力行業模型,已成為各家共識。而在這一點上,在國內系統化公布行業大模型解決方案的容聯云,率先為業界打了樣。
在容聯云AI研究院院長劉杰看來,過去的十年里,AI技術在賦能企業溝通智能上取得了一系列的成績,但在復雜的溝通場景中仍會產生策略的缺位。
隨著AI大模型的演進,展現出在語言能力、多任務處理和內容生成方面的高水平,使人們對AI能力的上限抱有更高的期望,溝通智能也邁向了從1.0到2.0的新時代。
但如何做出一個更精準、更能夠滿足企業多樣化、靈活化的溝通場景的大模型,不僅僅是在AI基礎能力上進行提升,還需圍繞對話、溝通、交流,在會話洞察分析、對話能力提升、人機協同等方面都提供更好的能力,從而幫助企業重構智能客服和營銷價值,完成從“降本增效”到“價值創造”的進化。
對此,劉杰表示,溝通智能2.0應具備“四大能力”:懂語言、有知識、會分析、能執行。
首先,懂語言。滿足溝通智能2.0的大模型,要能夠在交流層面對對話進行多維度、細粒度的理解和分析,同時做更好內容上的生成和生產。
因此,容聯云在赤兔大模型上非常關注會話洞察和業務話術生成兩個層面。
會話洞察并不是特別新的概念,但有了赤兔大模型后,智能客服和營銷場景在意見挖掘、情感分析、情緒分析、立場檢測、主題檢測等方面都具備了更好的能力。
借助這種洞察,企業可以在歷史的會話當中更深刻、更動態化的理解用戶,給用戶生成動態化的畫像,更好的動態匹配銷售SOP,挖掘金牌話術以及做一些事后診斷。
在業務話術生成方面,赤兔大模型會在不同場景下對對話進行風格、內容的匹配,并保證業務話術的準確性、嚴謹性。
同時,還會通過赤兔大模型能力,以生成的方式分析文檔,抽取標準化的問答,并自動生成知識庫,從而降低人工的投入。
其次,有知識。雖然大模型通過大量語料的預訓練已經嵌入了豐富的知識,但對于溝通智能2.0而言還不夠。
模型還應當能夠具備運用外部知識的能力,在模型內部的通用知識之外,還需要快速、靈活地運用外部信息進行復雜操作。
因此,容聯云圍繞文檔向量庫,用大模型檢索非結構化的文檔,回答專業的知識。
不僅搭建了一套流水線,還在文檔的切片上以及問答的生成上,都做了垂直領域精準化、定制化模型具體場景的微調。這使得赤兔大模型在問題的回答上更加精準,在行業應用中已超越了大部分的大模型。
其次,容聯云將大模型和結構化數據、數據庫、知識圖譜進行了更深度的融合,進一步提升了赤兔大模型對于業務數據的理解和分析。
尤其是將精準的行業知識圖譜與大模型技術作為互補,使得大模型能夠更好地構建行業知識。最終,通過赤兔大模型作為語言接口,企業能夠快速地分析和獲取結構化數據里的知識。
第三,會分析。在溝通過程中,溝通智能2.0的模型應該能夠根據上下文和涉及的信息,對文本、圖像、數值等數據進行合理分析和有效推理,并給出合理的決策。這對于智能營銷和特定服務流程非常重要。
在大模型產生之前,容聯云已有多年的技術探索,對結構化的分析和問答有著深刻的技術積累。
如今赤兔大模型基于這些場景進行深度的微調和預訓練,從而得到了更好交互式的數值、數據的分析和理解能力。
比如,用戶可以通過自然語言的交互生成一些數據分析代碼,再通過這些代碼的執行,得到可視化的分析,甚至是數據的自然語言查詢;同時,還可以為這些數據提供文字性、專業性的解讀和描述,從業務的角度給出更垂直化的展示和理解。
最后,能執行。溝通智能2.0不僅停留在理解和傳遞信息的層面,還具備像人類服務模式一樣的執行能力。
在對話過程中,它能夠根據客戶需求連接外部系統,執行特定動作,以完成特定任務,滿足客戶的實際業務的辦理需求。
基于赤兔大模型,容聯云進一步重構了智能對話的技術框架。通過大模型的多輪對話管理,能夠更靈活地完成對話應答,并根據交互內容完成業務的推薦、查詢和辦理等一系列操作。
與傳統對話機器人不同的是,企業不再需要投入大量的時間和人力構建對話話術的流程圖,赤兔大模型可以在歷史數據中自動學習合理的話術流程。
同時基于大模型少樣本的學習能力,赤兔大模型構建對話流程的能力,可以快速在不同的對話場景和業務中進行遷移。
企業只需通過一些指令,對任務的描述和信息的輸入,就可以靈活的設置和修改對話流程的管理。
正如劉杰所說,赤兔大模型的應用帶來了“單點能力升級、單點能力新增、流程邏輯革新”,這些能力將促成一個全面發展的溝通智能系統,為企業和用戶提供更高水平的溝通和服務體驗。
行業落地需要“務實”大模型
盡管大模型很火,但從入局到真正落地并推向市場,其間難度不小。
當廠商試圖用大模型解決實際問題時,往往難以得到滿意的答案。此次容聯云基于赤兔大模型的產品發布,則真正在應用層面“秀出了肌肉”。
一是容聯云“生成式智能營銷服一體化工作空間——機器貓”,基于赤兔大模型重構了過去智能客服和營銷里的各種服務功能,通過統一的平臺/工作空間來設計新一代智能客服和營銷產品,首批落地四大應用場景,包括客戶聯絡、業務協作、AI輔助、智能洞察。
比如,在客戶聯絡場景,借助大模型機器人,“機器貓”可以解決大部分服務場景,同時進一步降低機器人維護成本和客服數量,用戶體驗提升60%。
在業務協作方面,“機器貓”可以提供靈活集成、生成式策略推薦、智能填單、智能分配、智能標簽提取等能力,進一步降低AI運營成本,降低客服服務時長和客訴數量,提升坐席效率。
在AI輔助方面,生成式智能應用賦能下的AI輔助,不再是CC的附加工具,而真正高效幫助企業解決管理難題,實現銷售業績提升。
在智能洞察方面,基于諸葛智能,“機器貓”平臺可為用戶提供各種分析模型、行業指標體系問詢,也可以提供實踐、經驗分析,幫助企業快速成長為分析專家,對于數據報表與指標、用戶標簽與畫像等分析結果,用戶可以通過語音、文字等多種方式進行問答,并得到快速反饋,還可通過語音等驅動進行報表定制。
二是容聯云“生成式一體化智能客服平臺”,可以將知識生產效率提升70%,對話構建成本下降80%,100%提升客戶服務效率,并為客服人員提供文檔智能問答和抽取,用戶語料、業務話術、流程類方案建議自動生成,銷售優秀話術自動提煉等能力。
事實上,容聯云充分考慮到業務場景中的營銷和服務需求的多元化,在赤兔大模型底座上使用了APaaS平臺,以提升功能模塊的靈活性生成。
比如在以營銷為主的場景里,企業可以通過拖拉拽的方式,迅速在營銷場景中接入服務相關的功能模塊;同樣,在以服務為主的場景里,企業也可以快速引入營銷的功能模塊。這樣企業就可以快速搭建自己的智能客服和數智化營銷平臺,擁有了一個能提供生成式智能應用的“萬能口袋”。
在容聯云COO熊謝剛看來,隨著行業大模型應用精準性的提升,AIGC將完全替代40%傳統客服的工作量,人工主導的客服工作量占比不超過30%,電話語音客服工作量占比不超過20%。
“對于呼叫中心這個發展了近60年的領域來說,大模型會帶來一個很大的技術變革,很多東西會消亡掉,原有的產品都將被重構”,熊謝剛表示。
行業大模型的落地推進,除了更智能的表現,大模型的訓練和運營成本、服務的邊界等問題浮上水面,如何平衡多方面的要求進一步成為大模型落地行業的必考題。
目前,大模型在訓練和使用過程中仍面臨高昂的成本投入。對此劉杰表示,在實際的行業應用中,應提倡“務實”的大模型。在考慮模型規模時,不必執著于一個模型解決所有問題。
容聯云的解法,是將模型劃分為三個層次,并且讓這三個層次互相形成閉環:首先有一個通用知識構造的模型底座,進而以它為基礎,通過積累的領域數據做行業化、領域化的領域模型。
在領域模型的基礎上進一步精進,具體到客戶的業務當中,基于業務的邏輯和數據更精準的垂直化構建業務模型,指向業務明確的大模型應用。
這就好比人類在各種公司、各個組織中,會有專業領域的劃分和層次的劃分,所以模型也應該合理有效的進行大、中、小模型的層次劃分,從而達到更好的配合,比較務實的完成行業服務和行業需求。
而在各行業普遍關心的數據安全合規方面,容聯云則設定了服務的邊界,通過合理的模型尺度,在企業客戶內部私有化部署,內置相應的安全機制和規范等方式,以滿足行業對于數據安全性的要求。
“要讓行業客戶通過大模型來認同你做的事情,除了前期的投入門檻,還有你做的大模型是不是足夠完整全面,以及你的邊界在哪里。
特別是服務這種注重體驗的場景,或者一些交易類業務場景,大模型之下提供的服務精準性就變得很重要”,熊謝剛表示。
“行業認知”將拉開競爭差距
事實上,智能客服和營銷領域作為一個百億級的潛力市場,一直以來都是兵家必爭之地。
但隨著AI大模型的出現,為智能客服的升級提供了新的突破口,越來越多不同類型的廠商開始涌入這片熱土,進一步加劇了賽道的競爭。
特別是一些通用大模型的開源,使得過去沒有對話交互技術的廠商,也能夠很快具備對話的通用能力,這給了容聯云這類在智能客服領域深耕了十余年的廠商一場迎頭痛擊。
熊謝剛坦言,第一次接觸ChatGPT以后,對智能客服這個領域的前景感到擔憂。但隨著容聯云快速跟進大模型的研發,從通用基礎模型進一步轉向專注行業大模型,容聯云內部的信心很快就回來了。
劉杰表示,大模型技術的確淘汰了過去的技術,這一刻所有廠商都站在了新的起點去賽跑,但各家在技術的理解、應用場景連接和對齊上仍存在差距。
在智能客服領域,企業客戶要求的不僅僅是快速搭建應用,而是模型能力的行業垂直化,這就要求廠商要有技術積累和行業認知,才知道用什么樣的數據,能夠讓模型具備什么樣的能力,解決什么樣的問題。
劉杰舉例道,大模型體量的增大,對于數據樣本的量和質都有了新的要求,如何收集高質量數據,如何用技術的手段去擴充數據,得到規模更大、質量更高的數據去訓練大模型,對所有廠商的技術都是考驗。
同時,大模型必須懂行業,在數據規模沒有那么大的情況下,如何訓練出行業需要的回答?比如有的行業回答要求精確度,有的要求合規,有的要求上下文保持答復的一致性,這就需要提供不同大模型的解決方案,對行業答復進行優化。
正因如此,劉杰認為,“在一般場景上,大家在通用能力上可能會拉平,初始差距并不大,但前行一段后,就會有相應差距出來”。
對于容聯云而言,其AI團隊早在ChatGPT出現之前就投入了AIGC關鍵技術的研發,在對話回復生成、問題自動生成、SQL語句生成方面都取得了突破,核心技術在權威競賽和評測榜單中取得多個第一和Top名次。
在技術層面,容聯云很快就適應了大模型的技術變革,并將過往的AI算法研發經驗應用到大模型技術調優中。
而專注行業大模型,尤其是聚焦在金融行業,使得容聯云能夠充分發揮自身在金融行業的認知優勢。
結合行業認知和知識積累,容聯云進一步將大模型領域化、垂直化,這將極大拉開與同行的競爭差距。
不僅如此,熊謝剛還認為,基于大模型做好業務應用的創新,也將成為容聯云未來的競爭力。
“回想iPhone作為劃時代的產品,并不是淘汰、消滅了傳統手機,而是它真正帶來了移動互聯網層出不窮的應用。
所以今天做大模型不是看改變了過去什么東西,而是用大模型能夠創造什么新的應用,包括在細分的客服和營銷場景,有什么新的應用出來”。
熊謝剛表示,“我們不怕大模型會對智能客服整個賽道做任何的改變,只要抓住了應用創新這個點,就可以擁抱這個改變”。
這種對于未來競爭的信心,也充分體現在容聯云對大模型的命名中。赤兔作為“日行千里,夜走八百”的戰馬,一方面擔負著信息加急傳遞的任務,另一方面更是實力強勁、能打勝仗的好馬。
赤兔的寓意,代表著容聯云對于大模型的定位和期望,希望能夠在垂直領域上賦能溝通智能2.0,為整個行業的服務提供助力和支持,并在這場大模型的“百團大戰”中沖出重圍。
【關于科技云報道】
專注于原創的企業級內容行家——科技云報道。成立于2015年,是前沿企業級IT領域Top10媒體。獲工信部權威認可,可信云、全球云計算大會官方指定傳播媒體之一。深入原創報道云計算、大數據、人工智能、區塊鏈等領域。
審核編輯 黃宇
-
AI
+關注
關注
87文章
30146瀏覽量
268411 -
ChatGPT
+關注
關注
29文章
1548瀏覽量
7494 -
大模型
+關注
關注
2文章
2328瀏覽量
2481
發布評論請先 登錄
相關推薦
評論