【觀察】軟通動(dòng)力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
進(jìn)入2023年，ChatGPT推動(dòng)世界步入一個(gè)全新時(shí)代——大模型時(shí)代，它不僅引發(fā)了AI產(chǎn)業(yè)的整體升級(jí)換代，同時(shí)也讓各種大模型層出不窮，背后的關(guān)鍵原因在于，大模型能普遍提升生產(chǎn)力，而業(yè)內(nèi)眾多公司也都在積極尋找應(yīng)用大模型和生成式AI的機(jī)會(huì)，希望在產(chǎn)業(yè)端有所作為。確實(shí)如此，ChatGPT之所以被稱為AI的“iPhone時(shí)刻”，源于ChatGPT為代表的生成式AI能夠讓每個(gè)人命令計(jì)算機(jī)解決問(wèn)題成為了可能，其可對(duì)生產(chǎn)工具、對(duì)話引擎、個(gè)人助理等各類應(yīng)用，起到協(xié)助人、服務(wù)人甚至超越人的角色，而憑借這項(xiàng)革命性的技術(shù)突破，ChatGPT在搜索引擎與各類工具軟件中率先掀起應(yīng)用熱潮，并引起了行業(yè)用戶對(duì)ChatGPT相關(guān)技術(shù)的關(guān)注與學(xué)習(xí)。同時(shí)，海量下游應(yīng)用也因此捕捉到新的技術(shù)與產(chǎn)業(yè)機(jī)會(huì)，希望通過(guò)各類大模型與工程化能力，將類ChatGPT產(chǎn)品能力輸送到原有的應(yīng)用中，更好的賦能企業(yè)的數(shù)智化轉(zhuǎn)型。
但也要看到，要讓大模型從“已有”走向“可用”并不是“一蹴而就”的過(guò)程，更多的企業(yè)通常會(huì)面臨數(shù)據(jù)資源有限、算力投資難度大、模型泛化能力差、高水平人才稀缺的發(fā)展瓶頸。也正因此，對(duì)更多的企業(yè)來(lái)說(shuō)，未來(lái)更加“務(wù)實(shí)”的做法，就是選擇適合自己的大模型服務(wù)商，“站在巨人的肩膀上”，更好地“用好”大模型。正是洞察到這種迫切的市場(chǎng)需求，作為數(shù)字化轉(zhuǎn)型的實(shí)踐者和賦能者，軟通動(dòng)力近年來(lái)始終堅(jiān)持以全棧式數(shù)字技術(shù)為行業(yè)客戶創(chuàng)造價(jià)值，特別是在大模型領(lǐng)域，軟通動(dòng)力也在積極地探索與實(shí)踐，希望憑借自身在AI基礎(chǔ)設(shè)施、AI專業(yè)人才，AI生態(tài)以及在通用領(lǐng)域和專用服務(wù)領(lǐng)域沉淀的豐富應(yīng)用實(shí)踐，為行業(yè)客戶提供大模型落地的專業(yè)服務(wù)，打通大模型落地“最后一公里”，更好地加速千行百業(yè)擁抱大模型的新時(shí)代。大模型落地的四重挑戰(zhàn)毫無(wú)疑問(wèn)，幾乎沒(méi)人會(huì)懷疑大模型對(duì)未來(lái)的顛覆性影響。但現(xiàn)實(shí)是，國(guó)內(nèi)對(duì)大模型的探索仍處于早期階段，無(wú)論在研發(fā)、迭代還是使用階段，大模型都是一個(gè)消耗資源巨大、使用成本也不低的“奢侈品”。除了成本居高不下之外，企業(yè)想要在實(shí)際業(yè)務(wù)場(chǎng)景中部署使用大模型，還面臨著數(shù)據(jù)、參數(shù)調(diào)優(yōu)、人才等諸多的落地難題。
三是，從算法的維度看，AI模型的發(fā)展從AlexNet發(fā)布開(kāi)始，隨后的研究多數(shù)是圍繞著模型的深度和廣度探索，發(fā)展至今已有BERT、 GPT等典型模型出現(xiàn)，也掀起了預(yù)訓(xùn)練模型的熱潮，目前國(guó)內(nèi)的大模型參數(shù)也已經(jīng)攀升至千億、萬(wàn)億級(jí)別，其準(zhǔn)確度也在不斷的刷新 SOTA。但與此同時(shí)，對(duì)于企業(yè)而言，如何選擇合適自身的預(yù)訓(xùn)練模型，如何在具體場(chǎng)景和任務(wù)下，基于成熟的大模型進(jìn)行微調(diào)能夠快速地產(chǎn)生準(zhǔn)確結(jié)果，以及究竟是選擇商用還是開(kāi)源的大模型服務(wù)，如何平衡成本和訓(xùn)練效果，同樣也是非常讓人“頭疼”的問(wèn)題。四是，從人才維度看，隨著越來(lái)越多的企業(yè)開(kāi)始廣泛應(yīng)用大模型，相關(guān)的人才需求也成為了新的挑戰(zhàn)。以在人工智能產(chǎn)品實(shí)際使用過(guò)程中進(jìn)行數(shù)據(jù)庫(kù)管理、算法參數(shù)設(shè)置、人機(jī)交互設(shè)計(jì)、性能測(cè)試跟蹤及其他輔助作業(yè)的AI訓(xùn)練師為例，相關(guān)數(shù)據(jù)顯示，這類人才目前就出現(xiàn)了大量的“缺口”亟待滿足。不難看出，雖然我們已經(jīng)見(jiàn)證了大模型開(kāi)始與場(chǎng)景、行業(yè)進(jìn)行深度融合并取得了不錯(cuò)的成績(jī)，驗(yàn)證了大模型已不僅在科技企業(yè)中應(yīng)用，也邁出了走向千行百業(yè)的步伐，但大模型的落地并不是一件簡(jiǎn)單的事情，仍需要解決好算力、數(shù)據(jù)、算法、人才等方面帶來(lái)的全新挑戰(zhàn)。以服務(wù)入局大模型賽道基于此，從今年年初開(kāi)始，軟通動(dòng)力就積極布局大模型賽道，不僅投資建設(shè)AI算力基礎(chǔ)設(shè)施，同時(shí)也站在服務(wù)和落地的視角，希望能夠憑借自身在AI人才資源，AI平臺(tái)工具，AI合作生態(tài)以及“躬身實(shí)踐”中沉淀的經(jīng)驗(yàn)和方法論，和行業(yè)客戶共創(chuàng)能夠落地的大模型服務(wù)，更好地幫助企業(yè)迎接大模型時(shí)代的到來(lái)，具體來(lái)說(shuō)：首先，在AI人才資源方面，這是軟通動(dòng)力在大模型賽道中獨(dú)具特色的優(yōu)勢(shì)。公司憑借十余年的技術(shù)積累和行業(yè)經(jīng)驗(yàn)沉淀，通過(guò)將自身的服務(wù)能力橫向拉通、整合之后，目前不僅能夠?yàn)樾袠I(yè)客戶提供“全棧化”的數(shù)字技術(shù)服務(wù)，同時(shí)更積累了一大批高質(zhì)量的數(shù)字化人才。“我們的第一個(gè)切入點(diǎn)就是AI人才方向，投入專門(mén)的算力平臺(tái)作為培養(yǎng)工程師上手并熟悉大模型的工程實(shí)踐環(huán)境，能夠讓相關(guān)開(kāi)發(fā)語(yǔ)言的工程師和架構(gòu)師更快更熟練玩轉(zhuǎn)大模型，希望通過(guò)對(duì)算力及人才的投資，讓他們能夠把大模型從產(chǎn)品到落地應(yīng)用之間的鏈條打通，成為大模型領(lǐng)域的專家。而在未來(lái)，這批專家資源的能力不僅可以傳遞給更多的員工；另一方面，對(duì)企業(yè)來(lái)說(shuō)，也可以直接獲得專家資源的幫助，直接進(jìn)行企業(yè)所需要的大模型開(kāi)發(fā)或者提供參數(shù)調(diào)優(yōu)等相關(guān)的服務(wù)。”霍宇說(shuō)。
最后，是大模型落地實(shí)踐方面，軟通動(dòng)力也正在和行業(yè)客戶通過(guò)“共創(chuàng)”的形式，更好地推動(dòng)企業(yè)擁抱大模型時(shí)代。“現(xiàn)在不少行業(yè)客戶都找到軟通，他們認(rèn)為目前如果企業(yè)自己要搞一套大模型是有困難的，這些行業(yè)客戶的優(yōu)勢(shì)在于他們有不少的行業(yè)數(shù)據(jù)，但是并不知道如何讓這些數(shù)據(jù)更好地實(shí)現(xiàn)語(yǔ)料化，或者如何讓大模型在節(jié)省算力的基礎(chǔ)上，更快地實(shí)現(xiàn)訓(xùn)練或者推理等等。除此之外，搭建行業(yè)大模型，前期的規(guī)劃以及選型，也是一道門(mén)檻，而這些正是軟通動(dòng)力擅長(zhǎng)的工作，因此雙方可以通過(guò)共創(chuàng)的形式，共同推進(jìn)大模型的落地，目前公司已經(jīng)和不少的銀行和保險(xiǎn)行業(yè)的客戶展開(kāi)相關(guān)的合作。”霍宇說(shuō)。正如IDC最新發(fā)布的《AI大模型技術(shù)能力評(píng)估報(bào)告，2023》中提到的：“對(duì)于行業(yè)用戶來(lái)說(shuō)，在關(guān)注廠商大模型技術(shù)棧完備性的同時(shí)，應(yīng)著重考察廠商的產(chǎn)業(yè)應(yīng)用經(jīng)驗(yàn)積累，主要發(fā)力點(diǎn)應(yīng)集中在應(yīng)用層，將技術(shù)應(yīng)用到實(shí)際業(yè)務(wù)場(chǎng)景中，提前布局，積累行業(yè)、場(chǎng)景經(jīng)驗(yàn)和數(shù)據(jù)，由此才能‘站在巨人的肩膀上’打造差異化競(jìng)爭(zhēng)優(yōu)勢(shì)。”從這個(gè)角度來(lái)說(shuō)，軟通動(dòng)力在大模型服務(wù)領(lǐng)域積累的四大優(yōu)勢(shì)，無(wú)疑可以更好地幫助企業(yè)擁抱大模型，加速企業(yè)的數(shù)智化轉(zhuǎn)型。打通落地“最后一公里”事實(shí)上，軟通動(dòng)力以服務(wù)模式“卡位”大模型賽道，本身也是深思熟慮和審慎考量的結(jié)果。霍宇告訴我：“當(dāng)大模型浪潮襲來(lái)之時(shí)，我們首先否決掉的就是自己下場(chǎng)做通用大模型平臺(tái)，更多還是考慮從行業(yè)大模型的賽道入手，但深入研究之后又發(fā)現(xiàn)，要做行業(yè)大模型，垂直行業(yè)中的數(shù)據(jù)和語(yǔ)料也至關(guān)重要。因此,作為一家服務(wù)型的公司，軟通動(dòng)力以服務(wù)的模式切入這個(gè)市場(chǎng)是最為合適的，我們可以通過(guò)專家資源、平臺(tái)工具，以及經(jīng)驗(yàn)和方法論，加上行業(yè)客戶手中的數(shù)據(jù)資源，雙方以共創(chuàng)的形式合作，是能夠以較快方式實(shí)現(xiàn)大模型落地的。”同樣，以“服務(wù)”模式入局大模型賽道，也讓軟通動(dòng)力能夠以更加“全局”的視角來(lái)觀察和看待整個(gè)大模型市場(chǎng)，并從中沉淀和總結(jié)出了不少大模型落地中值得重視的關(guān)鍵事項(xiàng)。
第一，是關(guān)于開(kāi)源和商用大模型的選型問(wèn)題。對(duì)此，霍宇認(rèn)為，基于業(yè)務(wù)的需求情況，中國(guó)企業(yè)也會(huì)像選擇公有云和私有云部署那樣，既會(huì)選擇直接接入商用大模型，也會(huì)選擇基于開(kāi)源大模型部署本地化的服務(wù)。“拋開(kāi)算力資源問(wèn)題不說(shuō)，如果單看模型參數(shù)大小，開(kāi)源大模型在相對(duì)小的規(guī)模上能力已經(jīng)接近商用模型，漸漸有了趕超的勢(shì)頭。另外，相對(duì)追求大而全的通用商用大模型，在垂直領(lǐng)域的模型訓(xùn)練上，開(kāi)源模型的數(shù)量已經(jīng)超過(guò)商用模型，因此企業(yè)不用太擔(dān)心開(kāi)源大模型會(huì)落后于主流的商用大模型平臺(tái)。而在行業(yè)大模型領(lǐng)域，應(yīng)該說(shuō)整個(gè)市場(chǎng)都還不太成熟，還處在探索與實(shí)踐的階段，這就需要整個(gè)產(chǎn)業(yè)鏈通過(guò)共創(chuàng)的方式，推動(dòng)行業(yè)大模型的慢慢成熟，最終打通落地的最后一公里。”霍宇說(shuō)。第二，除了算力和模型參數(shù)之外，企業(yè)應(yīng)該把重心放在數(shù)據(jù)以及語(yǔ)料的沉淀上。在霍宇看來(lái)，目前語(yǔ)料確實(shí)是一個(gè)稀缺資源，但很多企業(yè)沒(méi)有意識(shí)到這一點(diǎn)，未來(lái)企業(yè)如果要做大模型，數(shù)據(jù)和語(yǔ)料就是繞不開(kāi)的問(wèn)題。也正因此，數(shù)據(jù)和語(yǔ)料的質(zhì)量問(wèn)題就變得尤為重要，同樣底層數(shù)據(jù)的清洗、標(biāo)注、治理等一系列的工作也變得更加地迫在眉睫。“我們目前也正在幫助一些行業(yè)客戶做數(shù)據(jù)治理的工作，我們判斷做數(shù)據(jù)和語(yǔ)料的工作還會(huì)長(zhǎng)久持續(xù)，只不過(guò)很多工作如數(shù)據(jù)標(biāo)注、數(shù)據(jù)收集的工作會(huì)變成‘工具+人工’的方式，同時(shí)這些數(shù)據(jù)和語(yǔ)料也會(huì)更加關(guān)注行業(yè)屬性。不僅如此，在具體的實(shí)踐過(guò)程中，我們也總結(jié)和沉淀了如何把語(yǔ)料或數(shù)據(jù)形成標(biāo)準(zhǔn)化的方法論，多大的參數(shù)量需要‘喂’它多少的語(yǔ)料能夠達(dá)到比較合適的性價(jià)比，這都是軟通動(dòng)力正在做的事情。在此基礎(chǔ)上，業(yè)務(wù)規(guī)則的設(shè)定，數(shù)學(xué)建模以及參數(shù)調(diào)優(yōu)，以及后續(xù)長(zhǎng)期的優(yōu)化等工作，我們也都是可以為行業(yè)客戶提供相關(guān)服務(wù)的。”他說(shuō)。
申耀的科技觀察，由資深科技媒體人申斯基創(chuàng)辦，20年企業(yè)級(jí)科技內(nèi)容傳播工作經(jīng)驗(yàn)，長(zhǎng)期專注產(chǎn)業(yè)互聯(lián)網(wǎng)、企業(yè)數(shù)字化、ICT基礎(chǔ)設(shè)施、汽車科技等內(nèi)容的觀察和思考。
原文標(biāo)題：【觀察】軟通動(dòng)力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
文章出處：【微信公眾號(hào)：軟通動(dòng)力】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
軟通動(dòng)力
+關(guān)注
關(guān)注
1文章
760瀏覽量
15136
原文標(biāo)題：【觀察】軟通動(dòng)力霍宇：以服務(wù)入局大模型賽道，打通落地“最后一公里”
文章出處：【微信號(hào)：isoftstone-group，微信公眾號(hào)：軟通動(dòng)力】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
解決驗(yàn)證“最后一公里”的挑戰(zhàn)：芯神覺(jué)Claryti如何助力提升調(diào)試效率
過(guò)程中必不可少的一環(huán)，它幫助工程師找到問(wèn)題的根源并進(jìn)行優(yōu)化。隨著設(shè)計(jì)復(fù)雜性的提升，調(diào)試作為驗(yàn)證的“最后一公里”正面臨越來(lái)越多的挑戰(zhàn)。如何有效提升調(diào)試效率，已成為行
中軟國(guó)際模型工場(chǎng)加速各行業(yè)智能化進(jìn)程
介紹了中軟國(guó)際模型工場(chǎng)如何通過(guò)全棧AI場(chǎng)景化服務(wù)，解決大模型在企業(yè)應(yīng)用中的核心痛點(diǎn)，幫助企業(yè)實(shí)現(xiàn)從探索到全面實(shí)踐的智能化轉(zhuǎn)型，打通AI應(yīng)用
軟通動(dòng)力聯(lián)合華為助力永鋒臨港建設(shè)鋼鐵行業(yè)大模型
近日，軟通動(dòng)力憑借AI、大數(shù)據(jù)、云計(jì)算等服務(wù)能力成功簽約山東鋼鐵集團(tuán)永鋒臨港有限公司AI大模型建設(shè)實(shí)施項(xiàng)目。作為華為云盤(pán)古大模型
亞馬遜云科技與伊克羅德信息攜手，共推AI賦能產(chǎn)業(yè)升級(jí)
近日，伊克羅德信息科技，作為業(yè)界領(lǐng)先的數(shù)智化轉(zhuǎn)型服務(wù)商，與亞馬遜云科技正式簽署了一項(xiàng)為期四年的市場(chǎng)拓展戰(zhàn)略合作計(jì)劃（SCA）。雙方將深度整合云端前沿技術(shù)與生成式AI解決方案，旨在打通AI應(yīng)用落
言犀智能體平臺(tái)上線了！趕緊來(lái)試試！連接大模型與企業(yè)應(yīng)用的“最后一公里”
言犀智能體平臺(tái)是企業(yè)級(jí)一站式 AI 智能體搭建與發(fā)布平臺(tái)。聚合大模型、知識(shí)庫(kù)、插件、工作流等能力，為用戶提供低成本將LLM落地為企業(yè)應(yīng)用的SaaS平臺(tái)。無(wú)需代碼基礎(chǔ)亦可便捷的使用大模型
億鑄科技談大算力芯片面臨的技術(shù)挑戰(zhàn)和解決策略
隨著人工智能技術(shù)的飛速發(fā)展，算力已成為推動(dòng)產(chǎn)業(yè)變革的關(guān)鍵力量，但大模型的快速發(fā)展，參數(shù)的爆發(fā)，對(duì)于算力需求也提出了更高的要求，帶來(lái)了全新的挑戰(zhàn)。那大算力芯片應(yīng)對(duì)這些挑戰(zhàn)，如何才能夠助力人工智能技術(shù)的發(fā)展，實(shí)現(xiàn)算力的落地和最后
北京靈奧科技基于亞馬遜云科技打造大模型中間件
企業(yè)AI應(yīng)用落地的最后一公里。靈奧科技現(xiàn)已服務(wù)全球超過(guò)30,000家用戶，廣泛覆蓋電商、金融、法律、房地產(chǎn)、教育和能源等行業(yè)。 大模型中間件
軟通動(dòng)力攜手伙伴共創(chuàng)母嬰行業(yè)垂域大模型
業(yè)應(yīng)用領(lǐng)域進(jìn)行聯(lián)合創(chuàng)新，落地應(yīng)用場(chǎng)景，尤其是在垂域大模型領(lǐng)域，雙方聯(lián)合伙伴展開(kāi)了積極的探索和緊密的合作，共同助力行業(yè)企業(yè)實(shí)現(xiàn)更深層次的數(shù)智轉(zhuǎn)型升級(jí)，例如本次大會(huì)期間，軟通動(dòng)力攜手華為云
軟通動(dòng)力：資產(chǎn)要素驅(qū)動(dòng)下的數(shù)據(jù)資產(chǎn)入表
當(dāng)前，數(shù)據(jù)資產(chǎn)作為數(shù)字化轉(zhuǎn)型進(jìn)程中的新興資產(chǎn)類型，正日益成為加快數(shù)字經(jīng)濟(jì)發(fā)展的重要戰(zhàn)略資源。6月16日，以“基于數(shù)據(jù)要素的新質(zhì)生產(chǎn)力”為主題的“2024 CIO百人會(huì)高峰論壇”在北京舉辦，軟通動(dòng)力
云天勵(lì)飛正式發(fā)布“深目”AI模盒，讓大模型應(yīng)用平民化
3月28日，云天勵(lì)飛舉辦AI大模型產(chǎn)品發(fā)布會(huì)，正式發(fā)布“深目”AI模盒。該產(chǎn)品能夠做到“3個(gè)90%”——覆蓋場(chǎng)景超過(guò)90%、算法精度超過(guò)90%，使用成本降低90%，解決大模型在場(chǎng)景落地最后
軟通動(dòng)力聯(lián)合華為云推出鴻蒙應(yīng)用聯(lián)營(yíng)商品
近日，軟通動(dòng)力與華為云推出的聯(lián)營(yíng)商品“軟通動(dòng)力鴻蒙應(yīng)用及元服務(wù)定制開(kāi)發(fā)服務(wù)”正式
華為中國(guó)合作伙伴大會(huì)2024 | 軟通動(dòng)力全面布局算力服務(wù)
而生 數(shù)智有為"為主題的華為中國(guó)合作伙伴大會(huì)2024在深圳舉辦。大會(huì)現(xiàn)場(chǎng)， 軟通動(dòng)力數(shù)字基礎(chǔ)設(shè)施與集成高級(jí)解決方案總監(jiān)戴鵬 向與會(huì)嘉賓分享了《軟通動(dòng)力算力
科技賦能，MTW400A為農(nóng)村飲水安全打通“最后一公里”
日前，山東省政府縱深推進(jìn)國(guó)家省級(jí)水網(wǎng)先導(dǎo)區(qū)建設(shè)，持續(xù)深化“水網(wǎng)+”行動(dòng)，著力構(gòu)筑水安全保障網(wǎng)、水民生服務(wù)網(wǎng)、水生態(tài)保護(hù)網(wǎng)，建設(shè)水美鄉(xiāng)村示范帶、內(nèi)河航運(yùn)示范帶、文旅融合示范帶、綠色發(fā)展示范帶，推動(dòng)形成
軟通動(dòng)力“梧桐·招聘”入選中國(guó)首部大模型應(yīng)用權(quán)威案例集
在2024年中國(guó)信息通信研究院ICT+深度觀察報(bào)告會(huì)上海分會(huì)場(chǎng)暨“虹橋之源”大模型驅(qū)動(dòng)數(shù)字經(jīng)濟(jì)新生態(tài)峰會(huì)上，一部備受矚目的權(quán)威成果《2023大模型落
軟通動(dòng)力"梧桐?招聘"入選中國(guó)首部大模型應(yīng)用權(quán)威案例集
《2023大模型落地應(yīng)用案例集》（以下簡(jiǎn)稱"《案例集》"）重磅發(fā)布。軟通動(dòng)力智能招聘系統(tǒng)"梧桐?招聘"作為垂類大模型代表，成功入選《案例集》
工商網(wǎng)監(jiān)
評(píng)論