3月21日,在以“數智創新 攜手致遠”為主題的2024金證投行數字化峰會上,金證股份發布了投行新一代綜合業務數字化平臺,該平臺融入了基于英特爾 至強 CPU Max系列 9462 處理器的金證K-GPT產品方案,具備高性能、低成本、低延時、部署靈活的優勢。通過使用英特爾oneAPI以及xFasterTransformer,充分發揮英特爾 至強 CPU Max系列的算力潛能和內置HBM內存的高帶寬優勢,使金證K-GPT大模型無論在云端還是在私有化部署時均可快速落地。接下來,金證股份也將進一步推進金證大模型的持續優化,推進產品信息技術應用創新,賦能投資銀行高質量發展。
“過往投行信息化主要是1.0、2.0階段,煙囪式系統只能滿足局部的業務支撐,在3.0階段需要實現平臺化、數字化。而證券公司投行數字化轉型從一體化、平臺化入手,先做數據治理,做數據模型化、標準化,實現數據完整性和一致性,然后在技術平臺上構建投行業務中臺,實現組件可復用及應用的快速開發,在一體化平臺上實現模塊化應用,在此基礎上實現客戶、項目、流程、任務、文件、底稿等在平臺上的橫向拉通、一致性管控和數據快速獲取,并滿足內控的縱向管控,進而對數據進行深度應用。”
“AI技術在金融領域應用廣泛,AI背后的模型與設計也多種多樣。英特爾至強CPU Max系列處理器具備強大的通用算力,不僅如此,它還是英特爾首款集成高帶寬內存的x86處理器。我們相信,基于英特爾 至強 CPU Max系列的金證優智 K-GPT大模型產品能夠為大家呈現出頗具性價比的優化方案。”
作為證券行業核心交易 IT 供應商,深圳市金證科技股份有限公司(以下簡稱:金證)推出了滿足業務技術發展、監管風控合規要求的先進、開放、穩定的金證投行數字化方案-金證新一代投行綜合業務數字化平臺,與金證優智及其他伙伴一起,在AI大模型、投行RPA、智能撰寫等方面形成聯合解決方案,是金證在投行數字化3.0時代的實踐成果。
金證優智金融大模型K-GPT及工具集,標志著金證股份推動AI在金融垂直領域落地應用上實現新突破。大模型工具集主要包括K-GPT、金融語義搜索、智能文檔處理、金融知識庫、精細調整和評估。基于大模型的場景解決方案涵蓋智能投研、智能投顧、智能投行、智能合規和智能客服等領域。該解決方案工具集從訓練到應用,一站式解決大模型應用落地,提供營銷文案生成、監管問詢總結、合規問答、智能客服機器人、知識QA生成器應用實例。
相較于通用大模型,K-GPT數據查詢準確性高,更好理解金融術語,且回復專業、數據扎實,同時支持查看引用知識源,以及與實時數據與模塊化集成,具備調取實時數據與組件的能力。依托于底層龐大的金融知識庫,專為金融場景服務的K-GPT核心優勢在于懂金融、數據準確、可驗證及支持調用Agents。
此次英特爾與金證K-GPT大模型上的合作,基于英特爾 至強 CPU Max系列產品家族。雙方通過在軟硬件方面的協同合作,使用英特爾OpenVINO優化Embedding模型前后對比,實現3倍*以上性能提升,通過向量數據庫的優化前后對比,查詢性能實現4倍*性能提升。
在基于英特爾xFasterTransformer框架的大模型應用上,無論在首詞生成時間FTL(First Token Latency)還是在吞吐TPS(Througput Per Second)上均可完全滿足生產環境需求。英特爾至強可擴展處理器廣泛部署于云與數據中心,這也意味著金證K-GPT大模型可以實現更加靈活的部署,并極大降低大模型的推理成本。
近年來,英特爾一直秉持著“水利萬物而不爭”的生態理念,攜手國內生態合作伙伴,深挖各行各業的不同需求,憑借軟硬件一體的先進技術,打造真正能夠規模化落地的創新解決方案以推動行業進步。此次合作標志著英特爾和金證股份的合作邁出了更重要的一步,雙方將共同推動更多技術創新,覆蓋更廣領域,為金融行業用戶提供更多更好的服務。
審核編輯:劉清
-
處理器
+關注
關注
68文章
19165瀏覽量
229141 -
英特爾
+關注
關注
60文章
9886瀏覽量
171531 -
ai技術
+關注
關注
1文章
1257瀏覽量
24249 -
大模型
+關注
關注
2文章
2330瀏覽量
2486
原文標題:基于英特爾? 至強? CPU Max系列的金證K-GPT產品方案推動投行技術創新
文章出處:【微信號:英特爾中國,微信公眾號:英特爾中國】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
評論