精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

阿里云Serverless 容器服務(wù)全面升級:新增組件全托管、AI鏡像秒級拉取能力

話說科技 ? 來源:話說科技 ? 作者:話說科技 ? 2023-06-02 14:30 ? 次閱讀

6 月 1 日在阿里云粵港澳大灣區(qū)云峰會上,阿里云智能云原生應(yīng)用平臺總經(jīng)理丁宇宣布,Serverless 容器服務(wù) ASK全面升級,進(jìn)一步幫助企業(yè)和開發(fā)者降本提效。

Gartner 曾預(yù)測,2023 年 70% 的 AI 應(yīng)用將基于容器和 Serverless 技術(shù)開發(fā)。作為云原生的重要技術(shù)組成,K8s 已經(jīng)被開發(fā)者和企業(yè)廣泛認(rèn)可,然而其自身復(fù)雜性和陡峭的學(xué)習(xí)曲線依然讓人望而生畏。

阿里云在 2018 年發(fā)布了首個Serverless容器服務(wù)ASK,其本質(zhì)是將容器的運(yùn)行時和具體的節(jié)點(diǎn)運(yùn)行環(huán)境解耦,讓用戶無需管理K8s節(jié)點(diǎn)和服務(wù)器,即可直接部署應(yīng)用,大幅降低容器服務(wù)的使用門檻。目前,ASK在容器化應(yīng)用、在線業(yè)務(wù)彈性、AI/大數(shù)據(jù)計(jì)算類任務(wù)等場景中被廣泛使用。

此次 ASK 的全新升級,進(jìn)一步整合了阿里云基礎(chǔ)設(shè)施的能力,在使用成本、創(chuàng)建效率、異構(gòu)資源兼容、彈性供給保障等方面帶來顯著提升,解決開發(fā)者在使用K8s的復(fù)雜性挑戰(zhàn),也順應(yīng)了 AI場景爆發(fā)下催生的新需求。

丁宇介紹,本次ASK升級涵蓋了多個維度,包括對組件的全托管支持、AI鏡像的秒級拉取能力,還降低了客戶的使用成本。具體來說:

1、組件全托管,零K8s運(yùn)維成本

ASK新增對 CoreDNS、Metrics Server 等十多個 K8s 核心組件的托管支持,提供動態(tài)容量規(guī)劃能力,客戶無需自行部署維護(hù),最大化降低運(yùn)維復(fù)雜度。同時,ASK也新增了智能化風(fēng)險(xiǎn)識別能力,支持自動化升級K8s版本,避免升級導(dǎo)致的應(yīng)用故障或異常風(fēng)險(xiǎn)。

2、極致彈性,準(zhǔn)確率提升80%

ASK 提供首界首創(chuàng)基于容器鏡像緩存的 AI 大鏡像秒級拉取能力,AI 應(yīng)用啟動時間降低90%。并且提供端到端的彈性加速,面向AI/大數(shù)據(jù)工作負(fù)載容器化進(jìn)行全棧優(yōu)化,通過數(shù)據(jù)集加速提升 30% 訪問性能;此外,本次 ASK 還增強(qiáng)了智能彈性預(yù)測 AHPA能力,相比人工配置,彈性準(zhǔn)確率提升 80%;同時新增對于 GPU 的支持。

3、普惠算力,性價比提升40%

為了給客戶提供更好的服務(wù),釋放技術(shù)紅利,讓算力更普惠,ASK新增U實(shí)例規(guī)格支持,統(tǒng)一支持多款處理器,相比上一代主售實(shí)例降價高達(dá)40%。新增SavingPlan彈性版本,面向應(yīng)用非固定波峰波谷場景,額外成本優(yōu)化10%以上。為進(jìn)一步讓價格更透明,新增成本套件支持,清晰洞察彈性資源成本,讓成本治理更便捷。

以數(shù)禾科技為例,這是一家為金融機(jī)構(gòu)提供高效的智能零售金融解決方案的公司,對于模型的計(jì)算能力包括計(jì)算速度、計(jì)算結(jié)果準(zhǔn)確性、計(jì)算數(shù)據(jù)實(shí)時性等,有很高的要求。而當(dāng)前的困擾是支撐模型計(jì)算的底層應(yīng)用資源無法根據(jù)請求量來調(diào)整機(jī)器資源支持運(yùn)算能力,這也是當(dāng)前業(yè)務(wù)快速發(fā)展過程中亟待解決的痛點(diǎn)。同時,隨著模型在線推理服務(wù)數(shù)量的增加,數(shù)禾的模型服務(wù)也變得越來越龐大、臃腫,難以管理。這種狀況不僅導(dǎo)致了資源浪費(fèi),還增加了維護(hù)和升級的成本。

為了解決這些“頑疾”,數(shù)禾科技采用阿里云 ASK 部署線上模型,無需 K8s 節(jié)點(diǎn)管理,根據(jù)實(shí)時流量動態(tài)使用 POD,資源成本節(jié)省60%;通過 ASK Knative 服務(wù),解決了數(shù)禾模型的灰度發(fā)布和多版本并存問題;得益于ASK 自動伸縮和縮容到 0 的優(yōu)勢,降低運(yùn)行成本,大幅提升服務(wù)可用性。

“使用阿里云容器服務(wù) Knative 和 ECI 虛擬節(jié)點(diǎn)配合部署,保證線上模型應(yīng)對突發(fā)流量的穩(wěn)定性提升的同時,又使資源利用效率顯著提高,極大地節(jié)約了資源成本。”數(shù)禾科技 AI 實(shí)驗(yàn)室 AI 平臺負(fù)責(zé)人周偉鵬表示。

目前,ASK 已加入阿里云飛天免費(fèi)試用計(jì)劃,為開發(fā)者、企業(yè)提供一定額度的免費(fèi)試用資源。3分鐘就可以創(chuàng)建Kubernetes集群,開啟容器彈性之旅。

審核編輯黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    28877

    瀏覽量

    266236
  • 阿里云
    +關(guān)注

    關(guān)注

    3

    文章

    922

    瀏覽量

    42780
  • serverless
    +關(guān)注

    關(guān)注

    0

    文章

    64

    瀏覽量

    4485
收藏 人收藏

    評論

    相關(guān)推薦

    容器服務(wù)價格高嗎?容器服務(wù)價格表一覽

    一般來說,其價格并不是特別高。容器服務(wù)的費(fèi)用價格高低取決于多種因素,包括服務(wù)提供商、所選服務(wù)的類型、資源配置、地理位置等。對于
    的頭像 發(fā)表于 09-12 10:05 ?95次閱讀

    阿里推出首個域名AI大模型應(yīng)用

    阿里近日宣布其域名產(chǎn)品服務(wù)全面完成AI升級,并成功推出首個基于通義大模型的域名
    的頭像 發(fā)表于 08-09 14:55 ?379次閱讀

    阿里內(nèi)部全面推行AI寫代碼

    阿里正在內(nèi)部全面推行 AI 編程,使用通義靈碼輔助程序員寫代碼、讀代碼、查 BUG、優(yōu)化代碼等。
    的頭像 發(fā)表于 04-07 09:22 ?465次閱讀

    鴻蒙原生應(yīng)用元服務(wù)實(shí)戰(zhàn)-Serverless華為賬戶認(rèn)證登錄需盡快適配

    已經(jīng)使用serverless開發(fā)基本完成或者已經(jīng)完成的,得用其他方式去實(shí)現(xiàn)才行吧。對于已經(jīng)上架的應(yīng)用和元服務(wù)升級也沒法進(jìn)行。
    發(fā)表于 02-20 10:14

    阿里在海外市場發(fā)布一系列AI大數(shù)據(jù)產(chǎn)品

    近日,阿里宣布面向海外市場發(fā)布一系列AI計(jì)算及大數(shù)據(jù)產(chǎn)品,進(jìn)一步擴(kuò)大其在全球市場的份額。這一系列新產(chǎn)品涵蓋了serverless模式的AI
    的頭像 發(fā)表于 02-05 11:30 ?882次閱讀

    華訊利用亞馬遜科技打造安全托管服務(wù)與產(chǎn)品組合

    的技術(shù)優(yōu)勢和深厚沉淀,為企業(yè)提供涵蓋安全事件響應(yīng)、云原生安全大數(shù)據(jù)平臺以及圍繞數(shù)據(jù)的安全自動化運(yùn)維等安全托管服務(wù)和產(chǎn)品,助力企業(yè)構(gòu)建完整的上數(shù)據(jù)治理框架,實(shí)現(xiàn)數(shù)據(jù)全生命周期的安全防護(hù)。 作為亞馬遜
    的頭像 發(fā)表于 01-24 17:51 ?364次閱讀

    選擇服務(wù)器租用托管有哪些優(yōu)勢?

    服務(wù)器租用托管服務(wù)好嗎?選擇服務(wù)器租用托管有哪些
    的頭像 發(fā)表于 01-10 10:21 ?343次閱讀

    Imagen 2 現(xiàn)已在 Vertex AI全面推出

    以下文章來源于谷歌服務(wù),作者 Google Cloud Vishy Tirumalashetty Google Cloud AI 生成式媒體產(chǎn)品主管 今天我們將與大家分享 Imagen 2 為
    的頭像 發(fā)表于 12-22 10:10 ?315次閱讀
    Imagen 2 現(xiàn)已在 Vertex <b class='flag-5'>AI</b> 上<b class='flag-5'>全面</b>推出

    鴻蒙原生應(yīng)用/元服務(wù)開發(fā)-新版本端一體化模板體驗(yàn)反饋

    Ability模板即可。 三、體驗(yàn) 新增: 最新端一體化新增數(shù)據(jù)庫端一體組件”, 版本
    發(fā)表于 12-05 14:57

    輕松實(shí)現(xiàn)醫(yī)學(xué)影像 AI:NVIDIA 提供 MONAI 托管服務(wù)

    這項(xiàng)創(chuàng)新服務(wù)具有用于交互式 AI 標(biāo)注和訓(xùn)練的強(qiáng)大 API,可以加速醫(yī)學(xué)影像解決方案發(fā)展。 NVIDIA 推出醫(yī)學(xué)影像 AI 服務(wù),通過
    的頭像 發(fā)表于 11-30 19:35 ?392次閱讀

    德勤中國與亞馬遜科技聯(lián)合成立生成式AI聯(lián)合實(shí)驗(yàn)室

    計(jì)算能力、亞馬遜科技海外區(qū)域推出的全新托管生成式AI服務(wù)Amazon Bedrock、和全托管
    的頭像 發(fā)表于 11-17 09:43 ?619次閱讀

    全域 Serverless+AI,華為加速大模型應(yīng)用開發(fā)

    日前,華為全聯(lián)接大會 2023 在上海召開。華為 CTO 張宇昕在大會上發(fā)布了基于 Serverless 技術(shù)的大模型應(yīng)用開發(fā)框架,框架以面向 AI 領(lǐng)域全新升級的 Function
    的頭像 發(fā)表于 10-25 21:30 ?341次閱讀
    全域 <b class='flag-5'>Serverless+AI</b>,華為<b class='flag-5'>云</b>加速大模型應(yīng)用開發(fā)

    HarmonyOS/OpenHarmony原生應(yīng)用開發(fā)-華為Serverless服務(wù)支持情況(四)

    。借助存儲服務(wù),您可以無需關(guān)心存儲服務(wù)器的開發(fā)、部署、運(yùn)維、擴(kuò)容等事務(wù),大大降低了應(yīng)用使用存儲的門檻,讓您可以專注于應(yīng)用的業(yè)務(wù)能力構(gòu)建,助力您的商業(yè)成功。 是支持HarmonyOS
    發(fā)表于 10-16 14:20

    HarmonyOS/OpenHarmony原生應(yīng)用開發(fā)-華為Serverless云端服務(wù)支持說明(一)

    存:為函數(shù)提供Key-Value型高速緩存。 存儲:助力應(yīng)用存儲圖片、音頻、視頻等內(nèi)容,并提供高品質(zhì)的上傳、下載、分享能力監(jiān)
    發(fā)表于 10-08 10:22

    亞馬遜科技宣布推出生成式AI服務(wù)加速創(chuàng)新

    亞馬遜科技全托管生成式AI服務(wù)Amazon Bedrock現(xiàn)已正式可用。客戶可以使用來自眾多領(lǐng)先AI公司的高性能基礎(chǔ)模型,以及構(gòu)建生成式
    的頭像 發(fā)表于 10-08 05:40 ?382次閱讀