精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

Apache Spark作為全球最流行的數據分析應用

我快閉嘴 ? 來源:通信世界網 ? 作者:通信世界網 ? 2020-07-03 14:43 ? 次閱讀

Apache Spark作為全球最流行的數據分析應用,現已通過此前發布的Spark 3.0版本為超過50萬用戶提供革命性的GPU加速。

Databricks為用戶提供了先進的企業云平臺Spark,每天有超過100萬臺虛擬機運行該平臺。在Spark + AI Summit峰會上,Databricks宣布其用于機器學習的Databricks Runtime 7.0將配備內置Spark 3.0的GPU加速器感知調度功能。該功能由Databricks與NVIDIA和其他社區成員合作開發。

Google Cloud近期宣布在Dataproc image 2.0版本上提供Spark 3.0預覽版,同時指出在開源社區的協作下,現在已獲得強大的NVIDIA GPU加速。NVIDIA將于7月16日與Google Cloud共同舉辦一場網絡研討會,深入探討這些令數據科學家感到興奮的新功能。

此外,用于Apache Spark的新開源RAPIDS 加速器現在可以加速ETL(提取、轉換、加載)和數據傳輸,在無需更改任何代碼的情況下提高端到端分析性能。

Spark性能的加速不僅意味著能夠更快獲得洞見,而且由于企業可以使用更少的基礎設施來完成工作負載,因此還可以幫助企業降低成本。

加速數據分析:科學計算賦予AI更強大的力量

Spark有充分的理由成為新聞媒體報導的焦點。

數據對于幫助企業機構應對不斷變化的機遇和潛在威脅至關重要。為此,他們需要破譯隱藏在數據中的關鍵線索。

每當客戶點擊網站、撥打客戶服務電話或生成每日銷售報告時,就會給企業機構貢獻大量的信息。隨著AI的興起,數據分析對于幫助公司發現趨勢并保持市場領先地位所起到的作用日益重要。

前不久,數據分析還依靠小型數據集來收集歷史數據和洞見,通過ETL對存儲在傳統數據倉庫中的高度結構化數據進行分析。

ETL常常成為數據科學家在獲取AI預測和建議時的瓶頸。ETL預計會占用數據科學家70%至90%的時間,這會減慢工作流程并將炙手可熱的人才束縛在最普通的工作上。

當數據科學家在等待ETL時,他們無法重新訓練模型來獲取更好的商業洞見。傳統的CPU基礎設施無法通過有效的擴展來適應這些工作任務,這通常會大幅增加成本。

憑借GPU加速的Spark,ETL就不會再產生這樣的麻煩。醫療、娛樂、能源、金融、零售等行業現在可以經濟、高效地為其數據分析提速,更快地獲取洞見。

并行處理助力數據分析

GPU并行處理使計算機可以一次執行多項操作。數據中心通過大規模橫向擴展這些功能來支持復雜的數據分析項目。隨著運用AI和機器學習工具的企業機構日益增加,并行處理已成為加速海量數據分析和ETL管道,進而驅動這些工作負載的關鍵。

比如有一家零售商希望預測下一個季節的庫存。該零售商需要檢查近期的銷售量以及去年的數據。數據科學家還可可以此分析中添加天氣模型,從而了解雨季或旱季對結果產生的影響。零售商還可以整合情緒分析數據,評估今年最流行的趨勢。

由于需要分析的數據源太多,因此在對不同變量可能對銷售量產生的影響進行建模時,速度就顯得尤為重要。這就需要將分析加入到機器學習中,而且GPU也因此變得十分重要。

RAPIDS加速器為Apache Spark 3.0提速

隨著數據科學家從使用傳統的分析轉而采用可以更好地對復雜市場需求進行建模的AI應用,如果繼續采用CPU,則必須犧牲速度或增加成本才能跟上由此產生的處理需求。而隨著AI在分析中的應用日益增加,需要有新的框架來通過GPU快速、經濟高效地處理數據。

用于Apache Spark的全新RAPIDS加速器將Spark分布式計算框架與功能強大的RAPIDS cuDF庫相連接,實現了GPU對Spark DataFrame和Spark SQL的運行提速。RAPIDS加速器還通過搜索在Spark節點之間移動數據的最快路徑來加快Spark Shuffle的運行速度。
責任編輯:tzh

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 醫療
    +關注

    關注

    8

    文章

    1801

    瀏覽量

    58660
  • AI
    AI
    +關注

    關注

    87

    文章

    30166

    瀏覽量

    268428
收藏 人收藏

    評論

    相關推薦

    LLM在數據分析中的作用

    隨著大數據時代的到來,數據分析已經成為企業和組織決策的關鍵工具。數據科學家和分析師需要從海量數據中提取有價值的信息,以支持業務決策。在這個過
    的頭像 發表于 11-19 15:35 ?141次閱讀

    eda與傳統數據分析的區別

    EDA(Exploratory Data Analysis,探索性數據分析)與傳統數據分析之間存在顯著的差異。以下是兩者的主要區別: 一、分析目的和方法論 EDA 目的 :EDA的主要目的是對
    的頭像 發表于 11-13 10:52 ?218次閱讀

    raid 在大數據分析中的應用

    RAID(Redundant Array of Independent Disks,獨立磁盤冗余陣列)在大數據分析中的應用主要體現在提高存儲系統的性能、可靠性和容量上。以下是RAID在大數據分析
    的頭像 發表于 11-12 09:44 ?159次閱讀

    SUMIF函數在數據分析中的應用

    在商業和科學研究中,數據分析是一項基本且關鍵的技能。Excel作為最常用的數據分析工具之一,提供了多種函數來幫助用戶處理和分析數據。SUMI
    的頭像 發表于 11-11 09:14 ?233次閱讀

    智能制造中的數據分析應用

    隨著工業4.0的推進,智能制造已經成為制造業轉型升級的關鍵。數據分析作為智能制造的核心驅動力,正逐步改變傳統的生產方式,為企業帶來更高的效率和更大的競爭力。 一、數據分析在智能制造中的重要性 提高
    的頭像 發表于 11-07 09:56 ?168次閱讀

    數據分析除了spss還有什么

    Sciences)是一款非常流行的統計分析軟件,但除了SPSS之外,還有許多其他數據分析工具和方法。 引言 數據分析是一個跨學科的領域,涉及到統計學、計算機科學、
    的頭像 發表于 07-05 15:01 ?544次閱讀

    數據分析的工具有哪些

    數據分析是一個涉及收集、處理、分析和解釋數據以得出有意義見解的過程。在這個過程中,使用正確的工具至關重要。以下是一些主要的數據分析工具,以及它們的功能和用途的介紹。 Excel Exc
    的頭像 發表于 07-05 14:54 ?766次閱讀

    數據分析有哪些分析方法

    數據分析是一種重要的技能,它可以幫助我們從大量的數據中提取有價值的信息,從而做出更明智的決策。在這篇文章中,我們將介紹數據分析的各種方法,包括描述性分析、診斷性
    的頭像 發表于 07-05 14:51 ?532次閱讀

    機器學習在數據分析中的應用

    隨著大數據時代的到來,數據量的爆炸性增長對數據分析提出了更高的要求。機器學習作為一種強大的工具,通過訓練模型從數據中學習規律,為企業和組織提
    的頭像 發表于 07-02 11:22 ?545次閱讀

    Spark基于DPU的Native引擎算子卸載方案

    ?和 R?等多種高級編程語言,這使得Spark可以應對各種復雜的大數據應用場景,例如金融、電商、社交媒體等。 Spark 經過多年發展,作為基礎的計算框架,不管是在
    的頭像 發表于 06-28 17:12 ?502次閱讀
    <b class='flag-5'>Spark</b>基于DPU的Native引擎算子卸載方案

    求助,關于AD采集到的數據分析問題

    問題描述:使用AD采集一個10Hz到2MHz的脈沖,脈沖底部可能大于零,由采集到的數據分析出該脈沖的上升時間,幅值和占空比。 備注:在分析的時候已經知道脈沖的頻率,精度為2X10^-5. 在分析
    發表于 05-09 07:40

    Spark基于DPU Snappy壓縮算法的異構加速方案

    一、總體介紹 1.1 背景介紹 Apache Spark是專為大規模數據計算而設計的快速通用的計算引擎,是一種與 Hadoop 相似的開源集群計算環境,但是兩者之間還存在一些不同之處,這些不同之處使
    的頭像 發表于 03-26 17:06 ?741次閱讀
    <b class='flag-5'>Spark</b>基于DPU Snappy壓縮算法的異構加速方案

    RDMA技術在Apache Spark中的應用

    背景介紹 在當今數據驅動的時代,Apache?Spark已經成為了處理大規模數據集的首選框架。作為一個開源的分布式計算系統,
    的頭像 發表于 03-25 18:13 ?1473次閱讀
    RDMA技術在<b class='flag-5'>Apache</b> <b class='flag-5'>Spark</b>中的應用

    基于DPU和HADOS-RACE加速Spark 3.x

    背景簡介 Apache Spark(下文簡稱Spark)是一種開源集群計算引擎,支持批/流計算、SQL分析、機器學習、圖計算等計算范式,以其強大的容錯能力、可擴展性、函數式API、多語
    的頭像 發表于 03-25 18:12 ?1284次閱讀
    基于DPU和HADOS-RACE加速<b class='flag-5'>Spark</b> 3.x

    Get職場新知識:做分析,用大數據分析工具

    為什么企業每天累積那么多的數據,也做數據分析,但最后決策還是靠經驗?很大程度上是因為這些數據都被以不同的指標和存儲方式放在各自的系統中,這就導致了數據
    發表于 12-05 09:36