精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

性能與安全同樣重要,蘋果的AI服務器

E4Life ? 來源:電子發燒友 ? 作者:周凱揚 ? 2024-06-25 00:10 ? 次閱讀

在不久前結束的WWDC2024上,蘋果宣布了自己的AI方案Apple Intelligence,并計劃將其深度集成到iOS 18、iPadOS 18和macOS Sequoia。Apple Intelligence通過生成式模型來改善用戶的使用體驗。事實上,蘋果一共有兩個自主開發的AI模型,一個用于設備端AI的30億參數模型,以及一個更大的LLM,其服務器資源滿足更多的查詢。

蘋果AI服務器的軟硬件組成

蘋果將其AI服務器稱為私有云計算節點(PCC),這是蘋果基于定制化服務器硬件打造的基礎設施,也是蘋果芯片在數據中心的首度應用。不過PCC并沒有搭載蘋果的任一消費級系統,而是基于iOS和macOS打造了一個強化子集系統,專為支持LLM推理量身定制。

正因其硬件架構的統一性,蘋果在設備端AI和AI服務器做到了高度一致。不過PCC用于推理,并不代表蘋果為其選擇了一樣的訓練設備。根據蘋果的說法,他們在預訓練階段,依然采用的是云端的TPU和GPU資源。由此也可以看出,在大模型的訓練資源上,蘋果選擇了與谷歌合作。

這也完全可以理解,谷歌作為TensorFlow開發者,不少基于TensorFlow開發的ML模型,都能在谷歌的TPU上獲得極高的訓練效率。不過對于蘋果而言,他們的軟件棧并不會鎖死在一個云服務供應商上,而是可以擴展并運行在其他平臺上。

AI服務器的安全性

相比起AI服務器的性能,用戶可能更在意的是隱私安全問題。畢竟在數據中心的強大AI硬件和大模型,如果沒有對用戶請求的未加密訪問和相關的個人數據,也就很難給到精準的答案。對于終端設備廠商,同時也是這些AI服務器的擁有者而言,如何做好端到端加密,也就成為最大的挑戰。

蘋果也指出了AI服務器面臨的幾大挑戰:1、云端AI安全和隱私保障難以得到驗證和執行;2、很難在云端為AI提供運行時透明;3、云端AI環境很難對特權訪問做出強有力的限制。為了解決這些挑戰,蘋果在AI服務器的設計上下了不少功夫,首先就是無狀態計算。用戶的設備將數據發送到PCC唯一目的就是滿足推理需求,PCC僅使用這些數據來執行用戶請求的操作,且數據只停留在處理請求的PCC節點上,無論是蘋果、管理員都無法獲得用戶數據。

在可驗證的透明度上,蘋果甚至做到了超過一些主流云服務商,他們將會公開PCC的生產版本軟件鏡像用于安全研究。蘋果自己也會發布和維護一套官方軟件工具,供研究人員分析PCC節點上的軟件。除此之外,蘋果的安全賞金計劃也適用于PCC,重要的研究成果同樣可以獲得該計劃的獎勵。

當然了,硬件提供的安全性也不可忽視,由于PCC基于蘋果芯片打造,所以也包含了iPhone中的安全隔區和安全啟動兩大安全子系統。這為其提供了非定位的安全性,攻擊者無法針對特定用戶的數據來發動攻擊,只能靠大規模攻擊來實現,這樣被發現的概率也會一并變高。

寫在最后

蘋果在大規模AI模型上的軟件開發倒是很早就開始了,不過在硬件上,蘋果還是落后于頭部的云服務廠商。不過蘋果只是基于自研芯片打造屬于自己的AI服務器,相較直接采用第三方方案,對于終端的用戶而言,或許這才是保證性能和安全性的最佳路徑。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 蘋果
    +關注

    關注

    61

    文章

    24348

    瀏覽量

    196822
  • AI服務器
    +關注

    關注

    2

    文章

    100

    瀏覽量

    4877
收藏 人收藏

    評論

    相關推薦

    萬協通高性能服務器安全芯片首發!驅動數智化安全新未來

    近日,國內前沿的芯片解決方案提供商萬協通,攜其自主研發的高性能服務器安全芯片系列產品閃耀亮相2024中國國際社會公共安全產品博覽會(簡稱“安博會”),其憑借出色的
    的頭像 發表于 10-24 18:01 ?200次閱讀

    GPU高性能服務器配置

    GPU高性能服務器作為提升計算速度和效率的關鍵設備,在各大應用場景中發揮著越來越重要的作用。在此,petacloud.ai小編為你介紹GPU高性能
    的頭像 發表于 10-21 10:42 ?153次閱讀

    最強服務器CPU來了!AI性能直接翻倍

    以及AI服務器AI數據中心場景的CPU產品。它不僅能支持廣泛的第三方GPU及AI加速,與它們組合形成強大的異構計算平臺,還能在其中補足G
    的頭像 發表于 09-29 11:00 ?690次閱讀
    最強<b class='flag-5'>服務器</b>CPU來了!<b class='flag-5'>AI</b><b class='flag-5'>性能</b>直接翻倍

    什么是AI服務器AI服務器的優勢是什么?

    AI服務器是一種專門為人工智能應用設計的服務器,它采用異構形式的硬件架構,通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來滿足高吞吐量互聯的需求,為自然語言處理、計算機視覺、機器學習等人工智能應用場景提
    的頭像 發表于 09-21 11:43 ?620次閱讀

    洛杉物理服務器怎么樣?

    洛杉磯作為美國科技和互聯網的重要中心,物理服務器的質量通常非常高,可以提供卓越的性能、強大的安全性、多樣的配置選項和專業的服務支持。以下是對
    的頭像 發表于 08-16 09:58 ?180次閱讀

    新加坡服務器vsping主機性能與配置測評

    新加坡服務器vsping主機在性能與配置上均表現出色。其配置通常包括高性能的CPU(如IntelXeon系列)、充足的內存(如32GB至256GBDDR4類型)以及高速的SSD固態硬盤,確保數據處理
    的頭像 發表于 08-12 13:26 ?176次閱讀

    AI服務器:開啟智能計算新時代

    一、AI服務器的定義與特點 AI服務器的定義 AI服務器是一種基于云計算技術,專為處理人工
    的頭像 發表于 08-09 16:08 ?723次閱讀

    如何評估美國洛杉磯高防服務器性能

    評估美國洛杉磯高防服務器性能對于確保網站或應用程序的穩定性和安全性至關重要。高防服務器通常被用來抵御分布式拒絕
    的頭像 發表于 07-31 09:52 ?229次閱讀

    ai服務器是什么架構類型

    AI服務器,即人工智能服務器,是專門為人工智能應用設計的高性能計算服務器AI
    的頭像 發表于 07-02 09:51 ?932次閱讀

    ai服務器和通用服務器的區別在哪

    AI服務器和通用服務器的區別主要體現在以下幾個方面: 硬件配置 AI服務器和通用服務器在硬件配置
    的頭像 發表于 07-02 09:46 ?885次閱讀

    蘋果攜手超微,加速AI服務器布局

    蘋果分析師郭明錤去年末曾經透露,蘋果預期在2024年投入47.5億美元采購超過兩萬臺服務器來支持AI技術,較2023年的6.2億美元增長明顯。
    的頭像 發表于 03-01 15:49 ?547次閱讀

    linux服務器和windows服務器

    應用和企業環境中使用,那么Win dows服務器可能更適合你的需求。 綜上所述,Linux服務器和Windows服務器各有優劣,選擇適合自己需求的服務器操作系統是確保
    發表于 02-22 15:46

    AI服務器簡介及晶振應用

    AI服務器,是一種專門用于處理人工智能相關任務的高性能計算機。它具備強大的計算能力和存儲能力,能夠快速處理大量的數據和復雜的算法。與傳統的計算設備相比,AI
    的頭像 發表于 12-25 10:45 ?1092次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>服務器</b>簡介及晶振應用

    物理服務器ai發展的應用

    物理服務器AI發展中扮演著重要的角色。傳統的以CPU為計算部件的服務器架構已難以滿足人工智能的新需求,因此,"CPU+ GPU/FPGA/ASIC"的異構計算架構成為人工智能
    的頭像 發表于 12-22 09:19 ?427次閱讀

    AI發展下服務器的選擇非常重要

    AI發展下,服務器的選擇非常重要。以下是一些選擇服務器時需要考慮的因素。
    的頭像 發表于 12-07 10:06 ?483次閱讀