伴隨著人工智能技術飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。
根據預測,若H100的年利用率保持在61%,那么單臺設備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數量級。
盡管H100的電力消耗數字讓人瞠目結舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構的B100芯片不僅可能擁有超過H100的功耗,而且還能實現更高的性能表現,從而在相同能耗下完成更多任務。
很明顯,隨著AI技術的持續發展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。
-
芯片
+關注
關注
453文章
50396瀏覽量
421793 -
人工智能
+關注
關注
1791文章
46853瀏覽量
237546 -
英偉達
+關注
關注
22文章
3744瀏覽量
90831
發布評論請先 登錄
相關推薦
評論