谷歌近日為其Android上的TensorFlow框架開發(fā)了新的基于OpenCL的移動GPU推理引擎,與現(xiàn)有的OpenGL后端相比,新的推理引擎速度是前者的2倍。
OpenGL是一種渲染圖形API,其應用已近30年之久,目前常用的GPU推理引擎均是以OpenGL開發(fā)。雖然在?OpenGL?ES?3.1中新增了計算著色器Compute?Shader,但TensorFlow團隊表示,向后兼容的設計限制了GPU的運算能力。
而OpenCL從一開始就是為使用各種計算加速而設計的,因此更為適合移動GPU推理領域。這促使TensorFlow團隊對基于OpenCL的移動推理引擎進行了考察,并最終決定采用該引擎。TFLite開發(fā)團隊提到,與OpenGL相比,最佳化OpenCL后端要簡單許多,因為OpenCL提供良好的分析功能,利用概要分析API,開發(fā)團隊能夠精確地量測核心調(diào)度效能。
值得一提的是,這一推理引擎具有完整的效能分析功,也就是說優(yōu)化器會選擇適合大小的神經(jīng)網(wǎng)絡工作組以提高GPU的效率。且原生支持FP16,即使在比較老舊的GPU硬件上,如2012年的Adreno?305也可完美發(fā)揮出GPU的效能。
責任編輯:pj
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
相關推薦
場景精確投射到2D平面;最后在像素著色階段完成材質(zhì)渲染和光照明細處理。DirectX API的迭代推動了可編程著色器的發(fā)展,解放了GPU的通用計算潛能。特別是像素
發(fā)表于 11-24 17:12
近日,據(jù)外媒最新報道,英偉達與谷歌兩大科技巨頭宣布攜手合作,共同加速下一代量子計算設備的設計進程。 雙方在一份聯(lián)合聲明中透露,谷歌的量子人工
發(fā)表于 11-21 11:08
?299次閱讀
近期,英偉達與Alphabet旗下的谷歌公司宣布了一項令人矚目的合作計劃——共同設計量子計算處理器。這一合作標志著兩大科技巨頭在量子
發(fā)表于 11-19 11:06
?234次閱讀
著色器(Pixel shader)是圖形流水線中算力相當強大的功能單元,因為它可以為每個片段執(zhí)行復雜的計算,從而為最終渲染的圖像添加細節(jié)和視覺效果。
DirectX API推動 GPU
發(fā)表于 11-03 12:55
谷歌近日宣布,在其廣受歡迎的Chrome瀏覽器中引入了三項前沿的AI技術功能,旨在為用戶提供更加智能、便捷的瀏覽體驗。這些新功能由Gemini技術強力驅(qū)動,目前已在Chrome桌面版上線,標志著
發(fā)表于 08-05 11:26
?637次閱讀
科技巨頭Meta近期震撼發(fā)布了其最新的開源人工智能(AI)模型——Llama 3.1,這一舉措標志著Meta在AI領域的又一重大突破。Meta創(chuàng)始人馬克·扎克伯格親自站臺,盛贊Llama 3.
發(fā)表于 07-24 18:25
?1398次閱讀
電子發(fā)燒友網(wǎng)站提供《OpenGL+ES+2.0+編程指南.pdf》資料免費下載
發(fā)表于 05-07 14:20
?0次下載
值得注意的是,早在2021年3月,谷歌已在Chrome 89穩(wěn)定版中推出了全新的“閱讀清單”功能,方便用戶在瀏覽網(wǎng)頁時將需后續(xù)閱讀的文章加入“閱讀清單”,以便隨時查閱。
發(fā)表于 04-28 14:11
?458次閱讀
領域,現(xiàn)在也有一些新技術,例如,光線追蹤等等,都可以給計算機帶來更高的渲染質(zhì)量和視覺效果。在進行跨平臺渲染時,需要用到OpenGL,著色器編程是Op
發(fā)表于 04-25 08:40
(gl.ARRAY_BUFFER, verticesColors.buffer, gl.STATIC_DRAW);
// 獲取著色器中attribute變量a_Position的地址
var
發(fā)表于 03-13 15:22
無著色器繪制2D圖形
使用WebGL開發(fā)時,為保證界面圖形顯示效果,請使用真機運行。
此場景為未使用WebGL繪制的2D圖形(CPU繪制非GPU繪制)。開發(fā)示例如下:
1.創(chuàng)建頁面布局
發(fā)表于 03-12 15:42
。
一、 著色器
可以理解為運行在顯卡中的指令和數(shù)據(jù)。在WebGL中,著色器是用OpenGL
發(fā)表于 03-08 14:24
谷歌近日發(fā)布了其全新的AI模型Genie,這一模型徹底改變了我們與數(shù)字世界的互動方式。Genie不僅可以接收文本提示、草圖或想法,還能將這些創(chuàng)意迅速轉(zhuǎn)化為一個可互動和玩耍的虛擬世界。
發(fā)表于 02-28 18:25
?1635次閱讀
著色器
可以理解為運行在顯卡中的指令和數(shù)據(jù)。在WebGL中,著色器是用OpenGL
發(fā)表于 02-25 21:56
汽車座椅的健康與舒適也是座艙體驗的重要部分,符合人體工學設計和關愛脊背健康的座椅才能給乘坐者帶來長久的舒適。蔚來全新ES6在今年獲得了德國脊背健康協(xié)會(AGR)的座椅健康認證,全新
發(fā)表于 01-08 09:50
?690次閱讀
評論