隨著人工智能、深度學習等技術的興起與成熟，起初為圖像渲染而生的GPU找到了新的用武之地，以GPU驅動的計算環境隨處可見，從HPC到AI訓練。站在數字世界、高性能計算、人工智能的交叉口，GPU悄然成為了計算機的大腦。將性能從10倍提升至100倍，GPU的加速能力遠超以X86架構構建的CPU系統，將時間壓縮至分鐘級別，功耗也相對較低。

2006年，借助CUDA（Compute Unified Device Architecture，通用計算架構）和Tesla GPU平臺，英偉達將通用型計算帶入了GPU并行處理時代，這也為其在HPC領域的應用奠定了基礎。作為并行處理器，GPU擅長處理大量相似的數據，可以將任務分解為數百或數千塊同時處理，而傳統CPU則是為串行任務所設計，在X86架構下進行多核編程是很困難的，并且從單核到四核、再到16核有時會導致邊際性能增益。同時，內存帶寬也會成為進一步提高性能的瓶頸。

與以往的通用算法相比，深度學習對計算性能的要求則到了另一個量級上。盡管在GPU中運行并行核心時處理的應用數量相同，但在系統中單個內核的使用效率卻更高。此外，經過重寫的并行函數在應用程序關鍵部分運行時，在GPU上跑的速度更快。

更重要的是，英偉達在利用GPU構建訓練環境時還考慮到了生態的重要性，這也是一直以來困擾人工智能發展的難題。首先，英偉達的NVIDIA GPU Cloud上線了AWS、阿里云等云平臺，觸及到了更多云平臺上的開發者，預集成的高性能AI容器包括TensorFlow、PyTorch、MXNet等主流DL框架，降低了開發門檻、確保了多平臺的兼容性。

其次，英偉達也與研究機構、大學院校，以及向Facebook、YouTube這樣的科技巨頭合作，部署GPU服務器的數據中心。同時，還為全球數千家創業公司推出了Inception項目，除了提供技術和營銷的支持，還會幫助這些公司在進入不同國家或地區的市場時，尋找潛在的投資機會。

可以說，英偉達之于GPU領域的成功除了歸功于Tesla加速器、NVIDIA DGX、NVIDIA HGX-2這些專屬的工作站或云服務器平臺，更依托于構建了完整的產業鏈通路，讓新技術和產品有的放矢，從而形成了自己的生態圈，這也是英特爾難以去打破的。

在不久前舉行的谷歌I/O 2018開發者大會上，TPU3.0正式亮相。根據官方介紹，TPU3.0的計算能力最高可達100PFlops，是TPU2.0的8倍多。TPU的英文全名是Tensor Processor Unit，它是谷歌自主研發的針對深度學習加速的專用人工智能芯片。TPU是專為谷歌深度學習框架TensorFlow設計的人工智能芯片。著名的AlphaGo使用的就是TPU2.0芯片。

目前大多數人工智能企業青睞于GPU芯片，而TPU相對于GPU而言，采用8位低精度計算節省晶體管，對精度影響很小但是卻可以大幅節約功耗。尤其是當大面積集成系統時，TPU不僅性能更強，功耗也會大幅低于GPU集成系統。由于芯片能力非常強大，谷歌使用了液冷散熱技術，可以幫助TPU更好的為數據中心服務。

除了強大的性能外，谷歌在生態系統的建設上做了大量的工作。在TPU1.0和2.0的初期，谷歌并沒有大規模推進其商業化，而是圍繞生態做文章。這就意味著要投入巨額的成本，而且冒著極大的市場風險。當然，背后的潛在市場也是巨大的。在人工智能市場競爭激烈的形勢下，吸引到更多的開發者到谷歌的生態系統中，將會比對手有更強的競爭優勢。

目前谷歌正快速擴張自己的云計算業務，TPU也依托于云平臺運行。通過更低的售價讓人工智能開發企業拋棄GPU，轉投成本更低的TPU服務，是谷歌目前正在大力發展的業務。如果TPU無法獲得巨大的市場份額從而降低單顆TPU的成本，那么谷歌將很難在人工智能市場盈利。不過，TPU強勁的計算性能和集群計算陣列可以讓人工智能開發企業更快的開展業務。TPU的強大，讓谷歌在人工智能芯片領域已稱霸一方。

上游廠商喊得再歡，落地到千人千面的行業場景中也要由解決方案商來幫忙，無論是GPU、FPGA還是TPU，最終還是要聽聽客戶的使用感受。為此，我們采訪了人工智能產品和行業解決方案提供商曠視科技。曠視科技利用自主研發的深度學習算法引擎Brain++，服務于金融安全、城市安防、手機AR、商業物聯、工業機器人等五大核心行業。

在曠視科技看來，GPU、FPGA、TPU在通用性和能效比之間的取舍不同。其中，GPU最成熟，但也最耗資源，常用于訓練神經網絡和服務端；FPGA最靈活，能支持應用中出現的特殊操作，但要考慮靈活度和效率之間的trade-off；TPU相對最不靈活，但如果場景合適則能發揮出最大功用。

如果拿汽車類比，GPU是大巴車，適合多人同目標；FPGA是小轎車，能到任何地方，但得自己會開；而TPU是火車，只能在比公路少的多的鐵軌上開，但開的飛快。人工智能還在快速發展，還處于在各個行業落地的過程中。這個階段對GPU，FPGA和TPU都有需求。

目前，曠視科技選擇的是T型技術方案，即在維持一定廣度的同時，深耕某些應用場景，因此在算法實際落地的過程中，自然而然地產生了從GPU/CPU到FPGA的需求。GPU主要用于訓練，而FPGA能在端上能提供比GPU更好的性能功耗比。CPU則是無處不在的“默認"選擇。未來，不排除采用TPU的方案來進一步提高端上的能力。

從行業來看，當前IoT領域對AI芯片的需求最為迫切，原因是IoT領域要求在有限的功耗下完成相應的AI任務，最需要性能功耗比高的AI芯片。至于未來要借助AI賦能各個行業，曠視科技認為，最初階段可能都會先用GPU的AI方案，因為和源頭（即神經網絡訓練階段）銜接最好。另外對于中心化的應用，只要GPU按現在的“黃定律”的速度迭代前進，基于GPU在大批量處理數據的場景下仍然經常是公開可得的最佳方案。