認知計算是IBM提出的概念，認為“認知計算”是通過與人的自然語言交流及不斷地學習，從而幫助人們做到更多的系統，是從硬件架構到算法策略、從程序設計到行業專長等多個學術領域的結合，能夠使人們更好地從海量復雜的數據中獲得更多洞察，從而做出更為精準的決策。IBM清晰地把認知計算定義為——具備規模化學習、根據目標推理以及與人類自然互動能力的系統。

認知計算和大數據分析有何區別？

大數據分析屬于認知計算的一個維度。與大數據相比，認知計算的范圍更廣、技術也更為先進。

認知計算和大數據分析有類似的技術，比如大量的數據、機器學習（MachineLearning）、行業模型等，大數據分析更多強調的是獲得洞察，通過這些洞察進行預測。此外，傳統的大數據分析會使用模型或者機器學習的方法，但更多的是靠專家提供。

對于認知計算而言，洞察和預測只是其中的一種。但是，認知計算更為強調人和機器之間自然的交互，這些維度都不是傳統的大數據分析所強調。

此外，認知計算目前成長很快的一個領域為深度學習（DeepLearning），它的學習方法與傳統方法不同，更多的是基于大量的數據通過自學的方式得到這樣的模型，而不需要很多的人為干預，這個從學習方法來講和大數據分析有很多不同的地方。

CPU、GPU、ASIC等傳統計算資源的瓶頸

近十年來，人工智能又到了一個快速發展的階段。深度學習在其發展中起到了中流砥柱的作用，盡管擁有強大的模擬預測能力，深度學習還面臨著超大計算量的問題。在硬件層面上，GPU、ASIC、FPGA都是解決龐大計算量的方案。

在2006年的時候，人們還是用串行處理器處理機器學習的問題，當時Mutch 和 Lowe開發了一個工具FHLib（feature hierarchy library）用來處理hierarchical 模型。對于CPU來說，它所要求的編程量是比較少的并且有可遷移性的好處，但是串行處理的特點變成了它在深度學習領域的缺點，而這個缺點是致命的。時至今日，據2006年已經過去了十年，過去的十年集成電路的發展還是遵循著摩爾定律，CPU的性能得到了極大的提升，然而，這并沒有讓CPU再次走入深度學習研究者的視野。盡管在小數據集上CPU能有一定的計算能力表現，多核使得它能夠并行處理，然而這對深度學習來說還是遠遠不夠的。

GPU：雖然走進了研究者的視線，相比于CPU，GPU的核心數大大提高了，這也讓它有更強大的并行處理能力，它還有更加強大的控制數據流和儲存數據的能力。在 Chikkerur進行了CPU和GPU在處理目標識別能力上的差別，最終GPU的處理速度是CPU的3-10倍。
ASIC：專用集成電路芯片（ASIC）由于其定制化的特點，是一種比GPU更高效的方法。但是其定制化也決定了它的可遷移性低，一旦專用于一個設計好的系統中，要遷移到其它的系統是不可能的。并且，其造價高昂，生產周期長，使得它在目前的研究中是不被考慮的。
FPGA是計算的未來？

FPGA：FPGA在GPU和ASIC中取得了權衡，很好的兼顧了處理速度和控制能力。一方面，FPGA是可編程重構的硬件，因此相比GPU有更強大的可調控能力；另一方面，與日增長的門資源和內存帶寬使得它有更大的設計空間。更方便的是，FPGA還省去了ASIC方案中所需要的流片過程。FPGA的一個缺點是其要求使用者能使用硬件描述語言對其進行編程。但是，已經有科技公司和研究機構開發了更加容易使用的語言比如Impulse Accelerated Technologies Inc. 開發了C-to-FPGA編譯器使得FPGA更加貼合用戶的使用，耶魯的E-Lab則開發了Lua腳本語言。這些工具在一定程度上縮短了研究者的開發時限，使研究更加簡單易行。

Linux On Power+GPU＋FPGA＝面向未來的認知計算

創新的Linux on power結合FPGA、GPU的計算模式，這也許是面向未來的認知計算最佳架構。

IBM在2015年宣布了與FPGA芯片設計商Xilinx進行“為期數年的戰略協作”。兩家公司將聯起手來，通過OpenPOWER Foundation致力于找到更好的方法處理機器學習、網絡功能虛擬化（NFV）、基因、高性能計算和大數據分析等應用程序。

IBM的開發人員將針對OpenStack、Docker和Spark建立解決方案堆棧，結合了基于POWER的服務器，并具備Xilinx FPGA加速器。

此外，McCredie還宣布該公司將把POWER 8芯片同Nvidia Tesla K80 GPUs結合在一起，使用NVIDIA的高速NVLINK互聯。兩家OEM——Penguin Computing和E4 Engineering將會把基于OpenPOWER設計理念的系統推向市場。