此處梳理出面向人工智能的機器學習方法體系，主要體現機器學習方法和邏輯關系，理清機器學習脈絡，后續文章會針對機器學習系列講解算法原理和實戰。抱著一顆嚴謹學習之心，有不當之處歡迎斧正。

機器學習脈絡（高清圖片微信后臺回復：“脈絡”獲取）

監督學習 Supervised learning

Fisher的線性判別 Fisher's linear discriminant

線性回歸 Linear regression

Logistic回歸 Logistic regression

多項Logistic回歸 Multinomial logistic regression

樸素貝葉斯分類器 Naive Bayes classifier

感知 Perceptron

支持向量機 Support vector machine

分類和回歸樹（CART） Classification and regression tree (CART)

迭代Dichotomiser 3（ID3） Iterative Dichotomiser 3(ID3)

C4.5算法 C4.5 algorithm

C5.0算法 C5.0 algorithm

卡方自動交互檢測（CHAID） Chi-squared Automatic Interaction Detection(CHAID)

決策殘端 Decision stump

ID3算法 ID3 algorithm

隨機森林 Random forest

SLIQ

樸素貝葉斯 Naive Bayes

高斯貝葉斯 Gaussian Naive Bayes

多項樸素貝葉斯 Multinomial Naive Bayes

平均一依賴性評估（AODE） Averaged One-Dependence Estimators(AODE)

貝葉斯信念網絡（BNN） Bayesian Belief Network(BBN)

貝葉斯網絡（BN） Bayesian Network(BN)

自動編碼器 Autoencoder

反向傳播 Backpropagation

玻爾茲曼機 Boltzmann machine

卷積神經網絡 Convolutional neural network

Hopfield網絡 Hopfield network

多層感知器 Multilayer perceptron

徑向基函數網絡（RBFN） Radial basis function network(RBFN)

受限玻爾茲曼機 Restricted Boltzmann machine

回歸神經網絡（RNN） Recurrent neural network(RNN)

自組織映射（SOM） Self-organizing map(SOM)

尖峰神經網絡 Spiking neural network

人工神經網絡 Artificial neural network

貝葉斯 Bayesian

決策樹 Decision Tree

線性分類 Linear classifier

無監督學習 Unsupervised learning

k-最近鄰算法（K-NN） k-nearest neighbors classification(K-NN)

局部異常因子 Local outlier factor

BIRCH

DBSCAN

期望最大化（EM） Expectation-maximization(EM)

模糊聚類 Fuzzy clustering

K-means算法 K-means algorithm

k-均值聚類 K-means clustering

k-位數 K-medians

平均移 Mean-shift

OPTICS算法 OPTICS algorithm

單連鎖聚類 Single-linkage clustering

概念聚類 Conceptual clustering

先驗算法 Apriori algorithm

Eclat算法 Eclat algorithm

FP-growth算法 FP-growth algorithm

對抗生成網絡

前饋神經網絡 Feedforward neurral network

邏輯學習機 Logic learning machine

自組織映射 Self-organizing map

極端學習機 Extreme learning machine

人工神經網絡 Artificial neural network

關聯規則學習 Association rule learning

分層聚類 Hierarchical clustering

聚類分析 Cluster analysis

異常檢測 Anomaly detection

半監督學習 Semi-supervised learning

生成模型 Generative models

低密度分離 Low-density separation

基于圖形的方法 Graph-based methods

聯合訓練 Co-training

強化學習 Reinforcement learning

時間差分學習 Temporal difference learning

Q學習 Q-learning

學習自動 Learning Automata

狀態-行動-回饋-狀態-行動（SARSA） State-Action-Reward-State-Action(SARSA)

深度學習 Deep learning

深度信念網絡 Deep belief machines

深度卷積神經網絡 Deep Convolutional neural networks

深度遞歸神經網絡 Deep Recurrent neural networks

分層時間記憶 Hierarchical temporal memory

深度玻爾茲曼機（DBM） Deep Boltzmann Machine(DBM)

堆疊自動編碼器 Stacked Boltzmann Machine

生成式對抗網絡 Generative adversarial networks

遷移學習 Transfer learning

傳遞式遷移學習 Transitive Transfer Learning

其他

主成分分析（PCA） Principal component analysis(PCA)

主成分回歸（PCR） Principal component regression(PCR)

因子分析 Factor analysis

Bootstrap aggregating (Bagging)

AdaBoost

梯度提升機（GBM） Gradient boosting machine(GBM)

梯度提升決策樹（GBRT） Gradient boosted decision tree(GBRT)

集成學習算法

降維