Python以其清晰簡潔的語法、易用和可擴展性以及豐富龐大的庫深受廣大開發者喜愛。其內置的非常強大的機器學習代碼庫和數學庫，使Python理所當然成為自然語言處理的開發利器。

　　那么使用Python進行自然語言處理，要是不知道這幾個工具就真的Out了。

　　Python 的幾個自然語言處理工具

　　NLTK是使用Python處理語言數據的領先平臺。它為像WordNet這樣的詞匯資源提供了簡便易用的界面。它還具有為文本分類（classification）、文本標記（tokenization）、詞干提取（stemming）、詞性標記（tagging）、語義分析（parsing）和語義推理（semantic reasoning）準備的文本處理庫。

　　NLTK:NLTK 在用 Python 處理自然語言的工具中處于領先的地位。它提供了 WordNet 這種方便處理詞匯資源的借口，還有分類、分詞、除莖、標注、語法分析、語義推理等類庫。

　　Pattern:Pattern 的自然語言處理工具有詞性標注工具（Part-Of-Speech Tagger），N元搜索（n-gram search），情感分析（sentiment analysis），WordNet。支持機器學習的向量空間模型，聚類，向量機。

　　TextBlob:TextBlob 是一個處理文本數據的 Python 庫。提供了一些簡單的api解決一些自然語言處理的任務，例如詞性標注、名詞短語抽取、情感分析、分類、翻譯等等。

　　Gensim:Gensim 提供了對大型語料庫的主題建模、文件索引、相似度檢索的功能。它可以處理大于RAM內存的數據。作者說它是“實現無干預從純文本語義建模的最強大、最高效、最無障礙的軟件。

　　PyNLPI：它的全稱是：Python自然語言處理庫（Python Natural Language Processing Library，音發作： pineapple） 這是一個各種自然語言處理任務的集合，PyNLPI可以用來處理N元搜索，計算頻率表和分布，建立語言模型。他還可以處理向優先隊列這種更加復雜的數據結構，或者像 Beam 搜索這種更加復雜的算法。

　　spaCy：這是一個商業的開源軟件。結合Python和Cython，它的自然語言處理能力達到了工業強度。是速度最快，領域內最先進的自然語言處理工具。

　　Polyglot:Polyglot 支持對海量文本和多語言的處理。它支持對165種語言的分詞，對196中語言的辨識，40種語言的專有名詞識別，16種語言的詞性標注，136種語言的情感分析，137種語言的嵌入，135種語言的形態分析，以及69中語言的翻譯。

　　MontyLingua:MontyLingua 是一個自由的、訓練有素的、端到端的英文處理工具。輸入原始英文文本到 MontyLingua ，就會得到這段文本的語義解釋。適合用來進行信息檢索和提取，問題處理，回答問題等任務。從英文文本中，它能提取出主動賓元組，形容詞、名詞和動詞短語，人名、地名、事件，日期和時間，等語義信息。

　　BLLIP Parser:BLLIP Parser（也叫做Charniak-Johnson parser）是一個集成了產生成分分析和最大熵排序的統計自然語言工具。包括 命令行 和 python接口 。

　　Quepy:Quepy是一個Python框架，提供將自然語言轉換成為數據庫查詢語言。可以輕松地實現不同類型的自然語言和數據庫查詢語言的轉化。所以，通過Quepy，僅僅修改幾行代碼，就可以實現你自己的自然語言查詢數據庫系統。GitHub:https://github.com/machinalis/quepy

　　HanNLP：HanLP是由一系列模型與算法組成的Java工具包，目標是普及自然語言處理在生產環境中的應用。不僅僅是分詞，而是提供詞法分析、句法分析、語義理解等完備的功能。HanLP具備功能完善、性能高效、架構清晰、語料時新、可自定義的特點。文檔使用操作說明：Python調用自然語言處理包HanLP 和 菜鳥如何調用HanNLP

　　OpenNLP：進行中文命名實體識別

　　OpenNLP是Apach下的Java自然語言處理API，功能齊全。如下給大家介紹一下使用OpenNLP進行中文語料命名實體識別的過程。

　　首先是預處理工作，分詞去聽用詞等等的就不啰嗦了，其實將分詞的結果中間加上空格隔開就可以了，OpenNLP可以將這樣形式的的語料照處理英文的方式處理，有些關于字符處理的注意點在后面會提到。

　　其次我們要準備各個命名實體類別所對應的詞庫，詞庫被存在文本文檔中，文檔名即是命名實體類別的TypeName，下面兩個function分別是載入某類命名實體詞庫中的詞和載入命名實體的類別。

　　/**

　　* 載入詞庫中的命名實體

　　*

　　* @param nameListFile

　　* @return

　　* @throws Exception

　　*/

　　public static List《String》 loadNameWords（File nameListFile）

　　throws Exception {

　　List《String》 nameWords = new ArrayList《String》（）;

　　if （！nameListFile.exists（） || nameListFile.isDirectory（）） {

　　System.err.println（“不存在那個文件”）;

　　return null;

　　}

　　BufferedReader br = new BufferedReader（new FileReader（nameListFile））;

　　String line = null;

　　while （（line = br.readLine（）） ！= null） {

　　nameWords.add（line）;

　　}

　　br.close（）;

　　return nameWords;

　　}

　　/**

　　* 獲取命名實體類型

　　*

　　* @param nameListFile

　　* @return

　　*/

　　public static String getNameType（File nameListFile） {

　　String nameType = nameListFile.getName（）;

　　return nameType.substring（0， nameType.lastIndexOf（“。”））;

　　}

　　因為OpenNLP要求的訓練語料是這樣子的：

　　XXXXXX《START:Person》？？？？《END》XXXXXXXXX《START:Action》？？？？《END》XXXXXXX

　　被標注的命名實體被放在《START》《END》范圍中，并標出了實體的類別。接下來是對命名實體識別模型的訓練，先上代碼：

　　import java.io.File;

　　import java.io.FileOutputStream;

　　import java.io.IOException;

　　import java.io.StringReader;

　　import java.util.Collections;

　　import opennlp.tools.namefind.NameFinderME;

　　import opennlp.tools.namefind.NameSample;

　　import opennlp.tools.namefind.NameSampleDataStream;

　　import opennlp.tools.namefind.TokenNameFinderModel;

　　import opennlp.tools.util.ObjectStream;

　　import opennlp.tools.util.PlainTextByLineStream;

　　import opennlp.tools.util.featuregen.AggregatedFeatureGenerator;

　　import opennlp.tools.util.featuregen.PreviousMapFeatureGenerator;

　　import opennlp.tools.util.featuregen.TokenClassFeatureGenerator;

　　import opennlp.tools.util.featuregen.TokenFeatureGenerator;

　　import opennlp.tools.util.featuregen.WindowFeatureGenerator;

　　/**

　　* 中文命名實體識別模型訓練組件

　　*

　　* @author ddlovehy

　　*

　　*/

　　public class NamedEntityMultiFindTrainer {

　　// 默認參數

　　private int iterations = 80;

　　private int cutoff = 5;

　　private String langCode = “general”;

　　private String type = “default”;

　　// 待設定的參數

　　private String nameWordsPath; // 命名實體詞庫路徑

　　private String dataPath; // 訓練集已分詞語料路徑

　　private String modelPath; // 模型存儲路徑

　　public NamedEntityMultiFindTrainer（） {

　　super（）;

　　// TODO Auto-generated constructor stub

　　}

　　public NamedEntityMultiFindTrainer（String nameWordsPath， String dataPath，

　　String modelPath） {

　　super（）;

　　this.nameWordsPath = nameWordsPath;

　　this.dataPath = dataPath;

　　this.modelPath = modelPath;

　　}

　　public NamedEntityMultiFindTrainer（int iterations， int cutoff，

　　String langCode， String type， String nameWordsPath，

　　String dataPath， String modelPath） {

　　super（）;

　　this.iterations = iterations;

　　this.cutoff = cutoff;

　　this.langCode = langCode;

　　this.type = type;

　　this.nameWordsPath = nameWordsPath;

　　this.dataPath = dataPath;

　　this.modelPath = modelPath;

　　}

　　/**

　　* 生成定制特征

　　*

　　* @return

　　*/

　　public AggregatedFeatureGenerator prodFeatureGenerators（） {

　　AggregatedFeatureGenerator featureGenerators = new AggregatedFeatureGenerator（

　　new WindowFeatureGenerator（new TokenFeatureGenerator（）， 2， 2），

　　new WindowFeatureGenerator（new TokenClassFeatureGenerator（）， 2，

　　2）， new PreviousMapFeatureGenerator（））;

　　return featureGenerators;

　　}

　　/**

　　* 將模型寫入磁盤

　　*

　　* @param model

　　* @throws Exception

　　*/

　　public void writeModelIntoDisk（TokenNameFinderModel model） throws Exception {

　　File outModelFile = new File（this.getModelPath（））;

　　FileOutputStream outModelStream = new FileOutputStream（outModelFile）;

　　model.serialize（outModelStream）;

　　}

　　/**

　　* 讀出標注的訓練語料

　　*

　　* @return

　　* @throws Exception

　　*/

　　public String getTrainCorpusDataStr（） throws Exception {

　　// TODO 考慮入持久化判斷直接載入標注數據的情況 以及增量式訓練

　　String trainDataStr = null;

　　trainDataStr = NameEntityTextFactory.prodNameFindTrainText（

　　this.getNameWordsPath（）， this.getDataPath（）， null）;

　　return trainDataStr;

　　}

　　/**

　　* 訓練模型

　　*

　　* @param trainDataStr

　　* 已標注的訓練數據整體字符串

　　* @return

　　* @throws Exception

　　*/

　　public TokenNameFinderModel trainNameEntitySamples（String trainDataStr）

　　throws Exception {

　　ObjectStream《NameSample》 nameEntitySample = new NameSampleDataStream（

　　new PlainTextByLineStream（new StringReader（trainDataStr）））;

　　System.out.println（“**************************************”）;

　　System.out.println（trainDataStr）;

　　TokenNameFinderModel nameFinderModel = NameFinderME.train（

　　this.getLangCode（）， this.getType（）， nameEntitySample，

　　this.prodFeatureGenerators（），

　　Collections.《String， Object》 emptyMap（）， this.getIterations（），

　　this.getCutoff（））;

　　return nameFinderModel;

　　}

　　/**

　　* 訓練組件總調用方法

　　*

　　* @return

　　*/

　　public boolean execNameFindTrainer（） {

　　try {

　　String trainDataStr = this.getTrainCorpusDataStr（）;

　　TokenNameFinderModel nameFinderModel = this

　　.trainNameEntitySamples（trainDataStr）;

　　// System.out.println（nameFinderModel）;

　　this.writeModelIntoDisk（nameFinderModel）;

　　return true;

　　} catch （Exception e） {

　　// TODO Auto-generated catch block

　　e.printStackTrace（）;

　　return false;

　　}

　　}

　　｝

　　注：

　　參數：iterations是訓練算法迭代的次數，太少了起不到訓練的效果，太大了會造成過擬合，所以各位可以自己試試效果；

　　cutoff：語言模型掃描窗口的大小，一般設成5就可以了，當然越大效果越好，時間可能會受不了；

　　langCode：語種代碼和type實體類別，因為沒有專門針對中文的代碼，設成“普通”的即可，實體的類別因為我們想訓練成能識別多種實體的模型，于是設置為“默認”。

　　說明：

　　prodFeatureGenerators（）方法用于生成個人訂制的特征生成器，其意義在于選擇什么樣的n-gram語義模型，代碼當中顯示的是選擇窗口大小為5，待測命名實體詞前后各掃描兩個詞的范圍計算特征（加上自己就是5個），或許有更深更準確的意義，請大家指正；

　　trainNameEntitySamples（）方法，訓練模型的核心，首先是將如上標注的訓練語料字符串傳入生成字符流，再通過NameFinderME的train（）方法傳入上面設定的各個參數，訂制特征生成器等等，關于源實體映射對，就按默認傳入空Map就好了。

　　源代碼開源在：https://github.com/Ailab403/ailab-mltk4j，test包里面對應有完整的調用demo，以及file文件夾里面的測試語料和已經訓練好的模型。