文本分析(從原始人類語言中發現隱藏模式以實現更好的決策和預測的過程)為工業和預測性維護系統提供了幾個好處。這些分析使工程師能夠利用原始文本數據輕松生成有關維護記錄的見解,并構建故障預測算法以預防潛在問題。
以非公路商業空間為例,在建筑工地上使用重型設備:如果一臺重型設備發生故障,在修復系統所需的時間和成本與施工停滯時現場的停機時間之間,可能會發生代價高昂的故障。傳統上,來自此設備的遙測數據已用于構建可預測未來故障的預測性維護模型。但是,在機械師和操作員的文本注釋中也有關于過去故障及其原因的寶貴信息。工程師可以利用此文本數據來增強預測性維護模型,并確定應解決的模式和故障模式。
文本分析的挑戰在于大量的非結構化原始文本數據集,這可能會使分析工具不堪重負。這使得工程師更難快速直觀地提取用戶可能獲得的所有有價值的信息。但是,工程師可以通過正確的工具和遵守端到端工作流程來克服這些障礙。
當涉及到端到端文本分析工作流程時,工程師需要了解什么?工作流中有四個主要階段:
圖1.端到端文本分析工作流。
第 1 階段:數據訪問和探索
文本數據將來自各種來源,包括數據庫、內部文件存儲庫和 Internet,并且格式多種多樣。正確準備數據是成功工作流程的關鍵因素。適當的數據準備會將原始文本數據清理并預處理為“清理數據”以供分析。
以詞云為例。該模型將數據轉換為一種格式,使工程師能夠快速輕松地可視化正在使用的單詞以及數據池中最常見的短語。當與應用其領域專業知識的工程師相結合時,諸如詞云之類的可視化效果有利于更大的文本分析工作流程,因為工程師可以輕松發現數據可能缺少標記或需要清理的地方,因為他們了解給定環境或用例中的典型問題或問題。
第 2 階段:數據預處理
這些可視化效果還有助于指導需要采取的后續操作。如圖 2 所示,停用詞(不增加價值的低信息詞)很常見,它們的存在會扭曲可視化結果。在工程師開始模型開發過程之前,他們必須清理原始文本數據,以過濾掉這些“停用詞”,并輸入真實、重要的數據以傳遞給建模過程。預處理階段允許用戶從原始文本中提取有意義的單詞。
數據清理通常是數據分析中最耗時的部分,根據數據量,清理步驟可能需要多次迭代。但是,投入所需的額外時間和資源所帶來的投資回報率允許在文本分析工作流的后期使用更準確和成功的模型。在許多情況下,干凈的詞云會傳遞有關文本頁面上實際內容的更多信息。
文本分析工具箱等工具通過提供用于預處理、分析和建模文本數據的算法和可視化,幫助用戶為模型構建過程做好準備,從而為工程師解決數據清理痛點。
這些工具從流行的文件格式中提取文本,從設備日志、新聞提要、調查、操作員報告和社交媒體等來源預處理原始文本,提取利用文本、數字和其他類型的數據的單個單詞或多詞短語 (n-gram),將文本轉換為數字表示,然后構建統計模型。
第 3 階段:預測模型構建
清理和預處理數據后,就可以開始使用機器學習或深度學習算法構建預測模型了。
這就是文本分析的優勢所在:它發現數據中隱藏的模式并以直觀的格式顯示它們,允許用戶消化數據,然后采取糾正措施解決問題,然后再進一步進入工作流程。
以將干凈的文本數據轉換為數字形式為例。工程師可以應用“詞袋”等建模方法,該方法根據提供的文本數據創建一個數字矩陣,顯示每個單詞的使用頻率。從那里,工程師可以使用預測模型,如潛在狄利克雷分配(LDA)模型,該模型可以擬合到單詞/頻率矩陣中,以發現文本數據集中隱藏的主題和見解。
LDA 模型可以生成與數據中“隱藏主題”相關的詞云,顯示將文本數據擬合到此預測模型中后如何開始出現模式,從而幫助為創建相應問題的解決方案提供信息。
使用新的敘述對模型(如上面示例中的模型)進行測試以驗證模型的預測是否正確后,可以建立自動警報,以便系統在需要注意的任何問題上向響應團隊發送標志。如果位置數據也可用,則結果會發現某些主題(例如,標記的問題)與其位置數據之間存在相關性,因此該模型還可以通過使用多個數據流來補充文本數據來提醒響應團隊潛在的更大基礎設施問題。
第 4 階段:見解和預測模型部署
使用文本分析設置模型并驗證其可接受的性能后,可通過多種方式與工程團隊和/或管理層共享結果和模型,包括生成報告或交互式筆記本(例如 MATLAB Live 編輯器)、將數據傳送到桌面或 Web 應用程序(例如 MATLAB 應用程序設計器),或在生產服務器或 Web 應用程序服務器上托管應用程序。
對于工業自動化、機械、汽車制造、航空航天設計或能源分配等行業的工程師來說,文本分析可以幫助他們執行復雜的數值分析,以識別可以帶來更好結果并改進預測性維護等功能的想法和概念組。
審核編輯:郭婷
-
編輯器
+關注
關注
1文章
802瀏覽量
31120 -
機器學習
+關注
關注
66文章
8381瀏覽量
132425 -
深度學習
+關注
關注
73文章
5493瀏覽量
120983
發布評論請先 登錄
相關推薦
評論