精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

那些 Linux Shell的小技巧,大大提升機器學習生產效率

電子工程師 ? 來源:YXQ ? 2019-03-27 16:46 ? 次閱讀

機器學習的實踐過程中,用好Shell能幫你很多節省時間。

最近,有位來自ETHZ的學生分享了一些Shell小技巧。對程序員來說,這些技巧更重要的是讓你的思維從瑣碎小事中解脫出來,大大提高了工作效率。

下面就是他分享的4個tips。由于本文中涉及到的shell腳本過多,你可以去文末地址中查看所有腳本的源代碼。

抓取遠程文件

當你在遠程服務器上監視程序運行時,如果想把一個遠程文件抓取到本地查看,通常你會怎么做?

記下文件路徑,打開終端,用rsync之類的工具同步到本地,再到文件瀏覽器中查看。

實際上不必這么麻煩。只需要事先寫好幾個shell腳本,就可以避免重復的機械勞動。

在這里強烈推薦iTerm 2,它比Mac自帶的終端要強大得多,可以指定某個觸發關鍵詞執行某個相應的命令。

iTerm 2下載地址:https://www.iterm2.com/

先在遠程服務器上設置一個腳本t。當我們輸入r awesome_video.mp4時,它會搜索awesome_video.mp4文件所在路徑,并連同主機名以字符串rtransfer 的形式打印出來。

rtransfer作為iTerm2的觸發關鍵詞,解析出主機和路徑,然后調用另一個本地腳本t2。腳本t2將這個視頻文件傳輸到臨時目錄,然后在該目錄中打開Finder。

使用iTerm 2觸發關鍵詞功能調用腳本,可以大大提升效率,而你要做的只是在前期花費時間定制腳本。

遠程訪問TensorBoard

除了抓取遠程文件,另一個讓人痛苦的是訪問遠程服務器上的TensorBoard實例。你可以設置SSH端口轉發,但是哪個端口對應哪個服務器?它們都在Docker容器中。

ngrok可以讓你把訪問本地端口變成訪問URL,比如輸入ngrok http 6006后,它會為你生成一個URL網址http://683acac3.ngrok.io,你可以在這個地址中查看TensorBoard實例。

結合腳本n,以更快的速度啟動ngrok,然后用腳本tb打開Web瀏覽器,啟動TensorBoard,在十秒內就能從運行目錄轉到顯示圖形。

ngrok有個缺點是它一次只能允許一個會話,因此在使用前需要殺死上一個ngork進程。如果你忘記在另外一臺服務器上殺死ngrok,可能會比較麻煩。

ngrok下載地址:https://ngrok.com/

用tbplot代替TensorBoard繪圖

對于運行大量metrics的情形,我們需要等待較長時間讓TensorBoard加載所有圖形。如果使用tbplot腳本,速度會快很多,并且能直接生成圖像文件。

tbplot實際上調用的是Matplotlib,缺點是目前只能生成標量圖。

tbplot下載地址:https://github.com/mrahtz/tbplot

自動化崩潰監測

運行代碼時,最耗費精力的事情就是是擔心遇到了錯誤并崩潰,因此需要不斷檢查他們的運行情況。

當程序出現問題時,通過警報自動監控可以緩解這種擔憂。一般可以把警報發送到郵箱中,為了避免這么麻煩,可以使用sqs-alerts,它依靠AWS AWS Simple Queue服務存儲和接收消息。

在每臺遠程機器上,使用cron運行一個腳本,監控日志并在檢測到運行中斷時向隊列發送消息。然后在本地機器上運行一個服務來監控隊列,并在收到消息時彈出警報。

sqs-alerts下載地址:https://github.com/mrahtz/sqs-alerts

最后,本文使用的所有shell腳本都可以在以下地址中找到:https://github.com/mrahtz/dotfiles/tree/master/.local/bin

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • Linux
    +關注

    關注

    87

    文章

    11230

    瀏覽量

    208937
  • 機器學習
    +關注

    關注

    66

    文章

    8378

    瀏覽量

    132425

原文標題:4個Linux Shell小技巧,幫你提高機器學習生產效率

文章出處:【微信號:TheBigData1024,微信公眾號:人工智能與大數據技術】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏

    評論

    相關推薦

    Linux系統中shell命令解析

    shellLinux系統的用戶界面,提供了用戶與內核交互的一種接口,它接收用戶輸入的命令并到送到內核去執行,因此也被稱為Linux的命令解釋器。
    的頭像 發表于 11-05 15:40 ?139次閱讀

    提升機電機軸承溫度及振動監測裝置

    提升機是一種通過改變勢能進行運輸的大型設備,被廣泛用于礦山,面粉廠,港口等。像這種大型設備安裝后就很難再移動,因此勢必要對它做出一些保護措施的。 KZB-PC電動機主要軸承溫度及振動監測裝置
    發表于 10-31 14:53

    利用AI和加速計算提升天氣預報效率和能效

    在 NVIDIA GPU 驅動的擴散模型助力下,生成式 AI 在各個領域實現新的應用,大大提升效率。   當臺灣氣象員得以在一臺機器上模擬臺風的細節,他們深感其對預報任務能效的巨大提升
    的頭像 發表于 06-07 15:06 ?496次閱讀

    手機充電器ic U62143S大大提高配置效率

    手機充電器icU62143S大大提高配置效率在快節奏的現代生活中,所有的需求都顯得那么迫切。深圳銀聯寶科技通過多年電源案例經驗,以產品為核心,構建了一套優質高效的服務體系,大大提高了資源的配置
    的頭像 發表于 05-18 08:10 ?333次閱讀
    手機充電器ic U62143S<b class='flag-5'>大大提</b>高配置<b class='flag-5'>效率</b>

    如何在線修復提升機軸磨損

    電子發燒友網站提供《如何在線修復提升機軸磨損.docx》資料免費下載
    發表于 03-05 17:51 ?0次下載

    提升機軸頭磨損怎樣修復

    電子發燒友網站提供《提升機軸頭磨損怎樣修復.docx》資料免費下載
    發表于 02-27 15:56 ?0次下載

    如何提升機軸承位磨損的修復

    電子發燒友網站提供《如何提升機軸承位磨損的修復.docx》資料免費下載
    發表于 02-26 09:14 ?0次下載

    提升機軸承位磨損修復

    電子發燒友網站提供《提升機軸承位磨損修復.docx》資料免費下載
    發表于 02-20 11:00 ?0次下載

    激光焊縫跟蹤系統:提升焊接效率,確保焊接質量

    隨著工業技術的不斷發展,焊接技術作為連接材料的重要手段,其應用范圍日益廣泛。而在現代工業生產中,對焊接質量和效率的要求也日益提高。為了解決這一難題,激光焊縫跟蹤系統應運而生,它不僅提升了焊接
    的頭像 發表于 02-19 15:25 ?319次閱讀

    提升機軸頭磨損如何修復

    電子發燒友網站提供《提升機軸頭磨損如何修復.docx》資料免費下載
    發表于 02-18 10:11 ?0次下載

    提升機軸頭磨損的原因

    電子發燒友網站提供《提升機軸頭磨損的原因.docx》資料免費下載
    發表于 01-24 13:56 ?0次下載

    如何從零開始構建深度學習項目?(如何啟動一個深度學習項目)

    性能重大提升的背后往往是模型設計的改變。不過有些時候對模型進行微調也可以提升機器學習的性能。最終的判斷可能會取決于你對相應任務的基準測試結果。
    發表于 01-11 10:49 ?282次閱讀
    如何從零開始構建深度<b class='flag-5'>學習</b>項目?(如何啟動一個深度<b class='flag-5'>學習</b>項目)

    怎么修復提升機軸承位磨損

    電子發燒友網站提供《怎么修復提升機軸承位磨損.docx》資料免費下載
    發表于 01-09 13:55 ?0次下載

    100個Linux Shell腳本總結

    不知道大家有沒有發現,會編寫shell腳本的運維,工資不會低,并且他的工作會很輕松!今天浩道跟大家分享每一個Linux運維應知必會的100個shell腳本,雖然你工作中可能用不上,但是卻不能
    的頭像 發表于 12-05 09:28 ?1207次閱讀

    鋼結構的智能化生產提升效率與質量的利器

    ,智能化生產大大提高了生產效率。傳統的鋼結構生產過程通常需要大量的人力和時間,而智能化生產則能夠
    的頭像 發表于 12-01 11:00 ?802次閱讀