精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

機器學習研究需要掌握的9個工具

穎脈Imgtec ? 2023-10-12 08:28 ? 次閱讀

學術界在推進技術方面發揮了巨大作用,但學術界和工業界往往存在一種分割狀態。我們經常會看到這種現象:無數很棒的輔助工具在學術界被忽視,但在工業界很受歡迎。對于很多研究者來說,學習一種新工具可能存在困難,不愿意花費過多的時間去嘗試,在當前自己掌握的工具足以應對各種問題時尤其如此。

其實,有些工具一時未見到效果,在后期可能會有十倍的回報。

來自劍橋大學的計算機科學博士生 Aliaksei Mikhailiuk為我們整理了機器學習博士在獲得學位之前需要掌握的九種工具。他在劍橋大學獲得物理學碩士學位,在布里斯托大學獲得工程學士學位。他對研究、開發、部署感興趣,還能熟練掌握計算機視覺算法聚合和自然語言處理等技術。現任職華為(英國)高級人工智能工程師

Mikhailiuk 將這些工具按用途分為四類:可隔離環境、實驗跟蹤、相互協作以及可視化


一、可隔離環境工具

機器學習是一個快速發展的領域,常用的包更新非常頻繁。盡管開發人員做出了努力,但較新的版本通常與舊版本不兼容,這樣給研究者帶來很多麻煩。幸運的是,有工具可以解決這個問題!在這一方面,Mikhailiuk 推薦了兩個工具:Docker 和 Conda。

1. Docker

Mikhailiuk 攻讀博士學位期間,他有一臺由大學管理的機器,學校會定期進行更新。通常情況下是一夜之間更新,沒有任何通知。你可以想象,當更新后的第二天早上發現自己大部分工作與最新的驅動程序不兼容,是多么令人崩潰。Mikhailiuk 發現 Docker 可以很好地解決。

Docker 允許將軟件包裝在稱為容器的包中。容器是具有自己的軟件、庫和配置文件的獨立單元。在一個簡化的視圖中,容器是一個獨立的虛擬操作系統,它具有與外部世界通信的手段。Docker 是一個開源的應用容器引擎,讓開發者可以打包他們的應用以及依賴包到一個可移植的容器中,然后發布到任何流行的 Linux 或 Windows 操作系統的機器上,也可以實現虛擬化,容器是完全使用沙箱機制,相互之間不會有任何接口。一個完整的 Docker 由以下幾個部分組成:

  • DockerClient 客戶端
  • Docker Daemon 守護進程
  • Docker Image 鏡像
  • DockerContainer 容器

2. Conda

現在,復用別人的代碼成為了一種新的規范。GitHub 作為一個代碼托管云服務網站,幫助開發者存儲和管理其項目源代碼,且能夠追蹤、記錄并控制用戶對其代碼的修改。研究者可以克隆上面的代碼,安裝并提出自己的解決方案,而不需要自己寫任何東西。

但是 GitHub 也有不方便的情況,當多個項目一起使用時,你會遇到包管理問題,因為不同的項目需要不同版本的包。

Conda 可以解決這個問題 。Conda 是一個開源跨平臺語言無關的包管理與環境管理系統,它允許創建多個環境并快速安裝、運行和更新包及其依賴項,用戶可以在隔離的環境之間快速切換。


二、運行、跟蹤和記錄實驗工具

在應用領域想要獲得博士學位,嚴謹性和一致性是兩個基本支柱。假如你是研究機器學習模型的,或多或少都能遇到這種情況——你創建了許多不同的模型來試驗不同的參數甚至整個架構。你還想嘗試優化器的選擇、學習率、時期數等。因此,實際上,你將進行許多不同的實驗,并且將越來越難以整理結果。在這一方面,Aliaksei Mikhailiuk 向我們展示了如何正確方便地管理和記錄自己的 ML 和 DL 實驗工具,主要推薦了 Weights & Biases,MLFlow,Screen 工具。

3. Weights & Biases

3a49f7f4-6896-11ee-9788-92fbcf53809c.png

▲wandb panel 一組簡單指標 Snapshot——訓練損失、學習率和平均驗證損失。請注意,你還可以跟蹤系統參數。

W&B(Weights & Biases) 是一個平臺,可以幫助數據科學家跟蹤他們的模型、數據集、系統信息等。只需幾行代碼,用戶就可以開始跟蹤有關這些功能的所有內容。它免費供個人使用,團隊使用通常需要付費,但用于學術目的的團隊是免費的。你可以將 W&B 與自己喜歡的框架一起使用,例如 TensorFlow、Keras、PyTorch、SKlearn、fastai 等。

W&B 提供了以下 4 個有用的工具:

  • Dashboard:實驗跟蹤;
  • Artifacts:數據集版本控制、模型版本控制;
  • Sweeps:超參數優化;
  • Reports 保存和共享可重現的結果。

4. MLFlow

MLFlow 是一個能夠覆蓋機器學習全流程(從數據準備到模型訓練到最終部署)的新平臺,它是一款管理機器學習工作流程的工具,主要有三個功能模塊:Tracking 跟蹤和記錄、Project 項目管理和 Models 模型管理。MLflow 支持 JavaPython、R 和 REST API 等。

MLFlow 具有以下主要組件:

跟蹤:用于跟蹤試驗,以記錄和比較參數與結果;

模型:用于通過各種 ML 庫管理模型,并將其部署到各種模型服務和推理平臺;

項目:用于將 ML 代碼打包成可重用、可再現的格式,以便與其他數據科學家共享或轉移到生產環境;

模型注冊表:使你可以將模型存儲集中化,以便使用版本控制和批注功能來管理模型的完整生命周期階段轉換;

模型服務:可用于將 MLflow 模型以 REST 終結點的形式托管。

5. Screen

對于每個研究者來說,讓實驗通宵運行而且機器不會進入休眠狀態再好不過了。當進行遠程工作時,很多人都會擔心 ssh 會話中斷——代碼運行幾個小時就停止了。

screen 命令允許用戶在一個窗口內使用多個終端會話,可以斷開連接,也可以重新連接已斷開連接的會話。每個會話都可以恢復連接,這樣就算會話斷開了,用戶也不必擔心數據丟失。


四、協作工具學術界缺乏有效的團隊管理機制,在某種程度上這是由于學術界會嚴格劃分個人貢獻造成的。然而,機器學習的發展速度需要大家共同努力。Mikhailiuk 推薦了兩個非常基本的工具:GitHub 以及 Lucidchart,它們對于有效的溝通非常方便,尤其是在遠程工作上。

6. GitHub

GitHub 是通過 Git 進行版本控制的軟件源代碼托管服務平臺,同時提供付費賬戶和免費賬戶,這兩種賬戶都可以創建公開或私有的代碼倉庫,但付費用戶支持更多功能。除了允許個人和組織創建和訪問保管中的代碼以外,它也提供了一些方便社會化共同軟件開發的功能,包括允許用戶追蹤其他用戶、組織、軟件庫的動態,對軟件代碼的改動和 bug 提出評論等。GitHub 也提供圖表功能,用于概觀顯示開發者們怎樣在代碼庫上工作以及軟件的開發活躍程度。

就在近日,GitHub 正式發布了2021 年度報告。過去一年里,有 1600 萬開發者加入了 GitHub,目前平臺的開發者數量已經達到了 7300 萬;過去一年里,他們在 GitHub 上創建了 6100 萬個存儲庫。世界財富 100 強企業中的 84% 都在使用 GitHub。

7. Lucidchart

Lucidchart 是一款免費的可以支持離線操作的谷歌瀏覽器圖表插件,可以幫助用戶繪制包括流程圖、實體模型、UML、思維導圖等多種圖表的繪制工作。它提供了很多免費繪圖模板,大大地加快了用戶的繪圖速度。該應用的一大優勢是,它基于 HTML5,因此用戶不需要下載本地應用程序,就可以在電腦、iPad 等設備上使用該應用。它的另一主要優勢是共享的協作空間和在圖表旁邊做筆記的能力。

3a6e728c-6896-11ee-9788-92fbcf53809c.png


五、可視化工具

提交論文時,研究人員經常會遇到拒稿的情況,這讓 Mikhailiuk 意識到可視化功能和結果一樣重要。

如果審稿人沒有太多時間,或者對論文涉及的領域不熟悉,通常來說論文會被拒掉,其中一部分原因可能是論文中的視圖給人印象不深刻。因此,Mikhailiuk 推薦了 Inkscape 和 Streamlit 這兩個工具。

8. Inkscape

Inkscape 是一個開源的矢量圖編輯工具,使用可伸縮向量圖形 (SVG),以及基于 W3C 標準的 open XML 格式作為其默認文件格式。設計過程可能從一張涂鴉、一幅素描或者軟件中模型設計開始,這些可能不足以完成一整個項目。Inkscape 可以幫助你將以上不成熟的素材轉變為專業的設計,用于廣告發布、模型制作等用途。Inkscape 還能提供 TexText 擴展,使用此軟件包,你可以將 latex 公式無縫集成到圖像中。

3a732426-6896-11ee-9788-92fbcf53809c.png

9. Streamlit

Streamlit 和常規 Web 框架不同之處在于,它不需要你去編寫任何客戶端代碼(HTML/CSS/JS),只需要編寫普通的 Python 模塊,就可以在很短的時間內創建美觀并具備高度交互性的界面,從而快速生成數據分析或者機器學習的結果;另一方面,和那些只能通過拖拽生成的工具也不同的是,你仍然具有對代碼的完整控制權。

以上就是 Mikhailiuk 在獲得機器學習博士學位之前需要掌握的九個工具,你不妨也學習一下,相信這些工具在你之后的學習、工作中,會起到事半功倍的效果。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • 軟件
    +關注

    關注

    69

    文章

    4774

    瀏覽量

    87160
  • 架構
    +關注

    關注

    1

    文章

    509

    瀏覽量

    25447
  • 機器學習
    +關注

    關注

    66

    文章

    8377

    瀏覽量

    132407
收藏 人收藏

    評論

    相關推薦

    什么是機器學習?通過機器學習方法能解決哪些問題?

    來源:Master編程樹“機器學習”最初的研究動機是讓計算機系統具有人的學習能力以便實現人工智能。因為沒有學習能力的系統很難被認為是具有智能
    的頭像 發表于 11-16 01:07 ?224次閱讀
    什么是<b class='flag-5'>機器</b><b class='flag-5'>學習</b>?通過<b class='flag-5'>機器</b><b class='flag-5'>學習</b>方法能解決哪些問題?

    eda在機器學習中的應用

    值和噪聲數據。通過繪制箱線圖、直方圖和散點圖,我們可以直觀地看到數據中的異常值和分布情況。例如,如果一數據集中的某個特征值遠高于其他值,這可能是一異常值,需要進一步調查。 2. 特征選擇 特征選擇 是
    的頭像 發表于 11-13 10:42 ?163次閱讀

    如何學習ARM?

    、寄存器、內存管理單元(MMU)、中斷控制器等方面的知識。 3.學習編程語言和工具掌握一門與 ARM 處理器兼容的編程語言是必不可少的。C/C++ 是最常用的編程語言,可以使用它來編寫針對
    發表于 10-11 10:42

    【「時間序列與機器學習」閱讀體驗】時間序列的信息提取

    重要環節,目標是從給定的時間序列數據中提取出有用的信息和特征,以支持后續的分析和預測任務。 特征工程(Feature Engineering)是將數據轉換為更好地表示潛在問題的特征,從而提高機器學習
    發表于 08-17 21:12

    【《時間序列與機器學習》閱讀體驗】+ 了解時間序列

    收到《時間序列與機器學習》一書,彩色印刷,公式代碼清晰,非常精美。感謝作者,感謝電子發燒友提供了一讓我學習時間序列及應用的機會! 前言第一段描述了編寫背景: 由此可知,這是一本關于時
    發表于 08-11 17:55

    如何理解機器學習中的訓練集、驗證集和測試集

    理解機器學習中的訓練集、驗證集和測試集,是掌握機器學習核心概念和流程的重要一步。這三者不僅構成了模型學習
    的頭像 發表于 07-10 15:45 ?3211次閱讀

    暑假如何學習單片機

    暑假是學習掌握單片機基礎知識的良好時機。以下是一關于如何在暑假期間學習單片機的建議計劃
    的頭像 發表于 07-03 09:19 ?480次閱讀
    一<b class='flag-5'>個</b>暑假如何<b class='flag-5'>學習</b>單片機

    機器學習在數據分析中的應用

    隨著大數據時代的到來,數據量的爆炸性增長對數據分析提出了更高的要求。機器學習作為一種強大的工具,通過訓練模型從數據中學習規律,為企業和組織提供了更高效、更準確的數據分析能力。本文將深入
    的頭像 發表于 07-02 11:22 ?544次閱讀

    名單公布!【書籍評測活動NO.35】如何用「時間序列與機器學習」解鎖未來?

    捕捉復雜非線性模式的場景中顯得力不從心。 將時間序列的分析與預測用于大規模的數據生產一直存在諸多困難。 在這種背景下,結合機器學習,特別是深度學習技術的時間序列分析方法,成了研究和應用
    發表于 06-25 15:00

    學習串口屏需要了解哪些方面的知識

    學習串口屏需要掌握的知識主要包括以下幾個方面
    的頭像 發表于 06-05 09:41 ?400次閱讀
    <b class='flag-5'>學習</b>串口屏<b class='flag-5'>需要</b>了解哪些方面的知識

    請問PSoC? Creator IDE可以支持IMAGIMOB機器學習嗎?

    我的項目使用 POSC62 MCU 進行開發,由于 UDB 模塊是需求的重要組成部分,所以我選擇了PSoC? Creator IDE 來進行項目開發。 但現在,由于需要擴展,我不得不使用機器學習模塊
    發表于 05-20 08:06

    機器學習8大調參技巧

    今天給大家一篇關于機器學習調參技巧的文章。超參數調優是機器學習例程中的基本步驟之一。該方法也稱為超參數優化,需要搜索超參數的最佳配置以實現最
    的頭像 發表于 03-23 08:26 ?565次閱讀
    <b class='flag-5'>機器</b><b class='flag-5'>學習</b>8大調參技巧

    嵌入式工程師需要掌握哪些技術?

    的特點和要求是非常有益的。 入行嵌入式需要掌握的技術能力遠不止上述幾點,但這些是入門的基礎。通過學習和實踐,你可以逐漸提高自己的技術水平,并在嵌入式行業中取得成功。希望這篇文章對于那些想要入行嵌入式的人有所幫助。
    發表于 03-04 16:38

    如何使用TensorFlow構建機器學習模型

    在這篇文章中,我將逐步講解如何使用 TensorFlow 創建一簡單的機器學習模型。
    的頭像 發表于 01-08 09:25 ?914次閱讀
    如何使用TensorFlow構建<b class='flag-5'>機器</b><b class='flag-5'>學習</b>模型

    新手小白需要掌握的pcb設計基礎知識

    新手小白需要掌握的pcb設計基礎知PCB
    的頭像 發表于 12-25 10:12 ?1779次閱讀