精品国产人成在线_亚洲高清无码在线观看_国产在线视频国产永久2021_国产AV综合第一页一个的一区免费影院黑人_最近中文字幕MV高清在线视频

0
  • 聊天消息
  • 系統消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發帖/加入社區
會員中心
創作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

用Redis為LangChain定制AI代理——OpenGPTs

虹科網絡可視化技術 ? 2024-01-13 08:03 ? 次閱讀

OpenAI最近推出了OpenAI GPTs——一個構建定制化AI代理的無代碼“應用商店”,隨后LangChain開發了類似的開源工具OpenGPTs。OpenGPTs是一款低代碼的開源框架,專用于構建定制化的人工智能代理。因為Redis具有高速和穩定性的優點,所以LangChain選擇了Redis來作為OpenGPTs的默認向量數據庫。

文章速覽:

OpenGPTs簡介

Redis在OpenGPTs中的作用

在本地使用OpenGPTs

在云端使用OpenGPTs

Redis與LangChain賦能創新

一、OpenGPTs簡介

通過幾個配置步驟,我們可以用OpenGPTs構建一個精通Redis的機器人,名為“RedisGuru”。

以下是我們選擇的LLM、系統消息和工具的示例,包括DuckDuckGo搜索、維基百科搜索,以及通過Kay.ai訪問的公共新聞稿。

3fc33402-b1a7-11ee-aa22-92fbcf53809c.png

配置并部署RedisGuru后,可以測試代理如何運行:

3fda4804-b1a7-11ee-aa22-92fbcf53809c.png

此外,我們還可以查詢有關Redis數據結構的問題。可以看到,RedisGuru記住了我的名字:

3fe9f060-b1a7-11ee-aa22-92fbcf53809c.png

我們構建的這個RedisGuru代理只是一個應用示例。你也可以構建各類應用,比如電子郵件文案編輯器、智能研究助理、代碼審查員等。

二、Redis在OpenGPTs中的作用

在這個OpenGPTs演示的背后,Redis提供了一個強大且高性能的數據層,是 OpenGPTs 技術棧不可或缺的一部分。

Redis可以持久化用戶聊天會話(線程)、代理配置和嵌入式文檔塊,并用于向量數據庫檢索。

01

用戶聊天會話

為了在對話中維持“狀態”,Redis為OpenGPTs提供了用戶與AI代理間的持久聊天線程。這些聊天會話也被輸入到LLM中,以提供當前對話狀態的上下文信息

02

代理配置

為了支持多租戶代理架構,Redis為OpenGPTs提供了一個遠程的、低延遲的存儲層。當應用程序啟動時,它從Redis讀取指定的代理設置,然后開始處理請求。

03

向量數據庫用于RAG

為了讓對話基于實際情況,OpenGPTs允許我們上傳“知識”源,以便LLM將其與生成的答案結合。通過一種稱為檢索增強生成(RAG)的過程,OpenGPTs將上傳的文檔存儲在Redis中,并提供實時向量搜索,以檢索與LLM相關的上下文。

這些功能是Redis平臺的一部分,通過我們的LangChain + Redis集成融入到應用程序中。

Redis與LangChain的OpenGPTs集成帶來了更高的靈活性、可擴展性以及實時處理和搜索能力。處理多樣化數據結構的能力是Redis成為OpenGPTs記憶功能的首選解決方案。

三、在本地使用OpenGPTs

如果想親自體驗OpenGPTs,你可以在項目的README文件中找到更詳細的指南。以下是一個快速概述:

1、安裝后端依賴:克隆項目倉庫,然后導航到后端目錄并安裝必要的Python依賴項。

cd backendpip install -r requirements.txt

2、連接Redis和OpenAI:OpenGPTs使用Redis作為LLM的記憶庫,使用OpenAI進行LLM的生成和嵌入。設置環境變量REDIS_URL和OPENAI_API_KEY,以連接到您的Redis實例和OpenAI賬戶。

export OPENAI_API_KEY=your-openai-api-keyexport REDIS_URL=redis://your-redis-url

3、啟動后端服務器:在本地機器上運行LangChain服務器,提供應用程序服務。

langchain serve --port=8100

4、啟動前端:在前端目錄中,使用yarn啟動開發服務器。

cd frontendyarnyarn dev

5、在瀏覽器中打開http://localhost:5173/,與您的本地OpenGPTs部署進行交互。

四、在云端使用OpenGPTs

如果希望在沒有本地設置的情況下使用OpenGPTs,可以嘗試在谷歌云上部署。另外,你還可以訪問由LangChain、LangServe和Redis支持的托管預覽部署。這種部署展示了OpenGPTs的可定制性和易用性。

五、Redis與LangChain賦能創新

Redis企業版作為一款企業級的低延遲向量數據庫,在支持生成性AI項目方面具有獨特優勢。其不僅提供向量搜索,還提供多功能數據結構,能有效滿足LLMs的應用狀態需求。這個強大的平臺提供了優異的可擴展性和性能,Redis借此成為生成式AI領域的重要工具。

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規問題,請聯系本站處理。 舉報投訴
  • AI
    AI
    +關注

    關注

    87

    文章

    30106

    瀏覽量

    268401
  • 開源
    +關注

    關注

    3

    文章

    3245

    瀏覽量

    42398
  • Redis
    +關注

    關注

    0

    文章

    371

    瀏覽量

    10846
收藏 人收藏

    評論

    相關推薦

    代理AI如何運作

    代理AI 使用復雜的推理和迭代規劃來自主解決復雜的多步驟問題。
    的頭像 發表于 11-09 11:45 ?205次閱讀
    <b class='flag-5'>代理</b>式<b class='flag-5'>AI</b>如何運作

    微軟Copilot Studio將支持企業創建自主AI代理

    近日,微軟宣布了一項重要進展:下個月,企業將在Copilot Studio中擁有創建自主AI代理的能力。這一消息標志著微軟在AI技術領域的又一次重要突破,將為企業帶來前所未有的智能化升級。 微軟透露
    的頭像 發表于 10-23 11:44 ?290次閱讀

    LangChain框架關鍵組件的使用方法

    LangChain是一個強大的框架,旨在幫助開發人員使用語言模型構建端到端的應用程序。它提供了一套工具、組件和接口,可簡化創建由大型語言模型 (LLM) 和聊天模型提供支持的應用程序的過程。通過
    的頭像 發表于 08-30 16:55 ?511次閱讀
    <b class='flag-5'>LangChain</b>框架關鍵組件的使用方法

    使用Redis和Spring?Ai構建rag應用程序

    隨著AI技術的不斷進步,開發者面臨著如何有效利用現有工具和技術來加速開發過程的挑戰。Redis與SpringAI的結合為Java開發者提供了一個強大的平臺,以便快速構建并部署響應式AI應用。探索這一
    的頭像 發表于 04-29 08:04 ?974次閱讀
    使用<b class='flag-5'>Redis</b>和Spring?<b class='flag-5'>Ai</b>構建rag應用程序

    Redis開源版與Redis企業版,怎么選用?

    點擊“藍字”關注我們數以千計的企業和數以百萬計的開發人員Redis開源版來構建應用程序。但隨著用戶數量、數據量和地區性的增加,成本、可擴展性、運營和可用性等問題也隨之而來。Redis企業版
    的頭像 發表于 04-04 08:04 ?958次閱讀
    <b class='flag-5'>Redis</b>開源版與<b class='flag-5'>Redis</b>企業版,怎么選用?

    Redis官方搜索引擎來了,性能炸裂!

    RediSearch 是一個 Redis 模塊, Redis 提供查詢、二級索引和全文搜索功能。
    的頭像 發表于 02-21 10:01 ?2195次閱讀
    <b class='flag-5'>Redis</b>官方搜索引擎來了,性能炸裂!

    虹科分享 | RedisLangChain定制AI代理——OpenGPTs

    OpenAI最近推出了OpenAI GPTs——一個構建定制AI代理的無代碼“應用商店”,隨后LangChain開發了類似的開源工具OpenGPT
    的頭像 發表于 01-18 10:39 ?328次閱讀
    虹科分享 | <b class='flag-5'>用</b><b class='flag-5'>Redis</b><b class='flag-5'>為</b><b class='flag-5'>LangChain</b><b class='flag-5'>定制</b><b class='flag-5'>AI</b><b class='flag-5'>代理</b>——<b class='flag-5'>OpenGPTs</b>

    LangChain 0.1版本正式發布

    LangChain 由 Harrison Chase 于 2022 年 10 月推出,是一個開源編排框架,用于使用 LLM 開發應用程序,推出后迅速脫穎而出,截至 2023 年 6 月,它是 GitHub 上增長最快的開源項目。
    的頭像 發表于 01-10 10:28 ?946次閱讀

    【愛芯派 Pro 開發板試用體驗】Redis源碼編譯和基準測試

    : sudo make install 命令輸出如下: 可以看到,前面提到的三個可執行程序都安裝了,安裝目錄/usr/local/bin,可以which redis-cli命令驗證: 三
    發表于 12-10 22:18

    【昉·星光 2 高性能RISC-V單板計算機體驗】Redis源碼編譯和性能測試以及與樹莓派4B對比

    ; 2.4 安裝Redis 使用如下命令將Redis可執行程序安裝到系統目錄: sudo make install 命令輸出如下: 可以看到,前面提到的三個可執行程序都安裝了,安裝目錄/usr
    發表于 12-10 21:27

    redis容器內怎么查看redis日志

    redis是一款流行的開源內存數據庫,常用于緩存、消息隊列、任務管理等場景。在使用redis時,了解如何查看redis日志對于排查問題、監控性能和分析應用程序行為非常重要。在本文中,我們將介紹在
    的頭像 發表于 12-05 10:10 ?3484次閱讀

    如何利用OpenVINO加速LangChain中LLM任務

    LangChain 是一個高層級的開源的框架,從字面意義理解,LangChain 可以被用來構建 “語言處理任務的鏈條”,它可以讓AI開發人員把大型語言模型(LLM)的能力和外部數據結合起來,從而
    的頭像 發表于 12-05 09:58 ?776次閱讀

    redis的lru原理

    Redis是一種基于內存的鍵值數據庫,它使用了LRU(Least Recently Used)算法來進行緩存的數據淘汰。LRU算法的核心思想是最近最少使用的數據將會在未來也不常用,因此應該優先
    的頭像 發表于 12-05 09:56 ?603次閱讀

    redis的淘汰策略

    Redis是一種基于內存的鍵值存儲系統,為了充分利用內存,Redis采用了一些淘汰策略來管理內存空間。淘汰策略的作用是當內存空間不足時,選擇合適的數據對象進行淘汰,釋放出更多的內存空間,以供后續
    的頭像 發表于 12-04 16:23 ?521次閱讀

    Java redis鎖怎么實現

    在Java中實現Redis鎖涉及到以下幾個方面:Redis的安裝配置、Redis連接池的使用、Redis數據結構的選擇、實現分布式鎖的幾種方式等。 一、
    的頭像 發表于 12-04 10:47 ?1118次閱讀