LibreChat 是一個以超過 4.4 萬顆星標位居自架 AI 對話平台前列的開源專案,由開發者 Danny Avila 於 2023 年 2 月建立,採 MIT 授權釋出。此平台把 OpenAI、Anthropic、Google、AWS Bedrock 與本機模型整合於單一介面,並內建 AI Agent、MCP 工具、技能系統與程式碼解譯器,讓組織在不外流資料的前提下統一管理所有模型。

LibreChat 是採 MIT 授權的開源自架對話平台,2023 年由 Danny Avila 建立,可整合 OpenAI、Anthropic 與本機模型。

LibreChat README 開頭(專案名稱 LibreChat 與 v0.8.8-rc4 版本更新重點)

LibreChat 是什麼?為何成為自架 AI 平台的熱門選擇?

LibreChat 的定位是「統一所有主要 AI 供應商的對話平台」。它並非單一模型的聊天介面,而是一層同時連接雲端 API 與本機模型的閘道,使用者可以在同一次對話中切換供應商,並沿用既有的提示詞與預設組合。專案自稱完全開源、公開開發,強調使用者對自身 AI 基礎架構的掌控權。

這種定位回應了兩類需求。第一類是對資料外流敏感的組織,希望對話紀錄、檔案與檢索內容都留在自建伺服器;第二類是需要管理多個模型的團隊,過去必須在數個官方介面之間切換,如今可在一個具備權限控管的系統內完成。專案同時提供瀏覽器版管理面板,讓管理員在不重新部署的前提下調整角色與群組權限。

LibreChat 是一層連接雲端 API 與本機模型的閘道,讓使用者在同一介面切換供應商,並把對話與檔案留在自建伺服器,回應資料主權與多模型管理的需求。

LibreChat 的核心技術亮點有哪些?

平台的功能核心分為三層。最底層是模型接入層,支援 Anthropic、AWS Bedrock、OpenAI、Azure OpenAI、Google、Vertex AI 與 OpenAI Responses API,同時相容任何 OpenAI 格式的自訂端點,因此 Ollama、Groq、Mistral、DeepSeek、Qwen、OpenRouter 等服務都能直接掛載。

中層是代理與工具層。LibreChat Agents 提供無程式碼的自訂助理,可掛載 MCP 伺服器、檔案檢索與程式碼執行;技能(Skills)以可重用的 SKILL.md 指令包形式存在,支援手動、自動或常駐三種觸發模式;子代理(Subagents)則把特定工作委派給擁有獨立上下文視窗的子執行緒。最上層是體驗層,包含程式碼工件、Trace Viewer、可恢復串流與多語系介面。

平台分為模型接入、代理工具與體驗三層:底層相容 OpenAI 格式與本機模型,中層提供無程式碼代理、MCP 與技能,上層具備程式碼工件與 Trace Viewer。

LibreChat-AI/LibreChat GitHub 首頁頂部(儲存庫名稱 LibreChat-AI/LibreChat、45k 星標與專案描述)

LibreChat 如何整合多個 AI 模型供應商?

整合方式是 LibreChat 最具辨識度的設計。使用者無需為每個供應商安裝獨立前端,只要在設定檔中宣告端點,平台便會以統一格式轉發請求。官方文件將此設計稱為自訂端點,其關鍵在於兼容 OpenAI 的請求結構,令社群既有的工具鏈可以直接沿用。

對於偏好本機運算的使用者,平台同樣支援連接 Ollama、Apple MLX 與 koboldcpp 等本機推理服務,形成雲端與本機混合的部署形態。這種混合模式在成本控制上尤其實用:高頻的整理與摘要工作可交由本機小模型處理,需要複雜推理的任務再送往雲端旗艦模型,兩者在同一介面內完成切換。

LibreChat 以自訂端點統一接入各供應商,只要端點相容 OpenAI 請求格式即可掛載,並可混合本機模型處理高頻任務、雲端模型負責複雜推理。

LibreChat 在企業部署與資料主權上有什麼優勢?

企業功能集中在驗證、權限與觀測三個面向。身分驗證支援 OAuth2、LDAP 與電子郵件登入,並內建內容審核與用量統計工具;管理面板讓管理員即時調整使用者、群組與角色的權限,無需重新部署服務。對於受監管行業而言,這種設計把帳號治理與模型使用紀錄留在組織內部。

程式碼解譯器是另一項關鍵能力。它由 ClickHouse 的開源專案驅動,在隔離沙箱內執行 Python、Node.js、Go、C、Java、PHP、Rust 與 Fortran 等語言,使用者可上傳檔案、處理後下載結果,整個流程不離開自建環境。觀測層則支援以 OpenTelemetry 匯出追蹤紀錄,並可接入 Langfuse 檢視代理與模型的成本與行為。

企業功能涵蓋 OAuth2 與 LDAP 身分驗證、即時權限管理與用量審核;程式碼解譯器在自建沙箱內執行多種語言,並可用 OpenTelemetry 匯出觀測資料。

LibreChat 的社群與專案數據表現如何?

專案自 2023 年 2 月上線以來維持高頻更新,截至 2026 年 9 月已累積約 4.5 萬顆星標與 9,200 次複製,貢獻者頁面超過 400 頁,顯示其發展並非依賴單一開發者。主要語言為 TypeScript,授權條款為 MIT,允許商業使用與自行修改,這對需要內部客製的團隊是一項重要條件。

  • 45kGitHub 星標
  • 9,216複製次數
  • MIT開源授權
  • 2023專案建立年份

截至 2026 年 9 月,LibreChat 累積約 4.5 萬顆星標與 9,216 次複製,貢獻者超過 400 頁,以 TypeScript 撰寫並採 MIT 授權,允許商業使用與修改。

LibreChat 貢獻者統計頁(貢獻者增長圖表與專案活躍度數據)

如何快速開始部署 LibreChat?

部署路徑以 Docker Compose 為主。官方提供現成堆疊,執行一行指令即可拉起身分驗證、資料庫與管理面板等元件,適合先在單機環境驗證功能。若需要橫向擴充,平台支援以 Redis 支撐多節點部署,並可搭配 S3 與 CloudFront 提供穩定的媒體連結與邊緣傳送。

對於想先評估再導入的團隊,建議先在測試環境接入一至兩個供應商,確認模型回應品質與成本結構,再逐步啟用代理、MCP 與程式碼解譯器。官方同時提醒,升級前必須查閱版本變更紀錄,因為部分版本包含不相容的設定調整,忽略此步驟可能導致既有代理無法運作。

部署以 Docker Compose 為主,一行指令即可啟動完整堆疊;需要擴充時可搭配 Redis 與 S3。升級前應先查閱變更紀錄,避免不相容的設定調整導致代理失效。

出處連結有哪些?

本文資訊整理自 LibreChat 的 GitHub 儲存庫與官方功能文件,版本更新部分參考 v0.8.8-rc4 的說明。

本文內容整理自 LibreChat 的 GitHub 儲存庫(https://github.com/LibreChat-AI/LibreChat),並參考官方網站 librechat.ai 的功能文件與 v0.8.8-rc4 版本更新說明。讀者可前往上述來源查閱完整的部署指引與授權條款。

總結:LibreChat 適合什麼團隊?

LibreChat 適合重視資料主權與多模型管理的團隊。若組織需要把對話與檔案留在自建環境,並在同一介面管理雲端與本機模型,此專案值得優先評估。

LibreChat 的價值在於把分散的模型供應商、代理工具與權限治理收攏到同一個自架系統內。對於需要掌控資料流向的組織,它提供了介於純雲端服務與完全自建方案之間的中間路線。評估時應優先確認模型接入範圍、身分驗證方式與升級維護成本,再決定是否將其作為組織的 AI 對話中樞。