AnythingLLM 教學

AnythingLLM 是一套由 Mintplex Labs 開發的 AI 開源平台，核心定位就是一個整合型的桌面與伺服器端應用程式，內建文件檢索（RAG）、AI Agents、無程式碼工作流程、以及與多種 LLM 服務相容的介面。

對多數使用者或公司而言，真正的需求不是再多一個模型，而是需要一個地方可以： 模型放哪裡、文件怎麼變成可查詢的知識庫、不同部門如何共享或隔離資料、如何在瀏覽器裡讓非工程背景的人也能用 AI 協作。AnythingLLM 針對的就是這個區塊。它同時提供桌面版與 Docker 版，前者偏向個人或單機私有使用，後者則是明確面向「多使用者、自架私有雲」的情境。

Anything LLM 系統本身不綁定特定模型，而是提供統一的 UI 與後端，讓您接上 OpenAI、Anthropic、Gemini 等雲端服務，或是本機的 Ollama、LM Studio、LocalAI 等伺服器。資料預設儲存在你自己掌握的硬體與儲存空間，不會在未經允許的情況下上傳到第三方。

首先從 Anything LLM 官網下載適合您作業系統的安裝程式。

執行 AnythingLLM 安裝程式。

Anything LLM 安裝完成後，執行，按下「開始使用」。

本教學使用 Show all models > Google > Gmemma3 4B 模型。

AnythingLLM 資料處理與隱私的設定，稍後可在設定中重新配置。

接著是 AnythingLLM 使用者調查，可按下「跳過調查」。

創建您的工作區，即可開始使用 AnythingLLM 。

開始使用的任務包括：

1、建立工作空間

2、發送對話 - 若 LLM 模型未完成下載，將出現 Could not respond to message... Please wait for it to complete to send a chat. 訊息！

3、嵌入文件 - 您提供的檔案將上傳到此 AnythingLLM 的文件處理器，不會發送或共享給第三方。

4、設置系統提示

5、定義斜線命令

6、訪問社群中心

開始使用，您可以發送訊息，或是上傳文件。

以下範例將使用 Python 開發一個支援 Anything LLM 平台的迷你 AI 應用程式：

首先進入 AnythingLLM 系統設定 > 工具 > 開發者 API > 產生新的 API 金鑰。

將產生的 API 金鑰複製到剪貼簿，稍後用於 Python 程式碼。

若出現 No valid api key found 錯誤，請檢查 API Key 是否正確？

若出現 XXX is not a valid workspace 錯誤，請檢查 否正確？

如何查詢工作區的？在工作區按滑鼠右鍵，選擇 Copy Link 複製連結（只取後面的部份）。

原始碼下載 [ AnythingLLM-Chat.py ]

20251127-v2-TKinter-Light

Copyright © 2025 CG Digital Corp. All rights reserved.