你有冇試過用 ChatGPT 或者 Midjourney，每個月比緊 USD $20 甚至更多？我有。
直到半年前，我決定試下將呢啲月費 Cut 晒，全部轉用開源模型自建。結果唔單止慳咗錢，仲發現開源模型嘅表現已經唔輸畀商業方案——某啲場景甚至仲好用。
今日同你分享呢半年我由「月費用家」轉做「自建玩家」嘅完整經驗，無論你係開發者定係普通用家，都可以搵到適合你嘅方案。
2026 年開源 AI 嘅三大突破
如果你仲停留喺「開源 AI = 質素差、難用、要識寫 Code」嘅印象，咁你要更新一下認知。2026 年頭六個月，開源生態發生咗三件大事：
1. Llama 4 全面開放
Meta 喺今年初釋出嘅 Llama 4 系列，唔單止免費商用，仲有 8B、70B 同 405B 三個規模。其中 Llama 4 70B 喺多項 benchmark 上已經超越 GPT-4o，仲要係完全開源。
2. Mistral Large 2 成本效益稱王
法國 Mistral AI 推出嘅 Mistral Large 2，喺推理同 coding 能力上極之出色。最正係佢有128K context window，文件分析能力超強。而家用佢嘅 API 成本只係 GPT-4o 嘅三分之一。
3. Flux 取代 Stable Diffusion 成為新標準
Black Forest Labs 開源嘅 Flux.1 模型，喺文字理解、手指生成、排版能力上完全碾壓咗 SDXL。而家用消費級 GPU（RTX 4090）已經可以本地行 Flux，生成質素同 Midjourney 不相伯仲。
方法一：完全本地自建（適合有 GPU 嘅用家）
如果你屋企有張 RTX 3060 或以上嘅顯示卡，你完全可以喺自己部電腦行開源 LLM。
硬件基本要求
| 模型規模 | 最少 VRAM | 建議 VRAM | 速度 |
|---|---|---|---|
| 7B-8B | 6GB | 8GB+ | 流暢 |
| 13B-14B | 10GB | 16GB+ | 正常 |
| 30B-34B | 20GB | 24GB+ | 較慢 |
| 70B+ | 32GB | 48GB+ | 需要量化 |
推薦工具
Ollama — 最簡單嘅開源 LLM 運行工具
# 安裝 Ollama（Mac / Linux / Windows 都支援）
curl -fsSL https://ollama.com/install.sh | sh
# 下載並運行 Llama 4 8B（只需 4 步）
ollama pull llama4:8b
ollama run llama4:8b
就係咁簡單。裝完之後你有一個同 ChatGPT 差唔多嘅對話介面，完全離線、完全免費。
Open WebUI — 可視化操作介面 如果你唔鍾意打 Command，裝 Open WebUI 就有個靚仔介面：
docker run -d -p 3000:8080 --name open-webui ghcr.io/open-webui/open-webui:main
然後你 browser 打開 http://localhost:3000，就可以好似用 ChatGPT 咁用開源模型。
本地生成圖像
用 ComfyUI 配合 Flux 模型：
git clone https://github.com/comfyanonymous/ComfyUI
cd ComfyUI
pip install -r requirements.txt
python main.py
打開 browser 去 http://localhost:8188，你就有個同 Midjourney 差唔多嘅圖像生成工具。
方法二：雲端平價 API（適合冇 GPU 嘅用家）
冇 GPU 完全唔係問題。2026 年開源模型嘅 API 服務選擇好多，價錢仲好抵：
| 服務商 | 模型 | 每百萬 Token 收費 | 特點 |
|---|---|---|---|
| Groq | Llama 4 70B | $0.59 | 極快（LPU 硬件加速） |
| Together AI | Mistral Large 2 | $0.80 | 超大 Context |
| DeepInfra | Qwen 3 72B | $0.50 | 中文表現最好 |
| Fireworks | Llama 4 8B | $0.20 | 最平選擇 |
實際比較：我每個月大概用 500 萬 Token（約等於 3-4 本小說嘅內容），用 Together AI 嘅 Mistral Large 2，每月成本大約 USD $4。相比之前畀 ChatGPT Plus USD $20，慳咗 80%。
方法三：開源模型嘅殺手鐧應用
1. 私人文件助手
我最常用嘅場景：將公司合約、會議紀錄、技術文件全部放入本地 RAG 系統。
技術組合：Ollama + AnythingLLM
- 支援 PDF、Word、Markdown、網頁
- 完全離線，資料唔會送出街
- 可以用嚟做客服知識庫
2. 自動化寫作助手
用開源 LLM 搭配 n8n 自動化：
- 自動摘要每日新聞
- 生成 Blog 文章初稿（呢篇文章都係用開源 LLM 輔助寫嘅）
- 翻譯外電內容
3. 本地圖像生成
用 Flux + ComfyUI 做嘅日常應用：
- 生成 Blog 封面圖（你見到嘅封面就係 Flux 生成嘅）
- 產品 mockup
- 社交媒體素材
- 所有版權都屬於你，冇額外授權限制
開源 vs 商業：我嘅真實比較
| 比較項目 | 開源方案（自建） | 商業方案（ChatGPT/Midjourney） |
|---|---|---|
| 每月成本 | $0-$10 | $20-$200 |
| 私隱 | 完全離線 | 資料送上雲端 |
| 自訂能力 | 可以 Fine-tune | 有限制 |
| 即用程度 | 要少少技術 | 開箱即用 |
| 質素（2026） | 已追平 | 依然頂尖 |
結論：如果你有少少技術底，開源方案絕對值得試。就算你完全唔識技術，用 Groq 嗰類 API 服務都已經可以享受到開源模型嘅好處，仲要平好多。
常見錯誤與迷思
迷思一：「開源模型好難裝」
真相：Ollama 嘅安裝唔難過裝 WhatsApp。一個 Command 搞掂。
迷思二：「開源模型質素好差」
真相：Llama 4 70B 喺多項測試已經超越 GPT-4o。2026 年嘅開源模型同商業模型嘅差距已經微乎其微。
迷思三：「得 Developer 先用得」
真相：Open WebUI 呢類工具令非技術用家都可以用。而且 Groq、Together AI 呢啲平台提供嘅 API 服務，用法同 ChatGPT 一樣咁簡單。
真實建議
由月費制轉自建，最好嘅策略係 「混用」：
- 日常對話、簡單查詢用免費開源
- 重要專案、複雜任務先用商業方案
- 每月成本由 $200 降至 $30 以內
下一步行動清單
- 今日就試：裝 Ollama，下載 Llama 4 8B，即刻有得用
- 呢個星期：試下用 Open WebUI，建立你嘅私人 AI 助手
- 呢個月：將一個常用嘅月費服務 Cut 咗，轉用開源替代
- 三個月內：建立完整嘅自建 AI 工作流
FAQ
問：MacBook 行唔行到開源 LLM？ 答：可以。Mac 嘅統一記憶體架構（Unified Memory）其實好適合行 LLM。M2/M3 系列 16GB RAM 以上已經可以流暢行 8B 模型。
問：最易上手嘅圖像生成方案係咩？ 答：用 Fooocus（基於 Stable Diffusion 但唔使 Set 任何參數），裝好之後好似 Midjourney 咁打 Prompt 就得。
問：開源模型有冇版權問題？ 答：Llama 4、Mistral、Qwen 都容許商用。唯一要留意係 Flux 模型用咗「非商業條款」嘅訓練數據，商用前最好 Check 清楚。
問：用開源模型係咪一定慳錢？ 答：計電費同硬件折舊其實唔一定。但如果用雲端 API，成本一定比商業方案低。
2026 年係開源 AI 嘅轉捩點。無論你決定 Stay 喺商業方案定係試下自建，最緊要係知道自己有選擇。我自己就由完全依賴商業方案，到而家大約 70% 嘅 AI 用量都行開源模型。每個月慳返嘅錢，夠請自己食幾餐好嘢。