Ollama 本地 AI 完整教學

Ollama 是什麼? Ollama 是一個開源工具,讓你在本地電腦(Windows、macOS、Linux)免費執行大型語言模型(如 Llama、Qwen、Gemma),無需雲端 API,適合隱私需求與一人公司。

官方 GitHub:ollama/ollama | 文件:docs.ollama.com

1. 安裝

macOS / Linux:

curl -fsSL https://ollama.com/install.sh | sh

Windows(PowerShell):

irm https://ollama.com/install.ps1 | iex

或前往 ollama.com/download 下載安裝包。

安裝完成後,終端機執行 ollama 即可啟動。

2. 基本使用

下載並執行模型:

ollama run gemma4

其他推薦模型(見 模型庫):

ollama pull qwen2.5 ollama pull llama3.2 ollama pull deepseek-r1

查看已安裝模型:

ollama list

3. API 呼叫

REST API:

curl http://localhost:11434/api/chat -d '{ "model": "gemma4", "messages": [{"role": "user", "content": "為什麼天空是藍色的?"}], "stream": false }'

Python:

pip install ollama from ollama import chat response = chat(model='gemma4', messages=[{'role': 'user', 'content': '你好'}]) print(response.message.content)

4. 與其他工具整合

  • Open WebUI — 漂亮的網頁介面
  • n8n / Dify — 作為本地模型後端
  • Cursor / Claude Code — 透過 API 連接
  • 官方支援:ollama launch claude 等整合

5. 進階

  • 自訂 Modelfile 建立專屬模型
  • 硬體建議:8GB+ RAM(越大越好)
  • 零成本本地運行,適合一人公司與隱私需求

← GitHub 工具列表 | 搭配 Open WebUI → | 進階版(硬體/FAQ/串接)→ | 首頁

學習進度

登入會員後可標記完成並同步至儀表板。