Hermes Agent + 本地 Gemma 4 + 微信接入：零成本打造私有 AI 助手（完整教程）

🚀 Hermes Agent + 本地 Gemma 4 + 微信接入：零成本打造私有 AI 助手（完整教程）

hermesagent.png

如果你正在寻找一套：

  • ✅ 完全本地运行（不依赖云 API）
  • ✅ 无需 API Key（真正免费）
  • ✅ 可接入微信（真实应用场景）
  • ✅ 支持 Agent 自动化能力

那么这套组合可以说是当前最具性价比的方案之一：

Hermes Agent + WebUI + Ollama + Gemma 4

hermes

不仅隐私安全，而且具备极强的扩展能力，非常适合：

  • 私域 AI 助手
  • 自动客服系统
  • AI 工具开发
  • 商业化探索

🧠 一、整体架构解析

先快速理解系统结构：

1
2
3
4
5
6
7
8
9
10
11
本地模型层：
Ollama + Gemma 4

Agent 调度层：
Hermes Agent

交互界面：
Hermes WebUI

应用层：
微信接入（WeChat Bot）

👉 数据全程本地运行，无需任何外部 API。

📦 二、本地模型部署（Ollama + Gemma 4）

1️⃣ 安装 Ollama

👉 官网下载：
https://ollama.com/

安装完成后，点Settings设置相关配置（如图所示：）

ollama

打开终端管理员Powershell 执行：

1
ollama run gemma4

首次运行会自动下载模型，或者直接在Ollama界面选择一个模型，然后随便发送一句对话，将自动下载模型。(如图所示：)

ollama2.png

2️⃣ 获取本地 API 地址

Ollama 默认地址：

1
http://127.0.0.1:11434

⚠️ Hermes 不能用 localhost，需要使用局域网 IP

在 Windows CMD 输入：

1
ipconfig /all

找到：

1
IPv4 地址：192.168.1.xxx

最终 API 地址：

1
http://192.168.1.xxx:11434/v1

👉 这个地址非常关键！

🐧 三、部署 Linux 环境（WSL2）

Hermes 官方推荐 Linux，Windows 用户建议使用 WSL2。

安装步骤：

1️⃣ 安装 WSL2

PowerShell（管理员）执行：

1
wsl --install

重启后安装 Ubuntu：

1
wsl --install -d Ubuntu

2️⃣ 检查版本

1
wsl --version

确保为：

1
WSL version: 2

⚙️ 四、部署 Hermes Agent + WebUI

1️⃣ 安装 Hermes Agent

1
curl -fsSL https://raw.githubusercontent.com/NousResearch/hermes-agent/main/scripts/install.sh | bash

检查环境：

1
hermes doctor

2️⃣ 安装 WebUI

1
2
3
git clone https://github.com/nesquena/hermes-webui.git
cd hermes-webui
./start.sh

打开浏览器访问：

1
http://127.0.0.1:8787

🍎 Mac 一键部署

1
2
3
git clone https://github.com/nesquena/hermes-webui.git
cd hermes-webui
python3 bootstrap.py

🔌 五、对接本地 Gemma 4

运行：

1
hermes setup

关键配置：

1
2
3
Model Provider: OpenAI Compatible
Base URL: http://192.168.1.xxx:11434/v1
Model Name: gemma4

⚠️ 上下文不足问题

如果报错：

1
context window too small

解决方案：

1
2
model:
  context_length: 8192

或：

  • 换更大模型（如 7B / 13B / 26B）
  • 提升硬件配置

💬 六、接入微信（核心功能）

1️⃣ 进入配置

1
hermes setup

2️⃣ 选择平台

1
messaging platforms → wechat / weixin

3️⃣ 扫码登录

系统会弹出二维码：

👉 使用微信扫码即可绑定

🎉 最终效果

你将获得：

  • 🤖 微信 AI 助手（实时对话）
  • 🧠 本地模型（完全离线）
  • ⚙️ Agent 自动执行任务
  • 🔒 数据私有、安全可控

🧩 七、常见问题（避坑指南）

1️⃣ 模型上下文不足

✔ 解决：

  • 修改 context_length
  • 使用更大模型

2️⃣ Ollama 无法访问

❌ 错误：

1
127.0.0.1

✅ 正确：

1
局域网 IP（192.168.x.x）

3️⃣ WebUI 打不开

排查：

1
./start.sh

或检查端口占用（8787）

4️⃣ 微信掉线问题

原因：

👉 微信协议限制

建议：

  • Hermes 常驻运行
  • 避免频繁重启
  • 使用稳定网络

🏁 八、总结

这套方案的核心优势：

🔥 三大关键词

  • 零成本
  • 本地化
  • 可扩展 Agent

💡 对比传统 OpenAI API

项目 本方案 OpenAI API
成本 免费 按量付费
隐私 本地 云端
稳定性 高 受限
可控性 强 较弱

🎯 适用场景

  • 私域流量运营
  • 自动客服系统
  • AI 产品开发
  • 企业内部助手

🚀 最后一句话

如果你想真正掌控 AI，而不是“租用 AI”，
那么这套架构，值得你深入研究。