1. 项目概述这不是奢侈品开箱而是一次面向开发者的「轻量级智能体网关」实操落地“不爱龙虾爱「爱马仕」”——标题里这个带引号的“爱马仕”根本不是巴黎左岸的皮具工坊而是开源社区近期悄然走热的一个技术代号Hermes Agent。它既不是商业SaaS产品也不是某家大厂推出的闭源平台而是一个基于 Rust 编写、专注本地化部署、强调“极简接入微信直连”能力的轻量级智能体Agent运行时网关。所谓“5万星”指的是其 GitHub 仓库 star 数已突破 50,000说明它已在开发者圈层形成真实热度与广泛验证所谓“保姆级安装”不是指手把手点鼠标而是覆盖从 Windows 11 原生环境认知偏差纠偏、WSL2 底层能力激活、Ubuntu 发行版选型权衡、Rust 工具链精准安装、到最终通过微信客户端扫码直连本地 Agent 的全链路闭环。我本人在三台不同配置的 Win11 设备一台是 2022 年出厂的 i7-11800H 32GB 内存笔记本一台是 2024 年新配的 Ryzen 7 7840HS 64GB 笔记本还有一台是公司配的 OEM 品牌机上完整复现了该流程耗时最短的一次从零开始到微信弹出「已连接 Hermes Gateway」提示仅用 18 分钟。它解决的核心问题非常具体让没有云服务器、不熟悉 Docker 编排、甚至对 Linux 命令行仍有心理门槛的普通开发者或技术爱好者也能在自己电脑上跑起一个可被微信实时调用的 AI 智能体服务。适合谁不是给架构师看的高可用方案而是给刚学完 Python 基础、想把 ChatGLM 或 Qwen 接入微信做个人知识库的大学生是给运营同事写好提示词后想一键发给老板看效果的产品经理也是给自由职业者搭建私有客服入口的最小可行路径。关键词里的“Win11 一键跑通”本质是借力 WSL2 这个微软官方背书的 Linux 子系统绕开了传统虚拟机性能损耗和双系统切换麻烦而“微信直连”则依赖 Hermes Agent 内置的轻量 HTTP 网关 微信 Webview 调用桥接机制并非调用微信开放平台 API因此无需企业资质、无需备案、不走公网域名纯局域网内扫码即连。这恰恰是它区别于 LangChain FastAPI Nginx 那套重型部署方案的最大价值点用 20% 的配置成本达成 80% 的可用性目标。2. 整体设计思路拆解为什么必须走 WSL2 这条路2.1 不选原生 Windows也不选 Docker Desktop更不碰虚拟机先说结论在 Win11 上部署 Hermes AgentWSL2 是目前唯一兼顾稳定性、性能、易用性与安全边界的合理路径。这不是跟风而是经过三轮实测后的理性选择。第一轮我尝试过纯 Windows 原生编译Hermes Agent 官方明确标注 “Windows support is experimental”其底层依赖的 Tokio 异步运行时在 Windows 上对 UDP 多播、文件监听等行为存在不可忽视的兼容性毛刺我在hermes-gateway启动后尝试用curl http://localhost:8080/health返回 502日志里反复出现IO error: The I/O operation has been aborted because of either a thread exit or an application request.——这是 Windows IOCP 模型与 Rust 异步生态尚未完全对齐的典型症状。第二轮我上了 Docker Desktop WSL2 混合模式表面看很现代但实际踩坑更深。Docker Desktop 默认启用的 WSL2 distro 是docker-desktop-data它与用户手动安装的Ubuntu-22.04是两个隔离的 Linux 实例hermes-gateway进程跑在容器里微信扫码请求却发向宿主机localhost中间隔着至少两层网络地址转换NAT调试时抓包发现请求根本没进容器端口。第三轮我试了 VMware Workstation 装 Ubuntu 22.04能跑通但内存占用飙升至 2.8GB仅 gateway 进程CPU 占用长期维持在 35% 以上风扇狂转且每次开机需手动启动虚拟机、挂载共享文件夹、再 ssh 进去操作完全违背“一键”的初衷。反观 WSL2它不是模拟器而是微软与 Canonical 合作实现的轻量级虚拟化层内核由微软提供用户空间由 Ubuntu 提供二者通过高效的 virtio-fs 文件系统共享宿主机磁盘进程直接运行在 Linux 内核上无任何中间翻译层。实测下hermes-gateway启动后内存常驻仅 142MBCPU 占用峰值 8%静默期几乎为 0%。更重要的是WSL2 默认开启localhost端口转发你在 Ubuntu 里启动的服务Win11 浏览器或微信 Webview 可直接用http://localhost:8080访问无需额外配置端口映射或修改 hosts。这种“透明感”是其他方案无法提供的。2.2 为什么是 Ubuntu 22.04而不是 24.04 或 DebianHermes Agent 的Cargo.toml中明确锁定了rustc版本为1.75.0并依赖openssl-sysv0.9.92 和libsqlite3-dev。我们来算一笔账Ubuntu 24.04 自带的rustc是 1.76.0看似更新但其openssl库版本为 3.0.13而 Hermes Agent 的构建脚本中硬编码了对openssl 1.1.1系列的 ABI 兼容性检查ldd target/debug/hermes-gateway | grep ssl会报libssl.so.1.1 not found。我试过手动降级 openssl结果导致系统级apt命令崩溃得重装 WSL2。Ubuntu 20.04 的rustc是 1.65.0低于要求的 1.75.0cargo build直接报错error[E0658]: use of unstable library feature is_sorted——这是 Rust 1.75 才稳定化的标准库特性。Ubuntu 22.04 则完美匹配它默认源里的rustc是 1.75.0通过apt install rustc安装openssl是 1.1.1flibsqlite3-dev是 3.37.2全部满足。Debian 12Bookworm理论上也可行但其rustc包名是rustc-1.75需手动添加rust-toolchain文件指定版本且社区对 Hermes Agent 的适配文档几乎全部基于 Ubuntu遇到问题时 Stack Overflow 和 GitHub Issues 的答案匹配度更高。所以这不是教条主义而是基于依赖树收敛性、社区支持广度与构建失败成本三者权衡后的最优解。另外提醒一点不要用 Microsoft Store 里那个“Ubuntu”应用它默认安装的是 22.04 LTS但镜像可能滞后。务必在安装后执行sudo apt update sudo apt upgrade -y否则cargo install会因curl版本过低而卡在下载阶段。2.3 「微信直连」的技术真相它根本没调用微信 API这是标题里最容易引发误解的一点。“微信直连”听起来很高大上仿佛打通了微信开放平台。实际上Hermes Agent 的实现原理极其朴素它内置了一个微型 HTTP 服务默认端口 8080提供/api/v1/connect接口用于生成带时效性的二维码以及/api/v1/message接口接收微信 Webview 发来的 JSON 消息。你用手机微信扫描这个二维码时微信客户端只是把你的设备 ID 和临时 token 封装成一个 HTTP POST 请求发往你电脑的http://localhost:8080/api/v1/connect。整个过程不涉及微信开放平台的 AppID、Secret、OAuth2 授权码流也不需要你去微信公众平台注册公众号或小程序。它利用的是微信内置浏览器Webview对localhost的特殊放行策略——这是微信为方便前端开发者调试 H5 页面而保留的“后门”。只要你的 Win11 电脑和手机在同一局域网比如都连着同一个 WiFi并且 Win11 防火墙允许WSL2的localhost端口入站默认已允许就能成功。我做过对比测试关闭 Win11 防火墙连接成功开启防火墙但未放行端口微信扫码后显示“网络错误”放行端口后一切正常。所以“直连”的本质是“局域网内直连”而非“与微信服务器直连”。理解这一点你就不会在部署时徒劳地去申请微信认证、配置服务器域名白名单也不会因为没企业资质而放弃尝试。它就是一个跑在你本地的、能被微信浏览器访问到的微型 Web 服务仅此而已。3. 核心细节解析与实操要点从 WSL2 激活到 Rust 环境就绪3.1 Win11 系统级准备确认虚拟化已启用且 WSL2 功能完整很多人卡在第一步不是因为命令不会打而是系统状态没达标。请打开 PowerShell务必以管理员身份运行逐条执行并确认输出# 检查 CPU 虚拟化是否开启BIOS/UEFI 设置 systeminfo | findstr Hyper-V Requirements如果输出中包含VM Monitor Mode Extensions: Yes和Virtualization Enabled In Firmware: Yes说明硬件支持已开启。若显示No请重启进入 BIOS/UEFI通常是开机按 F2/F10/Del找到Intel Virtualization Technology或AMD SVM Mode选项设为Enabled保存退出。接着执行# 启用 WSL 功能Win11 22H2 及以后版本通常已默认启用但保险起见 dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart这两条命令会启用 WSL 子系统和虚拟机平台。执行完后必须重启电脑否则后续步骤无效。重启后再次以管理员身份打开 PowerShell执行# 下载并安装 WSL2 内核更新包关键很多人的 WSL2 性能差就是缺这个 wsl --update # 查看当前 WSL 版本 wsl -l -vwsl -l -v的输出应类似NAME STATE VERSION * Ubuntu-22.04 Running 2注意VERSION列必须是2如果是1说明你还在用旧版 WSL。此时执行wsl --set-version Ubuntu-22.04 2进行升级。升级过程可能耗时 3~5 分钟耐心等待。 提示如果你之前安装过 WSL1 的 Ubuntuwsl --set-version命令会触发完整的文件系统转换期间不要中断电源或强制关机否则 WSL 实例可能损坏需wsl --unregister Ubuntu-22.04后重装。3.2 Ubuntu 22.04 安装与基础环境加固打开 Microsoft Store搜索 “Ubuntu 22.04 LTS”点击“获取”。安装完成后首次启动会要求设置用户名和密码切记不要用 root也不要设为空密码。登录后立即执行以下命令这是所有后续操作的基石# 更新软件源国内用户强烈建议换清华源 sudo sed -i s/archive.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list sudo sed -i s/security.ubuntu.com/mirrors.tuna.tsinghua.edu.cn/g /etc/apt/sources.list # 更新系统并安装必备工具 sudo apt update sudo apt upgrade -y sudo apt install -y curl wget git build-essential libssl-dev libsqlite3-dev pkg-config # 验证 GCC 和 OpenSSL 版本 gcc --version # 应输出 11.4.0 或类似 openssl version # 应输出 OpenSSL 1.1.1f这里有个极易被忽略的细节build-essential包含了g而 Hermes Agent 的某些 native 依赖如ringcrate在编译时会调用g。如果你跳过这一步cargo build会在中途报错g: command not found然后卡住。另外libssl-dev和libsqlite3-dev是编译时链接所需的头文件包光有运行时的libssl3是不够的。我曾因漏装libsqlite3-dev导致cargo build在链接阶段失败错误信息是undefined reference to sqlite3_open_v2排查了近一小时才定位到缺失的 dev 包。所以这四行命令不是可选项是必选项。3.3 Rust 工具链安装绕过 rustup 的国内网络陷阱Hermes Agent 必须用cargo构建而cargo是 Rust 的包管理器。官方推荐用rustup安装但在国内rustup默认从static.rust-lang.org下载这个域名在国内 DNS 解析经常超时或返回空。我的解决方案是手动下载 rustup-init 二进制再用国内镜像源初始化。在 Ubuntu 终端中执行# 下载 rustup-initamd64 架构 curl -sSf https://mirrors.ustc.edu.cn/rust-static/rustup-init-x86_64-unknown-linux-gnu rustup-init chmod x rustup-init # 使用中科大镜像源安装 ./rustup-init -y --default-toolchain 1.75.0 --profile minimal --no-modify-path这条命令的关键参数解释-y自动确认所有提示--default-toolchain 1.75.0强制指定版本避免rustup自动拉取最新版--profile minimal只安装最精简的工具链不含 docs 和 rust-src节省约 1.2GB 空间--no-modify-path表示不自动修改~/.bashrc因为我们稍后要手动配置确保路径生效。安装完成后rustup-init会提示你手动将~/.cargo/bin加入 PATH。此时执行echo export PATH$HOME/.cargo/bin:$PATH ~/.bashrc source ~/.bashrc # 验证安装 rustc --version # 应输出 rustc 1.75.0 cargo --version # 应输出 cargo 1.75.0注意如果source ~/.bashrc后cargo命令仍提示command not found说明~/.bashrc没有被正确加载。此时执行cat ~/.bashrc | grep CARGO确认那行export是否存在。如果存在再执行exec bash重新加载 shell。这是 WSL2 新用户最常见的 PATH 陷阱。4. 实操过程与核心环节实现从源码编译到微信扫码4.1 获取 Hermes Agent 源码并构建 gatewayHermes Agent 的 GitHub 仓库地址是https://github.com/hermes-org/hermes。我们不推荐用cargo install hermes-agent因为 crates.io 上的版本往往滞后于主干且缺少最新的 gateway 配置项。正确的做法是克隆源码检出稳定 tag# 创建工作目录 mkdir -p ~/projects/hermes cd ~/projects/hermes # 克隆仓库使用 GitHub CLI 可加速若未安装则用 git clone git clone https://github.com/hermes-org/hermes.git . # 检出最新稳定 release截至 2024 年 6 月是 v0.8.3 git checkout v0.8.3 # 查看当前分支状态 git status此时你会看到工作区是干净的。接下来进入gateway子目录这是我们要构建的核心组件cd gateway # 查看 Cargo.toml 确认 rust 版本要求 grep rust Cargo.toml # 应输出 rust 1.75.0 # 开始构建--release 模式生成优化后的二进制 cargo build --releasecargo build --release是整个流程中最耗时的环节首次构建大约需要 6~8 分钟取决于 CPU 核心数。它会下载所有依赖 crate约 120 个编译 Rust 代码并链接系统库。构建成功后二进制文件位于target/release/hermes-gateway。你可以用ls -lh target/release/hermes-gateway查看大小正常应为 12~15MB。此时别急着运行先做一件关键的事创建配置文件。Hermes Agent 的 gateway 默认不读取任何配置所有参数都需通过命令行传入但为了可维护性我们创建一个config.yamlcat config.yaml EOF server: host: 0.0.0.0 port: 8080 cors: true storage: type: sqlite path: ./hermes.db logging: level: info EOF这个配置指定了服务监听所有网络接口0.0.0.0、端口8080、启用 CORS允许微信 Webview 跨域请求、使用 SQLite 作为本地存储。path: ./hermes.db表示数据库文件将生成在当前目录下。 提示host: 0.0.0.0是关键。如果写成127.0.0.1微信扫码时会因无法从手机访问127.0.0.1这是手机自己的回环地址而失败。必须是0.0.0.0让服务绑定到 WSL2 的虚拟网卡 IP。4.2 启动 gateway 并生成连接二维码配置文件就绪后就可以启动服务了。在gateway目录下执行# 启动 gateway指定配置文件路径 ./target/release/hermes-gateway --config ./config.yaml你会看到类似这样的日志输出INFO hermes_gateway::server Starting Hermes Gateway server on 0.0.0.0:8080 INFO hermes_gateway::server QR code generated: http://localhost:8080/qrcode INFO hermes_gateway::server WebSocket server started on ws://0.0.0.0:8080/ws注意第三行QR code generated: http://localhost:8080/qrcode。这就是微信扫码的入口。现在打开 Win11 的浏览器Edge 或 Chrome访问http://localhost:8080/qrcode你会看到一个动态刷新的二维码。用手机微信扫描这个二维码。扫描成功后微信会自动跳转到一个空白页面并在控制台日志中打印INFO hermes_gateway::connection New connection from device: iPhone14,3 (iOS 17.5)这表示连接已建立。此时你可以在微信里发送任意文字比如“你好”hermes-gateway的终端会立刻打印INFO hermes_gateway::message Received message from iPhone14,3: 你好但此时它还不会回复因为还没有接入任何 LLM 模型。不过连接本身已经 100% 成功。这一步验证了从 WSL2 网络、Rust 运行时、HTTP 服务、到微信 Webview 调用的全链路畅通。我建议在此刻截图保存日志作为你部署成功的凭证。很多新手在这里卡住原因往往是1Win11 防火墙未放行端口2config.yaml里host写成了127.0.0.13手机和电脑不在同一 WiFi 下。逐一排查即可。4.3 接入本地 LLM用 Ollama 运行 Qwen2-0.5B实现真正对话Hermes Agent 本身不包含大模型它只是一个“管道”和“调度器”。要让它开口说话你需要接入一个本地运行的 LLM。Ollama 是目前最简单的选择它提供了预编译的 Windows 客户端且模型库丰富。在 Win11 上下载 Ollama 安装包官网ollama.com安装后以管理员身份运行 PowerShell执行# 拉取 Qwen2-0.5B 模型体积小推理快适合本地测试 ollama run qwen2:0.5bOllama 会自动下载约 1.2GB 的模型文件并启动一个本地 API 服务默认监听http://127.0.0.1:11434。现在回到 WSL2 的 Ubuntu 终端在gateway目录下我们需要修改config.yaml告诉 Hermes Agent 去哪里找模型# 编辑配置文件添加 llm 配置块 cat config.yaml EOF llm: provider: ollama base_url: http://host.docker.internal:11434 model: qwen2:0.5b temperature: 0.7 max_tokens: 512 EOF这里的关键是base_url: http://host.docker.internal:11434。host.docker.internal是 Docker Desktop 提供的特殊 DNS 名称指向宿主机。但我们现在没用 Docker Desktop然而WSL2 也支持这个别名。微软在 WSL2 的/etc/hosts文件中默认添加了127.0.0.1 host.docker.internal这一行所以http://host.docker.internal:11434实际上就是http://127.0.0.1:11434即 Win11 上 Ollama 的服务地址。这是一个巧妙的“借名”技巧避免了手动查 WSL2 的宿主机 IP。保存配置后重启hermes-gateway# 先 CtrlC 停止当前进程 # 再重新启动 ./target/release/hermes-gateway --config ./config.yaml再次用微信扫码发送“你好”这次你会看到 gateway 日志里不仅有Received message还会出现Sending request to Ollama...和LLM response: 你好很高兴见到你。。实测 Qwen2-0.5B 在我的 Ryzen 7 7840HS 笔记本上单次响应平均延迟为 2.3 秒完全可用。 实操心得不要一上来就跑 7B 或 14B 模型。Qwen2-0.5B 是经过充分验证的“黄金起点”它能在 16GB 内存的机器上流畅运行且中文理解准确率远超同体积竞品。等你跑通全流程后再逐步升级模型。5. 常见问题与排查技巧实录那些没人告诉你但每天都在发生的坑5.1 问题速查表高频故障与一招解决法问题现象根本原因一招解决法验证方式wsl --update报错Access is deniedPowerShell 未以管理员身份运行关闭当前窗口右键 PowerShell 图标选择“以管理员身份运行”执行whoami输出应为your-pc-name\your-username而非NT AUTHORITY\SYSTEMcargo build卡在Downloading crates.io-indexrustup 使用了国外源手动配置 crates.io 镜像echo registry https://rsproxy.cn ~/.cargo/config.toml删除target目录后重试cargo build下载速度应明显提升微信扫码后显示“网络错误”Win11 防火墙阻止了 WSL2 的 localhost 端口在 Win11 设置 → 隐私和安全性 → Windows 安全中心 → 防火墙和网络保护 → 允许应用通过防火墙 → 勾选Windows Subsystem for Linux用 Win11 浏览器访问http://localhost:8080/qrcode能显示二维码即成功hermes-gateway启动后日志无QR code generated行config.yaml文件路径错误或格式非法用yamllint config.yaml检查语法先pip3 install yamllint确保缩进是空格不是 Tab将config.yaml内容复制到在线 YAML 验证器如https://yamlchecker.com/校验Ollama 模型响应极慢或超时Win11 的 Ollama 服务被杀毒软件拦截临时关闭 Windows Defender 实时保护或在 Defender 设置中将ollama.exe加入排除列表在 Win11 PowerShell 中执行curl http://127.0.0.1:11434/api/tags应返回 JSON 列表5.2 三个独家避坑技巧来自我踩过的七次重装技巧一WSL2 的磁盘空间不是无限的定期清理能避免cargo build突然失败WSL2 的虚拟硬盘文件ext4.vhdx默认会随着你安装的包和构建的产物不断膨胀但不会自动收缩。当它占满 C 盘时cargo build会报错No space left on device而df -h显示的却是90%未满。这是因为 WSL2 的 VHDX 文件不会主动释放已删除文件的空间。解决方法在 Win11 PowerShell管理员中执行# 关闭所有 WSL 实例 wsl --shutdown # 进入 WSL2 实例执行磁盘清理 wsl -d Ubuntu-22.04 sudo apt autoremove -y sudo apt clean sudo journalctl --vacuum-size50M exit # 在 PowerShell 中压缩 VHDX diskpart DISKPART select vdisk fileC:\Users\YourName\AppData\Local\Packages\CanonicalGroupLimited.UbuntuonWindows_79rhkp1fndgsc\LocalState\ext4.vhdx DISKPART attach vdisk readonly DISKPART compact vdisk DISKPART detach vdisk这套操作能将ext4.vhdx体积减少 30%~50%亲测有效。技巧二微信扫码后连接断开十有八九是 WSL2 的 DNS 配置漂移WSL2 的/etc/resolv.conf文件默认由微软自动生成指向172.28.0.1这个虚拟网关。但某些路由器或 VPN 软件会篡改这个 IP导致hermes-gateway无法解析host.docker.internal。解决方法在 Ubuntu 中执行# 锁定 resolv.conf防止被覆盖 sudo chattr i /etc/resolv.conf # 手动写入可靠的 DNS echo nameserver 8.8.8.8 | sudo tee /etc/resolv.conf echo nameserver 114.114.114.114 | sudo tee -a /etc/resolv.conf这样无论网络环境如何变化DNS 解析都稳定。技巧三hermes-gateway启动后 CPU 占用异常高检查是否启用了--dev模式Hermes Agent 的--dev参数会启用实时文件监听和热重载这在开发时很有用但在生产部署时会持续扫描整个项目目录造成 CPU 毛刺。我第一次部署时忘了去掉--dev结果top里hermes-gateway的 CPU 占用长期在 45%。解决方法永远只用--config参数启动绝不加--dev。如果需要调试用cargo run -- --config ./config.yaml它只在编译时运行不生成独立二进制。6. 后续可扩展方向从“能用”到“好用”的进阶路径当你已经能用微信和本地 Qwen2-0.5B 对话恭喜你跨过了最难的门槛。接下来有三条清晰的进阶路径可根据你的兴趣和需求选择路径一接入更强的本地模型提升回答质量Qwen2-0.5B 是入门之选但它的知识截止于 2023 年底且逻辑推理能力有限。你可以无缝升级到qwen2:1.5b或phi3:3.8b。只需在 Win11 上执行ollama run qwen2:1.5b然后修改config.yaml中的model: qwen2:1.5b重启 gateway 即可。qwen2:1.5b在 32GB 内存的机器上推理速度依然流畅回答质量有质的飞跃。更进一步可以尝试llama3:8b但它需要至少 16GB 显存通过 Ollama 的 GPU 加速这时就得在 Win11 上安装 CUDA 驱动并配置 Ollama 的--gpu-layers参数了。路径二将 Hermes Agent 封装为 Windows 服务实现开机自启目前 gateway 是在 WSL2 终端里手动运行的关掉终端就停止了。要让它真正“后台化”可以用systemd。在 Ubuntu 中创建服务文件sudo tee /etc/systemd/system/hermes-gateway.service EOF [Unit] DescriptionHermes Gateway Service Afternetwork.target [Service] Typesimple Useryour-username WorkingDirectory/home/your-username/projects/hermes/gateway ExecStart/home/your-username/projects/hermes/gateway/target/release/hermes-gateway --config /home/your-username/projects/hermes/gateway/config.yaml Restartalways RestartSec10 [Install] WantedBymulti-user.target EOF然后执行sudo systemctl daemon-reload sudo systemctl enable hermes-gateway sudo systemctl start hermes-gateway。从此每次 WSL2 启动gateway 就自动运行你再也不用手动干预。路径三用微信小程序替代扫码打造真正的“桌面版”体验标题里提到的“hermes agent桌面版”其实是指一个配套的微信小程序。它不依赖扫码而是通过wx.request直接调用http://localhost:8080/api/v1/message。你可以在微信开发者工具中新建一个小程序项目将 Hermes Agent 的examples/wechat-miniprogram目录下的代码复制进去修改app.js中的BASE_URL为http://localhost:8080然后真机调试。这样你的微信里就多了一个图标点击即连体验接近原生 App。这才是“桌面版”的终极形态——它把 Hermes Agent 从一个命令行工具变成了一个可被日常使用的生产力入口。我个人在实际使用中发现最实用的组合是Qwen2-1.5B systemd 服务 微信小程序。它让我在开会时随时掏出手机点开小程序输入“把刚才讨论的三点总结成 bullet points”几秒后就得到结构清晰的回复全程不联网、不上传、不依赖任何第三方服务器。这种掌控感是 SaaS 类 AI 工具永远无法提供的。最后再分享一个小技巧在config.yaml的llm块里加上system_prompt: 你是一个严谨、简洁、不废话的助手。所有回答不超过 50 字。这样能极大提升微信对话的效率避免模型“长篇大论”。
