离线部署AI_Agent的方法

发表于 | 更新于 | 评论数： | 阅读次数：

最近想离线部署一套AI编程工具，以提高生产力。首先研究离线部署LLM的方法，再研究离线部署AI Agent的方法。

Pi 离线安装

开源的AI Agent有很多，这里使用 Pi agent，因为该AI代理具备持久记忆和自我审查能力，支持完全离线运行，可在Ollama等本地模型上使用，具备长期记忆和自主迭代能力。

安装过程1

  • 安装 NVM nodejs多版本管理工具，从官网下载 NVM 安装 NVM。

  • 使用 nvm 安装最新的 nodejs LTS 版本

1
2
3
nvm install 24.19.0 x64
nvm list
nvm use 24.19.0
  • 安装 npm-bundle 用于打包 pi agent
1
npm install -g npm-bundle
  • 安装 Pi agent
1
npm install -g --ignore-scripts @earendil-works/pi-coding-agent
  • 打包 npm 包
1
npm-bundle  @earendil-works/pi-coding-agent

因为打包失败，无法离线安装，暂时放弃此安装方式。

安装过程2

  • 从github下载 pi，即 pi-windows-x64.zip
  • 解压 pi-windows-x64.zip ，并将解压目录添加到 PATH 环境变量

配置过程

pi 代理主要有两个配置文件，通常在目录 .pi/agent/ 下，一个配置文件名叫 settings.json，另一个配置文件名叫 models.json ，需要手动创建。两个配置文件内容如下：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
# settings.json
# 设置 pi 版本、默认 LLM 提供者和默认 LLM

{
  "lastChangelogVersion": "0.84.2",
  "defaultProvider": "ollama",
  "defaultModel": "deepseek-r1:1.5b"
}

# models.json

{
  "providers": {
    "ollama": {
      "baseUrl": "http://localhost:11434/v1",
      "api": "openai-completions",
      "apiKey": "ollama",
      "models": [
        { "id": "deepseek-r1:1.5b" }
      ]
    }
  }
}

内网部署

拷贝 pi-windows-x64.zip 和 目录 .pi/agent/ 到内网机器，按照同样的配置过程设置即可。

使用方法

  • 运行模式：默认进入交互模式，也支持 -p（打印后退出）或 –mode json/rpc。
  • 内建工具：包含 read（读文件）、write（写文件）、edit（改文件）、bash（跑命令）。
  • 常用交互命令：
    • /model：切换 AI 模型。
    • /settings：调整思考级别（Thinking）和主题。
    • /tree / /fork：浏览会话树、分支管理。
    • /compact：手动压缩上下文。

问题记录

Pi 代理无法读写文件

  • 原因：Qwen‑Coder‑2.5‑7B 本身对 Agent 工具调用能力弱于通用大模型

参考链接

  1. 别只拿 AI 写代码了——用 Pi Agent + Skill 搭建你的全能工作流,by 玩客笔记.
  2. Pi Agent 深度剖析：一个”什么都不要”的编码智能体，凭什么一年 8.9 万星？—— 与 Codex、OpenCode 的实现对比,by Arthur.
  3. Pi — 终端 AI 编程助手使用指南,by graysonchen.
  4. 万字详解：普通开发者如何用Ollama、llama.cpp把大模型无缝跑在本地消费级显卡上？,by HogwartscsrQY.