最近想离线部署一套AI编程工具，以提高生产力。首先研究离线部署LLM的方法，再研究离线部署AI Agent的方法。

Ollama 离线安装

目前LLM主流部署框架与工具主要有：Ollama、llama.cpp、vLLM、LM Studio、Xinference、Hugging Face Transformers。综合考虑，先从最简单的开始，离线部署Ollama。

根据机器的CPU指令集，从github官网下载 Ollama的安装包，这里选择绿色版的ollama-windows-amd64.zip。

安装过程

解压ollama-windows-amd64.zip到安装目录，并将 ollama 的安装目录添加到系统环境变量 PATH 中。

新建环境变量 OLLAMA_MODELS ，设置其值为 Ollama 下载模型保存位置。

打开 cmd 窗口，启动 ollama 服务器实例，如下所示：

1	ollama serve

再打开一个cmd窗口，执行 ollama 客户端命令，如下所示：

1	ollama list