大语言模型Agent学习笔记

发表于 2026-04-23

最近一段事件，基于 LLM 的 Agent 非常火爆，比如 OpenClaw 龙虾。那么什么是 AI Agent，基于 LLM 的 Agent 带来了哪些突破呢？值得探究一下。

什么是 AI Agent

在生成式人工智能的背景下，AI 代理（也称为复合 AI 系统或自主 AI）是一类能够在复杂环境中自主运行的智能代理。自主 AI 工具优先考虑决策而非内容创建，并且不需要持续监督。

AI 代理具有几个关键属性，包括复杂的目标结构、自然语言接口、能够在无需用户监督的情况下独立行动的能力，以及集成软件工具或规划系统。它们的控制流程通常由大型语言模型（LLMs）驱动。代理还包括用于记忆先前用户-代理交互的记忆系统和用于组织代理组件的编排软件。

AI 代理的一个常见应用是任务的自动化，例如根据用户的提示请求预订旅行计划。

AI Agent 构成

AI Agent = LLM（推理） + Tools（工具） + Planning（规划） + Memory（记忆）

其执行流程如下：

用户输入
   ↓
[感知 Perception] ← 记忆
   ↓
[规划 Planning]  → 分解任务
   ↓
[决策 Decision]  → 选择行动
   ↓
[执行 Action]    → 调用工具
   ↓
[观察 Observation] → 获取结果
   ↓
(循环直到完成)
   ↓
返回最终答案

AI Agent 分类

类型	特点	适用场景	代表框架
ReAct	推理+行动交替	单步任务、工具调用	LangChain
Plan-and-Execute	先规划再执行	复杂多步任务	BabyAGI
Autonomous	自主循环运行	长期目标任务	AutoGPT
Multi-Agent	多智能体协作	复杂系统、角色分工	MetaGPT

AI Agent 关键技术

大语言模型（LLM）
工具调用（Function Calling）
工具库设计
记忆机制
- 短期记忆（对话历史）
- 长期记忆（向量数据库）
- 结构化记忆（实体记忆）

AI Agent 生态位

┌─────────────────────────────────────┐
│           外部工具 / 数据源          │  文件系统、数据库、GitHub、Slack…
├─────────────────────────────────────┤
│   MCP 服务器 / Skills（能力封装层）   │  标准化协议连接 & 模块化能力包
├─────────────────────────────────────┤
│          Agent（执行循环层）         │  感知 → 推理 → 工具调用 → 观察
├─────────────────────────────────────┤
│          LLM（推理核心层）           │  Claude、GPT-4o、DeepSeek、Gemini…
└─────────────────────────────────────┘

参考链接

LLM Agent开发指南,by meiluosi.
万字长文解读LLM Agent：总体框架、经典论文与实践, 魔法学院的Chilia.
AI agent,by wikipedia.
为什么调用 OpenAI Tools 后，还要再请求一次大模型？——从代码看 LLM 工具调用的本质,by 烟袅破辰.
使用 OpenAI SDK 调用 Tools 实现外部工具集成,by 烟袅破辰.
大模型工具调用完整指南：从原理到实践,by 鱼XueTr.
MCP、Skills、Agent、LLM：四层架构全解，一文理清核心概念,by 七牛云行业应用.

厨房实验室读书笔记

发表于 2026-04-21 | 更新于 2026-04-23

读《厨房实验室》有感：日常生活中，科学无处不在。

第一章甜言蜜语

碳水化合物，含糖的天然化学物质。

单糖：葡萄糖、果糖
双糖：蔗糖、麦芽糖、乳糖
多糖：纤维素、淀粉

第二章地中之盐

第三章肥沃之地

食物的3种主要成分是蛋白质、碳水化合物和脂肪。

脂肪每克含9卡路里热量，而蛋白质和碳水化合物每克含4卡路里热量。

脂肪分子由两部分组成，即甘油部分和脂肪酸部分。

脂肪酸可分为饱和脂肪、多不饱和脂肪和单不饱和脂肪。

第四章厨房里的化学物质

小苏打（又名碳酸氢钠）是一种单一的化学物质，在厨房中是胀发，产生数以百万计的二氧化碳小气泡，从而使烘焙产品胀发。

第五章海陆双鲜

参考链接

厨房实验室,by douban.

AI是怎么回事读书笔记

发表于 2026-04-13 | 更新于 2026-04-15

作者对AI的思考很深刻，有见地，浅显易懂，值得一读。

AI 是超级模式匹配器

AI 幻觉（AI Hallucination）

AI 生成的内容，是基于训练数据中的统计模式”拼接”而成的。当这些统计模式碰巧和事实一致时，输出是”正确的”。当统计模式偏离了事实，输出就是”幻觉”。

一套判断工具

三问判断法

三问判断法判断AI是否能够解决你的问题：

第一问：这个任务能转化为模式匹配吗？
第二问：训练数据够不够？
第三问：你能验证 AI 的输出吗？

和AI协作的原则

原则一：让 AI 做它擅长的事
原则二：验证 > 信任
原则三：迭代，而非一次到位
原则四：用 AI 放大你的优势，而非替代你的思考

参考链接

AI是怎么回事,by wmyskxz.

Pytorch实现卷积神经网络LeNet笔记

发表于 2026-03-11 | 更新于 2026-03-15

阅读完《动手学深度学习》第二版，深受启发。为了巩固成果，决定动手使用pytorch实现卷积神经网络LeNet，以掌握构建、训练、测试深度学习模型的流程和方法。

环境准备

使用Python 3.12.10, 执行如下命令：

# 创建虚拟环境
python -m venv d2l_learn

# 激活虚拟环境
.\d2l_learn\Scripts\activate

# 退出虚拟环境
deactivate

# 安装pytorch
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1  --index-url https://download.pytorch.org/whl/cu121

# 安装d2l依赖包
pip install pandas requests IPython matplotlib scipy notebook

# 下载d2l，获取d2l模块，放入Lib\site-packages文件夹，因为 pip install d2l 直接安装报错
git clone https://github.com/d2l-ai/d2l-en.git
git clone https://github.com/d2l-ai/d2l-zh-pytorch-colab.git

# 打开Jupyter笔记本
cd .\d2l-zh-pytorch-colab\
jupyter notebook

代码示例

import torch
from torch import nn
from d2l import torch as d2l

# 构建神经网络结构
net = nn.Sequential(
    nn.Conv2d(1, 6, kernel_size=5, padding=2), nn.Sigmoid(),
    nn.AvgPool2d(kernel_size=2, stride=2),
    nn.Conv2d(6, 16, kernel_size=5), nn.Sigmoid(),
    nn.AvgPool2d(kernel_size=2, stride=2),
    nn.Flatten(),
    nn.Linear(16 * 5 * 5, 120), nn.Sigmoid(),
    nn.Linear(120, 84), nn.Sigmoid(),
    nn.Linear(84, 10))

# 查看每一层输出结果
X = torch.rand(size=(1, 1, 28, 28), dtype=torch.float32)
for layer in net:
    X = layer(X)
    print(layer.__class__.__name__,'output shape: \t',X.shape)

# 准备数据
batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size=batch_size)

# 模型评估
def evaluate_accuracy_gpu(net, data_iter, device=None): #@save
    """使用GPU计算模型在数据集上的精度"""
    if isinstance(net, nn.Module):
        net.eval()  # 设置为评估模式
        if not device:
            device = next(iter(net.parameters())).device
    # 正确预测的数量，总预测的数量
    metric = d2l.Accumulator(2)
    with torch.no_grad():
        for X, y in data_iter:
            if isinstance(X, list):
                # BERT微调所需的（之后将介绍）
                X = [x.to(device) for x in X]
            else:
                X = X.to(device)
            y = y.to(device)
            metric.add(d2l.accuracy(net(X), y), y.numel())
    return metric[0] / metric[1]

# 模型训练
#@save
def train_ch6(net, train_iter, test_iter, num_epochs, lr, device):
    """用GPU训练模型(在第六章定义)"""
    def init_weights(m):
        if type(m) == nn.Linear or type(m) == nn.Conv2d:
            nn.init.xavier_uniform_(m.weight)
    net.apply(init_weights)
    print('training on', device)
    net.to(device)
    optimizer = torch.optim.SGD(net.parameters(), lr=lr)
    loss = nn.CrossEntropyLoss()
    animator = d2l.Animator(xlabel='epoch', xlim=[1, num_epochs],
                            legend=['train loss', 'train acc', 'test acc'])
    timer, num_batches = d2l.Timer(), len(train_iter)
    for epoch in range(num_epochs):
        # 训练损失之和，训练准确率之和，样本数
        metric = d2l.Accumulator(3)
        net.train()
        for i, (X, y) in enumerate(train_iter):
            timer.start()
            optimizer.zero_grad()
            X, y = X.to(device), y.to(device)
            y_hat = net(X)
            l = loss(y_hat, y)
            l.backward()
            optimizer.step()
            with torch.no_grad():
                metric.add(l * X.shape[0], d2l.accuracy(y_hat, y), X.shape[0])
            timer.stop()
            train_l = metric[0] / metric[2]
            train_acc = metric[1] / metric[2]
            if (i + 1) % (num_batches // 5) == 0 or i == num_batches - 1:
                animator.add(epoch + (i + 1) / num_batches,
                             (train_l, train_acc, None))
        test_acc = evaluate_accuracy_gpu(net, test_iter)
        animator.add(epoch + 1, (None, None, test_acc))
    print(f'loss {train_l:.3f}, train acc {train_acc:.3f}, '
          f'test acc {test_acc:.3f}')
    print(f'{metric[2] * num_epochs / timer.sum():.1f} examples/sec '
          f'on {str(device)}')

# 训练和评估LeNet-5模型

lr, num_epochs = 0.9, 10
train_ch6(net, train_iter, test_iter, num_epochs, lr, d2l.try_gpu())

参考链接

卷积神经网络（LeNet）,by d2l.

Open-DIS学习笔记

发表于 2026-02-28 | 更新于 2026-03-04

DIS是美国国防部、北约及其盟国实时/虚拟世界建模与仿真领域应用最广泛的协议之一。Open-DIS 是该标准的免费开源实现，支持 Java、C++、Python、JavaScript、Objective-C 和 C# 等多种编程语言。

DIS 是由仿真互操作性标准组 (SISO) 制定并经 IEEE 批准的 IEEE 标准 (IEEE-1278.1)。它被广泛应用于实时虚拟世界军事仿真中。

DIS 是一种网络协议。它精确描述了数十个协议数据单元 (PDU) 的布局，这些 PDU 包含有关世界中实体位置和方向以及其他诸多信息。这些 PDU 用于描述电子战、后勤、碰撞和仿真管理。

游戏网络同步

游戏的网络同步机制有很多，总体来看可以分为下面三类：

Peer-to-Peer，在这类方法中，没有服务器，游戏参与者的身份是对等的，依靠参与游戏的玩家电脑自行解决同步问题的，最为典型的就是Lockstep
Client-Server，在这类方法中，Server端是绝对的权威，所有计算基本在Server上完成。例如，在游戏中向前移动一步，要等待服务器确认“你向前移动了一步”之后，才可以在客户端上进行这个行为。（延迟较低的时候是察觉不到这个过程的，延迟高时会有明显的卡顿现象）
Client-Side Prediction，严格来说这并不是一类方法，而是对第二类方法的改进。试想如果所有的操作都必须在得到服务器的确认，然后才在客户端上进行，在延迟较高时用户体验会非常的差。这时可以把常用一部分计算转移到客户端进行，服务器辅助校正即可。

DIS使用 Peer-to-Peer 方式进行状态的网络同步。

参考链接

跨平台军事仿真开发：基于Open-DIS C++与SDL2/SDL_net的实战配置指南,by OurPlay.
AFSIM的DIS接口(分布式交互仿真接口),by tx_zzz.
揭开DIS的技术面纱──分布式交互仿真三大特性的关键技术,by 81it.
2023-6-2-DIS研究,by 汤姆z.
网络游戏同步技术二：状态同步的优化与实现,by antsmallant.
游戏网络同步——dead reckoning,by xak.
游戏中的网络同步机制——Lockstep,by 宾狗.
Distributed Interactive Simulation,by wikipedia.

绿联DX4600内网穿透方法

发表于 2026-02-26

绿联 DX4600 NAS 支持Docker服务，可惜只能在内网使用，必须掌握内网穿透技术，才能在外网访问Docker提供的服务。下面介绍如何在绿联 DX4600 NAS 配置内网穿透的方法。

基本原理

NAT

NAT 是网络地址转换的缩写。它是一种在网络中广泛使用的技术，主要作用是在数据包通过路由器或防火墙时，修改数据包中的源IP地址或目标IP地址。

NAT主要解决以下问题：

解决 IPv4 地址短缺问题：NAT 允许一个家庭或公司里的所有设备（电脑、手机、平板等）共享同一个公网 IP 地址上网。
安全与隐私（天然的防火墙）：因为外界只能看到 NAT 路由器的公网 IP，无法直接访问到你内网的具体设备。
网络灵活性：你可以在家里随意增加或更换设备，只要它们使用的是私有 IP 地址（如 192.168.0.10）

NAT常见类型主要有三种：

静态 NAT ：一个私有 IP 地址固定映射到一个公网 IP 地址（一对一）
动态 NAT ：多个私有 IP 地址竞争使用一个公网 IP 地址池（多对多）
PAT / NAPT：多对一。让家里所有设备共用路由器上的同一个公网 IP。路由器除了记录 IP 地址，还会记录端口号。当你手机和电脑同时上网时，路由器把它们的请求发出去，但给它们分配不同的源端口。
- 例如：手机请求用的是公网IP:10001，电脑请求用的是公网IP:10002。当数据返回时，路由器根据端口号 10001 或 10002，就知道该把数据转发给手机还是电脑。

内网穿透

内网穿透的核心原理，可以通俗地理解为：让没有公网IP的设备，通过一个有公网IP的中转服务器，和外部设备建立数据通道。

其工作流程分为两步：

第一步：建立隧道（内网设备主动连接服务器）
第二步：数据转发（打给服务器，转给内网）
这个过程就是内网穿透的本质：数据全部经过服务器中转。

进阶版：P2P（点对点）打洞

为了提高速度，更高级的穿透（如P2P模式，即点对点模式）会尝试让两个内网设备直接连接。原理如下：

中介牵线：服务器依然存在，但它只负责“牵线搭桥”，帮双方交换IP和端口信息。
打洞：双方利用UDP协议的特性，互相往对方的公网IP和端口发送数据。虽然一开始会被路由器拒绝，但当双方都发送时，路由器会误以为是之前请求的回复，从而打开一个临时通道。
直连：一旦通道打开，两台设备就可以直接通信了，数据不再经过服务器中转，速度取决于双方各自的宽带。

这就是P2P打洞技术，也是P2P（如BT下载）和视频通话流畅运行的基础。

P2P（点对点）打洞限制

NAT的不同“性格”（类型）直接决定了打洞的成败。主要有以下四种类型：

NAT类型	工作原理	打洞成功率
完全锥型	映射关系建立后，任何外部主机都可以通过这个公网端口访问内网主机。	✅ 最容易
受限锥型	只有内网主机主动发送过数据的外部主机（不限端口），才能通过公网端口向内网发起通信。	✅ 较容易
端口受限锥型	要求更严格，只有内网主机主动发送过数据的特定（IP+端口）组合，才能向内网通信。	✅ 有条件
对称型	最严格。每次内网主机向不同目标主机发起连接，NAT都会重新分配一个新的公网端口，导致无法预测对方的“入口”。	❌ 基本无效

实现方法

使用Docker服务

请参考：

小白也能轻松上手，深度体验绿联私有云DX4600 Docker功能

目前绿联DX4600提供的Docker镜像仓库均无法下载Docker镜像，可修改使用轩辕镜像下载Docker镜像。

使用cpolar服务

使用cpolar提供的免费内网穿透服务，可实现远程登陆绿联 DX4600 进行操作。

DX4600操作系统是基于OpenWrt系统的，因此安装 cpolar 请参考：

OpenWrt路由器上的安装教程

具体步骤如下：

开启绿联 DX4600 调试功能
使用 MobaXterm 远程登陆绿联 DX4600系统
使用如下命令安装 cpolar

# 下载公钥
wget -O cpolar-public.key http://openwrt.cpolar.com/releases/public.key
opkg-key add cpolar-public.key

# 更新包管理器
opkg update

# 安装cpolar插件

opkg install cpolar

用浏览器访问 http://nas_ip:9200 ，创建访问绿联 DX4600的 SSH隧道。注意绿联 DX4600 ssh服务的端口为922。
登录 cpolar官网，注册账号，可以看到创建的 ssh 隧道，后续可以在外网通过该 ssh 隧道远程登录内网的绿联 DX4600。

参考链接

外网SSH远程连接linux服务器「cpolar内网穿透」,by 不会kao代码的小王.
手把手教你：零基础实现绿联NAS外网访问，随时随地访问Docker服务,by 黑衣教主.
NAS探索篇一：绿联DX4600利用DDNS-GO和阿里云免费部署动态解析,by 墨鱼的猪.
原来Docker这么好用，绿联DX4600,Docker上手实际操作体验,by 鼠鼠的鼠.
NAS用户必备！170 多个好玩的，好用的docker容器,by 什么值得买.

Transformers工具使用帮助

发表于 2026-01-24 | 更新于 2026-01-25

Transformers是为 PyTorch 打造的先进的机器学习工具。Transformers 充当跨文本、计算机视觉、音频、视频与多模态的最先进机器学习模型的「模型定义框架」，同时覆盖推理与训练。

它将模型的定义集中化，使整个生态系统对该定义达成一致。transformers 是跨框架的枢纽：一旦某模型定义被支持，它通常就能兼容多数训练框架（如 Axolotl、Unsloth、DeepSpeed、FSDP、PyTorch‑Lightning 等）、推理引擎（如 vLLM、SGLang、TGI 等），以及依赖 transformers 模型定义的相关库（如 llama.cpp、mlx 等）。

基础

pip 下载的包太大，需要清除，可使用如下命令查看：

# 查看 pip 下载包缓存位置
pip cache dir

# 清理所有缓存
pip cache purge

# 查看 pip 安装包位置
pip show package_name

安装

Transformers 支持 Python 3.9+，以及 PyTorch 2.1+。

创建虚拟环境

使用 venv 或 uv（一个基于 Rust 的快速 Python 包与项目管理器）创建并激活虚拟环境：

1
2
3

# venv
python -m venv .my-env
source .my-env/bin/activate

安装 Transformers

在虚拟环境中安装 Transformers：

# pip安装 pytorch gpu 版本
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1  --index-url https://download.pytorch.org/whl/cu121
pip install transformers

# pip安装默认 pytorch cpu 版本
pip install torch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1 --index-url https://download.pytorch.org/whl/cpu
pip install transformers

# 方括号 [] 的作用是指定额外的可选依赖包。
pip install "transformers[torch]"

检查PyTorch GPU 版本安装是否成功

import torch
print(torch.__version__)  # 应该显示 2.4.1+cu121
print(torch.cuda.is_available())  # 应该为 True（GPU版本）
print(torch.version.cuda)  # 应该显示 12.1

快速上手

官方示例

使用 Pipeline API 一步上手。Pipeline 是一个高级推理类，支持文本、音频、视觉与多模态任务，负责输入预处理并返回适配的输出。

实例化一个用于文本生成的 pipeline，指定使用的模型。模型会被下载并缓存，方便复用。最后传入文本作为提示：

from transformers import pipeline

pipeline = pipeline(task="text-generation", model="Qwen/Qwen2.5-1.5B")
pipeline("the secret to baking a really good cake is ")

transformers自动下载模型的保存位置：C:\Users\jack.cache\huggingface\hub\，在模型下载以后，可以保存到其他位置。

下载模型

由于某些原因，国内的服务器可能无法直接访问huggingface.co。可以通过配置使用其镜像站。例如:hf-mirror.com。

hf-mirror.com是用于镜像 huggingface.co 域名。作为一个公益项目，致力于帮助国内AI开发者快速、稳定的下载模型、数据集。

下面介绍从 hf-mirror.com 下载大模型的方法：

激活 python 虚拟环境

1	Script\activate

设置环境变量

1 2	set HF_ENDPOINT=https://hf-mirror.com echo %HF_ENDPOINT%

下载大模型

# 下载大模型默认保存位置：C:\Users\jack\.cache\huggingface\hub\
hf download Qwen/Qwen2.5-0.5B

# 自定义大模型保存位置
hf download Qwen/Qwen2.5-0.5B --local-dir ./LLM/Qwen/Qwen2.5-0.5B

下载数据集

1 2	# 自定义数据集保存位置 hf download --repo-type dataset --local-dir DataSet/glue glue

参考链接

Transformers简介,by huggingface.
Transformers,by huggingface.
transformers无法连接huggingface，无法从huggingface下载模型,by Alley cat.
大模型文件从huggingface下载失败的解决办法,by AI8ge8888888.
transformers用pipeline下载的模型路径,by 小怪兽会微笑.
HF Transformers Pipelines,by MKY-门可意.
PyTorch中GPU可用性验证与模型训练加速实践,by comate.
使用huggingface-cli下载模型,by 青蛙小白.
最简单的一文安装Pytorch+CUDA,by crownyouyou.
安装PyTorch 2.4.1+cu121（本机电脑cuda支持12.7）,by 程序改变世界&.
hf-mirror,by hf-mirror.
从模型到前端，你应该知道的LLM生态系统指南,by deephub.
7个用于运行LLM的最佳开源WebUI,by Python编程杰哥.

银河麒麟桌面版V4远程桌面访问方法

发表于 2026-01-13

对于银河麒麟桌面版4.0.2，可使用系统已集成的 vino-server 进行远程桌面访问。具体步骤如下：

打开终端，输入vino-preferences，配置vnc连接密码
使用vncviewer，输入银河麒麟桌面版4.0.2的ip地址，输入vnc连接密码，即可远程访问银河麒麟。

参考链接

银河麒麟桌面操作系统：手把手教你开启VNC远程桌面并修改默认端口,by 码农拿铁.

DDS学习笔记

发表于 2026-01-09 | 更新于 2026-01-11

最近接触到 DDS 中间件，学习一下。

定义

针对实时系统的数据分发服务( DDS )是对象管理组织(OMG)的机器对机器（有时称为中间件或连接框架）标准，旨在通过发布-订阅模式实现可靠、高性能、可互操作、实时、可扩展的数据交换。

DDS 满足航空航天、国防、空中交通管制、自动驾驶车辆、医疗设备、机器人、发电、仿真和测试、智能电网管理、交通运输系统等应用领域的实时数据交换需求。

开源实现

Fast-DDS (原名 Fast RTPS)
Dust DDS
OpenDDS

编译安装

下面从源代码编译安装 Fast-DDS。

安装依赖

使用 vcpkg 安装 Fast-DDS 所需依赖库。

1	vcpkg install openssl asio tinyxml2 fastcdr foonathan-memory --triplet x64-windows

编译安装

在Windows平台编译安装使用 Visual Studio 2019.

foonathan_memory_vendor (可选，当找不到库时)

FastDDS 依赖 Foonathan Memory（内存管理库），通过源代码编译安装：

cd i:\project\Fast-DDS\
git clone https://github.com/eProsima/foonathan_memory_vendor.git
cd foonathan_memory_vendor
mkdir build && cd build
cmake -DCMAKE_INSTALL_PREFIX=i:/install/foonathan_memory_vendor ..
cmake --build . --config Release --target install

FastCDR (可选，当找不到库)

FastDDS 依赖 FastCDR（序列化库），通过源代码编译安装：

cd i:\project\Fast-DDS\
git clone https://github.com/eProsima/Fast-CDR.git
cd Fast-CDR
mkdir build && cd build
cmake -A x64 -DCMAKE_INSTALL_PREFIX=i:/install/fastcdr ..
cmake --build . --config Release --target install

eProsima Fast DDS

当所有依赖库都安装后，开始安装eProsima Fast DDS，打开 VS2019的X64本地命令提示符，按如下步骤输入命令：

cd i:\project\Fast-DDS\
git clone https://github.com/eProsima/Fast-DDS.git
cd Fast-DDS
mkdir build && cd build
cmake -DCMAKE_INSTALL_PREFIX=i:/install/fastdds   ..
cmake --build . --config Release --target install

当执行 cmake -DCMAKE_INSTALL_PREFIX=i:/install/fastdds .. 可能会报找不到 ASIO 的错误，可以编辑 CMakeLists.txt，注释如下代码，再重新运行。

1	eprosima_find_thirdparty(Asio asio VERSION 1.13.0)

当执行 cmake –build . –config Release –target install 可能会报如下错误：

1	警告 C4819 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失

请参考以下链接进行处理，主要是配置C++编译选项 /utf-8：

警告 C4819 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失

fastddsgen

fastddsgen 是 FastDDS 官方提供的 IDL（Interface Definition Language）编译器，用于将 IDL 定义的数据类型转换为 FastDDS 兼容的代码（支持 C++、Python 等语言），自动生成数据序列化 / 反序列化逻辑、类型注册代码等，是 FastDDS 开发的基础工具。

具体安装步骤请参考：

通信中间件 Fast DDS(三) ：fastddsgen的安装与利用

简单示例

Fast-DDS的简单示例请参考：

1.3. Writing a simple C++ publisher and subscriber application

参考链接

Data Distribution Service,by wikipedia.
What is DDS?,by dds.
通信中间件 Fast DDS(一) ：编译、安装和测试,by 流星雨爱编程.
1. Getting Started,by fast-dds.
Fast DDS官方文档机翻之「入门介绍」,by 卢飞腾.
1.3. Writing a simple C++ publisher and subscriber application,by fast-dds.
通信中间件 Fast DDS(三) ：fastddsgen的安装与利用 ,by ycfenxi.
不使用默认路径的 cmake 项目管理,by 怀中落霞.
fastdds在windows下的编译和使用,by 飞羽.
警告 C4819 该文件包含不能在当前代码页(936)中表示的字符。请将该文件保存为 Unicode 格式以防止数据丢失,by 匈牙利认真的小菠萝.

图解大模型读书笔记

发表于 2025-12-24 | 更新于 2026-01-08

阅读书籍《图解大模型：生成式AI原理与实战》,做些笔记。

第一章：大语言模型入门

第二章：词元和嵌入

第三章：图解大语言模型

第四章：文本分类

第五章：文本聚类和主题建模

第六章：提示工程

第七章：高级文本生成技术和工具

第八章：语义搜索和检索增强生成（RAG）

第九章：多模态大语言模型

第十章：创建文本嵌入模型

第十一章：为分类任务微调表示型模型

第十二章：微调生成模型

参考链接

《图解大模型》配套阅读——大模型面试题 200 问,by 李博杰.
Prompt caching: 10x cheaper LLM tokens, but how?,by Sam Rose.

什么是 AI Agent

AI Agent 构成

AI Agent 分类

AI Agent 关键技术

AI Agent 生态位

参考链接

第一章 甜言蜜语

第二章 地中之盐

第三章 肥沃之地

第四章 厨房里的化学物质

第五章 海陆双鲜

参考链接

AI 是超级模式匹配器

AI 幻觉（AI Hallucination）

一套判断工具

三问判断法

和AI协作的原则

参考链接

环境准备

代码示例

参考链接

游戏网络同步

参考链接

基本原理

NAT

内网穿透

进阶版：P2P（点对点）打洞

P2P（点对点）打洞限制

实现方法

使用Docker服务

使用cpolar服务

参考链接

基础

安装

创建虚拟环境

安装 Transformers

检查PyTorch GPU 版本安装是否成功

快速上手

官方示例

下载模型

参考链接

参考链接

定义

开源实现

编译安装

安装依赖

编译安装

foonathan_memory_vendor (可选，当找不到库时)

FastCDR (可选，当找不到库)

eProsima Fast DDS

fastddsgen

简单示例

参考链接

第一章：大语言模型入门

第二章：词元和嵌入

第三章：图解大语言模型

第四章：文本分类

第五章：文本聚类和主题建模

第六章：提示工程

第七章：高级文本生成技术和工具

第八章：语义搜索和检索增强生成（RAG）

第九章：多模态大语言模型

第十章：创建文本嵌入模型

第十一章：为分类任务微调表示型模型

第十二章：微调生成模型

参考链接

第一章甜言蜜语

第二章地中之盐

第三章肥沃之地

第四章厨房里的化学物质

第五章海陆双鲜