本地运行 零框架依赖 14 个示例

从零开始构建 AI 智能体

不依赖任何框架，在本地使用 node-llama-cpp 构建 AI 智能体。在使用生产级框架之前，先理解底层的工作原理。

开始学习 查看源码

什么是 AI 智能体？

AI 智能体不仅仅是文本生成 — 它是 LLM 与工具、记忆和推理模式的结合。

智能体公式 AI 智能体 = LLM + 系统提示 + 工具 + 记忆 + 推理模式

大脑      身份标识      双手      状态      策略
🧠

LLM（大脑）

处理信息、生成响应、做出决策的核心引擎。本地运行，数据不离开你的机器。

🎯

系统提示（身份）

定义智能体的角色、行为和约束。让通用模型变成专业助手。

🔧

工具（双手）

函数调用让 LLM 能够执行操作 — 查询时间、计算、搜索、操作文件。

💾

记忆（状态）

跨会话持久化信息，让智能体记住用户偏好和历史交互。

架构演进

从简单的 LLM 调用到完整的智能体系统，逐步构建复杂度。

🟢

基础 LLM

用户 → LLM → 响应

纯文本生成，无工具，无记忆。

🟡

工具使用

用户 → LLM ⟷ 工具 → 响应

函数调用，LLM 可以执行操作。

🟠

记忆智能体

用户 → LLM ⟷ 工具 → 响应
        ↕
      记忆

持久化状态，跨会话记忆。

🔴

ReAct 智能体

用户 → LLM → 思考 → 行动 → 观察
      ↑      ↓      ↓      ↓
      └──────┴──────┴──────┘
          迭代直到解决

推理 + 行动循环，现代智能体基础。

学习路径

14 个循序渐进的示例，从基础 LLM 交互到高级推理模式。每个示例都包含可运行代码、逐行讲解和概念解析。

01 入门 — 基本 LLM 交互

加载本地 GGUF 模型，进行基本的提示/响应交互。理解模型加载、上下文窗口和逐 Token 生成。

node-llama-cpp 模型加载 Token 生成
02 （可选）OpenAI 入门 — 使用专有模型

调用托管 LLM（GPT-4），了解温度控制和 Token 使用量。对比本地与云端的权衡。

OpenAI API 温度控制 成本分析
03 翻译 — 系统提示与专业化

使用系统提示专业化智能体，控制输出格式，实现基于角色的行为。

系统提示 提示工程 行为约束
04 思考 — 推理与问题解决

配置 LLM 进行逻辑推理，理解纯 LLM 推理的局限性，以及何时需要外部工具。

推理 问题分解 局限性
05 批处理 — 并行处理

并发处理多个请求，使用上下文序列和 GPU 批处理优化吞吐量。

并行执行 GPU 批处理 性能优化
06 编码 — 流式传输与响应控制

实时流式响应，Token 预算管理，渐进式输出显示，优化用户体验。

Streaming Token 限制 实时反馈
07 简单智能体 — 函数调用（工具使用）

关键一步！定义 LLM 可以使用的工具，实现函数调用。文本生成转变为智能体。

函数调用 JSON Schema 智能体决策
08 带记忆的智能体 — 持久化状态

跨会话持久化信息，长期记忆管理，事实和偏好存储，记忆检索策略。

持久化记忆 状态管理 上下文增强
09 ReAct 智能体 — 推理 + 行动

现代智能体框架的基础！推理-行动-观察循环，迭代式问题解决，自我纠错。

ReAct 迭代推理 多步骤智能体
10 思维原子 — 结构化规划

思维原子方法论，用于多步骤计算的原子规划，依赖管理和确定性执行。

AoT 依赖解析 计划验证
11 错误处理 — 弹性与降级

类型化错误分类，超时与重试策略，优雅降级，关联 ID 和可观测性。

重试策略 优雅降级 可观测性
12 思维树 — 搜索推理分支

束搜索（Beam Search）遍历多个候选路径，评分剪枝，可视化搜索过程。

Tree of Thought 束搜索 分支剪枝
13 思维图 — DAG 多源合并

将推理建模为有向无环图，并行源提取、冲突解决和合并规则。

Graph of Thought DAG 编排 多源融合
14 思维链 — 可审计的分步决策

结构化多阶段推理，防止早期偏见，生成可审计的最终决策。

Chain of Thought 推理轨迹 可解释性

快速开始

三步即可开始学习。

# 1. 克隆仓库
git clone https://github.com/yuanjingteam/agent-zero.git
cd agent-zero

# 2. 安装依赖
npm install

# 3. 下载模型（选择一个即可）
npx node-llama-cpp pull qwen3-1.7b

# 4. 运行第一个示例
node examples/01_intro/intro.js