AI 开发学习知识库¶
一句话:LLM 只是「根据已有 token 预测下一个 token」的概率模型;Agent、Function Calling、MCP、Skills、压缩、记忆、Sub Agent、Harness,全都是在有限上下文里尽可能准确高效完成任务的工程方法。整个知识库只讲这一件事。
骨架借鉴 labuladong 的 AI 开发教程(选题、章节划分、「先用起来再讲原理」的讲法)。 📖 是免费章节的读书笔记(请先读原文);✍️ 是独立原创课文:会员章节全部重写(没有使用原站付费内容),另有 5 篇地基章虽然原文免费,也写成了自成一体的课文,原文作为延伸阅读。
学习路线(为你调整过的顺序)¶
你已经是 Claude Code 重度用户,所以顺序和原站不同:先拆你每天在用的东西,再自己造一个。机器学习部分是选修,和 Agent 主线相互独立。
flowchart LR
P0["0 核心概念<br/>token · 上下文"] --> P1["1 工具技巧<br/>hooks · subagent · skills"]
P1 --> P2["2 拆解工业级 Agent<br/>抓包 · 压缩 · 记忆 · 权限"]
P2 --> P3["3 Agent 开发基础<br/>chatbot · RAG · MCP"]
P3 --> P4["4 手搓 mini Claude Code<br/>21 次增量"]
P0 -.选修.-> P5["5 机器学习基础"] --> P6["6 神经网络 + LLM<br/>推理 · LoRA"]
| 部分 | 讲什么 | 建议 |
|---|---|---|
| 第 0 部分 · 核心概念 | 主线的起点:token、上下文、API,所有后续章节的地基 | ⭐ 必读,1 天 |
| 第 1 部分 · AI 工具使用技巧 | 你天天在用的 Claude Code 能力,这次看清它们怎么实现 | ⭐ 只读付费 5 章 + 两篇模型文件,2 天 |
| 第 2 部分 · 拆解工业级 Agent | 抓包、system prompt、压缩、记忆、权限——Claude Code / Codex 内部 | ⭐⭐ 重点,1 周 |
| 第 3 部分 · Agent 开发基础 | 从聊天机器人到 Coding Agent、RAG、MCP,亲手写一遍 | ⭐⭐ 重点,1 周 |
| 第 4 部分 · 手搓 mini Claude Code | 一个工程从 0 长到 21 个能力,每章一次增量 | ⭐⭐⭐ 核心项目,2–3 周 |
| 第 5 部分 · 机器学习基础 + 经典算法 | 想看懂 LLM 训练再来,从拟合、梯度下降讲起 | 选修 |
| 第 6 部分 · 神经网络 + LLM 开发基础 | 手写自动求导、优化器、推理全流程、LoRA 微调 | 选修 |
目录¶
勾选框用来跟踪进度(直接在编辑器里改 [ ] → [x])。
第 0 部分 · 核心概念¶
主线的起点:token、上下文、API,所有后续章节的地基。
- 本章导读 · 📖 笔记 · 原文
- LLM 和 Agent 的核心术语和原理 · ✍️ 原创 · 原文
- 如何调用 LLM 接口 · ✍️ 原创 · 原文
- 上下文是什么?token 怎么计费? · ✍️ 原创 · 原文
- LLM 是怎么预测下一个 token 的 · ✍️ 原创 · 原文
第 1 部分 · AI 工具使用技巧¶
你天天在用的 Claude Code 能力,这次看清它们怎么实现。
- 用 Codex 还是 Claude Code? · 📖 笔记 · 原文
- 安装使用 Claude Code · 📖 笔记 · 原文
- 安装使用 Codex · 📖 笔记 · 原文
- 安装使用 OpenClaw · 📖 笔记 · 原文
- AI 编程的基本常识 · 📖 笔记 · 原文
- Claude Code 的常用技巧 · 📖 笔记 · 原文
- 你的聊天记录存在哪 · 📖 笔记 · 原文
- 用 Hooks 给 Claude Code 加规矩 · ✍️ 原创 · 原文
- /goal 命令:给 Agent 设定目标 · ✍️ 原创 · 原文
- Sub Agent:上下文管理的艺术 · ✍️ 原创 · 原文
- Fork Agent:共享上下文的艺术 · ✍️ 原创 · 原文
- 用 Skills 定制你的 AI 工作流 · ✍️ 原创 · 原文
- 用 Ollama 在本地运行大模型 · 📖 笔记 · 原文
- 看懂 Hugging Face 和模型文件 · 📖 笔记 · 原文
第 2 部分 · 拆解工业级 Agent¶
抓包、system prompt、压缩、记忆、权限——Claude Code / Codex 内部。
- Claude Code 抓包分析工具 · ✍️ 原创 · 原文
- 给 Claude Code 发一句 Hi 会发生什么 · ✍️ 原创 · 原文
- System Prompt 应该怎么写 · ✍️ 原创 · 原文
- 文件读写是怎么实现的 · ✍️ 原创 · 原文
- 如何实现上下文压缩 · ✍️ 原创 · 原文
- Claude Code 自动记忆系统 · ✍️ 原创 · 原文
- Codex 自动记忆系统 · ✍️ 原创 · 原文
- mem0 记忆库的实现思路 · ✍️ 原创 · 原文
- Zep 记忆系统的实现思路 · ✍️ 原创 · 原文
- Claude Code 的权限检查是怎么实现的 · ✍️ 原创 · 原文
- Plan Mode 是怎么实现的 · ✍️ 原创 · 原文
- Harness Engineering 是什么 · ✍️ 原创 · 原文
- Agent 构建指南:研发要素全景 · ✍️ 原创
- Agent 评测实践指南 · ✍️ 原创
第 3 部分 · Agent 开发基础¶
从聊天机器人到 Coding Agent、RAG、MCP,亲手写一遍。
- 动手实现一个 AI 聊天机器人 · ✍️ 原创 · 原文
- 动手实现一个 Coding Agent · ✍️ 原创 · 原文
- 动手实现一个 RAG 问答机器人 · ✍️ 原创 · 原文
- RAG 原理和使用场景 · ✍️ 原创 · 原文
- Workflow 和 Agent · ✍️ 原创 · 原文
- 用 Agent SDK 简化开发 · ✍️ 原创 · 原文
- 其他主流 Agent SDK 对比 · ✍️ 原创 · 原文
- 给 Agent 加上可观测性 · ✍️ 原创 · 原文
- 详解 LLM API 的流式响应模式 · ✍️ 原创 · 原文
- 动手开发 MCP 工具 · ✍️ 原创 · 原文
- 拆解 MCP 通信协议 · ✍️ 原创 · 原文
第 4 部分 · 手搓 mini Claude Code¶
一个工程从 0 长到 21 个能力,每章一次增量。
- Coding Agent 的命令系统 · ✍️ 原创 · 原文
- Agent 循环的逐步输出 · ✍️ 原创 · 原文
- Agent 的错误处理与重试 · ✍️ 原创 · 原文
- 持久化聊天记录 · ✍️ 原创 · 原文
- 对工具调用进行权限审批 · ✍️ 原创 · 原文
- auto 模式自动进行权限审批 · ✍️ 原创 · 原文
- 可靠的文件编辑工具 · ✍️ 原创 · 原文
- 用 @ 引用文件 · ✍️ 原创 · 原文
- 更灵活的上下文注入机制 · ✍️ 原创 · 原文
- 让 Agent 主动向你提问 · ✍️ 原创 · 原文
- 让 Agent 跟踪多步任务 · ✍️ 原创 · 原文
- 给 Agent 加上长期记忆 · ✍️ 原创 · 原文
- 支持 rewind 回退对话和代码 · ✍️ 原创 · 原文
- 支持 compact 压缩上下文 · ✍️ 原创 · 原文
- 给 Agent 注册 MCP server · ✍️ 原创 · 原文
- 让 Agent 在后台运行命令 · ✍️ 原创 · 原文
- 实现 Sub Agent 机制 · ✍️ 原创 · 原文
- 让 Agent 监听外部事件 · ✍️ 原创 · 原文
- 支持图片输入 · ✍️ 原创 · 原文
- 渐进式加载 Skills · ✍️ 原创 · 原文
- 让 Agent 先规划再动手 · ✍️ 原创 · 原文
第 5 部分 · 机器学习基础 + 经典算法¶
想看懂 LLM 训练再来,从拟合、梯度下降讲起。
- Tensor 的常用操作 · 📖 笔记 · 原文
- 机器学习的基本概念 · 📖 笔记 · 原文
- 什么是拟合 · 📖 笔记 · 原文
- 最小二乘法 · ✍️ 原创 · 原文
- 梯度下降 · ✍️ 原创 · 原文
- 局部最优与全局最优 · ✍️ 原创 · 原文
- 过拟合与泛化 · ✍️ 原创 · 原文
- 二分类问题:逻辑回归 · ✍️ 原创 · 原文
- 实战:逻辑回归识别涂鸦 · ✍️ 原创 · 原文
- 分类模型的评估 · ✍️ 原创 · 原文
- 多分类问题:Softmax 回归 · ✍️ 原创 · 原文
- K 近邻算法 · ✍️ 原创 · 原文
- 实战:KNN 识别手写数字 · ✍️ 原创 · 原文
- 决策树:用一连串问题做分类 · ✍️ 原创 · 原文
- 随机森林算法及实战 · ✍️ 原创 · 原文
- K-Means 聚类算法 · ✍️ 原创 · 原文
- 实战:K-Means 颜色量化 · ✍️ 原创 · 原文
- 模拟退火算法 · ✍️ 原创 · 原文
第 6 部分 · 神经网络 + LLM 开发基础¶
手写自动求导、优化器、推理全流程、LoRA 微调。
- 手写神经网络:让模型自己学会特征 · 📖 笔记 · 原文
- 实战:神经网络识别人体动作 · ✍️ 原创 · 原文
- 反向传播:手写自动求导引擎 · ✍️ 原创 · 原文
- 优化器:Momentum 和 Adam · ✍️ 原创 · 原文
- 动手跑通 LLM 推理的全流程 · ✍️ 原创 · 原文
- 动手用 LoRA 微调模型 · ✍️ 原创 · 原文
配套代码¶
第 0–4 部分的代码有 Node(TypeScript)和 Python 两版,逻辑一一对应,正文默认展示 Node 版,代码块上方的标签页可以切到 Python。 第 5–6 部分是 PyTorch 训练,只有 Python 版。
| 目录 | 内容 | 运行 |
|---|---|---|
code/agent-node/ |
第 0–3 部分的示例(Node 版):hook 演示、chatbot、RAG、MCP server、抓包代理 | cd code/agent-node && npm ci && npm test |
code/mini_cc-node/ |
第 4 部分的 mini Claude Code(Node 版) | cd code/mini_cc-node && npm ci && node mini_cc/cli.ts |
code/agent/ |
同上,Python 版 | cd code/agent && uv run pytest -q |
code/mini_cc/ |
同上,Python 版;CHANGELOG.md 记录每章增量 |
cd code/mini_cc && uv run python -m mini_cc |
code/ml/ |
第 5–6 部分的手写算法,均与 sklearn / torch 对拍 | cd code/ml && uv run pytest -q |
Node 版需要 Node 24 以上,直接运行 .ts 文件,没有构建步骤。
所有测试都跑离线 fake 模型,不消耗 API。要连真实模型,设置 ANTHROPIC_API_KEY(可选 ANTHROPIC_BASE_URL)。
维护¶
- 网页版预览:
cd .site && uv run mkdocs serve,打开 http://127.0.0.1:8000(导航按curriculum.json自动生成,新章节写出来刷新就有;新增部分目录时先跑python3 tools/build_site.py) - 章节清单的唯一来源是
curriculum.json;改完重跑python3 tools/build_readme.py - 写作规范:
STYLE.md - 原站更新了新章节:重新抓 sitemap(
/sitemap.xml里/zh/ai-coding/开头的地址),在curriculum.json里追加