面向 AI 应用开发者

把零散知识,连成学习路径。

从模型基础开始,经过检索、工具与任务状态,再走到应用上线。按系列学,也可以直接找眼前的问题。

全部文章

12 篇文章
  1. 先理解上下文,再写第一次模型调用

    分清 token、上下文窗口与输出预算,用一个离线示例练习如何组织模型输入。

  2. 流式输出与结构化结果:两种不同的可靠性

    理解流式事件和完整业务结果的区别,用本地 Python 示例验证结果字段,而不是把半段 JSON 当答案。

  3. 选模型之前,先做一份任务评测集

    用真实任务定义成功标准,比较模型质量、耗时与失败模式,避免仅凭排行榜做选型。

  4. RAG 的最小闭环:检索、证据、回答

    拆解知识检索与生成两条链路,用离线关键词检索示例理解出处、无答案与权限过滤。

  5. 文档怎么切:先保留语义,再讨论向量索引

    理解切块、重叠、元数据与向量索引的职责,用窗口切分示例观察边界与证据完整性。

  6. 如何评估 RAG:把检索和回答分开检查

    用 Recall@k、证据支持与无答案用例定位 RAG 问题,用小数据集演示检索评估。

  7. 什么时候需要 Agent,什么时候工作流就够了

    从控制权、任务路径和失败成本判断是否需要 Agent,用路由示例划清模型和程序的职责。

  8. 工具调用与 MCP:协议之外,还要有执行边界

    定义参数、结果、错误和权限契约,用离线工具分发器示例防止模型输出直接执行。

  9. 让 Agent 能恢复:任务状态、重试与幂等

    用 SQLite 演示任务状态迁移,区分对话历史、持久状态与外部副作用,处理重试造成的重复执行。

  10. 提示注入防护:把不可信内容留在数据边界内

    识别检索文档和工具结果中的间接指令,在程序侧限制工具、权限和资源访问。

  11. AI 应用怎么观测:首字延迟、总耗时与成本

    拆分检索、模型和工具耗时,正确计算延迟分位数,用最小示例建立请求级观测。

  12. 从演示到上线:给 AI 应用补齐失败路径

    用失败矩阵检查超时、限流、权限、无证据和工具异常,把可用性与模型质量一起验收。

下一次更新,直接送到你的阅读器。

通过 RSS 订阅新的系列文章,按自己的节奏学习。

订阅 RSS