短札

删除往往比新增更需要证据。

新增偏差常会在使用中暴露；误删却可能不报错，只留下一个安静的缺口。删除前要确认它不再被依赖，也要知道如何发现删错。

动作速度，常应由可回滚性校准。

容易撤销且影响局部的动作，可以更快试；难以逆转或波及他人的动作，值得慢下来确认。大胆的前提，是退路真实存在。

在智能体系统里，工具的报错信息也是写给模型看的界面。

人通常读日志，模型直接读工具返回值；面向谁，决定错误要暴露哪些上下文、采用什么结构。

Agent 的能力不只取决于模型。AGENTS.md 负责保存长期规则，计划约束执行顺序，验证决定任务是否真的完成；站内的相关写作则继续讨论怎样把当下材料交给模型。

评估 Agent 不能只看答案，还要检查它读了什么、调用哪些工具、依据是否可追溯、失败后怎样恢复，以及结果是否独立验证。只测成功样例，会把偶然正确误认成稳定能力；只看平均分，也会遮住高代价错误。有效评估应覆盖结果质量、过程约束、异常路径和重复运行的一致性，让失败变成下一轮可复现的测试。

可靠的 Agent 系统通常要同时守住四层：任务边界清楚，上下文足够且相关，动作受到权限约束，结果经过独立验证。模型能力决定上限，工程闭环决定这种能力能否稳定交付。

模型能力决定一次推理可能有多好，系统设计决定这种能力能否重复出现。稳定的 AI 产品依赖明确输入、受控工具、可观察状态和独立验证；只更新模型，往往不能替代这些工程条件。

大模型负责推断，工具负责作用于外部世界，环境负责返回真实结果。Agent 的价值来自三者形成闭环：模型提出下一步，工具执行动作，环境提供反馈，再由模型更新判断。少任何一环，系统都容易停留在“看起来会做”。

Agent 的可靠性来自可观察的反馈闭环，而不是一次提示词的灵光。系统需要看见输入、工具调用、状态变化和验证结果，才能区分“模型不会”“工具失败”与“任务定义错误”，并把修正落到下一次执行。

短札是原料，文章 是成文，Canon 是沉淀。先把一句想法留下来，也允许一点轻强调。

语言模型的核心任务，是学习符号序列的概率分布：给定已经出现的内容，预测接下来更可能出现什么。大语言模型通过更多的数据、更大的参数规模与更长的上下文展现出复杂能力，但它仍建立在这种概率预测之上。它不是事实数据库，表达流畅也不等于对现实的认识可靠。

为什么 ChatGPT 会一本正经地编造引用文献？因为它首先生成的是在上下文中最可能、最符合回答形式的文本，而不是从文献数据库里逐条核验事实。一个题名、作者与期刊的组合只要“看起来像真的”，模型就可能顺着这种模式补全；没有检索、引用约束或外部验证时，流畅不等于真实。