标签: 大模型

Agent 干活干到一半开始忘事，这是上下文被稀释的信号。生产级 harness 的标准应对是 compaction：阈值触发的记忆压缩。七家系统各自怎么做，代价是什么，这是系列第 2 篇。

LLM 的对话看起来是连续的，其实每次调用都是失忆重读。这个不起眼的技术事实，是 Agent 领域一半概念的源头。系列第 1 篇，从无状态讲起。

AI 宠物一抓一大把，但几乎都是'用品'：聊三天就腻。我做 SoulPet 想解决的是另一件事——让性格、记忆、技能全是养出来的，而且全是你的文件。

AI 对话效果不好，通常是两个原因：话没说清楚，或者该给的信息没给到。前者是 prompt 工程，后者是 context 工程。

每次调 LLM 都会碰到的两个参数——Token 控制输入输出长度和成本，Temperature 控制输出随机性和创造力。搞懂它们，写 prompt 就知道该拧哪个旋钮。