标签: 安全

agent 要读网页、读文件、读工具返回，如果这些内容里藏着给模型的指令呢？prompt injection 没有根治方案，所有防线只做一件事：缩小爆炸半径。链三收尾，系列第 8 篇。

把每一步的决定权交给模型，效率上去了，风险也上去了。2023 年 AutoGPT 用一场公开失败列出了账单：无限循环、费用失控、权限无边界、失败无法恢复。此后的预算、卡死检测、权限审批，都是在给自主性定价。链三开篇，系列第 7 篇。