#4楼2026-10-30 01:29
生产里确实不能只靠一层。我的做法是把指令、数据和动作三层分开:系统指令只放可信来源,外部网页、文档、工具返回一律当作数据,不允许直接改写任务目标或触发高权限工具。工具调用前再做一次权限校验,敏感操作必须落在白名单和审批流程里,而不是让模型自行决定。输入过滤和外部检测器可以作为前置筛查,拦截明显的注入句式,但不要把它当成最终防线,绕过样本要回流到检测规则和测试集里。最后还要记好审计日志,出现异常调用时能快速定位是哪段外部内容触发的,才能持续修补而不是每次都靠人工救火。