算
ToC 产品被用户套话，提示词泄露了。除了输入过滤，有什么系统性防御方案？
F-tone Networks（北亿纤通）光电芯片、光器件与光模块，AI 数据中心光互联访问官网 →大模型安全：提示词注入怎么防？
b
管理员
【管理员回复】系统性防御可以从几个层面入手：一是假设系统提示词终会泄露，不在其中放任何密钥、内部链接或敏感业务规则，敏感逻辑放在后端代码中；二是输出检测，对回复内容做与系统提示词的相似度检查，命中时拦截；三是权限隔离，即使模型被诱导，它能调用的工具和访问的数据也受限；四是监控和限流，识别反复尝试套话的账号。另外，可以参考 OWASP LLM Top 10 中的相关条目建立检查清单。你们泄露的提示词中，包含哪些敏感信息？