LLM Security Checklist | LLM 安全清单

A practical checklist for securing an LLM app: prompt injection, data leakage, and unsafe output.

给 LLM 应用过一遍安全清单：提示注入、数据泄露、输出安全。

When to use | 适用场景

• 上线前自查 LLM 应用
• 用户问「我的 AI 应用有什么安全风险」

Workflow | 工作流程

逐项检查并标出「通过 / 风险 / 待修」：

1. 提示注入：外部输入是否可能改写系统指令？（分隔符、权限隔离、拒绝跟随外部指令）
2. 数据泄露：是否把不该给模型的隐私/密钥拼进了上下文？（日志脱敏、最小化传入）
3. 越权：模型能否触发高权限操作？（工具权限最小化、人类审批关键动作）
4. 输出安全：是否过滤不当内容？（内容策略、输出校验）
5. 审计：有无调用日志与回滚手段？

Tips | 提示

• 把模型当「不可信代码」设计边界，而不是当「可信助手」。
• 每条风险给一句「怎么修」，别只列问题。