提示词风险自检清单

为什么需要提示词风险自查

很多数据泄露并不是被攻击，而是一次次顺手粘贴造成的：把客户名单贴进对话框做整理、把合同原文发给模型做摘要、把生产环境日志贴进去排查问题。这些内容一旦进入第三方服务，可能被留存、被用于训练，也可能因安全事件外泄。这份清单把这些场景变成可勾选的检查项。

六个风险面

• 个人隐私：身份证号、手机号、地址、医疗与金融信息是否脱敏后再使用。
• 商业秘密：未公开的合同、源码、财务数据、客户清单是否进入了外部模型。
• 内容违法性：是否要求模型生成违法、侵权或误导性内容。
• 提示词注入与越狱：是否有防护措施应对从外部文档、网页带入的注入指令，以及不尝试绕过模型安全策略。
• 输出执行风险：模型给出的命令、代码、SQL 是否经人工复核后才执行。
• 留存与复核：提示词与输出是否有留痕，关键场景是否有人工复核环节。

怎么用

1. 把清单过一遍，未勾选的项就是当前流程里的风险点。
2. 从风险权重最高的项开始整改——通常前几项一次就能带来最大改善。
3. 建议把勾选项固化进团队的 AI 使用规范，新成员入职时照此检查。

你可能还想问

什么是提示词注入？为什么要单独检查它？

提示词注入指攻击者把指令藏在模型会读到的内容里（例如一份待总结的网页、一份 PDF），诱导模型忽略原本的任务转而执行攻击者的指令，例如把系统提示或上下文数据输出出来。只要你的流程让模型读取了外部来源的内容，就存在这个风险，常见防护是限定模型只做被要求的任务、对模型输出做格式校验、以及对敏感上下文做隔离。

把内容粘贴到聊天框里，真的会被用于训练吗？

取决于服务条款。多数面向个人的消费级产品会说明是否将对话用于改进模型，并通常提供关闭选项；企业版与 API 一般默认不用于训练。关键是先确认条款再决定能发什么，而不是凭印象。涉及客户数据或未公开信息时，优先选用明确不用于训练的企业级服务，并按数据分级决定是否可外发。

模型给出的代码和命令能直接执行吗？

不建议。模型输出可能包含幻觉导致的错误路径、不存在的参数，甚至在你明确要求整理脚本时引入危险操作。稳妥做法是把模型输出当作草稿：在测试环境执行、先跑只读命令确认影响面、对涉及删除与权限变更的操作逐行确认。生产环境的变更应走既有的审批与回滚流程。

这份清单打分多高算安全？

90 分及以上说明防护动作基本到位，可以按常规流程使用；70 至 89 分属于有明确短板的阶段，建议优先补齐前两项（隐私脱敏与商业秘密管控）；低于 70 分建议先暂停把敏感内容外发，把流程补上再继续。分数只反映你自查时的完成情况，不代表技术层面不存在其他风险。

相关工具

相关内容