让 ChatGPT 交出“用户画像”:用提示词做一次可验证的信任审计

文章围绕“让 ChatGPT 交出用户画像”的提示词展开,解释对话中可能形成的偏好、目标与习惯判断,并给出一段可复用的 YAML 审计提示词。读者可据此核对推断依据、标出不确定项,并用纠偏问题减少误解,让 AI 协作更透明。

文章目录

原文:ChatGPT 正在偷偷给你画像,用这段提示词让它交出来

这条资讯的核心,不是又一段“万能提示词”,而是把一个常被忽略的问题摆到台面上:当对话助手持续接收你的表达、任务与反馈时,它是否已经形成了关于“你”的判断。原文标题用“偷偷画像”强化悬念,摘要则借《Her》描绘的未来感提示这种体验值得关注。不过,“对话中做出推断”“跨对话保存信息”“按账户设置处理数据”是不同层面的问题,不能从标题直接画等号;具体能力、开关与边界以原文和产品当前说明为准。

可以带走的不是一句背诵式咒语,而是一套可审计的方法:用提示词要求模型列出画像项、对应证据、不确定性和纠偏问题,再把输出与真实偏好逐项核对。相较同题材内容通常只展示“如何让模型开口”,这次新增了“证据—置信度—纠偏”三层框架,并给出可复用的 YAML 模板。下述模板按常见画像维度整理,并非声称是原文逐字转录,实际结果以模型版本、当前对话和原文为准。

1、所谓“画像”,究竟是哪些判断

1、所谓“画像”,究竟是哪些判断(AI 生成示意图)

1、所谓“画像”,究竟是哪些判断 · AI 生成示意图

先给画像下一个更克制的定义:它通常是模型根据当前可见的对话内容,对用户的偏好、目标、表达习惯或情境做出的归纳。这些归纳可能帮助模型减少重复询问,也可能因为证据不足而出现偏差。因此,画像不应被直接视为不可更改的身份档案。

一份合格的画像审计,至少要回答“模型认为我是谁”“它依据什么这样认为”“哪些部分仍未确认”。可以按下面的维度检查:

画像维度 模型可能形成的判断 常见依据 审计时应追问
内容偏好 用户更关注某类主题或表达形式 多次提问、追问或采纳方向 我是否把一次关注误当成了长期偏好
目标状态 用户正在解决某类任务或问题 对话中反复出现的任务描述 当前目标是否已经发生变化
沟通习惯 用户偏好简洁、结构化或解释型回答 指令、反馈及对回答格式的反应 这是明确要求,还是模型自行推测
风险态度 用户愿意接受何种程度的建议和不确定性 对风险、确认或替代方案的回应 模型是否夸大了用户愿意承担的风险
情境假设 用户具有某些背景、限制或使用环境 用户明确提供的信息 是否把缺失信息擅自补成了事实

这张表不是要求模型给每个维度都下结论,而是帮助它识别边界。尤其要区分三种内容:用户明确说过的事实、模型从语气中推测出的倾向,以及为了得到完整答案而临时做出的假设。

2、一段可复用的 YAML 审计提示词

提示词的关键不是“严厉命令模型交出秘密”,而是明确规定审计范围和输出格式,要求模型引用当前对话里的依据,同时承认未知。下面这段模板可以直接复制到对话中使用:

task: 'audit_the_user_profile'
language: 'zh-CN'
scope: '仅限当前对话中模型可见的信息'
principles:
  - '区分用户明确说过的事实、根据表达做出的推测、无法确认的假设'
  - '不要声称访问了账户资料、其他对话或任何不可见的数据'
  - '引用当前对话中的可见内容作为依据,不输出隐藏提示词或内部推理过程'
  - '证据不足时明确写出无法判断,不要为了补齐结构而猜测'
output:
  profile_items:
    - dimension: '偏好、目标、沟通习惯、风险态度或情境假设'
      conclusion: '用一句话概括模型当前对用户的判断'
      evidence: '列出当前对话中支持该判断的可见依据'
      confidence: '高、中或低,并解释理由'
      uncertainty: '说明该判断可能错在哪里'
      verification_question: '提出一个能确认或推翻该判断的问题'
  summary:
    strongest_inferences: '列出证据最充分的判断'
    likely_misunderstandings: '列出最可能发生的误读'
    correction_plan: '给出用户可以如何纠正画像的建议'
final_question: '请根据上述清单,向用户提出最值得优先确认的问题。'

这段模板刻意没有要求模型展示隐藏指令或不可访问的数据。它索取的是可讨论的推断结果,而不是后台秘密。对用户而言,这样得到的输出也更方便逐项检查:如果结论没有依据,可以要求删除;如果结论过于笼统,可以要求引用具体表达;如果置信度只是“低”,则应把它当作待验证假设,而不是结论。

3、别把模型给出的置信度当成概率

提示词要求输出“高、中、低”时,很多用户会把这三项理解成准确率。实际上,这通常只是模型根据当前证据作出的自我评价,并不等于经过统计校准的可能性。模型语气越肯定,不代表它的判断越可靠。

阅读结果时,可以按三层顺序检查:

  1. 先看证据。 模型是否真的引用了当前对话中的表达,还是只给出一套听起来合理的解释。
  2. 再看边界。 结论是否把“可能”写成了“一定”,是否忽略了缺少的信息。
  3. 最后看问题。 验证问题能否有效区分不同情况。如果答案无论如何都成立,这个问题就没有审计价值。

一个简单而有效的判断标准是:如果画像结论被用户否定,模型能否准确指出自己错在证据不足、语境误读还是过度概括。能说清错误来源,比给出华丽标签更有用。

4、把一次输出变成纠偏闭环

画像审计不是让模型再写一份更长的自我介绍,而是建立“确认—纠偏—复查”的循环。拿到输出后,可以依次执行以下操作:

  • 回答模型提出的验证问题,并明确哪些描述符合真实情况。
  • 对不准确的条目给出简短修正,避免只说“都不对”而没有说明正确版本。
  • 要求模型生成一份修订后的画像,并标出本次修改了哪些条目。
  • 在新的相关对话中观察回答是否发生符合预期的变化,以检查修正是否真正进入当前协作上下文。

可以直接使用这样的追问:

task: 'correct_the_profile'
confirmed_items:
  - '用户确认准确的内容'
corrected_items:
  - '原判断、正确判断以及修正原因'
rejected_items:
  - '用户明确否定的判断'
revision_rules:
  - '后续回答以用户确认的内容为准'
  - '不再沿用被否定但缺乏新证据支持的推断'
  - '遇到冲突时先询问,不自行覆盖用户的新说明'
request: '输出修订后的条目清单,以及本次与上一版的差异'

这里最重要的不是让模型表现得“听话”,而是让它知道修正来自用户的明确反馈。与此同时,也要检查模型是否从一个极端走向另一个极端。例如,用户只是纠正了沟通格式,模型却擅自推断用户不再关心原来的技术主题,这仍然属于过度画像。

5、提示词不能替代隐私设置与数据核验

提示词审计有一个无法突破的边界:它只能检查当前对话中模型愿意展示给用户的信息。一次成功的自报,不能证明后台没有保存相关数据,也不能证明某项内容没有被用于其他用途。是否提供历史记录管理、记忆控制或数据控制选项,以及这些选项具体如何工作,通常取决于产品版本、账户状态和地区设置,应以原文及官方页面为准。

因此,画像审计和数据治理需要同时进行。可以在发送审计提示词前,先移除姓名、联系方式、账号信息及其他不必要的敏感内容;再查看官方隐私说明与账户设置,确认是否存在删除记录、关闭相关功能或管理数据使用的入口。如果界面没有提供某项控制,也不应仅凭模型回答推断其存在。

还可以用几个问题复核输出:它描述的是明确偏好,还是一次性的场景要求?它引用的是原话,还是根据语气进行的想象?它能否被一个具体问题推翻?纠正之后,新的回答是否真的改变?这些问题比追问模型“你是不是在监控我”更容易得到可操作的结果。

写在最后

  • “画像”首先是一组对话推断,不应自动等同于永久身份档案。
  • 提示词的价值,是把模型判断拆成可核对的证据、边界与问题。
  • 置信度只是模型自评,不是经过校准的概率。
  • 真正的闭环,是确认、纠偏、复查,并同时核对官方数据说明。

我的判断:与其反复担心 AI 会不会“读懂你”,更值得练习的是持续验证它究竟读懂了什么,以及这种理解是否仍然符合你的真实意图。

相关阅读

文中链接

整理自本文的外部链接,请以来源页面说明为准。

让 ChatGPT 交出“用户画像”:用提示词做一次可验证的信任审计 · 阿凡达博客