课程大纲 第 87 课,共 156 课 · 私密 AI
私密 AI

你的提示词去了哪里

为什么重要 当你在一个云端 AI 聊天里打字时,你的文字会离开你的设备,落到别人的计算机上。准确地知道它们去了哪里、谁能看到、会保留多久,能帮你决定哪些东西可以放心粘贴,哪些东西绝对不该粘贴。

明信片与信封

想象你给一位乐于助人的专家寄一封信。信封能防止邮递员在路上读到它。但专家必须拆开信封才能回复你,所以他们会读到每一个字。云端 AI 也是这样:路途是受保护的,目的地却不是。

云端 AI:运行在一家公司服务器上的 AI 模型。你的设备把你的文本(提示词)发给它,服务器运行模型,答案再通过互联网传回来。

提示词:你一次性发给模型的所有东西:你的消息,加上聊天里之前的所有消息,再加上文件、图片或粘贴的文档。

一条提示词的旅程

假设你把一封电子邮件草稿粘贴到 chat.example 的聊天里,并要求“让它更友好一些”。下面是通常会发生的事情,一步一步来:

  1. 你的浏览器用 HTTPS 加密它,然后发送出去。你 Wi-Fi 上的人或者你的互联网服务提供商能看到你和 chat.example 通了信,但看不到你写了什么。(加密模块会解释 HTTPS 能隐藏什么、不能隐藏什么。)
  2. 服务商的服务器解密它。它们必须这样做,否则模型就没法读它。从这里开始,你的文本对服务商的系统来说就是可读的了。
  3. 模型读取整段对话。大多数聊天会随每条新消息把之前的消息再发一遍,所以你一小时前粘贴的东西仍然在被发送。
  4. 请求通常会被记录。日志里常常包括你的账号、时间、你的 IP 地址,以及根据服务的不同,还包括文本本身。
  5. 文本可能会被保留。用于聊天记录、针对滥用的安全检查,以及在某些服务和套餐下,用于改进未来的模型。有些服务商允许你关闭训练;设置因服务商和套餐而异。
  6. 工具和插件可能会把它传出去。如果 AI 替你搜索网络、读取你的电子邮件或调用另一项服务,你提示词的部分内容也可能被传送到那些服务那里。

服务商能了解到什么

你输入的文字只是其中的一部分。每条提示词周围都有元数据:关于这条消息的事实,而不是它的内容。

元数据:关于数据的数据。对一条提示词来说:谁发送的、什么时候、从哪个 IP 地址和设备、有多长,以及附加了哪些文件。

经过几周的积累,提示词和元数据合在一起就能描绘出一幅详细的画面:你的工作、你的健康担忧、你的经济困难、你同事的名字。人们常常会告诉聊天助手一些他们绝不会输进搜索框的事情,因为那感觉像是一次私密的对话。

一个常见的误解

“我删除了聊天,所以它就没了。”删除通常只是把它从你的历史记录视图里移除。副本可能还会在备份、安全日志或审核队列里存在一段时间,时长按服务商的政策而定。把你发给云端 AI 的任何东西都当作可能会被保留的东西。

一条简单的经验法则

在粘贴之前,先问问自己:“如果这家公司的一个陌生人读到了它,我能接受吗?”如果答案是否定的,就做下面三件事之一:

  • 先去掉个人信息(名字、电子邮件、电话号码、账号)。你将在下下一课为此编写代码。
  • 使用设备端模型,它从不把你的文本发送到任何地方。那是下一课的内容。
  • 不要用 AI 来做这件事。有些东西,比如密码和别人的秘密,永远不该出现在提示词里。

试一试 打开你使用的任何一个 AI 聊天工具的设置,找一找“数据控制”“历史记录”或“改进模型”之类的词。写下三件事:你的聊天记录会被保留吗,它能被用于训练吗,你能把它关掉吗?这只需要两分钟,而你就会知道自己的处境。

回顾

  • HTTPS 在路上保护你的提示词,但服务商必须解密它才能作答,所以他们能读到它。
  • 提示词常常连同元数据一起被记录,并且根据服务和你的设置,可能会为了聊天记录、安全检查或训练而被保留。
  • 从你的历史记录里删除一段聊天,并不能保证每一份副本都没了。
  • 对于任何你不愿给陌生人看的东西,去掉个人数据、改用设备端,或者干脆不用 AI。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。