课程大纲 第 91 课,共 156 课 · 私密 AI
私密 AI

默认私密的 AI 功能

为什么重要 如果你构建网站或应用,很快就会有人要你“加上 AI”。你在第一周做出的选择,决定了你用户的私密文本是悄悄地永远流向第三方,还是留在他们身边。默认私密主要关乎做出好的选择,而不是写出巧妙的代码。

自带的午餐

从家里带午餐更便宜,而且你确切地知道里面有什么。买午餐有时候也值得。一个好的产品团队每天都会有意识地做选择,而不是因为大家都这样做就总是去买。AI 功能也是一样:能在本地就在本地,真正值得时才用云端,而且永远不要误打误撞。

默认私密:用户什么都不碰时得到的设置,就是私密的那个。分享更多是他们自己选择的事,而永远不是他们必须去关掉的事。

一架选择的梯子

对每个 AI 功能,都从最上面开始,只有当上面一级做不了这件事时,才往下走一级。

  1. 不用 AI。一条简单的规则、一个模板或一张好的表单能不能做到?规则永远不会泄露,永远不会编造事实,而且能离线工作。
  2. 设备端模型。像改写、分类或简短总结这样的小工作,常常适合一个小型的本地模型。什么都不会离开设备。
  3. 云端模型,最小化。只发送任务需要的东西:先脱敏,发送一个段落而不是整份文档,丢掉旧的聊天记录。
  4. 云端模型,完整上下文。只在任务真正需要时使用,而且每次都要得到用户明确的同意。

Floati 的 CV Builder 处在最上面的两级:一个总能工作的基于规则的助手,外加一个可选的设备端润色。润色在你的浏览器里运行。基于规则的助手运行在 Floati 自己的服务器上,所以你的简历文本确实会被传送到那里,但它永远不会被发给一家 AI 公司。能够用一句话准确地说出这一点,就是默认私密的一部分。

上线之前要问的问题

问题默认私密的回答
这个功能默认是开还是关?关闭,或者仅限本地,直到用户把它打开
用户能看到将要发送什么吗?能:在发送之前预览确切的文本
服务商会保留提示词或用它们进行训练吗?选择不会这样做的设置或套餐,并直白地说出来
我们的日志会存储提示词吗?不会。记录请求发生过,而不是它说了什么
AI 能调用工具或读取其他数据吗?只能用这个功能需要的,不多给
如果 AI 部分失败了会怎样?一个不用 AI 的后备方案仍然能工作

你自己的日志也是其中的一部分

团队常常选了一家谨慎的 AI 服务商,然后又“为了调试”把每一条提示词都存进自己的错误日志。这让所有的努力都白费了。记录计数、时长和错误代码;如果你必须保留文本来修复一个 bug,就先把它脱敏,并按很短的周期删除它。

一个常见的误解

“征求同意就能解决一切。”一个写着“AI 可能会处理你的数据,好吗?”的弹窗,如果那个按钮是唯一的出路,就保护不了任何人。同意很重要,但从一开始就少发送更重要。最好的同意界面,是那个你根本不需要的界面,因为没有任何个人信息离开设备。

试一试 挑一个你使用的应用里的 AI 功能(智能回复、写作助手、照片搜索)。顺着梯子走一遍:它在哪一级?它本来能不能再高一级?写一句话,说明你会改变什么。

回顾

  • 默认私密意味着用户不做任何操作时得到的设置,就是私密的那个。
  • 只在必要时才沿着梯子往下走:不用 AI,然后是设备端,然后是最小化的云端,最后才是完整的云端。
  • 让用户看到将要发送什么,不要让提示词进入你自己的日志,并且始终保留一个不用 AI 的后备方案。
  • 少发送,胜过征求同意去发送更多。

发现这节课有问题?报告它 · 就这节课提问

这个练习即将开放

完成它前面的那一课,这一课就会解锁。整门课程免费,无需账号,而且你现在就可以阅读这节课。