Программа курса Урок 87 из 156 · Приватный ИИ
Приватный ИИ

Куда уходят ваши промпты

Почему это важно Когда вы печатаете в облачном чате с ИИ, ваши слова покидают устройство и попадают на чужие компьютеры. Если точно знать, куда они идут, кто может их видеть и как долго они там остаются, проще решить, что безопасно вставлять, а что не стоит вставлять никогда.

Открытка и конверт

Представьте, что вы отправляете письмо отзывчивому эксперту. Конверт не даёт почтальону прочитать письмо по дороге. Но эксперту нужно открыть конверт, чтобы ответить, поэтому он читает каждое слово. Облачный ИИ работает так же: путь защищён, место назначения - нет.

Облачный ИИ: модель ИИ, которая работает на серверах компании. Ваше устройство отправляет ей ваш текст (промпт), серверы запускают модель, и ответ возвращается через интернет.

Промпт: всё, что вы отправляете модели за один раз: ваше сообщение плюс все предыдущие сообщения в чате плюс файлы, изображения или вставленные документы.

Путь одного промпта

Допустим, вы вставляете черновик письма в чат на chat.example и просите "сделайте дружелюбнее". Вот что обычно происходит, шаг за шагом:

  1. Ваш браузер шифрует его через HTTPS и отправляет. Люди в вашей сети Wi-Fi или у вашего провайдера видят, что вы общались с chat.example, но не то, что вы написали. (Модуль о шифровании объясняет, что HTTPS скрывает, а что нет.)
  2. Серверы провайдера его расшифровывают. Иначе нельзя, иначе модель не смогла бы его прочитать. С этого момента ваш текст доступен для чтения системам провайдера.
  3. Модель читает весь разговор. Большинство чатов заново отправляют предыдущие сообщения с каждым новым, поэтому то, что вы вставили час назад, всё ещё отправляется.
  4. Запрос обычно записывается в лог. Логи часто включают ваш аккаунт, время, IP-адрес и, в зависимости от сервиса, сам текст.
  5. Текст может сохраняться. История чата, проверки безопасности на злоупотребления и, у некоторых сервисов и тарифов, улучшение будущих моделей. Некоторые провайдеры позволяют выключить обучение; настройки различаются по провайдерам и тарифам.
  6. Инструменты и плагины могут передать его дальше. Если ИИ ищет в вебе, читает вашу почту или обращается к другому сервису за вас, части вашего промпта могут уйти и в эти сервисы.

Что может узнать провайдер

Слова, которые вы печатаете, - лишь часть. Вокруг каждого промпта есть метаданные: факты о сообщении, а не его содержание.

Метаданные: данные о данных. Для промпта: кто его отправил, когда, с какого IP-адреса и устройства, какой он длины и какие файлы были приложены.

Собранные за недели, промпты и метаданные могут нарисовать подробную картину: ваша работа, тревоги о здоровье, денежные трудности, имена коллег. Люди часто рассказывают чат-ассистенту то, что никогда не ввели бы в поисковую строку, потому что это ощущается как личный разговор.

Распространённое заблуждение

"Я удалил чат, значит, его больше нет." Удаление обычно убирает его из вашей истории. Копии могут ещё какое-то время существовать в резервных копиях, логах безопасности или очередях проверки, столько, сколько говорит политика провайдера. Считайте всё, что вы отправляете облачному ИИ, тем, что может сохраниться.

Простое правило

Прежде чем вставлять, спросите себя: "Было бы мне нормально, если бы это прочитал незнакомец в этой компании?" Если нет, сделайте одно из трёх:

  • Сначала уберите личное (имена, адреса почты, номера телефонов, номера счетов). Код для этого вы напишете через урок.
  • Используйте модель на устройстве, которая никуда не отправляет ваш текст. Это следующий урок.
  • Не используйте для этого ИИ. Некоторым вещам, например паролям и чужим секретам, никогда не место в промпте.

Попробуйте Откройте настройки любого инструмента чата с ИИ, которым пользуетесь, и найдите слова вроде "управление данными", "история" или "улучшение модели". Запишите три вещи: хранится ли история чатов, может ли она использоваться для обучения и можно ли это выключить? Это займёт две минуты, и вы будете знать, на каком вы свете.

Итоги

  • HTTPS защищает промпт в пути, но провайдер должен его расшифровать, чтобы ответить, поэтому может его прочитать.
  • Промпты часто записываются в логи вместе с метаданными и могут храниться для истории, проверок безопасности или обучения, в зависимости от сервиса и ваших настроек.
  • Удаление чата из истории не обещает, что исчезли все копии.
  • Убирайте персональные данные, используйте модель на устройстве или не используйте ИИ для того, что не показали бы незнакомцу.

Заметили проблему в этом уроке? Сообщите о ней · Спросить об этом уроке

Это упражнение откроется скоро

Закончи предыдущий урок, чтобы открылся этот. Весь курс бесплатный, аккаунт не нужен, и ты можешь прочитать этот урок прямо сейчас.