Conteúdo do curso Lição 87 de 156 · IA privada
IA privada

Para onde vão os seus prompts

Por que isso importa Quando você digita num chat de IA na nuvem, as suas palavras saem do seu dispositivo e vão parar nos computadores de outra pessoa. Saber exatamente para onde elas vão, quem pode vê-las e por quanto tempo ficam ajuda você a decidir o que é seguro colar, e o que você nunca deveria colar.

O cartão-postal e o envelope

Imagine mandar uma carta para um especialista prestativo. O envelope impede o carteiro de lê-la no caminho. Mas o especialista precisa abrir o envelope para responder, então ele lê cada palavra. Uma IA na nuvem funciona do mesmo jeito: a viagem é protegida, o destino não.

IA na nuvem: um modelo de IA que roda nos servidores de uma empresa. O seu dispositivo envia o seu texto (o prompt), os servidores rodam o modelo e a resposta volta pela internet.

Prompt: tudo o que você envia ao modelo de uma vez: a sua mensagem, mais as mensagens anteriores do chat, mais arquivos, imagens ou documentos colados.

A viagem de um prompt

Digamos que você cole o rascunho de um e-mail num chat em chat.example e peça "deixe isto mais simpático". Veja o que costuma acontecer, passo a passo:

  1. O seu navegador o criptografa com HTTPS e o envia. As pessoas no seu Wi-Fi ou no seu provedor de internet conseguem ver que você falou com chat.example, mas não o que você escreveu. (O módulo de criptografia explica o que o HTTPS esconde e o que não esconde.)
  2. Os servidores do provedor o descriptografam. Eles precisam, senão o modelo não conseguiria lê-lo. Daqui em diante, o seu texto pode ser lido pelos sistemas do provedor.
  3. O modelo lê a conversa inteira. A maioria dos chats envia de novo as mensagens anteriores junto com cada nova, então algo que você colou uma hora atrás continua sendo enviado.
  4. A requisição costuma ser registrada. Os registros muitas vezes incluem a sua conta, o horário, o seu endereço IP e, dependendo do serviço, o próprio texto.
  5. O texto pode ser guardado. Histórico do chat, verificações de segurança contra abuso e, em alguns serviços e planos, a melhoria de modelos futuros. Alguns provedores deixam você desligar o treinamento; as configurações variam por provedor e por plano.
  6. Ferramentas e plugins podem repassá-lo. Se a IA pesquisa na web, lê o seu e-mail ou chama outro serviço por você, partes do seu prompt podem viajar também para esses serviços.

O que o provedor pode descobrir

As palavras que você digita são só uma parte. Em volta de cada prompt ficam os metadados: fatos sobre a mensagem, e não o conteúdo dela.

Metadados: dados sobre dados. Para um prompt: quem o enviou, quando, de qual endereço IP e dispositivo, qual o tamanho e quais arquivos foram anexados.

Juntos ao longo de semanas, prompts e metadados podem pintar um retrato detalhado: o seu trabalho, as suas preocupações de saúde, os seus problemas com dinheiro, os nomes dos seus colegas. As pessoas muitas vezes contam a um assistente de chat coisas que nunca digitariam numa caixa de busca, porque parece uma conversa particular.

Um equívoco comum

"Eu apaguei o chat, então ele sumiu." Apagar costuma tirá-lo da sua visualização do histórico. Cópias ainda podem existir por um tempo em backups, registros de segurança ou filas de revisão, pelo tempo que a política do provedor disser. Trate tudo o que você envia a uma IA na nuvem como algo que pode ser guardado.

Uma regra prática simples

Antes de colar, pergunte: "Eu ficaria tranquilo se um desconhecido nesta empresa lesse isto?" Se a resposta for não, faça uma de três coisas:

  • Tire primeiro as partes pessoais (nomes, e-mails, números de telefone, números de conta). Você vai escrever código para isso na lição depois da próxima.
  • Use um modelo no dispositivo, que nunca envia o seu texto para lugar nenhum. Esse é o assunto da próxima lição.
  • Não use IA para isso. Algumas coisas, como senhas e segredos de outras pessoas, nunca devem entrar num prompt.

Experimente Abra as configurações de qualquer ferramenta de chat com IA que você usa e procure palavras como "controles de dados", "histórico" ou "melhorar o modelo". Anote três coisas: o seu histórico de chat é guardado, ele pode ser usado para treinamento, e você consegue desligar isso? Leva dois minutos e você vai saber onde está pisando.

Resumo

  • O HTTPS protege o seu prompt no caminho, mas o provedor precisa descriptografá-lo para responder, então ele consegue lê-lo.
  • Os prompts muitas vezes são registrados com metadados, e podem ser guardados para histórico, verificações de segurança ou treinamento, dependendo do serviço e das suas configurações.
  • Apagar um chat do seu histórico não garante que todas as cópias sumiram.
  • Remova os dados pessoais, use um modelo no dispositivo ou deixe a IA de lado para tudo o que você não mostraria a um desconhecido.

Viu um problema nesta lição? Reporte-o · Pergunte sobre esta lição

Este exercício abre em breve

Termine a lição anterior para que esta seja desbloqueada. O curso inteiro é gratuito, não precisa de conta, e você pode ler esta lição agora mesmo.