A IA e os seus dados

Uma caixa de busca nunca convidou a isso. Você digitava três ou quatro palavras nela, com cautela, porque sabia que estava digitando para uma máquina. Um assistente de conversa pede a história inteira, e as pessoas dão: a preocupação de saúde que você ainda não levou ao médico, a briga com a sua mãe que já está na terceira semana, o parágrafo explicando que sua filha está sofrendo desde a mudança — com o nome dela dentro, e a escola dela, porque a ferramenta pediu contexto e é o contexto que deixa a resposta boa.

O que transforma isso em uma objeção real, e não em um mal-estar genérico, é que o formato é quem convence. Ele escreve para você na segunda pessoa. Faz uma pergunta de acompanhamento. Não reage, não julga, não conta para ninguém, e não há mais ninguém na sala. Todo sinal na superfície diz conversa privada. Por baixo, cada mensagem é uma requisição de rede que sai da sua casa, chega aos servidores de uma empresa com uma conta associada, e cai em um sistema construído para guardar registros, não para esquecê-los.

Você não precisa acreditar que alguém age de má-fé para achar que essa troca é ruim. A distância entre o que a coisa parece e o que a coisa é constitui a objeção inteira, e nenhuma declaração de intenção fecha essa distância. Uma empresa pode ser tocada por gente cuidadosa e ainda assim guardar anos da escrita mais franca da sua família em máquinas que você nunca vai ver, sob termos que ela pode reescrever, por razões que ela vai descrever depois.

O que você digita costuma sair do seu aparelho e ficar guardado por algum tempo. O serviço pode precisar disso para a conversa ativa, verificações de segurança, suporte e backups. O prazo exato varia por empresa e plano.

Muitos planos de consumo podem usar o conteúdo enviado para melhorar modelos futuros, a menos que você desligue esse ajuste. Procure na seção de privacidade ou dados da conta por termos sobre melhorar o modelo ou compartilhar conteúdo.

Apagar um chat costuma tirá-lo da sua vista e dos registros ativos da empresa. Isso pode não remover cópias separadas em registros, backups ou uma rodada de treinamento já concluída.

Planos gratuitos costumam ter condições menos protetoras que os pagos, escolares ou profissionais. Um serviço com a mesma aparência pode ter outro contrato, e essas condições podem mudar.

“Nós não vendemos os seus dados” é uma promessa sobre uma transação, e uma promessa estreita. Não diz nada sobre por quanto tempo algo é retido, nada sobre quais funcionários ou terceirizados podem abrir uma conversa, nada sobre os suboperadores — o provedor de nuvem, a empresa de moderação, a de análise — que recebem dados no funcionamento normal do serviço, e nada sobre se o conteúdo enviado é usado para treinamento. Cada uma dessas é uma pergunta separada com uma resposta separada, e uma frase sobre vender não responde a nenhuma.

A mesma estreiteza atravessa o resto do vocabulário, e vale aprender a escutar. “Não treinamos com os seus dados” não diz nada sobre por quanto tempo os dados ficam guardados. “Seus dados são criptografados” descreve como eles viajam e como ficam em um disco, não quem pode lê-los depois de descriptografados para uso. “Anonimizado” descreve tirar o nome de um registro; não descreve tirar o conteúdo, e o parágrafo sobre o diagnóstico do seu filho continua sendo aquele parágrafo com ou sem um nome preso a ele.

Também vale que pessoas podem ler o que é enviado. As empresas empregam revisores e terceirizados para checar amostras por abuso, segurança e qualidade, os engenheiros geralmente conseguem alcançar dados de produção enquanto consertam coisas, e tanto pedidos de autoridades quanto incidentes de segurança acontecem. Isso é a operação comum de um serviço nessa escala, não um escândalo, e é por isso que a suposição sensata de trabalho não é que ninguém lê o que a sua família digita, mas que alguém pode ler.

Parta do princípio de que qualquer coisa digitada pode ser lida por uma pessoa. Não porque alguém esteja vigiando a sua família em particular, mas porque a revisão humana é parte comum de operar esses serviços, porque contas vazam e porque registros são solicitados. A versão utilizável é um teste de dois segundos antes de apertar enviar: se isto aparecesse na frente de um desconhecido daquela empresa com o seu nome junto, daria para sobreviver? Quase tudo o que uma família digita passa fácil. O pouco que não passa é exatamente o que vale a pena reescrever antes de mandar.

Depois use os ajustes da conta para pedir a exclusão, e guarde a confirmação. Na seção de privacidade ou de dados, exporte primeiro uma cópia do que está guardado — isso mostra o que existe — depois apague as conversas, e apague a própria conta se você terminou com o serviço. Quando o único caminho é um pedido escrito, mande por escrito e salve a resposta. A legislação de proteção de dados de alguns países dá às pessoas direito a uma cópia e direito à exclusão, e vale descobrir se a sua dá; mesmo onde esse direito não existe, um pedido datado e uma resposta datada são um registro que você não tinha antes, e uma empresa que não põe uma resposta por escrito já disse alguma coisa.

Nada disso exige que você libere essas ferramentas. Se a resposta na sua casa é não, os hábitos continuam valendo, porque seu filho vai encontrar essas ferramentas na escola, no celular de um amigo e dentro de aplicativos que não anunciam o que têm por baixo — e recortar a foto, escolher a conta da escola e saber que existe uma chave para procurar são hábitos que viajam com ele para o que vier depois.

Se a exclusão alcança os dados derivados é a maior pergunta sem resposta aqui. Você geralmente consegue tirar uma conversa da sua tela, e muitas vezes dos registros de uma empresa. Se a influência daquele texto pode ser removida de um modelo que já aprendeu com ele não é algo que uma empresa consiga demonstrar para você, e em alguns casos nem algo que ela consiga estabelecer para si mesma. Quem disser que suas palavras com certeza sumiram, ou que com certeza continuam lá, está afirmando mais do que se sabe.

O que acontece com conversas já usadas em treinamento está aberto do mesmo jeito. Desligar uma chave muda o que vem a seguir; não alcança para trás um modelo que já foi treinado. Não existe mecanismo estabelecido para retirar um texto depois do fato, nenhuma forma de você auditar se algum foi aplicado, e nenhuma parte externa em posição de conferir por você. A chave é uma válvula sobre o futuro, não sobre o passado, e vale saber disso antes de se sentir resolvido.

Se os dados de uma criança podem ser retirados de forma significativa mais tarde é a pergunta de cauda mais longa. Alguém de treze anos que aceita termos não tem como saber o que esses termos vão acabar cobrindo, e a pessoa que talvez queira desfazer essa decisão ainda não existe: o adulto em que ela se torna. Se, aos vinte e cinco, quiser retirar o registro da própria adolescência, todas as perguntas acima continuam sem resposta, só que agora dizem respeito a alguém que era criança quando o registro começou. Ninguém tem uma boa resposta para isso, e pouquíssimos recebem a pergunta.

Então um pai ou uma mãe que lê tudo isso e conclui que os termos não são bons o bastante chegou a uma conclusão legítima. Manter a sua família fora dessas ferramentas não é falta de entendimento sobre elas. É um julgamento sobre uma troca em que o outro lado não vai dizer o que guarda, por quanto tempo guarda, nem se é capaz de soltar — e recusar uma troca nesses termos é uma coisa comum e defensável de se fazer. Essa leitura de um quadro inacabado é tão sólida quanto qualquer outra em oferta, e a decisão é sua.