As crianças e a IA

Pode ser que você não seja contra a tecnologia de jeito nenhum. Talvez você use no trabalho quase todo dia. A objeção aqui é mais estreita do que isso e mais difícil de responder: um adulto que usa uma dessas ferramentas já tem aquilo que a ferramenta está substituindo. Ele percebe quando uma resposta não fecha, porque já escreveu o relatório, já fez a conta, já sentou com o problema. Uma criança está no meio da construção de tudo isso, e a ferramenta chega oferecendo pular justamente a parte em que isso se constrói.

A preocupação específica é sobre esforço. Uma criança que ainda não sabe fazer algo passa quinze minutos frustrantes sem conseguir fazer, e esses quinze minutos não são tempo perdido. Eles são o trabalho. Uma resposta instantânea, fluente e segura de si tira isso dela. E uma criança tem muito pouco com que julgar essa resposta. Um adulto lê um parágrafo confiante, pensa que soa mais ou menos certo, e então confere com algo que já sabe. Alguém de nove anos tem menos coisas com que conferir, e passou a vida curta inteira num mundo em que frases impressas e bem construídas acabavam sendo verdadeiras.

Existe uma segunda preocupação que não tem nada a ver com a lição de casa. Essas ferramentas conversam. São calorosas, pacientes, estão disponíveis sem limite e nunca se cansam de uma criança que quer continuar. Crianças se apegam com facilidade, e isso é uma boa característica das crianças. Ninguém se propôs a construir um produto para crianças de oito anos; as crianças de oito anos chegaram assim mesmo, pelo celular de um irmão, dentro de um jogo, por meio de um aplicativo gratuito com um nome simpático. Quem diz espera, ainda não, não está sendo medroso. Está percebendo que a coisa não foi desenhada pensando no seu filho.

Não há evidência de longo prazo sobre o que essas ferramentas fazem com uma criança em desenvolvimento, porque ainda não pode haver. A IA conversacional chegou às casas comuns há poucos anos. A pesquisa que responderia à sua pergunta — acompanhar as mesmas crianças por uma década, comparando quem teve isso desde os sete anos com quem não teve — leva pelo menos essa década para ser feita, e ninguém estava em condições de começá-la a tempo. A primeira geração que está crescendo com isso ainda está na escola.

O que existe é pequeno e curto. Estudos com algumas dezenas de participantes, muitas vezes universitários e não crianças, medindo algo estreito ao longo de algumas semanas: quanto as pessoas lembram de um material que elas mesmas resumiram em comparação com um que uma ferramenta resumiu para elas, com que frequência conferem uma resposta, quanta confiança sentem depois. Parte desse trabalho é cuidadosa e vale a leitura. Ela também está fazendo perguntas muito menores que a sua, para pessoas muito mais velhas que seu filho, em prazos muito mais curtos que uma infância.

Os dois movimentos óbvios a partir daí são frágeis, e os dois são feitos o tempo todo. Não haver evidência de dano não é evidência de segurança; é a cara de uma coisa que não foi estudada. Do mesmo modo, um vazio na pesquisa não é em si um achado, e apontar para ele não demonstra que existe dano acontecendo. O que esse vazio significa de fato é que quem decide neste ano decide sem aquilo que encerraria a questão, e isso vale tanto para quem permite quanto para quem espera. Nenhum dos dois pisa em terreno mais firme que o outro.

As idades mínimas existem, estão escritas e são mais baixas do que a maioria das famílias imagina. Quase todo assistente de uso geral declara uma idade mínima nos termos de serviço: normalmente treze anos, às vezes dezoito, e com frequência treze com permissão de um adulto até os dezoito. O número varia por produto e por país, e é revisado. A verificação é uma data que o usuário digita, então não impede ninguém que não queira ser impedido. Mas o número em si é um fato que você pode ir ler em uns dez minutos, o que é raro numa página como esta, onde quase todas as respostas estão em aberto.

A classificação etária da loja de aplicativos é outro número, e muitas vezes mais baixo. Essa classificação vem de o desenvolvedor responder a um questionário sobre conteúdo; os termos de serviço são um contrato que o próprio desenvolvedor escreveu. Quando os dois discordam — uma classificação de doze anos num aplicativo cujos termos dizem treze — os termos são o que pesa mais. Uma classificação de loja é uma afirmação sobre categorias de conteúdo, não uma afirmação de que o produto é adequado para alguém de doze anos.

Também há falhas de segurança documentadas, e o padrão nelas é específico, não geral. Os incidentes graves que chegaram a processos judiciais, a investigações de órgãos reguladores e a mudanças forçadas nos produtos se concentraram nos chatbots de companhia: produtos construídos para uma conversa contínua com formato de relacionamento, e não para uma tarefa. Reportagens e peças judiciais descreveram menores recebendo conteúdo sexual, e conversas sobre automutilação que continuaram em vez de parar. Esses riscos não são hipotéticos, e não estão distribuídos por igual em tudo aquilo que se chama de IA.

Por isso vale segurar a distinção entre um produto de companhia e um assistente de uso geral, porque ela faz um trabalho enorme. Um é construído para a conversa continuar, e o tempo que o usuário fica é o número de que o negócio vive. O outro é construído para terminar uma tarefa e deixar o usuário ir embora. Os dois são chatbots, os dois escrevem na primeira pessoa, e uma criança chega a qualquer um dos dois pelo mesmo celular em uns quatro toques. Quase tudo que de fato deu errado com crianças está do lado do primeiro.

Se você mudar uma única coisa depois de ler esta página, que seja esta. A variável maior não é a idade da criança. É se a ferramenta está sendo usada com um adulto, ou por uma criança sozinha. É o mesmo produto fazendo duas coisas completamente diferentes, e a distância entre elas é maior do que a distância entre alguém de dez e alguém de catorze anos.

Usada junto, é um objeto compartilhado. Você vê a pergunta, vê a resposta, e as respostas erradas viram a parte mais valiosa do exercício inteiro. Uma criança que vê uma máquina confiante errar, e vê um adulto perceber, aprendeu algo que nenhuma conversa sobre segurança em IA vai entregar. Também significa que a pergunta esquisita, a resposta que incomodou e a virada estranha numa conversa acontecem enquanto tem alguém sentado ao lado. Ler algumas respostas juntos, em voz alta, é a coisa mais valiosa desta página, e custa uma noite.

Usada sozinha, a criança é o único controle sobre o que sai, na idade em que tem menos coisas com que conferir, e mais ninguém vê a conversa. Essa é a configuração por trás de quase tudo que deu errado: não a tecnologia por si só, mas uma pessoa jovem e um interlocutor incansável sem mais ninguém na sala. É também a configuração que chega por padrão, porque essas ferramentas moram num celular. Ninguém decide por ela. Ela simplesmente acontece, a menos que alguém decida outra coisa.

Procure a idade mínima real do produto específico que seu filho usa ou está pedindo. Leva uns dez minutos e é um dos poucos fatos verificáveis desta área inteira. Fica nos termos de serviço ou nas páginas de ajuda, normalmente sob um título como elegibilidade ou requisitos de idade, e será um número e não uma descrição: com frequência treze, às vezes dezoito, às vezes treze com o consentimento de um adulto até os dezoito. Veja também a classificação da loja de aplicativos, e espere que seja mais baixa, porque é definida de outro jeito e significa outra coisa. E se a ferramenta estiver embutida dentro de outro aplicativo — um assistente dentro de um aplicativo de lição de casa, um personagem de conversa dentro de um jogo — a cláusula de idade mora nos termos do aplicativo que a hospeda e é facílima de passar batido. O que quer que você decida depois, vai decidir com o número na frente.

Depois decida de propósito, para cada ferramenta, se é uma que seu filho usa com você ou uma que ele pode usar sozinho — e diga qual é qual em voz alta, para que todo mundo em casa saiba. Essa distinção é a que de fato protege, e só funciona quando é explícita. Se não for dita, ela escorrega para sozinho, porque é isso que um celular num quarto faz por padrão. Ferramentas podem passar da primeira categoria para a segunda conforme a criança cresce. Pouquíssimas deveriam começar na segunda.

E se a sua resposta for ainda não, essa é uma resposta completa. Ela não exige que você espere uma evidência que está a uma década de distância, e não precisa ser defendida para ninguém. Vale dizer ao seu filho exatamente com essas palavras — ainda não, em vez de não — porque isso diz a ele que a porta não está fechada para sempre, o que torna muito mais provável que ele volte a perguntar mais adiante em vez de dar a volta por fora. Ir de ainda não para sim é fácil. Voltar na outra direção não é.

A pergunta central aqui não pode ser respondida por ninguém agora. O que acontece com uma pessoa que teve uma IA conversacional disponível desde os oito anos, quando ela chegar aos vinte e cinco, não se sabe: não sabem os pesquisadores, não sabem as empresas, e não sabe ninguém que escreva sobre isso com segurança. As primeiras crianças que estão crescendo com isso ainda são crianças. Uma resposta vai existir na década de 2030, e vai chegar anos depois da decisão que você está tomando sobre este ano escolar. Essa é de fato a situação, e quem disser o contrário está preenchendo o vazio com um palpite.

Ninguém sabe o que uma infância passada em parte conversando com algo sempre disponível, que nunca precisa de nada, faz com aquilo que um jovem passa a esperar das pessoas. A pesquisa sobre isso está começando; as crianças que estão nela ainda são crianças. Ninguém sabe se os efeitos, se houver algum, são do tipo que se dissolve — quase todos os danos tecnológicos previstos para crianças acabaram menores do que o anunciado — ou do tipo que não se dissolve. Os dois padrões existem no registro histórico, e não há como saber com fundamento, de antemão, qual dos dois é este.

E ninguém sabe quanto de tudo isso ainda vai descrever o produto daqui a três anos. Essas ferramentas mudam mais rápido do que se consegue reunir evidência sobre elas, então um achado cuidadoso sobre um assistente de 2025 pode dizer muito pouco sobre um de 2029, e a base de evidência persegue algo que não para de se mover. É uma base desconfortável para uma decisão sobre o seu próprio filho. E é também a descrição honesta de onde as coisas estão, em vez de um motivo para parar de perguntar.

Então quem conclui que seu filho é novo demais para isso não leu nada errado. Está olhando para uma tecnologia cujo efeito de longo prazo sobre crianças é desconhecido, cuja idade mínima mais citada vem da legislação de privacidade e não de qualquer achado sobre maturidade, cujos danos documentados a jovens são reais ainda que distribuídos de forma desigual, e cujos fabricantes estão descobrindo o que ela faz com crianças ao mesmo tempo que todo mundo. Decidir que o ônus da prova cabe à ferramenta é um critério comum para algo novo que chega perto de uma criança. É mais ou menos o critério que aplicamos a tudo o mais que entra numa casa com crianças dentro, e aplicá-lo aqui cabe a você.