Conteúdo gerado por IA

Você procura algo comum — quanto tempo assar um frango, qual das duas cadeirinhas é melhor, o que significa uma palavra numa carta da escola — e os resultados parecem escritos para serem encontrados, não para serem lidos. As avaliações de um produto têm todas o mesmo formato e o mesmo entusiasmo. No grupo da família chega um vídeo mostrando algo que seria notícia importante se tivesse acontecido. Nada disso se anuncia. Você só percebe que cada dia sai mais tempo seu para decidir se as coisas são reais.

O que transforma isso em objeção, e não em mau humor, é o preço. Produzir um parágrafo que soe convincente, ou uma fotografia de algo que nunca aconteceu, custava o tempo de uma pessoa e alguma habilidade. Esse custo era a única coisa que limitava quanto disso existia: não o bom gosto, não as regras, não a política de ninguém. Agora caiu para quase nada. Tudo cujo preço cai tanto chega em volume, e isso não é uma afirmação sobre esta tecnologia em particular. É como a oferta se comporta.

A preocupação também é descartada com um apelo à história, e não deveria. A web tem lixo desde que tem páginas: fazendas de conteúdo feitas para os buscadores, correntes de e-mail, avaliações escritas por quem nunca teve o produto. Esse histórico costuma ser usado para dizer que nada mudou. Alguém ter errado nos detalhes de uma onda anterior não prova que erre agora, e cada uma daquelas ondas mudou de fato para que servia a web. Quem diz que a sensação mudou está descrevendo alguma coisa, e “isso já existia antes” não responde a “agora tem muito mais”.

Texto, imagens e vídeo gerados são baratos e abundantes. Alguém sem nenhuma habilidade especial produz numa tarde o que antes exigiria uma equipe pequena, e pode fazer de novo amanhã, e de novo depois de amanhã. Isso não é contestado por quem constrói esses sistemas nem por quem os critica. É o ponto em que os dois lados concordam antes de começar a discutir.

Existem páginas geradas de baixa qualidade feitas especificamente para capturar tráfego de busca. Isso é um negócio, não um acidente: a página existe para aparecer numa pergunta que as pessoas fazem, carregar anúncios e ser trocada quando parar de funcionar. O negócio é muito anterior a essas ferramentas. O que as ferramentas mudaram foi o custo de tocá-lo numa escala que antes exigia contratar gente, então as páginas entre você e uma resposta real não dependem mais da folha de pagamento de ninguém.

Avaliações fabricadas e imagens feitas para colher engajamento circulam por toda parte. Avaliações são escritas sob encomenda para produtos que quem escreve nunca segurou. Imagens são montadas para chocar, ou para comover, ou só para o polegar parar de rolar, e a reação é o que está sendo vendido. Nenhuma das duas coisas é incomum hoje, e nenhuma mira só quem é descuidado com tecnologia. Elas funcionam com leitores que se consideram cuidadosos, e aí está boa parte da questão.

Clonar uma voz a partir de uma amostra curta é algo prático. Bastam alguns segundos de fala gravada: uma saudação de caixa postal, um vídeo publicado, a gravação de uma apresentação da escola que outras cem famílias também têm. O que sai não é uma cópia perfeita de uma pessoa. Não precisa ser. Precisa ser boa o bastante para uma linha telefônica e para quem escuta com medo.

Isso é usado em golpes de falsa identidade dirigidos a famílias. A ligação soa como alguém que você conhece, trata de dinheiro, de buscar alguém ou de uma emergência, e é montada para que parar e conferir pareça uma crueldade. Essa combinação — uma voz conhecida mais uma urgência fabricada — é o mecanismo inteiro, e funciona com pessoas que jamais abririam um e-mail mal escrito. É a parte do assunto que vale conhecer antes, e não depois.

E o volume torna a verificação mais difícil para todo mundo, não só para as crianças. Um adulto que confere as coisas com cuidado agora tem mais coisas a conferir, e cada conferência leva mais tempo do que levava. Isso não é um problema de criança com uma solução adulta esperando ao lado. Quem deveria ser o último filtro trabalha nas mesmas condições, com o mesmo tempo, diante de mais material do que antes.

Se os padrões de procedência serão adotados de forma ampla o bastante para importar é desconhecido, e não é sobretudo uma questão técnica. As peças existem. A adoção é um problema de coordenação entre fabricantes de câmeras, software de telefone, programas de edição e todo lugar por onde os arquivos passam, e não há mecanismo que obrigue todos. Um padrão que metade da cadeia respeita pode acabar pior do que nenhum, porque um registro presente em alguns lugares e ausente em outros é fácil de ler ao contrário. Para que lado isso cai não dá para saber daqui.

O que acontece com a utilidade da web aberta é uma pergunta genuína, e não um jeito dramático de dizer outra coisa. Ela funcionou porque páginas escritas por pessoas para pessoas eram o grosso do que existia e a busca conseguia ordená-las. No que ela se transforma quando a coisa mais barata de produzir é uma página com o formato da resposta que você queria, não está claro. Uma expectativa é um recuo para espaços menores, fechados, pagos ou avalizados. Outra é que a ordenação se adapte, como já se adaptou antes. A segunda esteve certa no passado, o que não é a mesma coisa que estar certa agora.

Se uma geração que cresce presumindo que a mídia é sintética termina mais bem calibrada ou apenas cínica é a pergunta que tira o sono. Há uma versão em que crianças que nunca acreditaram que uma foto fosse prova desenvolvem uma relação mais firme com evidência do que os pais delas jamais tiveram. Há outra em que a lição que fica é que nada pode ser sabido, que é a conclusão mais confortável e a que serve a todo mundo que ganha com a dúvida. Qual das duas chega depende de coisas que ninguém está conduzindo, e não vai aparecer por anos.

Quem olha para tudo isso e conclui que o ambiente de informação piorou está lendo com precisão, com as evidências disponíveis. Decidir limitar a que a sua família fica exposta — menos feeds, menos encaminhamentos, mais coisas lidas em lugares com um nome atrás — decorre dessa leitura em vez de fugir dela. É uma conclusão legítima e não uma retirada da pergunta. Custa alguma coisa, e isso também precisa ser dito: parte do que você filtrar teria valido a pena ver. A troca é real, a decisão é sua, e nada disso está resolvido o bastante para alguém dizer que você decidiu errado.