Les contenus générés par IA

Vous cherchez quelque chose d’ordinaire — le temps de cuisson d’un poulet, lequel de deux sièges auto est le meilleur, le sens d’un mot dans une lettre de l’école — et les résultats semblent écrits pour être trouvés plutôt que pour être lus. Les avis sous un produit ont tous la même forme et le même enthousiasme. Une vidéo arrive dans la conversation familiale et montre quelque chose qui serait une nouvelle importante si c’était arrivé. Rien de tout cela ne s’annonce. Vous constatez simplement qu’une part croissante de votre journée passe à décider si les choses sont réelles.

Ce qui en fait une objection et non une humeur, c’est le prix. Produire un paragraphe convaincant, ou la photo d’une scène qui n’a jamais eu lieu, coûtait le temps d’une personne et un certain savoir-faire. Ce coût était la seule chose qui limitait la quantité existante : ni le bon goût, ni les règles, ni la politique de qui que ce soit. Il est tombé à presque rien. Tout ce dont le prix chute à ce point arrive en volume, et ce n’est pas une affirmation sur cette technologie en particulier. C’est le comportement de l’offre.

On balaie aussi cette crainte avec l’histoire, et on ne devrait pas. Le web a du déchet depuis qu’il a des pages : fermes de contenu conçues pour les moteurs de recherche, chaînes de courriels, avis rédigés par des gens qui n’ont jamais eu le produit. Ce précédent sert d’habitude à dire que rien n’a changé. S’être trompé sur les détails d’une vague précédente ne prouve pas qu’on se trompe aujourd’hui, et chacune de ces vagues a bel et bien changé ce à quoi le web servait. Dire que la sensation a changé, c’est décrire quelque chose, et « cela existait déjà » ne répond pas à « il y en a bien davantage maintenant ».

Les textes, images et vidéos générés sont bon marché et abondants. Une personne sans compétence particulière produit en un après-midi ce qui aurait demandé une petite équipe, et peut recommencer demain, puis après-demain. Rien de cela n’est contesté par celles et ceux qui construisent ces systèmes, ni par celles et ceux qui les critiquent. C’est le point sur lequel les deux camps s’accordent avant de commencer à débattre.

Des pages générées de faible qualité sont fabriquées précisément pour capter le trafic de recherche. C’est un commerce et non un accident : une page existe pour se placer sur une question que les gens posent, porter de la publicité et être remplacée quand elle cesse de fonctionner. Ce commerce est bien antérieur à ces outils. Ce que les outils ont changé, c’est le coût de le mener à une échelle qui exigeait autrefois d’embaucher, si bien que les pages qui s’intercalent entre vous et une vraie réponse ne dépendent plus de la masse salariale de personne.

Les faux avis et les images fabriquées pour récolter des réactions circulent largement. Des avis sont écrits sur commande pour des produits que leur auteur n’a jamais eus en main. Des images sont montées pour choquer, pour émouvoir, ou simplement pour que le pouce s’arrête, et la réaction est le produit vendu. Ni l’une ni l’autre n’est rare aujourd’hui, et aucune ne vise seulement les personnes peu à l’aise avec la technique. Elles fonctionnent sur des lecteurs qui se croient prudents, et c’est en grande partie le sujet.

Cloner une voix à partir d’un court échantillon est chose faisable. Quelques secondes de parole enregistrée suffisent : un message d’accueil de répondeur, une vidéo publiée, l’enregistrement d’un spectacle scolaire que cent autres familles possèdent aussi. Ce qui en sort n’est pas une copie parfaite d’une personne. Ce n’est pas nécessaire. Il suffit que ce soit assez bon pour une ligne téléphonique et pour quelqu’un qui écoute avec peur.

C’est utilisé dans des arnaques par usurpation visant les familles. L’appel ressemble à quelqu’un que vous connaissez, il est question d’argent, d’aller chercher quelqu’un ou d’une urgence, et il est construit pour que s’arrêter et vérifier semble cruel. Cette combinaison — une voix familière et une urgence fabriquée — constitue tout le mécanisme, et elle fonctionne sur des personnes qui n’ouvriraient jamais un courriel mal écrit. C’est la partie du sujet qu’il vaut mieux connaître avant plutôt qu’après.

Et le volume rend la vérification plus difficile pour tout le monde, pas seulement pour les enfants. Un adulte qui vérifie soigneusement a désormais davantage à vérifier, et chaque vérification prend plus de temps qu’avant. Ce n’est pas un problème d’enfants avec une solution adulte qui attendrait à côté. La personne censée être le dernier filet travaille dans les mêmes conditions, avec le même temps, face à plus de matière qu’avant.

Savoir si les normes de provenance seront adoptées assez largement pour compter est inconnu, et ce n’est pas d’abord une question technique. Les pièces existent. L’adoption est un problème de coordination entre fabricants d’appareils photo, logiciels de téléphone, outils de montage et tous les endroits par où passent les fichiers, et aucun mécanisme n’oblige tout le monde. Une norme respectée par la moitié de la chaîne peut finir pire que rien, car une trace présente à certains endroits et absente ailleurs se lit facilement à l’envers. De quel côté cela tombera n’est pas connaissable d’ici.

Ce qu’il advient de l’utilité du web ouvert est une vraie question, pas une façon dramatique d’en poser une autre. Il a fonctionné parce que les pages écrites par des gens pour des gens formaient l’essentiel de ce qui existait et que la recherche savait les trier. Ce qu’il devient quand la chose la moins chère à produire est une page ayant la forme de la réponse attendue n’est pas clair. Une attente est un repli vers des espaces plus petits, fermés, payants ou adoubés. Une autre est que le tri s’adapte, comme il l’a déjà fait. La seconde a eu raison par le passé, ce qui n’est pas la même chose qu’avoir raison ici.

Savoir si une génération qui grandit en supposant que les images sont synthétiques finira mieux calibrée ou simplement cynique est la question qui empêche de dormir. Il existe une version où des enfants qui n’ont jamais cru qu’une photo faisait preuve développent un rapport plus solide à la preuve que celui de leurs parents. Il en existe une autre où la leçon retenue est que rien ne peut être su, ce qui est la conclusion la plus confortable et celle qui sert tous ceux à qui le doute profite. Laquelle arrivera dépend de choses que personne ne pilote, et cela ne se verra pas avant des années.

Un parent qui regarde tout cela et conclut que l’environnement informationnel s’est dégradé le lit avec justesse, au vu des éléments disponibles. Décider de limiter ce à quoi votre famille est exposée — moins de fils d’actualité, moins de transferts, davantage de choses lues dans des lieux portant un nom — découle de cette lecture au lieu de l’esquiver. C’est une conclusion légitime et non un retrait devant la question. Cela coûte quelque chose, et il faut le dire aussi : une part de ce que vous filtrerez aurait mérité d’être vue. L’arbitrage est réel, il vous revient, et rien ici n’est assez tranché pour que quiconque vous dise que vous l’avez mal fait.