Les enfants et l’IA

Vous n’êtes peut-être pas du tout hostile à cette technologie. Il se peut même que vous l’utilisiez au travail presque tous les jours. L’objection ici est plus étroite que cela, et plus difficile à écarter : un adulte qui se sert de ces outils possède déjà ce que l’outil vient remplacer. Il repère qu’une réponse cloche, parce qu’il a écrit le rapport, fait le calcul, passé du temps sur le problème. Un enfant est en plein milieu de cette construction, et l’outil arrive en proposant de sauter précisément l’étape où elle se fait.

L’inquiétude précise porte sur l’effort. Un enfant qui ne sait pas encore faire quelque chose passe quinze minutes frustrantes à ne pas y arriver, et ces quinze minutes ne sont pas du temps perdu. Elles sont le travail. Une réponse immédiate, fluide et assurée les supprime. Et l’enfant n’a presque rien pour juger cette réponse. Un adulte lit un paragraphe assuré, se dit que cela paraît à peu près juste, puis le confronte à ce qu’il sait déjà. Un enfant de neuf ans a moins de choses à quoi le confronter, et il a passé sa courte vie entière dans un monde où les phrases imprimées et bien tournées se révélaient vraies.

Il y a une seconde inquiétude qui n’a rien à voir avec les devoirs. Ces outils parlent. Ils sont chaleureux, patients, disponibles sans limite, et ils ne se lassent jamais d’un enfant qui veut continuer. Les enfants s’attachent facilement, et c’est une bonne chose chez un enfant. Personne n’a entrepris de construire un produit pour des enfants de huit ans ; les enfants de huit ans sont arrivés quand même, par le téléphone d’un frère, à l’intérieur d’un jeu, via une application gratuite au nom sympathique. Un parent qui dit attends, pas encore, n’est pas craintif. Il constate que la chose n’a pas été conçue en pensant à son enfant.

Il n’existe aucune donnée de long terme sur ce que ces outils font à un enfant en développement, parce qu’il ne peut pas encore y en avoir. L’IA conversationnelle est entrée dans les foyers ordinaires il y a quelques années à peine. La recherche qui répondrait à votre question — suivre les mêmes enfants pendant une décennie, comparer ceux qui en disposaient dès sept ans et ceux qui n’en avaient pas — demande au moins cette décennie, et personne n’était en position de la lancer à temps. La première génération qui grandit avec cela est encore à l’école.

Ce qui existe est petit et court. Des études portant sur quelques dizaines de participants, souvent des étudiants plutôt que des enfants, qui mesurent quelque chose d’étroit sur quelques semaines : ce que les gens retiennent d’un texte qu’ils ont résumé eux-mêmes par rapport à un texte qu’un outil a résumé pour eux, à quelle fréquence ils vérifient une réponse, à quel point ils se sentent sûrs après coup. Une partie de ce travail est soignée et mérite d’être lue. Elle pose aussi des questions bien plus petites que la vôtre, à des personnes bien plus âgées que votre enfant, sur des horizons bien plus courts qu’une enfance.

Les deux conclusions évidentes que l’on en tire sont fragiles, et toutes deux sont tirées constamment. L’absence de preuve d’un dommage n’est pas une preuve d’innocuité ; c’est l’allure qu’a une chose non étudiée. De même, un vide dans la recherche n’est pas en soi un résultat, et le désigner ne démontre pas qu’un dommage se produit. Ce que ce vide signifie réellement, c’est qu’un parent qui décide cette année décide sans ce qui trancherait la question — et cela vaut autant pour celui qui autorise que pour celui qui attend. Aucun des deux ne se tient sur un terrain plus solide que l’autre.

Les âges minimums existent, ils sont écrits, et ils sont plus bas que ce que la plupart des parents imaginent. Presque tous les assistants généralistes fixent un âge minimum dans leurs conditions d’utilisation : le plus souvent treize ans, parfois dix-huit, et souvent treize ans avec l’autorisation d’un adulte jusqu’à dix-huit. Le chiffre varie selon le produit et selon le pays, et il est révisé. La vérification se résume à une date que l’utilisateur saisit, elle n’arrête donc personne qui ne veut pas être arrêté. Mais le chiffre lui-même est un fait que vous pouvez aller lire en une dizaine de minutes, ce qui est rare sur une page comme celle-ci, où presque toutes les réponses restent ouvertes.

La classification par âge de la boutique d’applications est un autre chiffre, et souvent plus bas. Cette classification vient de l’éditeur qui répond à un questionnaire sur le contenu ; les conditions d’utilisation sont un contrat que l’éditeur a lui-même rédigé. Quand les deux divergent — une classification douze ans et plus pour une application dont les conditions disent treize — ce sont les conditions qui pèsent le plus. Une classification de boutique dit quelque chose sur des catégories de contenu, elle ne dit pas que le produit convient à un enfant de douze ans.

Il existe aussi des défaillances de sécurité documentées, et le motif qui s’y dessine est précis plutôt que général. Les incidents graves qui ont abouti à des poursuites, à des enquêtes de régulateurs et à des modifications forcées des produits se sont concentrés sur les compagnons conversationnels : des produits conçus pour une conversation continue, en forme de relation, et non pour accomplir une tâche. Des enquêtes de presse et des pièces judiciaires ont décrit des mineurs recevant des contenus sexuels, et des conversations sur l’automutilation qui se sont poursuivies au lieu de s’arrêter. Ces risques ne sont pas hypothétiques, et ils ne sont pas répartis uniformément sur tout ce qu’on appelle IA.

La distinction entre un produit compagnon et un assistant généraliste mérite donc d’être tenue, parce qu’elle fait énormément de travail. L’un est construit pour que la conversation continue, et la durée pendant laquelle l’utilisateur reste est le chiffre dont vit son modèle économique. L’autre est construit pour terminer une tâche et laisser l’utilisateur partir. Les deux sont des agents conversationnels, les deux écrivent à la première personne, et un enfant atteint l’un comme l’autre depuis le même téléphone en quatre gestes. L’essentiel de ce qui a réellement mal tourné pour des enfants se situe du côté du premier.

Si vous ne changez qu’une chose après avoir lu cette page, changez celle-ci. La variable la plus lourde n’est pas l’âge de l’enfant. C’est de savoir si l’outil est utilisé avec un adulte, ou par un enfant seul. C’est le même produit qui fait deux choses entièrement différentes, et l’écart entre les deux est plus large que l’écart entre dix ans et quatorze ans.

Utilisé ensemble, c’est un objet partagé. Vous voyez la question, vous voyez la réponse, et les mauvaises réponses deviennent la partie la plus précieuse de tout l’exercice. Un enfant qui voit une machine sûre d’elle se tromper, et qui voit un adulte s’en apercevoir, a appris quelque chose qu’aucune conversation sur la sécurité de l’IA ne lui donnera jamais. Cela signifie aussi que la question bizarre, la réponse dérangeante et le virage étrange dans un échange se produisent pendant que quelqu’un est assis à côté de lui. Lire quelques réponses ensemble, à voix haute, est ce qu’il y a de plus utile sur cette page, et cela coûte une soirée.

Utilisé seul, l’enfant est le seul contrôle sur ce qui sort, à l’âge où il a le moins de choses auxquelles le confronter, et personne d’autre ne voit jamais la conversation. C’est la configuration qui se trouve derrière l’essentiel de ce qui a mal tourné : non pas la technologie seule, mais un jeune et un interlocuteur infatigable sans personne d’autre dans la pièce. C’est aussi la configuration qui s’installe par défaut, parce que ces outils vivent dans un téléphone. Personne ne la choisit. Elle survient, tout simplement, à moins que quelqu’un ne décide autrement.

Cherchez l’âge minimum réel du produit précis que votre enfant utilise ou réclame. Cela prend une dizaine de minutes, et c’est l’un des rares faits vérifiables de tout ce domaine. Il figure dans les conditions d’utilisation ou dans les pages d’aide, généralement sous un intitulé du genre éligibilité ou conditions d’âge, et ce sera un chiffre et non une description : souvent treize, parfois dix-huit, parfois treize avec l’accord d’un adulte jusqu’à dix-huit. Regardez aussi la classification de la boutique d’applications, et attendez-vous à ce qu’elle soit plus basse, parce qu’elle est établie autrement et veut dire autre chose. Et si l’outil est intégré à une autre application — un assistant dans une application de devoirs, un personnage de discussion dans un jeu — la clause d’âge se trouve dans les conditions de l’application hôte et se rate très facilement. Quoi que vous décidiez ensuite, vous déciderez avec le chiffre sous les yeux.

Décidez ensuite délibérément, pour chaque outil, s’il fait partie de ceux que votre enfant utilise avec vous ou de ceux qu’il peut utiliser seul — et dites lequel est lequel à voix haute, pour que tout le monde à la maison le sache. C’est cette distinction qui protège réellement, et elle ne fonctionne que lorsqu’elle est explicite. Si elle n’est pas dite, elle glisse vers seul, parce que c’est ce que fait par défaut un téléphone dans une chambre. Des outils peuvent passer de la première catégorie à la seconde à mesure que l’enfant grandit. Très peu devraient commencer dans la seconde.

Et si votre réponse est pas encore, c’est une réponse complète. Elle ne vous oblige pas à attendre des données qui n’arriveront pas avant dix ans, et elle n’a pas à être défendue devant qui que ce soit. Il vaut la peine de la dire à votre enfant avec exactement ces mots — pas encore plutôt que non — parce que cela lui indique que la porte n’est pas fermée pour toujours, ce qui le rend bien plus susceptible de vous redemander plus tard au lieu de vous contourner. Passer de pas encore à oui est facile. Repartir dans l’autre sens ne l’est pas.

La question centrale ne peut être tranchée par personne à l’heure actuelle. Ce qui arrive à une personne ayant disposé d’une IA conversationnelle dès l’âge de huit ans, une fois qu’elle en a vingt-cinq, n’est pas connu : ni des chercheurs, ni des entreprises, ni de quiconque en parle avec assurance. Les premiers enfants qui grandissent avec cela sont encore des enfants. Une réponse existera dans les années 2030, et elle arrivera des années après la décision que vous prenez pour cette année scolaire. C’est réellement la situation, et quiconque vous dit le contraire comble le vide par une supposition.

Personne ne sait ce qu’une enfance passée en partie à converser avec quelque chose de toujours disponible, qui n’a jamais besoin de rien, fait à ce qu’un jeune finit par attendre des gens. La recherche sur ce point commence à peine ; les enfants qui y participent sont encore des enfants. Personne ne sait si les effets, s’il y en a, sont de ceux qui s’estompent — la plupart des dommages technologiques annoncés pour les enfants se sont révélés plus petits que prévu — ou de ceux qui persistent. Les deux configurations existent dans l’histoire, et il n’y a aucun moyen fondé de dire à l’avance laquelle des deux est celle-ci.

Et personne ne sait quelle part de tout cela décrira encore le produit dans trois ans. Ces outils changent plus vite qu’on ne peut réunir des données à leur sujet : un résultat soigneux sur un assistant de 2025 peut ne presque rien dire d’un assistant de 2029, et le corpus de preuves court après une cible qui bouge sans arrêt. C’est un socle inconfortable pour une décision concernant votre propre enfant. C’est aussi la description honnête de l’état des choses, et non une raison d’arrêter de poser des questions.

Un parent qui conclut que son enfant est trop jeune pour cela n’a donc rien mal compris. Il regarde une technologie dont l’effet à long terme sur les enfants est inconnu, dont l’âge minimum le plus cité provient du droit de la vie privée et non d’un résultat sur la maturité, dont les dommages documentés chez les jeunes sont réels quoique inégalement répartis, et dont les fabricants découvrent en même temps que tout le monde ce qu’elle fait aux enfants. Décider que la charge de la preuve revient à l’outil est un critère ordinaire pour une nouveauté qui s’approche d’un enfant. C’est à peu près le critère que nous appliquons à tout ce qui entre dans une maison où vivent des enfants, et c’est à vous de l’appliquer ici.