L'IA et vos données

Une barre de recherche n'invitait jamais à cela. Vous y tapiez trois ou quatre mots, prudemment, parce que vous saviez écrire à une machine. Un assistant conversationnel demande toute l'histoire, et les gens la donnent : l'inquiétude de santé que vous n'avez pas encore soumise à un médecin, la dispute avec votre mère qui en est à sa troisième semaine, le paragraphe expliquant que votre fille va mal depuis le déménagement — avec son prénom dedans, et son école, parce que l'outil a demandé du contexte et que c'est le contexte qui rend la réponse bonne.

Ce qui en fait une véritable objection plutôt qu'un malaise diffus, c'est que la forme fait tout le travail de persuasion. Elle vous écrit à la deuxième personne. Elle pose une question de relance. Elle ne réagit pas, ne juge pas, ne le répète à personne, et il n'y a personne d'autre dans la pièce. Tout, en surface, dit conversation privée. En dessous, chaque message est une requête réseau qui quitte votre maison, arrive sur les serveurs d'une entreprise avec un compte attaché, et atterrit dans un système conçu pour conserver des traces, pas pour les oublier.

Nul besoin de croire à la mauvaise foi de qui que ce soit pour trouver l'échange mauvais. L'écart entre ce que la chose semble être et ce qu'elle est constitue toute l'objection, et aucune déclaration d'intention ne le comble. Une entreprise peut être dirigée par des gens scrupuleux et détenir malgré tout des années de l'écriture la plus franche de votre famille, sur des machines que vous ne verrez jamais, sous des conditions qu'elle peut réécrire, pour des raisons qu'elle expliquera ensuite.

Ce que vous tapez est transmis, et il est généralement conservé un certain temps. Presque rien de ce que votre famille utilise ne tourne sur votre appareil : le message traverse le réseau, il est traité sur des machines dans un bâtiment que vous ne verrez jamais, et il est en règle générale stocké — pour tenir la conversation en cours, pour surveiller les abus, pour répondre à une demande d'assistance, et dans des sauvegardes qui suivent leur propre calendrier. La durée varie selon l'entreprise et la formule, et ces durées sont réécrites. Qu'une trace soit conservée un certain temps est le cas ordinaire, pas l'exception.

Beaucoup de formules grand public utilisent le contenu envoyé pour améliorer les modèles à venir, sauf si vous le désactivez, et le réglage n'est souvent pas désactivé au départ. C'est le point qui mérite le plus d'être dit sans détour : il s'agit en général de se retirer plutôt que d'adhérer, si bien que l'arrangement qui arrange l'entreprise est celui qui s'applique à une famille qui n'a rien cherché. Lorsqu'un réglage existe, il se trouve plutôt dans les paramètres du compte, dans une section vie privée ou données, sous un intitulé parlant d'améliorer le modèle ou de partager votre contenu.

Supprimer une conversation n'est pas supprimer ce qui en a été tiré. Retirer une transcription de votre historique la retire de votre vue, et souvent des registres actifs de l'entreprise. Les copies dans les sauvegardes, les entrées dans les journaux d'abus et d'assistance, et tout ce qui a déjà été absorbé par un entraînement terminé forment des catégories distinctes avec des durées distinctes, et une commande de suppression qui parle de votre historique parle de la première, pas des autres.

Les formules gratuites offrent en général des conditions plus faibles que les formules payantes, scolaires ou professionnelles. C'est souvent la même interface posée sur un contrat différent : dans les offres payantes et institutionnelles, l'entraînement sur le contenu envoyé est plus souvent exclu par défaut ou écarté par contrat, et la conservation est plus souvent écrite noir sur blanc. Cette différence relève d'une décision commerciale et non technique, ce qui veut dire qu'elle peut être révisée, et elle est remise sur la table à chaque changement de conditions.

« Nous ne vendons pas vos données » est une promesse portant sur une seule transaction, et une promesse étroite. Elle ne dit rien de la durée de conservation, rien des salariés ou prestataires qui peuvent ouvrir une conversation, rien des sous-traitants — l'hébergeur, le prestataire de modération, celui d'analyse — qui reçoivent des données dans le fonctionnement normal du service, et rien sur l'usage du contenu envoyé pour l'entraînement. Chacun de ces points est une question distincte avec une réponse distincte, et une phrase sur la vente n'en traite aucune.

La même étroitesse traverse le reste du vocabulaire, et il vaut la peine d'apprendre à l'entendre. « Nous ne nous entraînons pas sur vos données » ne dit rien de la durée de conservation. « Vos données sont chiffrées » décrit leur circulation et leur repos sur un disque, pas qui peut les lire une fois déchiffrées pour être utilisées. « Anonymisé » décrit le retrait du nom sur un enregistrement ; cela ne décrit pas le retrait du contenu, et le paragraphe sur le diagnostic de votre enfant reste ce paragraphe, qu'un nom y soit attaché ou non.

Il est également établi que des personnes peuvent lire ce qui est envoyé. Les entreprises emploient des relecteurs et des prestataires pour contrôler des échantillons au titre des abus, de la sécurité et de la qualité, les ingénieurs peuvent en général accéder aux données de production pendant les réparations, et les demandes des autorités comme les incidents de sécurité existent. C'est le fonctionnement ordinaire d'un service de cette taille, pas un scandale, et c'est pourquoi l'hypothèse de travail raisonnable n'est pas que personne ne lit ce que votre famille écrit, mais que quelqu'un le pourrait.

Partez du principe que tout ce qui est tapé peut être lu par une personne. Non parce que quelqu'un surveille votre famille en particulier, mais parce que la relecture humaine fait partie du fonctionnement ordinaire de ces services, parce que des comptes sont compromis et parce que des dossiers sont réclamés. La version utilisable est un test de deux secondes avant d'envoyer : si cela s'affichait devant un inconnu de cette entreprise, avec votre nom, serait-ce supportable ? Presque tout ce qu'une famille écrit passe sans peine. Le peu qui ne passe pas est précisément ce qu'il vaut la peine de reformuler avant l'envoi.

Servez-vous ensuite des réglages du compte pour demander la suppression, et gardez la confirmation. Dans la section vie privée ou données, exportez d'abord une copie de ce qui est détenu — cela vous dit ce qui existe — puis supprimez les conversations, et supprimez le compte lui-même si vous en avez fini avec le service. Lorsque la seule voie est une demande écrite, écrivez et conservez la réponse. Le droit de la protection des données, dans certains pays, ouvre un droit à une copie et un droit à la suppression, et il vaut la peine de vérifier ce qu'il en est chez vous ; même sans un tel droit, une demande datée et une réponse datée constituent une trace que vous n'aviez pas, et une entreprise qui refuse de répondre par écrit vous a dit quelque chose.

Rien de tout cela ne vous oblige à autoriser ces outils. Si la réponse chez vous est non, les habitudes gardent leur valeur, car votre enfant croisera ces outils à l'école, sur le téléphone d'un ami et dans des applications qui n'annoncent pas ce qu'elles ont sous le capot — et recadrer la photo, choisir le compte scolaire et savoir qu'il existe un réglage à chercher sont des habitudes qui le suivront partout.

Savoir si la suppression atteint les données dérivées est la plus grande question sans réponse ici. Vous pouvez en général retirer une conversation de votre écran, et souvent des registres d'une entreprise. Savoir si l'influence de ce texte peut être retirée d'un modèle qui en a déjà appris n'est pas quelque chose qu'une entreprise peut vous démontrer, ni, dans certains cas, quelque chose qu'elle peut établir pour elle-même. Quiconque vous affirme que vos mots ont bel et bien disparu, ou qu'ils y sont encore à coup sûr, prétend en savoir plus qu'on n'en sait.

Ce que deviennent les conversations déjà utilisées pour l'entraînement est ouvert de la même façon. Désactiver un réglage change ce qui suit ; cela n'atteint pas en arrière un modèle déjà entraîné. Il n'existe pas de mécanisme établi pour retirer un texte après coup, aucun moyen pour vous de vérifier qu'un tel retrait a eu lieu, et aucune partie extérieure en position de contrôler à votre place. Le réglage est une vanne sur l'avenir, pas sur le passé, et mieux vaut le savoir avant de se croire quitte.

Savoir si les données d'un enfant peuvent être retirées de manière significative plus tard est la question à la traîne la plus longue. Une personne de treize ans qui accepte des conditions n'a aucun moyen de savoir ce que ces conditions couvriront, et celle qui voudrait peut-être défaire cette décision n'existe pas encore : l'adulte qu'elle deviendra. Si, à vingt-cinq ans, elle veut faire retirer la trace de son adolescence, toutes les questions ci-dessus restent sans réponse, sauf qu'elles concernent désormais quelqu'un qui était un enfant quand cette trace a commencé. Personne n'a de bonne réponse à cela, et très peu se la voient poser.

Un parent qui lit tout cela et conclut que les conditions ne sont pas assez bonnes tire donc une conclusion légitime. Tenir votre famille à l'écart de ces outils n'est pas un défaut de compréhension. C'est un jugement sur un échange dont l'autre partie ne vous dira ni ce qu'elle détient, ni combien de temps, ni si elle est capable de lâcher prise — et refuser un échange à ces conditions est une chose ordinaire et défendable. Cette lecture d'un tableau inachevé vaut autant que n'importe quelle autre proposée, et elle vous appartient.