La IA y tus datos

Un buscador nunca invitó a esto. Escribías tres o cuatro palabras, con cautela, porque sabías que escribías a una máquina. Un asistente de chat pide la historia completa, y la gente se la da: la preocupación de salud que no has planteado a un médico, la discusión con tu madre que ya va por la tercera semana, el párrafo que explica que tu hija lo pasa mal desde la mudanza, con su nombre dentro, y su escuela, porque la herramienta pidió contexto y el contexto es lo que hace buena la respuesta.

Lo que convierte eso en una objeción real y no en un malestar general es que el formato es el que convence. Te escribe en segunda persona. Hace una pregunta de seguimiento. No reacciona, no juzga, no se lo cuenta a nadie, y no hay nadie más en la habitación. Todas las señales de la superficie dicen conversación privada. Por debajo, cada mensaje es una petición de red que sale de tu casa, llega a los servidores de una empresa con una cuenta asociada, y aterriza en un sistema construido para guardar registros, no para olvidarlos.

No hace falta creer que alguien actúa de mala fe para pensar que ese intercambio es malo. La distancia entre lo que la cosa parece y lo que la cosa es constituye toda la objeción, y ninguna declaración de intenciones la cierra. Una empresa puede estar dirigida por gente cuidadosa y aun así guardar años de la escritura más franca de tu familia en máquinas que nunca verás, bajo unos términos que puede reescribir, por razones que describirá después.

Lo que escribes se transmite, y normalmente se guarda durante algún tiempo. Casi nada de lo que usa tu familia funciona en tu propio dispositivo: el mensaje cruza la red, se procesa en máquinas de un edificio que nunca verás, y por lo general se almacena, para sostener la conversación en curso, para vigilar abusos, para atender una solicitud de soporte y en copias de seguridad que viven con su propio calendario. Cuánto tiempo varía según la empresa y según el nivel, y esos plazos se reescriben. Que algo se conserve durante algún tiempo es el caso corriente, no la excepción.

Muchos niveles de consumo usan el contenido enviado para ayudar a mejorar modelos futuros salvo que lo desactives, y ese ajuste suele no venir desactivado. Esta es la parte que más conviene decir sin rodeos: normalmente hay que salirse, no entrar, así que el arreglo que le conviene a la empresa es el que se aplica a una familia que nunca fue a buscarlo. Cuando existe un control, suele estar en los ajustes de la cuenta, en una sección de privacidad o de datos, bajo un encabezado sobre mejorar el modelo o compartir tu contenido.

Borrar una conversación no es lo mismo que borrar lo que se derivó de ella. Quitar una transcripción de tu historial la quita de tu vista, y a menudo de los registros activos de la empresa. Las copias en las copias de seguridad, las entradas en los registros de abuso y de soporte, y todo lo ya absorbido por una ronda de entrenamiento terminada son categorías aparte con vidas aparte, y un control de borrado que habla de tu historial habla de lo primero y no de lo demás.

Los niveles gratuitos suelen ofrecer términos más débiles que los de pago, los escolares o los de trabajo. Con frecuencia es la misma interfaz encima de un contrato distinto: en los planes de pago e institucionales, el entrenamiento con el contenido enviado se excluye por defecto o se descarta por contrato más a menudo, y la conservación se pone por escrito más a menudo. Esa diferencia es una decisión comercial y no técnica, lo que significa que puede revisarse, y vuelve a la mesa cada vez que cambian los términos.

“No vendemos tus datos” es una promesa sobre una sola transacción, y estrecha. No dice nada sobre cuánto tiempo se conserva nada, nada sobre qué empleados o contratistas pueden abrir una conversación, nada sobre los subencargados —el proveedor de nube, la empresa de moderación, la de analítica— que reciben datos en la operación normal del servicio, y nada sobre si el contenido enviado se usa para entrenamiento. Cada una de esas es una pregunta aparte con una respuesta aparte, y una frase sobre vender no responde a ninguna.

La misma estrechez recorre el resto del vocabulario, y conviene aprender a oírla. “No entrenamos con tus datos” no dice nada sobre cuánto tiempo se guardan esos datos. “Tus datos están cifrados” describe cómo viajan y cómo reposan en un disco, no quién puede leerlos una vez descifrados para usarlos. “Anonimizado” describe quitar el nombre de un registro; no describe quitar el contenido, y el párrafo sobre el diagnóstico de tu hijo sigue siendo ese párrafo lleve o no un nombre pegado.

También se sostiene que hay personas que pueden leer lo que se envía. Las empresas emplean revisores y contratistas para comprobar muestras por abuso, seguridad y calidad, los ingenieros suelen poder llegar a los datos de producción mientras arreglan cosas, y tanto las peticiones policiales como los incidentes de seguridad ocurren. Eso es la operación corriente de un servicio de esta escala, no un escándalo, y por eso la suposición sensata de trabajo no es que nadie lee lo que escribe tu familia, sino que alguien podría.

Da por hecho que cualquier cosa escrita podría leerla una persona. No porque alguien vigile a tu familia en particular, sino porque la revisión humana es una parte corriente de operar estos servicios, porque las cuentas sufren filtraciones y porque los registros se solicitan. La versión útil es una prueba de dos segundos antes de pulsar enviar: si esto apareciera delante de un desconocido de esa empresa con tu nombre al lado, ¿sería soportable? Casi todo lo que escribe una familia pasa la prueba sin problema. Lo poco que no la pasa es justo lo que conviene reescribir antes de enviarlo.

Después usa los ajustes de la cuenta para pedir el borrado, y guarda la confirmación. En la sección de privacidad o de datos, exporta primero una copia de lo que hay guardado, porque eso te dice qué existe; luego borra las conversaciones, y borra la cuenta misma si has terminado con el servicio. Cuando la única vía es una solicitud escrita, envíala por escrito y guarda la respuesta. La legislación de protección de datos de algunos países da a las personas derecho a una copia y derecho al borrado, y vale la pena averiguar si la tuya lo hace; incluso donde no exista ese derecho, una solicitud fechada y una respuesta fechada son un registro que antes no tenías, y una empresa que no quiere responder por escrito te ha dicho algo.

Nada de esto te obliga a permitir estas herramientas. Si la respuesta en tu casa es no, los hábitos siguen mereciendo la pena, porque tu hijo se encontrará estas herramientas en la escuela, en el teléfono de un amigo y dentro de aplicaciones que no anuncian qué llevan debajo, y recortar la foto, elegir la cuenta escolar y saber que existe un interruptor que buscar son hábitos que viajan con él a lo que se encuentre después.

Si el borrado alcanza a los datos derivados es la mayor pregunta sin respuesta que hay aquí. Normalmente puedes quitar una conversación de tu pantalla, y a menudo de los registros de una empresa. Si la influencia de ese texto puede eliminarse de un modelo que ya aprendió de él no es algo que una empresa pueda demostrarte, y en algunos casos tampoco algo que pueda establecer para sí misma. Quien te diga que tus palabras desaparecieron con seguridad, o que siguen ahí con seguridad, afirma más de lo que se sabe.

Qué pasa con las conversaciones que ya se usaron para entrenamiento está abierto de la misma manera. Apagar un interruptor cambia lo que ocurre a partir de ahora; no alcanza hacia atrás a un modelo que ya fue entrenado. No hay un mecanismo establecido para retirar un texto después de los hechos, ninguna forma de que audites si se aplicó alguno, y ninguna parte externa en posición de comprobarlo por ti. El interruptor es una válvula sobre el futuro, no sobre el pasado, y conviene saberlo antes de sentir que terminaste.

Si los datos de un menor pueden retirarse de forma significativa más adelante es la pregunta de cola más larga. Alguien de trece años que acepta unos términos no tiene manera de saber qué acabarán abarcando esos términos, y la persona que quizá quiera deshacer esa decisión todavía no existe: el adulto en que se convierte. Si a los veinticinco quiere retirar el registro de su adolescencia, todas las preguntas anteriores siguen sin respuesta, solo que ahora se refieren a alguien que era un niño cuando ese registro empezó. Nadie tiene una buena respuesta para esto, y a muy pocos se les hace la pregunta.

Así que un padre o una madre que lee todo esto y concluye que los términos no son suficientemente buenos ha sacado una conclusión legítima. Mantener a tu familia fuera de estas herramientas no es no haberlas entendido. Es un juicio sobre un intercambio en el que la otra parte no te dirá qué guarda, cuánto tiempo lo guarda, ni si es capaz de soltarlo, y rechazar un intercambio en esos términos es algo corriente y defendible. Esa lectura de un panorama inacabado es tan sólida como cualquier otra disponible, y te toca a ti hacerla.