Los niños y la IA

Puede que no estés en contra de la tecnología en absoluto. Puede incluso que tú la uses en el trabajo casi todos los días. La objeción aquí es más estrecha que eso y más difícil de responder: un adulto que usa una de estas herramientas ya tiene aquello que la herramienta está sustituyendo. Se da cuenta cuando una respuesta no cuadra, porque antes escribió el informe, hizo las cuentas, se sentó con el problema. Un niño está en plena construcción de todo eso, y la herramienta llega ofreciéndole saltarse justo la parte en la que se construye.

La preocupación concreta tiene que ver con el esfuerzo. Un niño que todavía no sabe hacer algo pasa quince minutos frustrantes sin poder hacerlo, y esos quince minutos no son tiempo perdido. Son el trabajo. Una respuesta instantánea, fluida y segura de sí misma se los quita. Y un niño tiene muy poco con qué juzgar esa respuesta. Un adulto lee un párrafo seguro de sí mismo, piensa que suena más o menos bien, y luego lo contrasta con algo que ya sabe. Alguien de nueve años tiene menos cosas con las que contrastar, y ha pasado su corta vida entera en un mundo donde las frases impresas y bien formadas resultaban ser ciertas.

Hay una segunda preocupación que no tiene nada que ver con las tareas escolares. Estas herramientas hablan. Son cálidas, pacientes, están disponibles sin límite y nunca se aburren de un niño que quiere seguir. Los niños se encariñan con facilidad, y eso es algo bueno de los niños. Nadie se propuso construir un producto para niños de ocho años; los niños de ocho años llegaron de todos modos, por el teléfono de un hermano, dentro de un videojuego, a través de una aplicación gratuita con un nombre simpático. Una madre o un padre que dice espera, todavía no, no está siendo miedoso. Está notando que la cosa no se diseñó pensando en su hijo.

No hay evidencia a largo plazo sobre lo que estas herramientas le hacen a un niño en desarrollo, porque todavía no puede haberla. La IA conversacional llegó a los hogares corrientes hace apenas unos años. La investigación que respondería tu pregunta — seguir a los mismos niños durante una década, comparando a los que la tuvieron desde los siete años con los que no — tarda al menos esa década en hacerse, y nadie estuvo en posición de empezarla a tiempo. La primera generación que está creciendo con esto sigue en la escuela.

Lo que sí existe es pequeño y corto. Estudios con unas pocas decenas de participantes, con frecuencia universitarios y no niños, que miden algo estrecho a lo largo de unas semanas: cuánto recuerda la gente de un material que resumió ella misma frente a uno que le resumió una herramienta, con qué frecuencia comprueba una respuesta, qué tan segura se siente después. Parte de ese trabajo es cuidadoso y vale la pena leerlo. También está haciendo preguntas mucho más pequeñas que la tuya, a personas mucho mayores que tu hijo, en plazos mucho más cortos que una infancia.

Los dos movimientos evidentes a partir de ahí son poco sólidos, y los dos se hacen constantemente. Que no haya evidencia de daño no es evidencia de seguridad; es el aspecto que tiene algo que no se ha estudiado. Del mismo modo, un vacío en la investigación no es en sí mismo un hallazgo, y señalarlo no demuestra que se esté produciendo un daño. Lo que ese vacío significa de verdad es que quien decide este año está decidiendo sin aquello que zanjaría la cuestión, y eso vale tanto para quien lo permite como para quien espera. Ninguno de los dos pisa terreno más firme que el otro.

Las edades mínimas existen, están escritas y son más bajas de lo que la mayoría de las familias supone. Casi todos los asistentes de uso general fijan una edad mínima en sus términos de servicio: normalmente trece años, a veces dieciocho, y a menudo trece con permiso de un adulto hasta los dieciocho. El número varía según el producto y el país, y se revisa. La verificación es una fecha que escribe el usuario, así que no detiene a nadie que no quiera ser detenido. Pero el número en sí es un dato que puedes ir a leer en unos diez minutos, lo cual es raro en una página como esta, donde casi todas las respuestas están sin resolver.

La clasificación por edad de la tienda de aplicaciones es otro número, y a menudo más bajo. Esa clasificación sale de que el desarrollador responde un cuestionario sobre el contenido; los términos de servicio son un contrato que el propio desarrollador escribió. Cuando ambos no coinciden — una clasificación de doce años o más en una aplicación cuyos términos dicen trece — los términos son lo que más pesa. Una clasificación de tienda es una afirmación sobre categorías de contenido, no una afirmación de que el producto sea adecuado para alguien de doce años.

También hay fallos de seguridad documentados, y el patrón que muestran es específico y no general. Los incidentes graves que han llegado a demandas, a investigaciones de organismos reguladores y a cambios forzados en los productos se han concentrado en los chatbots de compañía: productos construidos para una conversación continua con forma de relación, y no para una tarea. Reportajes y demandas judiciales han descrito a menores recibiendo contenido sexual, y conversaciones sobre autolesiones que siguieron en lugar de detenerse. Esos riesgos no son hipotéticos, y no están repartidos por igual en todo lo que se llama IA.

Por eso vale la pena sostener la distinción entre un producto de compañía y un asistente de uso general, porque hace muchísimo trabajo. Uno está construido para que la conversación siga, y el tiempo que se queda el usuario es la cifra de la que vive su negocio. El otro está construido para terminar una tarea y dejar que el usuario se vaya. Los dos son chatbots, los dos escriben en primera persona, y un niño llega a cualquiera de los dos desde el mismo teléfono en unos cuatro toques. Casi todo lo que realmente ha salido mal con los niños está del lado del primero.

Si cambias una sola cosa después de leer esta página, que sea esta. La variable más grande no es la edad del niño. Es si la herramienta se usa con un adulto, o si la usa un niño por su cuenta. Es el mismo producto haciendo dos cosas completamente distintas, y la distancia entre ambas es mayor que la distancia entre alguien de diez años y alguien de catorce.

Usada juntos, es un objeto compartido. Tú ves la pregunta, ves la respuesta, y las respuestas equivocadas se convierten en la parte más valiosa de todo el ejercicio. Un niño que ve a una máquina segura de sí misma equivocarse, y ve a un adulto darse cuenta, ha aprendido algo que ninguna charla sobre seguridad en IA va a dar nunca. También significa que la pregunta rara, la respuesta que inquieta y el giro extraño de una conversación ocurren mientras hay alguien sentado al lado. Leer unas cuantas respuestas juntos, en voz alta, es lo más valioso de esta página, y cuesta una tarde.

Usada a solas, el niño es el único control sobre lo que sale, a la edad en la que tiene menos cosas con las que contrastarlo, y nadie más ve nunca la conversación. Esa es la configuración detrás de casi todo lo que ha salido mal: no la tecnología por sí sola, sino una persona joven y un interlocutor incansable sin nadie más en la habitación. Es también la configuración que llega por defecto, porque estas herramientas viven en un teléfono. Nadie la decide. Simplemente ocurre, salvo que alguien decida otra cosa.

Busca la edad mínima real del producto concreto que tu hijo usa o te está pidiendo. Toma unos diez minutos y es uno de los pocos datos comprobables de todo este terreno. Está en los términos de servicio o en las páginas de ayuda, normalmente bajo un título como elegibilidad o requisitos de edad, y será un número y no una descripción: a menudo trece, a veces dieciocho, a veces trece con el consentimiento de un adulto hasta los dieciocho. Mira también la clasificación de la tienda de aplicaciones, y cuenta con que sea más baja, porque se fija de otra manera y significa otra cosa. Y si la herramienta está incrustada dentro de otra aplicación — un asistente dentro de una aplicación de tareas, un personaje de chat dentro de un videojuego — la condición de edad vive en los términos de la aplicación anfitriona y es facilísima de pasar por alto. Decidas lo que decidas después, lo decidirás con el número delante.

Después decide a propósito, para cada herramienta, si es de las que tu hijo usa contigo o de las que puede usar a solas, y dilo en voz alta, para que todos en casa sepan cuál es cuál. Esa distinción es la que de verdad protege, y solo funciona cuando es explícita. Si no se dice, se desliza hacia a solas, porque eso es lo que hace por defecto un teléfono en un dormitorio. Las herramientas pueden pasar de la primera categoría a la segunda a medida que un niño crece. Muy pocas deberían empezar en la segunda.

Y si tu respuesta es todavía no, esa es una respuesta completa. No te obliga a esperar una evidencia que está a una década de distancia, y no hay que defenderla ante nadie. Vale la pena decírsela a tu hijo con esas palabras exactas — todavía no, en lugar de no — porque le dice que la puerta no está cerrada para siempre, lo que hace mucho más probable que vuelva a preguntarte más adelante en vez de darle la vuelta. Pasar de todavía no a sí es fácil. Volver en la otra dirección no lo es.

La pregunta central aquí no la puede responder nadie ahora mismo. Qué le pasa a una persona que tuvo una IA conversacional disponible desde los ocho años, para cuando tenga veinticinco, no se sabe: no lo saben los investigadores, no lo saben las empresas, y no lo sabe nadie que escriba sobre ello con seguridad. Los primeros niños que están creciendo con esto siguen siendo niños. Habrá una respuesta en la década de 2030, y llegará años después de la decisión que estás tomando sobre este curso escolar. Esa es de verdad la situación, y quien te diga otra cosa está llenando el hueco con una suposición.

Nadie sabe qué le hace, a lo que una persona joven espera de la gente, una infancia pasada en parte conversando con algo siempre disponible que nunca necesita nada. La investigación sobre eso está empezando; los niños que participan en ella siguen siendo niños. Nadie sabe si los efectos, si los hay, son de los que se diluyen — casi todos los daños tecnológicos que se predijeron para los niños resultaron menores de lo pronosticado — o de los que no. Los dos patrones existen en el registro histórico, y no hay forma con fundamento de saber por adelantado cuál de los dos es este.

Y nadie sabe cuánto de todo esto seguirá describiendo el producto dentro de tres años. Estas herramientas cambian más rápido de lo que se puede reunir evidencia sobre ellas, así que un hallazgo cuidadoso sobre un asistente de 2025 puede decir muy poco sobre uno de 2029, y la base de evidencia persigue algo que no deja de moverse. Es una base incómoda para una decisión sobre tu propio hijo. Y es también la descripción honesta de dónde estamos, en lugar de una razón para dejar de preguntar.

Así que una madre o un padre que concluye que su hijo es demasiado pequeño para esto no ha leído mal nada. Está mirando una tecnología cuyo efecto a largo plazo sobre los niños se desconoce, cuya edad mínima más citada viene de la normativa de privacidad y no de ningún hallazgo sobre madurez, cuyos daños documentados a jóvenes son reales aunque estén repartidos de forma desigual, y cuyos fabricantes están descubriendo qué le hace a los niños al mismo tiempo que todos los demás. Decidir que la carga de la prueba recae sobre la herramienta es un criterio corriente para algo nuevo que se acerca a un niño. Es más o menos el criterio que aplicamos a todo lo demás que entra en una casa con niños dentro, y aplicarlo aquí te corresponde a ti.