Guías para padres

Cuentos con inteligencia artificial para niños: ¿son seguros? Qué mirar antes de elegir una app

Niño pequeño usando una tablet en la mesa, una escena habitual al valorar cuentos con inteligencia artificial para niños
Foto: Kelly Sikkema

Los cuentos con inteligencia artificial para niños pasaron de novedad a categoría en el App Store en muy poco tiempo, y la pregunta que se hace cualquier madre o padre es razonable: ¿esto es seguro para mi hijo de 5 años?

La respuesta honesta es que depende mucho de cómo esté hecha la app, y que hay diferencias enormes entre unas y otras. Lo bueno es que existen criterios públicos —de UNICEF, del regulador británico de datos y de organizaciones especializadas en infancia y medios— que permiten evaluarlas sin ser experto. Aquí los reunimos en un checklist de 8 puntos que puedes aplicar en diez minutos.

Qué significa que un cuento esté hecho con IA

Detrás de casi todas estas apps hay un modelo de lenguaje: un sistema entrenado con enormes cantidades de texto que, a partir de unas instrucciones, redacta una historia nueva. Cuando una app te pide el nombre de tu hijo, su edad y lo que le gusta, está armando esas instrucciones por ti.

Eso explica las dos caras del asunto. La buena: se puede tener un cuento distinto cada noche, ajustado a lo que le está pasando a ese niño en concreto esa semana. La menos buena: el texto se genera, no está revisado de antemano frase por frase como lo estaría un libro publicado.

Por eso el criterio no es "IA sí o IA no", sino cómo está construida y controlada esa generación, y qué papel se le deja al adulto.

Un cuento generado no es lo mismo que un chatbot

Esta distinción es la más importante de todo el artículo, y es la que más se pasa por alto.

Common Sense Media publicó una guía por edades sobre chatbots de IA y es tajante en el tramo más pequeño: recomienda ningún chatbot de IA por debajo de los 5 años, porque los niños de esa edad todavía no distinguen del todo una IA de una persona real. Entre los 6 y los 12 habla de uso limitado y siempre acompañado por un adulto. Y advierte de un problema de fondo: la IA conversacional tiende a dar la razón y a decirle al niño lo que quiere oír.

Pero ese criterio está pensado para un uso concreto: el niño escribe o habla, la IA responde, y se genera una relación de ida y vuelta. Una app en la que el adulto configura el cuento, la IA lo escribe y el adulto se lo lee al niño no funciona así: el niño no conversa con nada. La distancia entre las dos cosas es enorme, y conviene tenerla clara antes de descartar o aceptar una app entera por la etiqueta "IA".

Internet Matters propone incluso una prueba concreta para detectar un chatbot problemático: habla tú con él primero. Si alguna vez dice que "se siente triste" o promete guardar secretos, es una señal de alarma.

Las 4 preocupaciones más frecuentes de los padres

1. Que aparezca contenido inapropiado

Es la preocupación número uno y tiene fundamento: un texto generado puede desviarse. La guía de UNICEF sobre IA y niñez pide expresamente que los sistemas se sometan a pruebas de seguridad y que se eliminen los daños y se mitiguen los riesgos de contenido dañino o ilegal para menores.

2. Qué pasa con los datos del niño

Nombre, edad, intereses, a veces una foto. El Children's code de la ICO (la autoridad británica de protección de datos) establece principios claros para servicios dirigidos a menores: el interés superior del niño como consideración primordial, privacidad alta por defecto, recoger y conservar el mínimo de datos personales, no compartirlos habitualmente y la geolocalización desactivada por defecto.

3. Que la IA reemplace el vínculo

Internet Matters lo nombra entre los riesgos: hay niños que usan chatbots como "amigos" y pueden llegar a preferirlos a los amigos reales. Aplicado a los cuentos, la pregunta útil es si la app sustituye el rato de lectura compartida o si es justamente el motivo para tenerlo.

4. La calidad y los valores del contenido

Common Sense Media explica el fenómeno de las alucinaciones: cuando la IA inventa algo que no es cierto y lo presenta como un hecho. En un cuento de fantasía eso importa menos que en una tarea escolar, pero sigue valiendo la pena leer uno o dos cuentos completos antes de decidir.

Madre leyendo un libro junto a su hijo pequeño en el sofá
Foto: Vitaly Gariev en Unsplash

Checklist: 8 cosas que mirar antes de elegir una app

  1. ¿Dice con claridad que el contenido lo genera una IA? El checklist de UNICEF pide que los sistemas avisen por adelantado, tanto al niño como al adulto, de que están interactuando con una IA y no con una persona.
  2. ¿El niño conversa con la IA o solo escucha un cuento ya generado? Si hay chat abierto, aplica el criterio de edad de Common Sense Media y la prueba de Internet Matters.
  3. ¿Qué datos pide, y pide más de los necesarios? Revisa si necesita foto, ubicación o cuenta del niño. El principio de la ICO es minimizar: solo lo imprescindible.
  4. ¿Los datos alimentan el modelo? Common Sense Media advierte que la información enviada puede pasar a formar parte de forma permanente de los datos del sistema. Busca en la política de privacidad si existe opción de no participar en el entrenamiento.
  5. ¿Hay filtros de contenido, y los explica? UNICEF pide pruebas de seguridad; Internet Matters recomienda comprobar que la herramienta explique cómo maneja los temas sensibles.
  6. ¿El lenguaje es apropiado para la edad? Frases cortas, vocabulario simple, una idea por vez. Genera un cuento de prueba y léelo entero antes de suscribirte.
  7. ¿Puede el adulto revisar lo que se usa? Internet Matters señala que debe existir una opción clara de supervisión parental, y una forma sencilla de reportar problemas o dar feedback.
  8. ¿Encaja en tu plan familiar de medios? La Academia Americana de Pediatría propone armar un Family Media Plan y mirar el uso de pantallas con sus "5 C" (contexto, contenido, calma, desplazamiento de otras actividades y comunicación).

Si una app falla en los puntos 1, 3 o 5, no hace falta seguir. Si los pasa todos, lo que queda es probarla con un cuento y tu propio criterio.

Cómo usarlo bien en casa

Elegir bien la app es la mitad; la otra mitad es cómo se usa.

  • Que el adulto esté. Common Sense Media habla de uso acompañado en la franja de 6 a 12 años, y la AAP insiste en el co-uso y en modelar hábitos. En un cuento para dormir esto sale natural: lo lees tú.
  • La pantalla, fuera de la cama. Si la app se usa para generar el cuento, configúralo antes y deja el dispositivo lejos a la hora de dormir. Mayo Clinic recomienda apagar los dispositivos alrededor de una hora antes y mantenerlos fuera del dormitorio; puedes ver más en nuestra guía de rutina para dormir.
  • Léelo antes si el tema es delicado. Con temas como el miedo, la muerte de una mascota o una separación, conviene leer el cuento tú primero.
  • Habla de que es una máquina. Con lenguaje apropiado a la edad, como pide UNICEF: "esto lo escribió un programa, a partir de lo que le contamos sobre ti".
  • Que no reemplace la conversación. El cuento abre la puerta; la charla de después es la que hace el trabajo.

En resumen

Los cuentos con IA no son seguros ni peligrosos por definición. Son tan seguros como lo sean las decisiones de diseño de quien los hace y el acompañamiento del adulto que los usa. Un padre informado con este checklist en la mano distingue en diez minutos una app pensada para niños de una que solo usa la palabra "niños" en la descripción.

Preguntas frecuentes

¿Son seguros los cuentos con inteligencia artificial para niños?

Depende de cómo esté hecha la app. Los criterios públicos de UNICEF, de la ICO británica y de organizaciones como Common Sense Media e Internet Matters coinciden en lo que hay que mirar: que se avise de que el contenido lo genera una IA, que haya pruebas de seguridad del contenido, que se recojan los mínimos datos posibles y que el adulto pueda supervisar el uso.

¿A partir de qué edad puede un niño usar una app de IA?

Common Sense Media recomienda ningún chatbot de IA por debajo de los 5 años y uso limitado y acompañado por un adulto entre los 6 y los 12. Ese criterio se refiere a chatbots conversacionales; una app en la que el adulto configura el cuento y se lo lee al niño no implica que el niño converse con la IA.

¿Qué datos de mi hijo recogen estas apps?

Varía mucho: suele incluir nombre, edad e intereses, y a veces más. El Children's code de la ICO establece privacidad alta por defecto, recoger y conservar el mínimo de datos personales, no compartirlos habitualmente y desactivar la geolocalización por defecto. Revisa la política de privacidad antes de registrarte.

¿Un cuento generado por IA puede reemplazar la lectura con mi hijo?

No, y ese no es el objetivo. La Academia Americana de Pediatría insiste en el uso acompañado y en modelar hábitos de medios. Un cuento generado sigue necesitando que alguien se siente a leerlo y converse después: el vínculo lo pone el adulto, no la herramienta.

Seguir leyendo