Jornal Do Brasilia - Protección de datos en chatbots para niños: más allá del control parental

La seguridad de los niños y adolescentes frente a la inteligencia artificial generativa no puede depender exclusivamente del consentimiento de sus padres ni de su capacidad para supervisar el uso de las aplicaciones. Esta es la conclusión central de un análisis jurídico publicado en octubre de 2026, que propone trasladar la protección de datos al terreno del diseño mismo del servicio, antes de que cualquier familia abra los menús de configuración.

El trabajo, realizado por Paula Gutiérrez Arboleda, investigadora vinculada a la Universidad de Valladolid y la Universidad de los Andes (Uniandes), fue publicado en la Revista Electrónica de Direito. Su planteamiento cuestiona la eficacia de las medidas tradicionales, como contraseñas o límites de tiempo, al señalar que estas no responden a cómo la plataforma gestiona las confidencias de un adolescente ni a cómo está estructurada para mantener la conversación.

Gutiérrez Arboleda destaca una diferencia fundamental: aceptar las condiciones de uso de una aplicación, videojuego, red social o herramienta de IA generativa no permite a una familia decidir realmente cómo funciona el producto. Son los proveedores quienes definen qué información solicitan, cuánto tiempo la conservan, con quién la comparten, qué inferencias realizan sobre ella y con qué fuentes cruzan los datos. Además, establecen los incentivos para que el usuario regrese. Estas decisiones técnicas preceden y condicionan cualquier intento de control parental.

El artículo no presenta un experimento clínico que demuestre que todos los chatbots causan adicción, sino que reúne normas, bibliografía y casos prácticos para defender una respuesta preventiva. El aporte principal es cambiar la pregunta estratégica: además de enseñar a usar la herramienta, ¿qué protección debería venir incorporada desde su concepción?

Para desarrollar esta postura, Gutiérrez Arboleda recurre a dos conceptos clave que suelen quedar relegados al lenguaje legal estricto: la privacidad desde el diseño y la privacidad por defecto. El primer principio exige integrar la protección mientras se construye el servicio, durante su desarrollo y en el periodo de uso. El segundo busca que la configuración inicial limite el tratamiento de datos a lo estrictamente necesario, sin obligar al usuario a descubrir manualmente cómo protegerse.

Bajo el Reglamento General de Protección de Datos (RGPD) europeo, este principio alcanza la cantidad de información recogida, su uso, conservación y acceso. Esto no implica que todas las aplicaciones deban tener exactamente los mismos botones o interfaces, sino que la protección debe corresponder a sus funciones y riesgos específicos.

Para las familias, la consecuencia práctica es mirar más allá del filtro de contenido básico. Antes de autorizar un servicio, conviene revisar qué datos pide para funcionar y cuáles son opcionales, así como si explica de forma comprensible qué ocurre con las conversaciones y cómo solicitar su eliminación. Existen preguntas distintas que no deben confundirse: si el servicio conserva el historial, si recuerda información entre conversaciones o si utiliza esos datos para entrenar modelos de inteligencia artificial. Una respuesta sobre una de ellas no resuelve automáticamente las demás.

Si la política de privacidad resulta ambigua, esa incertidumbre merece atención antes de compartir información íntima. La supervisión familiar tampoco debe convertirse en acceso indiscriminado a todo lo que escribe un adolescente. El reto planteado por el paper incluye proteger su privacidad y autonomía, no sustituirlas por una vigilancia permanente.

Aunque ya existen controles específicos, como la versión de ChatGPT para adolescentes presentada por OpenAI en agosto, la protección de datos no agota el problema. Un asistente diseñado para resolver tareas tiene propósitos distintos a una aplicación creada para simular una relación emocional. El artículo invita a examinar las formas de personalización y persuasión, en lugar de tratar toda interacción con IA como si fuera equivalente.

Los casos analizados evidencian la gravedad de los riesgos que los patrones oscuros, como el desplazamiento infinito y otras arquitecturas que obstaculizan la desconexión, entrañan para la salud mental, el desarrollo emocional e incluso la vida de los menores. La Comisión Europea ofrece un ejemplo concreto en sus directrices de julio de 2025, recomendando desactivar por defecto funciones que favorecen el uso excesivo, como las rachas, la reproducción automática y las notificaciones push. También propone salvaguardas para chatbots integrados en plataformas en línea.

Este documento se refiere a la protección de menores bajo el Reglamento de Servicios Digitales europeo. Seguir sus recomendaciones es voluntario y no garantiza cumplir la ley ni asegura que todos los chatbots disponibles en América Latina estén sujetos a esas mismas medidas. Aun con ese límite, sirve para formular preguntas útiles: ¿la herramienta identifica claramente que se está interactuando con una IA? ¿Envía avisos para recuperar la atención? ¿Ofrece mecanismos comprensibles para reportar problemas? Las respuestas deben comprobarse en cada servicio, no deducirse de la etiqueta "apto para menores".

El acompañamiento familiar sigue teniendo un papel crucial, limitando por ejemplo los tiempos de conexión. Lo que cambia es la distribución de responsabilidades. Si una plataforma necesita recopilar menos información o dejar de insistir para prolongar el uso, la solución depende de quién puede modificar el producto. Ningún padre puede corregir esa decisión desde una casilla de consentimiento.

P. da Silva--JDB