La Comisión Europea ha dado por fin el paso que vienen reclamándole desde hace meses varios Estados, entre ellos España, y ha presentado la Kids Act, o Ley de niños, que busca proteger a los menores de edad en la UE de los efectos más nocivos del mundo digital, desde el ciberacoso a la exposición a contenidos ilegales. Como dice el propio título del reglamento propuesto, se trata de “velar por que los espacios digitales de internet sean responsables y fiables”. Esos espacios incluyen las redes sociales y plataformas en las que se comparten vídeos, pero también los videojuegos en línea o los chatbots conversacionales, como ChatGPT, Claude o Gemini.
La normativa presentada hoy por la Comisión busca minimizar los efectos nocivos del mundo digital en los niños, lo que incluye a herramientas como ChatGPT, además de las redes sociales o los videojuegos online
La Comisión Europea ha dado por fin el paso que vienen reclamándole desde hace meses varios Estados, entre ellos España, y ha presentado la Kids Act, o Ley de niños, que busca proteger a los menores de edad en la UE de los efectos más nocivos del mundo digital, desde el ciberacoso a la exposición a contenidos ilegales. Como dice el propio título del reglamento propuesto, se trata de “velar por que los espacios digitales de internet sean responsables y fiables”. Esos espacios incluyen las redes sociales y plataformas en las que se comparten vídeos, pero también los videojuegos en línea o los chatbots conversacionales, como ChatGPT, Claude o Gemini.
La mención específica en el texto de herramientas de inteligencia artificial (IA) generativa subraya la preocupación de Bruselas por limitar los efectos de estas herramientas en los menores. En EE UU empieza a preocupar el fenómeno de los amigos digitales, los chatbots de IA diseñados para sostener conversaciones y simular relaciones de compañía. Una quinta parte de los estadounidenses de entre 18 y 22 años ya reconoce recurrir a ellos en busca de apoyo emocional, según un informe de Rand Corporation y la Universidad de Harvard. Su impacto entre los niños puede ser fatal, como atestigua el caso de Sewell Setzer, de 14 años, que se suicidó tras interpretar que un personaje sintético creado con Character.ai, del que estaba locamente enamorado, le estaba invitando a hacerlo.
La normativa propone un acceso gradual a las redes sociales, herramientas de IA generativa o videojuegos online —empezando por una prohibición total para los más pequeños—, que además deberá estar supervisado por los padres o responsables de los menores y tendrá que contar con salvaguardas “apropiadas y proporcionadas” a cargo de las plataformas que garanticen un “alto nivel de privacidad, seguridad y protección de menores cuando usen sus servicios o sistemas”. También establece un tiempo máximo de exposición de los menores a las pantallas: un máximo de una hora al día para los adolescentes entre 13 y 15 años.
“Los jóvenes en Europa pasan, de media, entre cuatro y seis horas al día ante una pantalla, y los que empezaron a usar redes sociales antes de los diez años es más aún, alrededor de siete u ocho horas online cada día, casi un día de trabajo completo para un adulto”, ha destacado la presidenta de la Comisión Europea, Ursula von der Leyen, al presentar la iniciativa desde la Eurocámara en Estrasburgo. Y eso hay que pararlo, ha subrayado: “Hay demasiados niños que se ven expuestos demasiado pronto a un mundo digital para el que aún no están preparados: un entorno en el que el acoso puede seguirte hasta casa, donde cada error puede quedar registrado para siempre, y en el que la infancia y la pubertad consisten precisamente en cometer errores, aprender de ellos y mejorar”.
La ley ahora propuesta, y que Bruselas insta a que sea aprobada lo antes posible por la “urgencia” de la situación, busca precisamente que los menores “puedan disfrutar de sus derechos en línea, aprender, estar conectados y explorar” de una manera segura, ha subrayado la vicepresidenta para Soberanía Tecnológica, Henna Virkkunen. Por ello, además de proporcionar a los padres las herramientas necesarias para “acompañar a sus hijos a navegar un mundo digital seguro”, la Ley de niños “mantiene la presión alta sobre las plataformas, porque son ellas las que tienen que demostrar que sus servicios no provocan daños”, ha agregado.
Estos son los puntos clave de la nueva normativa.
¿Qué plataformas o servicios se verán afectados?
La ley se aplicará a redes sociales como TikTok o Instagram y a servicios de plataformas para compartir vídeos como YouTube, pero también a tiendas de aplicaciones de software, juegos online y sistemas operativos. También entran dentro de los ámbitos de la ley los llamados amigos digitales o de IA —los programas informáticos diseñados para simular relaciones de compañía y conversar con las personas como si fueran amigos reales—, así como los chatbots para conversaciones generales, como ChatGPT o Claude.
¿Cuáles quedan exentos?
La normativa europea no se aplicará a plataformas educativas o de divulgación científica, como enciclopedias digitales sin ánimo de lucro, repositorios educativos y científicos sin ánimo de lucro o servicios y sistemas diseñados con fines educativos y operados por organizaciones o instituciones de enseñanza.
De igual manera, quedan exentos los servicios y sistemas desarrollados y gestionados específicamente con el único fin de la investigación y el desarrollo científico, así como los gestionados por y para las autoridades públicas. La excepción también incluye a las plataformas de desarrollo y puesta en común de software de código abierto, a no ser que esa plataforma constituya un sistema de IA comprendido en el ámbito de aplicación de la ley de niños.
¿Cuáles son las restricciones según la edad?
La Comisión Europea ha abogado finalmente por un enfoque restrictivo gradual, que va desde la prohibición total a los más pequeños hasta un uso restringido y supervisado una vez entrados en la adolescencia. Lo resumió la propia Von der Leyen en su discurso anual sobre el Estado de la Unión en Estrasburgo el miércoles: “Nada de redes sociales a menores de 13 años. Nada de cuentas personales a menores de 15 años”, explicó. Entre los 13 y los 15, solo se permitirán “mini-cuentas”, creadas y supervisadas por los padres y con “funciones limitadas”, igual que el tiempo de uso, que también estará restringido, subrayó. Desde los 15 a los 18 años, los adolescentes podrán acceder a las redes sin supervisión, pero las plataformas estarán obligadas a cumplir con un “diseño seguro” que los proteja. Porque, como destaca el preámbulo del reglamento propuesto, “solo la mitad de los niños entre nueve y 16 años en toda Europa dicen sentirse seguros en Internet”. Una red, recuerda, “que no fue diseñada pensando en menores”.
“No tenemos por qué aceptar las funciones que crean adicción. No tenemos por qué aceptar que los niños se vean arrastrados hacia contenidos cada vez más extremos. No tenemos por qué aceptar que las fotos de las niñas se utilicen para crear imágenes sexualizadas generadas por IA”, subrayó la que fuera ministra alemana de Familia en su discurso, en el que recordó el caso de Oléa, una adolescente belga de 14 años que se suicidó justo hace un mes tras sufrir ciberacoso. “Las plataformas tendrán que demostrar que son seguras”, zanjó.
¿Cómo son los entornos seguros?
La Comisión exige la eliminación de elementos adictivos, como el scroll infinito, los mecanismos de recompensa o las notificaciones a deshoras; la regulación de los sistemas de recomendación de contenidos, de forma que respeten a las cuentas que sigue el niño; y una configuración de cuenta que garantice la privacidad de los contenidos de los menores. También se pone el énfasis en que cuentas desconocidas no puedan interactuar con ellos y que haya mecanismos sencillos para reportar contenidos inadecuados.
¿Cuál será el papel de los padres?
Los padres o tutores de los menores son los “guardianes”, como los califica la ley, es decir, los encargados de velar por la seguridad de los niños y adolescentes cuando entran en el espacio digital. De ahí que serán los responsables de crear las cuentas limitadas para los adolescentes entre 13 y 15 años, que estarán a nombre del adulto. En el caso de plataformas para compartir vídeos, cuando los proveedores de estos servicios puedan demostrar que el contenido es adecuado para menores, podrán permitir, “de forma excepcional”, que los guardianes habiliten el acceso a menores de 13 años a cuentas “creadas y supervisadas por los propios tutores” y que dispongan de instrumentos de “control parental”. En ningún caso podrán ser cuentas creadas específicamente para esos menores y, además, los padres o tutores deberán poder fijar los límites de contenido, acceso y tiempo de exposición. Para ello, los proveedores deberán crear “herramientas eficaces, accesibles y fáciles de usar para los tutores”.
¿Habrá multas?
El apartado punitivo apenas está desarrollado en la normativa. Con todo, se señala que las multas no excederán el 6% de la facturación anual de las empresas responsables.
Sociedad en EL PAÍS
