La Inteligencia Artificial1 generativa2(Gen-AI) ha irrumpido de manera abrupta en nuestro  acontecer diario, impactando de manera directa desde la forma en la que trabajamos y nos  comunicamos hasta cómo nos entretenemos y aprendemos. Sin embargo, uno de los campos  más delicados donde la IA está dejando su impronta es en el desarrollo y la educación de  nuestros menores. A medida que la tecnología avanza de manera rauda resulta crucial  comprender tanto los beneficios como los desafíos que la IA presenta para los menores en la  sociedad actual. 

IA, ¿Realidad distópica del S.XXI? 

Es muy frecuente encontrarse con titulares que copan los medios de comunicación con noticias  relacionadas con la IA; tiendo desafortunadamente como protagonistas a menores de edad que  hacen un mal uso de ésta teniendo como resultados consecuencias penales que dejan en  muchos casos sin castigo por ser los infractores menores de 14 años y por tanto no imputables  al amparo del Código Penal español del menor. 

Ejemplo de ello, es el caso de los desnudos con IA de Almendralejo3 donde 26 menores están  implicados (investigados) y 21 chicas afectadas. 5 de ellos inimputables. A la par, la Agencia  Española de Protección de Datos, también ha iniciado de oficio actuaciones previas de  investigación sobre lo acontecido; ya que la imagen es un dato personal.  

En esta situación, estamos hablando de niñas entre 11 y 17 años que han sido víctimas de  montajes fotográficos manipulados con IA para que aparecieran desnudas; y no sólo eso, algunas  de ellas, llegaron a sufrir extorsión a cambio de dinero para no distribuir las imágenes por  WhatsApp a compañeros de clase. De nuevo, se repite la historia, otra vez: en Zaragoza,  investigan a 7 menores por difundir fotos manipuladas con IA de compañeras desnudas en un  instituto de Utebo. En este caso, los investigados son seis chicos, todos inimputables. Se suma,  que además de distribuir las fotos, también las vendían a 5 euros.  

No sólo eso, en Europa están muy preocupados por este aumento significativo de creciente  ciberdelincuencia que tiene “a su favor” el uso de herramientas que son muy tuitivas y no  necesitan de una formación sofisticada. Como es el caso de Grecia, donde están preparando  una nueva ley para hacer frente a los ciberdelincuentes que utilizan esta tecnología. 

Riesgos y … ¿Oportunidades? 

Otro riesgo digital importantísimo que se ha de tener en cuenta es que a través de la generación  de imágenes con IA, llega un momento, donde los menores pueden sufrir una alteración/ manipulación cognitiva de la realidad y ya no sepan discernir la veracidad de lo que ven debido  al hiperrealismo de las imágenes.  

Pero, más allá del retoque o generación de imágenes, hay más peligros asociados a esta  tecnología que resulta necesario hacerles frente lo antes posible; como pueden ser: 

– La falta de pensamiento crítico ante la credibilidad de la información no contrastada por  fuentes fiables (reales), y que ha podido ser sesgada por la propia IA, afectando ello a su  capacidad analítica y de evaluación. 

– Problemas para la privacidad y protección de datos de los niños. Muchas herramientas  (bien sean apps o webs) de IA no se abrazan la legalidad en materia de privacidad y protección de datos; ya que no son transparentes en lo relativo a su recogida ni la finalidad  de los mismos ni tampoco realizan una verificación de la edad de los usuarios ni del  acceso de los niños a ese contenido. 

– Creación de relaciones parasociales y bullying: se ha observado que hay una  preocupación creciente por comportamientos de usuarios jóvenes que copian conductas  de intimidación y los dirigen a un chatbots de IA. Por ejemplo, en redes sociales se ha  observados a usuarios que incitan a otros a “intimidar” a los chatbots a través de engaños  y malos tratos generando patrones de conducta agresivos y reiterados en el tiempo.  

– Adicción al uso de la IA: se debe de tener en cuenta, que estos programas responden a  cualquier pregunta que le realices las 24 horas del día, los 365 días del año. Pudiendo  ver los menores en estos, un reemplazo de figuras tradicionales educativas; como pueden  ser la de los padres o los tutores o profesores. El tono que suele emplear el chatbots es  amable y los menores pueden sentirse no juzgados resultando ser un aliado perfecto a la  soledad no deseada ante la falta de tiempo que en ocasiones se da en las familias. 

¿Cómo ponerle puertas al campo? 

Formación e información para superar la brecha intergeneracional digital que hay a día de hoy  en la sociedad es pieza clave para crear una conciencia social ante el fenómeno que nos  encontramos. Evidentemente, la IA permite avances y facilidades en lo cotidiano que nos  beneficia a todos; pero que en la mano de los más pequeños es sin duda un arma de doble filo. 

Es fundamental establecer políticas activas a través de un adecuado marco legal que involucre  a los distintos agentes sociales de manera real y efectiva teniendo como vehículo conductor la  educación digital y su proyección de futuro para capacitar a los menores y ayudarles así a comprender y utilizar la tecnología de manera responsable y crítica. 

La seguridad de nuestros niños y jóvenes no debe ser negociable y por ende debe de ser tratada como un problema de salud y seguridad pública. No debemos de olvidar, que nuestros niños no  son sólo nuestro presente, son nuestra esperanza y futuro del mañana.


Autora: Jennifer Rojas

Delegada de Protección de Datos y Compliance Officer. Consultora legal especializada en Protección de Datos. Divulgadora legal y articulista en distintos medios digitales. Creadora y productora de “Guardianes en la Red”, sección en el programa de televisión Málaga Tevé, de PTV Telecom. 

Dejar una respuesta

Please enter your comment!
Please enter your name here

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.