Manuel Martínez, responsable del Departamento Infantojuvenil de ASAPME Aragón, nos habla de casos que se están convirtiendo en recurrentes de adolescentes fabricando contenido falso y dañino para otros adolescentes y cómo debemos actuar en estas situaciones

Vivimos en una era en la que absolutamente todo está digitalizado. La información fluye a la velocidad de la luz. De hecho, cualquier cosa que puede ser compartida llega a nuestros teléfonos de manera tan rápida que asusta. Sumado a ello, el auge de la inteligencia artificial (IA), capaz de procesar grandes cantidades de datos, identificar patrones e incluso crear sus propias imágenes, se ha convertido en una herramienta muy poderosa, que según se use puede llegar a ser peligrosa.

Si hablamos de redes criminales de pornografía infantil, todos nos podemos llegar a hacer una pequeña idea de a lo que se refiere: distribución y comercialización de material que involucra a menores en actividades de abuso y agresión sexual y que tienen detrás a organizaciones complejas. Probablemente algo de lo que habremos escuchado hablar más de una vez.

Sin embargo, si hablamos de la relación entre pornografía infantil e inteligencia artificial parece haber un mayor desconocimiento del tema. Y es que ultimamente nos hemos sobresaltado con varias noticias sobre chicos y chicas muy jóvenes que usando la IA han creado imágenes falsas de compañeras. En algunos casos, tomando fotos de compañeras de sus propias redes sociales, para manipularlas a través de inteligencia artificial y obtener imágenes falsas de desnudos y distribuirlas.

ÚLTIMOS CASOS CONOCIDOS:

A unos 13 km de la ciudad de Zaragoza, en Utebo, la Guardia Civil ha abierto diligencias penales a siete menores que estudian en el instituto de este municipio tras averiguar que podrían estar detrás de la difusión de fotos manipuladas con IA en las que aparecen varias compañeras con sus cuerpos desnudos generados con herramientas de inteligencia artificial. Aunque estaban implicadas 13 personas, seis son menores de 14 años y, por lo tanto, inimputables. Además, llegaban incluso a pedir cinco euros por fotografía.

Estamos hablando de niños de menos de 14 años.

Cuando las víctimas se dieron cuenta que esas fotos estaban circulando por diferentes grupos, los investigados crearon otro grupo para borrar todas las imágenes y que no figurase ninguna prueba. Finalmente, la investigación ha finalizado con siete menores de 14 y 15 años implicados por un presunto delito de pornografía infantil y otro contra la integridad moral. Las diligencias de los menores de 14 años han sido remitidas a la Fiscalía de Menores.

Pero este no ha sido el único caso. La Policía Nacional ha abierto una segunda investigación en la capital aragonesa. Fue el pasado enero cuando las familias de varias alumnas de un centro escolar público comunicaron lo que estaba sucediendo a la Jefatura Superior de Aragón. Tras una serie de averiguaciones se descubrió que las víctimas podrían ser unas nueve chicas de entre 14 y 16 años. En este caso han sido cinco compañeros, de los cuales algunos todavía no han cumplido los 14 años.

Ambos casos ocurridos en la ciudad de Zaragoza no han sido una excepción, de hecho, nos recuerdan al de Almendralejo, un municipio de Badajoz, donde decenas de menores denunciaron que circulaban fotos de desnudos suyos creadas con inteligencia artificial y que también se suma a los que ocurrieron en Valencia o Barcelona.

No debemos olvidar que el compartir imágenes de menores sin permiso ya es una acción que vulnera los derechos de estos menores, pero además compartir imágenes de carácter íntimo en las que aparezcan menores es distribución de pornografía infantil.

DENOMINADOR COMÚN: MINORÍA DE EDAD

Si hacemos una comparación de los casos, podemos ver que hay un denominador común, y es que, en todos ellos, los responsables de manipular y distribuir fotografías son menores, y muy jóvenes. Algo que nos da que pensar y que asusta, pero mucho.

Nos deja entrever que se está fallando en la educación en el buen uso de las herramientas digitales, pero aún va más allá de la mera herramienta.

Para Manuel Martínez, responsable del Departamento Infantojuvenil de ASAPME Aragón, la razón que hay para que estos niños cometan estas acciones es fácil y rápida: las nuevas tecnologías y su facilidad de uso. “Sin duda, hacen posible que esto pueda ocurrir, puesto que brindan el marco perfecto”, añade Martínez.

Sin embargo, tanto las redes sociales como Internet han llegado para quedarse, y aunque traen muchos beneficios también un alto precio a pagar con el mal uso. “El precio más alto sin duda está relacionado con el hecho de que los menores estén expuestos a contenidos de todo tipo sin control. Desde los primeros años están en contacto con contenidos sexualizados y esto les desensibiliza de forma prematura. Sumado a la sensación de inmunidad que producen las pantallas, de ausencia de consecuencias para instigadores y consecuencias invisibles para afectados y afectadas, crean el cóctel perfecto”, explica Martínez.

Además, Martínez señala que no suelen ser conscientes del daño producido, por lo que “una de las acciones más eficaces para prevenir el acoso escolar tradicional o el ciberacoso es poner en contacto crudo y directo el acosador o acosadora con las consecuencias para la víctima”.

CONSECUENCIAS PARA LAS VÍCTIMAS

A pesar de los efectos que puede ocasionar en los responsables de la manipulación de las imágenes, las verdaderamente afectadas son las víctimas, cuyas fotos han sido manipuladas y distribuidas.

Algo que ocasiona respuestas de todo tipo en ellas: “La primera reacción suele ser desaparecer virtualmente de determinadas plataformas y, si la agresión procede de círculos cercanos, también tratar de evitar la exposición a entornos sociales evitables como ocio, salidas nocturnas, etc.” afirma Martínez.

Además, el responsable del Departamento Infantojuvenil señala que “si a largo plazo el entorno no ha sido capaz de dar la respuesta de seguridad, las evitaciones a tantos ambientes pueden causar una pérdida generalizada de reforzadores y, en consecuencia, sintomatología depresiva, fracaso escolar o aislamiento”.

Por otra parte, este tema ha generado una gran controversia, de manera que mucha gente piensa que el impacto es menor al tratarse de fotos realizadas con inteligencia artificial, siendo falsas. Sin embargo, Martínez considera que “es complicado pensar que el impacto pueda ser menor que si las imágenes fueran reales”.

¿CÓMO ACTUAR?

Según la fundación Internet Watch Foundation (IWF) este tipo de material amenaza con inundar internet, lo que podría tener una serie de consecuencias como que estas imágenes normalizaran el abuso de niños reales, que aumentara el riesgo de los menores estimulando a posibles acosadores o que dificultase el trabajo de la policía.

Por ello, Martínez explica que, en caso de ocurrir esto, “lo primero de todo, tenemos que dotar de todas las herramientas y acompañar emocional o físicamente a la persona en todas las acciones legales que se tengan que tomar y que puedan actuar de cortafuegos. Puede ser tarde y que la difusión sea ya muy alta, pero sí o sí hay que cortar cuanto antes ese recorrido”.

Una vez que hemos realizado esto, debemos tener en cuenta que es muy importante brindar apoyo. “Por ello, si somos iguales de la persona afectada, el acompañamiento, el apoyo y la validación incondicional deben ser acciones básicas. En caso de que seamos adultos, bien sea educadores o padres y madres, debemos tratar de articular los canales necesarios para que el chico o la chica pueda seguir llevando una vida lo más normalizada posible dentro de los iguales que le respetan y le acompañan. A veces, por miedo, los adultos tendemos a aislar o desconectar del ambiente que nosotros percibimos como tóxico y podemos estar “matando moscas a cañonazos”, afirma Martínez.

En el caso de los culpables de manipular y distribuir las fotografías existe la duda de cómo podemos reconducir a estas personas para que no recaigan en futuros errores. En primer lugar, Martínez explica que “es importante que los adultos que tratamos con menores de forma habitual, bien sea como profesionales o como progenitores, tengamos en cuenta que todos debemos ir en la misma dirección en estas cuestiones y que cualquier chico o chica pueda estar en un lado u otro de esta ecuación”.

“Solo de esta manera, el menor percibirá la respuesta del entorno como unánime, firme y sin fisuras. A partir de ahí, toda persona, menor o adulta, puede y debe aprender de sus errores. Por eso es tan importante realizar campañas de prevención a menores en edades lo más tempranas posibles, pero también a docentes y a progenitores”, añade.

PROPUESTAS UNIÓN EUROPEA:

Debido al aumento de estos casos y el poder cada vez mayor de la IA, la Comisión Europea ha aprobado una propuesta de regulación para que todas imágenes y vídeos sexuales en los que aparezcan menores y que hayan sido creados a través de la tecnología, pasen a ser considerados como pornografía de menores convencional. Lo que implica que se convertirá en un delito con incluso penas de cárcel que parten de los tres años para quien las cree y de mínimo dos años para quien las comparta.

Estos cambios se llevarán a cabo mediante la reforma de la Directiva contra el abuso infantil del año 2011 y se prevé que estos cambios sean efectivos en un plazo de un año o año y medio. De esta manera, la idea de “pornografía infantil” pasará a denominarse “material de abuso sexual infantil”.

Además, se ampliará el periodo de tiempo durante el cual las víctimas de abuso sexual puedan denunciar al agresor. Según los estudios de la Comisión, la víctima tarda entre unos 17 y 21 años en compartirlo, por lo que la Directiva establece que estos casos no prescriban hasta que pasen al menos 20 años desde que alcancen la mayoría de edad.

Con ello también se pretende otorgar a las víctimas una compensación financiera por los daños percibidos, que los estados aprovechen los programas en materias de prevención y asistencia a las víctimas y que dediquen mayor esfuerzo a la concienciación social.

Por último, los seleccionadores de personal para actividades o trabajos que impliquen contacto con niños y para organizaciones que trabajan contra el abuso sexual infantil deberán solicitar los antecedentes penales de los candidatos al puesto.

Adicional a estas medidas, sería necesario que estás herramientas de IA contaran con mecanismos que hicieran imposible manipular imágenes para crear desnudos sin el consentimiento de la persona. Pero es complicado, llevamos año, desde que internet se generalizó usando la frase «imposible poner puertas al campo». Más que prohibir las herramientas la educación y la concienciación son clave para evitar que los más jóvenes (y también los adultos) no utilicen ni aprovechen la facilidad de acceso y uso de estas herramientas para ejercer prácticas no éticas e incluso ilegales.

La inteligencia artificial puede facilitar de manera increíble la vida de los usuarios, sin embargo, un mal uso de ella y en las manos equivocadas, puede ocasionar grandes daños. Las redes además, multiplican el efecto y la difusión convirtiendo ésta en casi infinita.

Por ello, es importante que escuelas, familias y autoridades trabajen conjuntamente para enseñar sobre la privacidad, consentimiento y consecuencias de sus acciones e intentar acabar, o al menos reducir, este problema.