Niños y abusos, la inteligencia artificial es ahora el gran reto

Michele Raviart - Ciudad del Vaticano

Con la inteligencia artificial incluso un inofensivo vídeo de un niño apagando las velas de un pastel de cumpleaños o de un menor sentado en una clase pueden convertirse en imágenes a partir de las cuales un algoritmo puede generar pornografía infantil. El aumento del número de imágenes de abusos generadas por la IA es, de hecho, junto con el del acoso digital (online grooming), una de las nuevas formas que adopta este fenómeno, que aunque difícil de cuantificar en concreto -en 2023 había más de 275.000 páginas web con pornografía infantil, 11.000 fotos generadas por la IA sólo en un mes-, en su sentido más amplio afecta a uno de cada cinco niños, víctimas de cualquier forma de abuso sexual. El tema se abordó en la conferencia "La dignidad de los niños en el mundo digital", organizada por la Fundación Sos Telefono Azzurro en colaboración con la Embajada de Italia ante la Santa Sede, que también acogió el acto.

Riesgos y oportunidades de la IA

"Las nuevas tecnologías se han convertido en un elemento de alto riesgo en el mundo de las personas frágiles, niños y adolescentes, que cada vez más disponen de acceso a plataformas que tienen en su interior herramientas que pueden llevar a comportamientos de riesgo", explica Ernesto Caffo, presidente de Telefono Azzurro. La IA, añade, "es un gran desafío, porque hace saltar por los aires todos esos sistemas de control que habíamos activado en los últimos años. Es una oportunidad maravillosa, pero es un campo en el que las fragilidades pueden ser fuente de riesgos cada vez mayores para las nuevas generaciones". En este sentido, explica Caffo, la próxima reunión del G7 que tendrá lugar a mediados de junio en Apulia puede ser una oportunidad para presentar propuestas sobre el tema, "que sólo puede resolverse a nivel internacional, gracias también a la contribución del Papa Francisco, "que en esa ocasión podrá abordar la dignidad de la persona como un elemento clave sobre el que todos debemos comprometernos".

O'Malley: la tecnología debe servir para mejorar la vida humana

"El poder de los algoritmos plantea tanto oportunidades como desafíos, y exige un equilibrio entre el progreso tecnológico y los valores humanos", reiteró en un mensaje el cardenal Patrick O'Malley, presidente de la Pontificia Comisión para la Protección de los Menores, institución que participará en las diversas reflexiones, estudios y nuevas iniciativas que surgirán de esta conferencia de un día de duración. "Como el Santo Padre ha recordado en varias ocasiones -escribe el cardenal-, la tecnología debe servir para mejorar la vida humana, y no al revés. El compromiso de la Iglesia con las nuevas tecnologías, en particular con la IA, está enraizado en su misión de proteger a las personas, en línea con el Evangelio" y está "contribuyendo activamente a la conversación global sobre el uso responsable de la IA, en línea con los valores humanos y las normas éticas".

Crear un identificador digital para los niños

"Los niños necesitan adultos creíbles capaces de hacer valer sus derechos. Derechos que las cartas internacionales reconocen plenamente", subrayó Maria Teresa Bellucci, Viceministra de Trabajo y Políticas Sociales, en nombre de la Presidencia italiana del Consejo. Entre las posibles iniciativas a poner en marcha, señaló Carla Garlatti, Autoridad de Supervisión de la Infancia y la Adolescencia, está la de introducir una especie de "SPID", el identificador digital de los menores, para proteger al máximo el acceso a las distintas plataformas, limitando el acceso a aquellas con contenidos inadecuados e impidiendo los intentos de grooming. Pensar que los menores no utilizan la red", añade, "es estar fuera de tiempo".

El derecho a la intimidad no puede ser una coartada

Un control "difícil de aplicar en estos momentos", explicó el jurista Guido Scorza, miembro del Colegio de Supervisores de Protección de Datos, entre otras cosas porque todo menor tiene tendencia a hacer uso de contenidos diseñados para edades más avanzadas. "Cuanto más conocemos el algoritmo más útil es, cuanto menos lo conocemos más peligroso es", reiteró Scorza, quien subrayó que el derecho a la intimidad no puede utilizarse como coartada cuando está en juego la seguridad de los niños.

Hacia el Día Mundial de la Infancia

"Creemos que los smartphones nos hacen tener todo bajo control, pero no es así", comentó el padre Hans Zollner, decano del Instituto de Antropología de la Pontificia Universidad Gregoriana. Como dijo el Papa Francisco, necesitamos "crear y adoptar un tratado internacional sobre la IA", entre otras cosas para responder a la pregunta de qué tipo de ser humano queremos ser en el futuro". El padre Marco Vianelli, director de la Oficina Nacional para la Pastoral de la Familia de la Conferencia Episcopal Italiana recordó lo que se ha conseguido con los puntos de escucha, mientras que el padre Enzo Fortunato, coordinador de la Jornada Mundial de la Infancia recordó el evento que tendrá lugar los días 25 y 26 de mayo de 2024 en el Estadio Olímpico de Roma y en la Plaza de San Pedro, en el que participarán más de 100.000 menores de edad de 102 países.