“Ahora todo se va a hacer con la bendita inteligencia artificial (IA)”, fue el comentario en voz alta de dos señoras que me antecedían en la cola de uno de los locales de una conocida cadena farmacéutica. Ciertamente, en programas de radio, artículos de portales y foros se habla de las implicaciones de este fenómeno en la vida laboral, en la salud, educación, campañas electorales.
“¿Qué piensas sobre el uso de la IA y la explotación sexual de niños?”, escuché preguntar más tarde al periodista Carlos Dhoy, especialista en temas de violencia, me hizo reconocer que esa “barajita no la tenía” y me permitió llegar a la investigación de la BBC que destapa el asunto.
La periodista independiente Octavia Sheepshanks elaboró un informe, con el apoyo de la ONG Sociedad para la Prevención de la Crueldad de los Niños (NSPCC), y contactó a la BBC para difundir los hallazgos. La principal conclusión: algunos pedófilos utilizan la IA para crear y vender material que simula situaciones reales de abuso sexual.
Programas creados para la realización de imágenes y videos de alta calidad y realismo están siendo utilizados por estas personas para generar contenidos de todo tipo de abuso sexual infantil. Sheepshanks advierte que parecería están produciendo estas imágenes a una escala industrial.
Este escenario complejiza enormemente la protección de los niños, niñas y adolescentes víctimas de la explotación sexual. Las tareas de investigación, persecución policial, ubicación y rescate de los niños se ven comprometidas con las aparición de miles de nuevas imágenes “fake” creadas con la IA.
Si estamos ante imágenes creadas, y no personas reales, ¿cómo establecer entonces un delito? Las restricciones legales, la persecución policial y las consecuencias penales hacen que se vea a la IA como el “nuevo paraíso” de los pedófilos.
En tal sentido Ian Critchcley de NSPCC advierte, a través de la BBC, que hay una relación directa y progresiva entre el abuso con imágenes sintéticas y el abuso real cometido contra un niño y ubica tres etapas:
- Pedófilos generan las imágenes con software de IA.
- Promueven las fotos en plataformas de intercambio de imágenes.
- Estas cuentan tienen vínculos que dirigen a los clientes a imágenes más explícitas con niños reales.
El abogador Raymond Orta, especialista en tecnologías, fue consultado por Dhoy y expresó que en el caso de Venezuela “la posesión y distribución de material pornográfico infantil es un delito, sea un dibujo, una foto o un producto de IA”. Taxativamente expresa que quien difunda ese material está realizando una incitación y promoción de un delito.
La responsabilidad de las plataformas
Tal como expresa el Consejo Nacional de Jefes de Policía en Reino Unido (NPCC) es indignante que algunas plataformas estén recibiendo enormes ganancias al no adoptar una responsabilidad moral. Un fenómeno tan complejo requiere el compromiso de los sitios que están siendo utilizados para la difusión y comercialización de estas imágenes.
Las empresas de tecnología pioneras en el la promoción de la IA también tienen que involucrarse decididamente para evitar que las niñas, niños y adolescentes sigan siendo abusados y victimizados no artificial sino humanamente.
Fernando Pereira | @cecodap | @fernanpereirav
***
Las opiniones expresadas en esta sección son de entera responsabilidad de sus autores.
