Rostros creados artificialmente de personas que en realidad no existen están siendo utilizados por cuentas falsas en Facebook para engañar a los usuarios y jugar con los sistemas de la compañía, según informó la empresa el viernes. Expertos que revisaron las cuentas en cuestión aseguran que es la primera vez que ven que imágenes fraudulentas de este tipo son usadas a escala como parte de una sola campaña en redes sociales.
Las cuentas, que fueron eliminadas por Facebook el viernes, formaban parte de una red que generalmente publicaba mensajes a favor del presidente de Estados Unidos Donald Trump y contra el gobierno chino, indicaron expertos que revisaron las cuentas. Muchas de las cuentas difundieron enlaces a una página de Facebook y a un sitio web llamado “The BL”. La compañía dijo que estos usuarios falsos estaban vinculados a Epoch Media Group, propietario del periódico The Epoch Times, un medio vinculado al movimiento de Falun Gong que también es pro-Trump.
El editor de The Epoch Times negó que Epoch y The BL estuvieran vinculados, según la información que fue por correo electrónico a Snopes, una organización de verificación de datos, a principios de este año.
En una declaración posterior a la primera publicación de esta historia en inglés el pasado viernes, el editor de The Epoch Times Stephen Gregory señaló: “The Epoch Times y las compañías de medios BL no están afiliadas. BL fue fundado por un exempleado y emplea a algunos de nuestros extrabajadores. Sin embargo, que algunos de nuestros antiguos colaboradores trabajen para BL no es evidencia de ninguna conexión entre las dos organizaciones”.
Y añadió: “BL es una publicación de Epoch Times Vietnam. Como se puede ver en las páginas archivadas del sitio web de The Epoch Times, Epoch Times Vietnam dejó de figurar como parte de Epoch Media Group en octubre de 2018”.
En respuesta, un portavoz de Facebook le dijo a CNN Business que los ejecutivos de The BL eran administradores activos de las páginas de Epoch Media Group en la red social muy recientemente: incluso, aún el viernes por la mañana.
La revelación distópica del uso de imágenes generadas artificialmente de esta manera particular apunta a un panorama de información en línea cada vez más complicado a medida que Estados Unidos se dirige a un año de elecciones presidenciales. Silicon Valley y la comunidad de inteligencia del país todavía luchan con las consecuencias que dejó la interferencia en línea generalizada durante los comicios de 2016.
Las cuentas falsas de Facebook usaban imágenes de perfil que parecían mostrar a personas reales sonriendo y mirando directamente a una cámara. Pero estos individuos no existen ni nunca han existido, según aseguran Facebook y otros investigadores. Las imágenes fueron creadas con inteligencia artificial. Justamente, utilizan los mismos métodos básicos para producir videos fraudulentos, videos que la comunidad de inteligencia ha advertido podrían usarse como parte de una campaña de desinformación extranjera dirigida a los estadounidenses.
Otras cuentas falsas que formaban parte de la misma red tenían imágenes robadas de personas reales, de acuerdo a la compañía de investigación de redes sociales Graphika y el grupo de expertos Atlantic Council. Facebook proporcionó información a Graphika y a Atlantic Council para su análisis antes del su anuncio del viernes.
Las cuentas fueron utilizadas para dirigir docenas de grupos de Facebook a favor de Trump con nombres como “¡Estados Unidos necesita al presidente Trump” y “NOSOTROS ESTAMOS CON TRUMP & PENCE!”, indicaron Graphika y Atlantic Council.
Snopes y Lead Stories, organizaciones de verificación de datos, habían informado en las últimas semanas y meses sobre el uso de imágenes artificiales en Facebook, las cuales formaban parte de esta red de cuentas. Snopes publicó una historia la semana pasada en la que criticaba la aparente inacción de Facebook sobre el asunto. La red social sostuvo el viernes que se había “beneficiado de los informes de código abierto” en el desmantelamiento de las cuentas falsas, pero aseguró que sus propios sistemas dedicados a vigilar el comportamiento coordinado y no auténtico identificaron proactivamente muchas de las cuentas.
En un informe conjunto sobre sus hallazgos, Graphika y Atlantic Council describen cómo lograron determinar cuáles fotos de perfil fueron generadas con inteligencia artificial. “Esta tecnología está evolucionando rápidamente hacia la generación de imágenes más creíbles, pero algunos indicadores aún revelan” su naturaleza, expresaron.
Las imágenes creadas a partir de inteligencia artificial, específicamente a través de un método de aprendizaje automático conocido como GAN –o red generativa antagónica, en español– son “notorias por tener problemas con características que deberían ser simétricas en el rostro humano, como anteojos o aretes, y con detalles de fondo. Las imágenes de perfil de la red mostraban indicios de los tres”.
El método GAN consiste en dos redes neuronales, que son algoritmos modelados en las neuronas del cerebro, enfrentadas entre sí para producir imágenes de aspecto real. Una de las redes neuronales genera imágenes (de, digamos, el rostro de una mujer), mientras que la otra intenta determinar si esa imagen es falsa o real.
Aunque los expertos pudieron detectar estos indicios reveladores en una inspección minuciosa, es probable que los usuarios habituales de Facebook no lo hagan.
Durante el año pasado, surgieron múltiples sitios web que crean rostros falsos utilizando inteligencia artificial.
Los investigadores de Graphika y Atlantic Council no pudieron determinar de manera concluyente si quienes estaban detrás de las cuentas falsas usaron imágenes artificiales de estos sitios públicos o generaron las suyas propias.
En su informe publicado el viernes, Graphika y Atlantic Council destacaron: “La facilidad con la que la operación logró generar tantas imágenes artificiales para darle así a sus cuentas falsas (en su mayoría) caras convincentes, es una preocupación. Se necesita una mayor investigación para encontrar formas de identificar imágenes de perfil generadas por inteligencia artificial de manera confiable y a escala, de modo que las plataformas y los investigadores puedan automatizar su detección”.
La conexión a Epoch Media Group
En total, señaló Facebook, se eliminó una red de 610 cuentas de Facebook, 89 páginas, 90 grupos y 72 usuarios de Instagram. Alrededor de 55 millones de cuentas seguían a una o más de las páginas, y la gran mayoría de los seguidores estaban fuera de Estados Unidos. La compañía no dijo si todos estos seguidores eran reales, algunos de ellos podían ser cuentas falsas.
La red de páginas eliminadas el viernes gastó casi 10 millones de dólares en anuncios de Facebook, según la empresa.
La investigación de Facebook se centró principalmente en “The BL” (“The Beauty of Life” o “La belleza de la vida” en español), un conjunto de páginas de Facebook y un sitio web que asegura que su objetivo es “presentarle al mundo los aspectos más bellos de la vida”. La página compartió constantemente contenido a favor de Trump y en contra de China.
En su sitio web, The BL describe los peligros de la “información inexacta y degenerada”, que dice “puede canalizarse fácilmente hacia personas vulnerables o desinformadas”.
El propósito de las cuentas falsas, incluidas las que usan creadas con inteligencia artificial, parece haber sido promover enlaces al sitio web de The BL y a sus respectivas páginas en FB, dijo el viernes a CNN Business Ben Nimmo, director de investigaciones de Graphika.
Facebook aseguró que las cuentas falsas estaban vinculadas a Epoch Media Group, cuya sede está en Estados Unidos, e “individuos en Vietnam que trabajan para ellos”. La red social no describió con precisión cómo estableció el vínculo, pero en los últimos años Facebook ha contratado a un equipo de investigadores para identificar cuentas falsas en la plataforma.
El periódico The Epoch Times pertenece a Epoch Media Group. La publicación tiene casi 6 millones de seguidores en Facebook. Nathaniel Gleicher, jefe de política de seguridad de Facebook, le dijo a CNN Business el jueves que la red social no iba a suspender la cuenta del periódico, pero que se estaban realizando investigaciones sobre el comportamiento de Epoch en Facebook.
Snopes informó a principios de este mes que el editor de Epoch Times negó que The BL y Epoch estuvieran vinculados.
En agosto, Facebook prohibió los anuncios de The Epoch Times después de que una investigación de NBC News detallara cómo el periódico publicaba en secreto anuncios de Facebook pro-Trump en cuentas alternativas. El editor de The Epoch Times afirmó en un comunicado a NBC News que los anuncios del medio son “de suscripción impresa que describen los informes de nuestro periódico, una práctica popular de muchos medios, y cada uno de estos anuncios fue aprobado por Facebook antes de su publicación”.
Un portavoz de Facebook dijo que la compañía compartió sus hallazgos con Twitter y Google, propietario de YouTube.
Por su parte, un portavoz de Twitter confirmó en un comunicado el viernes: “Hoy identificamos y suspendimos aproximadamente 700 cuentas originarias de Vietnam por violar nuestras reglas sobre manipulación de plataformas, específicamente cuentas falsas y spam”.
“Las investigaciones aún están en curso, pero nuestros hallazgos iniciales no han identificado vínculos entre estas cuentas y actores patrocinados por el estado”, agregó el portavoz.
