En los últimos días, se viralizó en redes sociales una imagen del papa Francisco con una campera inflada caminando por las calles de Roma. Inmediatamente, cientos de usuarios comentaron sobre "el estilo del Papa" ("The Pope Drip", como bautizaron la imagen en inglés), ya que ese abrigo "puffer" suele verse en raperos y otros artistas urbanos. Mientras todos se preguntaban por qué el Sumo Pontífice cambió de estilo tan drásticamente y buscaban más imágenes al respecto, Pablo Xavier no paraba de reírse en su casa. Por un tiempo, solo él supo que esa imagen era falsa. 

La foto de "el estilo del Papa" no es real. Fue creada con la herramienta Midjourney, que utiliza Inteligencia Artificial para crear imágenes hiperrealistas. De allí salieron, por ejemplo, las fotos del supuesto arresto del expresidente de Estados Unidos, Donald Trump, que engañaron a muchos despistados. El programa solo necesita de las instrucciones de un usuario para generar imágenes como la de Francisco, y es una de las evidencias más claras del potencial que tiene la IA y por qué hace temer a muchos expertos.

“Mucha gente pensó que eran reales sin cuestionarlo. Es una locura”, aseguró Pablo Xavier a BuzzFeed News, sin compartir su apellido por miedo a represalias. Publicó las fotos en Reddit, y la plataforma lo echó a las pocas horas. Para él, la imagen más viralizada era "perfecta".

Según confesó Pablo Xavier, la idea de generar la imagen se le ocurrió cuando se encontraba bajo los efectos de unos hongos alucinógenos. "Intento hacer cosas divertidas y arte psicodélico. Se me ocurrió de golpe. Pensé que debía usar al Papa. Luego todo fue como la seda: el Papa con un abrigo de Balenciaga, caminando por las calles de Roma o París", recordó.

 

 

Los deepfakes y la IA, el gran problema del futuro

El creador de las imágenes del Papa reveló que su afición por crear fotos falsas comenzó con la muerte de su hermano en noviembre pasado: “Todo empezó lidiando con el dolor. Creaba imágenes de mi hermano fallecido”. Después, siguió con otras fotos como la del Papa, la cual solo le pareció "graciosa". Aunque no se siente parte de la religión, resaltó que no siente animosidad por el pontífice, y que "no esperaba que explotara así". 

Sin embargo, la viralización de la imagen demostró el potencial que tienen las herramientas como Midjourney, que borran cada vez más los límites entre realidad y ficción. La "epidemia de los deepfakes" preocupa a los expertos, y empresas como Adobe —líder de las primeras herramientas de edición como Photoshop o Premiere— ya buscan cómo enfrentar a la "hiperrealidad". 

En esta línea, Adobe lanzó hace tres años la llamada Iniciativa de autenticidad de contenido con un puñado de socios de la industria de tecnología y medios, entre ellos Microsoft e Intel. El proyecto apunta a crear un rastro digital que muestre quién es responsable de un video o imagen determinado y cualquier cambio que haya sufrido.

Esa iniciativa coincide con las declaraciones del propio Francisco. Aunque no habló de la foto que lo involucraba, sí se refirió al uso de la IA. “Estoy convencido de que el desarrollo de la inteligencia artificial y el aprendizaje automático tiene el potencial de contribuir de manera positiva al futuro de la humanidad”, dijo el Papa en un discurso. Sin embargo, "este potencial se realizará solo si existe un compromiso constante y consistente por parte de quienes desarrollan estas tecnologías para actuar de manera ética y responsable".

"¿Existe el riesgo de que el aumento de la desigualdad socave nuestro sentido de solidaridad humana y social? ¿Podríamos perder nuestro sentido de tener un destino compartido?", se preguntó. Para Francisco, el verdadero objetivo "debe ser que el crecimiento de la innovación científica y tecnológica vaya acompañado de una mayor igualdad e inclusión social".

Las claves para detectar el las imágenes generadas por IA

¿Cómo se dieron cuenta del deepfake? Las creaciones de Midjourney suelen tener errores sutiles en formas humanas, que suelen ser en los dedos o manos y en la cara de sus protagonistas. En este caso, se pueden detectar los siguientes errores:

• Los lentes del Papa Francisco no tienen una forma definida y se “fusionan” con su rostro. Además, la sombra que producen también presenta una imperfección.
• El crucifijo que suele portar en el cuello solo se conecta solo por un lado y el cierre del abrigo tiene dos tramos que no coinciden entre sí.
• El error más visible de todos se presenta en un detalle en su mano derecha, que sostiene lo que parece ser una bebida en un contenedor similar a un mate, pero no tiene una forma definida. Por otro lado, en su dedo medio puede notarse un detalle que podría aproximarse al “anillo del pescador” que forma parte de la indumentaria del Sumo Pontífice, pero este se utiliza en el dedo anular.

Aunque es cada vez más difícil detectar fotos como las del "Papa Balenciaga" o las de Trump siendo arrestado, sí hay algunos trucos que pueden seguirse: 

• Volver a la fuente de la imagen: es importante rastrear la primera vez que se publicó la imagen en línea. En algunos casos, el creador puede haber dicho que fue generado por IA e indicó la herramienta utilizada.
• Buscar pistas visuales: a veces, las pistas están ocultas en la foto, como una marca de agua utilizada por algunas herramientas de creación de IA. DALL-E, por ejemplo, genera automáticamente una barra multicolor en la parte inferior derecha de todas sus imágenes. Crayion coloca un pequeño lápiz rojo en el mismo lugar.
• Detectar inconsistencias: a las imágenes de IA les cuesta generar manos normales y también tienen dificultades para generar reflejos. Los generadores también suelen crear asimetrías. Las caras pueden ser desproporcionadas o las orejas pueden tener diferentes tamaños. Los dientes y el cabello son difíciles de imitar y pueden revelar, en sus contornos o textura, que una imagen no es real. Y algunos elementos pueden estar mal integrados, como los anteojos de sol que se mezclan con la cara.
• Fondos erróneos: si bien a primera vista el fondo puede parecer normal, una foto generada por IA a menudo revela errores: piernas cortadas, caras deformes, cuerpos borrosos y perspectivas incorrectas
• Errores de lógica: hay deepfakes que pueden contener elementos que no corresponden al contexto, tales como una señal de tránsito o un cartel que no existe en el lugar de donde pretende ser la imagen

"Una buena manera de detectar una IA es buscar sombras, espejos, agua, pero también acercar los ojos y analizar las pupilas, ya que normalmente hay un reflejo cuando tomas una foto. También podemos notar a menudo que los ojos no son del mismo tamaño, a veces con diferentes colores", explicó a la AFP Vincent Terrasi, cofundador de una startup que lanzó un detector de IA para universidades.