Las imágenes hechas con IA que publiques en Instagram comenzarán a ser marcadas por Meta

Meta ha anunciado que «en los próximos meses» identificará y etiquetará de forma automática las imágenes fotorrealistas publicadas en Facebook, Instagram y Threads que hayan sido creadas con inteligencia artificial (IA) generativa mediante herramientas de otras empresas, como podrían ser las de OpenAI, Microsoft o Google. Así lo ha anunciado la tecnológica de Mark Zuckerberg en un comunicado en el que apunta que las redes sociales cada vez albergan más contenido de este tipo, lo que hace difícil diferenciar entre las publicaciones de contenido humano y sintético.

Meta ha compartido su entusiasmo por la «explosión de creatividad» que han demostrado los usuarios que utilizan sus nuevas herramientas de IA generativa, como el generador de imágenes del 'chatbot' Meta AI, que por el momento no está disponible en España, y con el que se permite crear imágenes con simples indicaciones de texto.

Sin embargo, tal y como ha explicado en un comunicado, los usuarios también «aprecian la transparencia» en lo que se refiere a esta nueva tecnología y, por ello, implementaron las etiquetas de 'Generado con IA' en las imágenes fotorrealistas creadas con su herramienta de Meta AI. Ahora la función se expande y comenzará a afectar a las creaciones realizadas con otras herramientas.

Las etiquetas se aplicarán de forma automática, de cara a informar a los usuarios sobre el tipo de contenido y evitar confusiones. Para poder identificar y etiquetar este tipo de contenido, la compañía ha señalado que ha estado trabajando con socios del sector de cara a «armonizar técnicas comunes» que indiquen cuándo un contenido ha sido creado con IA, independientemente de la herramienta o programa con el que se haya generado.

Igualmente, la compañía liderada por Zuckerberg ha señalado que implementarán este enfoque de transparencia a lo largo de este año, con el objetivo de «aprender mucho más sobre cómo la gente crea y comparte contenidos de IA». «Esto servirá de base a las mejores prácticas del sector y a nuestro propio enfoque de cara al futuro», ha apostillado al respecto el presidente de Asuntos Globales de Meta, Nick Clegg.

En el marco de su herramienta Meta AI, la tecnológica dispone de varios métodos para señalizar que se trata de contenido generado por IA. Además de los marcadores visibles y etiquetas, Meta introduce marcas de agua invisibles, como los metadatos incrustados dentro de los archivos de la imagen en cuestión.

Así, se ofrece más solidez a la hora de identificar contenido generado por IA, tanto para Meta como para otras empresas. De la misma forma, Meta propone consensuar este tipo de medidas para todos los contenidos generados por IA que aparezcan en Internet.

En este sentido, la compañía ha detallado que ha estado trabajando con empresas dentro del sector para desarrollar unas normas comunes que permitan identificar los contenidos a través de foros como el Partnership on AI (PAI). Según ha especificado, los marcadores invisibles de metadatos utilizados en las imágenes de Meta AI «están en consonancia» con las prácticas de la PAI.

Siguiendo esta línea, Meta también está creando herramientas capaces de identificar marcadores invisibles «a escala», capaces de reconocer la información generada por IA de las normas técnicas C2PA e IPTC, para poder etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock, a medida que estas compañías vayan añadiendo metadatos a las imágenes creadas por sus correspondientes herramientas de IA.

Sea como fuere, la empresa de redes sociales ha advertido de que la tecnología que utiliza no es infalible. Por tanto, actualmente, «no es posible identificar todos los contenidos generados por IA». También ha reconocido que hay formas de eliminar los marcadores invisibles.

En este marco, de cara al futuro, la compañía ha señalado que continúan trabajando para conseguir desarrollar clasificadores que ayuden a detectar contenidos generados por IA «aunque carezcan de marcadores invisibles». De la misma forma, también están trabajando para buscar formas de dificultar la eliminación o alteración de las marcas de agua invisibles en contenidos generados por IA.