Carlos B Fernández. Google Deepmind, en colaboración con Google Cloud, ha lanzado una nueva herramienta denominada SynthID, que incrusta una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano, pero detectable para su identificación como generada con IA.
Se trata de la primera gran empresa tecnológica que lanza una herramienta de este tipo públicamente, después de a finales de julio pasado, siete grandes tecnológicas firmaran con la Casa Blanca un compromiso voluntario para el desarrollo seguro y transparente de la inteligencia artificial.
Según ha explicado Deepmind en un comunicado, las tecnologías de IA generativa evolucionan rápidamente, y las imágenes generadas por ordenador, también conocidas como "imágenes sintéticas", son cada vez más difíciles de distinguir de las que no han sido creadas por un sistema de IA.
Por ello, aunque esta tecnología puede liberar un enorme potencial creativo, también presenta nuevos riesgos, como permitir a los creadores difundir información falsa, tanto intencionada como involuntariamente. En consecuencia, añaden, “Ser capaz de identificar los contenidos generados por IA es fundamental para que las personas sepan cuándo están interactuando con medios generados y para ayudar a prevenir la difusión de información errónea”.
En consecuencia, se declaran comprometidos con su responsabilidad de ofrecer a los usuarios herramientas avanzadas para identificar las imágenes generadas por IA, de modo que sus imágenes -e incluso algunas versiones editadas- puedan ser identificadas posteriormente.
Nuevo tipo de marca de agua para imágenes de IA
Según explica esta compañía, las marcas de agua son diseños que pueden superponerse a las imágenes para identificarlas. Han evolucionado a lo largo de la historia, desde las impresiones físicas en papel hasta el texto translúcido y los símbolos que se ven hoy en día en las fotos digitales.
Estas marcas de agua tradicionales no son suficientes para identificar imágenes generadas por IA porque suelen aplicarse como un sello en una imagen y pueden eliminarse fácilmente. Por ejemplo, las marcas de agua discretas que se encuentran en la esquina de una imagen pueden recortarse con técnicas básicas de edición.
En consecuencia, explican, encontrar el equilibrio adecuado entre imperceptibilidad y resistencia a las manipulaciones de la imagen es difícil. Las marcas de agua muy visibles, a menudo añadidas como una capa con un nombre o logotipo en la parte superior de una imagen, también plantean problemas estéticos para fines creativos o comerciales. Asimismo, algunas marcas de agua imperceptibles desarrolladas previamente pueden perderse con técnicas de edición sencillas como el cambio de tamaño. Además, la marca de agua es detectable incluso después de modificaciones como añadir filtros, cambiar los colores y el brillo.
Por ello, explican que han diseñado SynthID de modo que no comprometa la calidad de la imagen y permita que la marca de agua siga siendo detectable, incluso después de modificaciones como añadir filtros, cambiar los colores y el brillo.
SynthID utiliza dos modelos de aprendizaje profundo mediante redes neuronales. Una toma la imagen original y produce otra de aspecto casi idéntico, pero con algunos píxeles sutilmente modificados. Esto crea un patrón incrustado que es invisible al ojo humano. La segunda red neuronal puede detectar el patrón e indicará a los usuarios si detecta una marca de agua, si sospecha que la imagen tiene una marca de agua o si descubre que no la tiene.
Es decir, este enfoque combinado supone, por una parte, que SynthID puede añadir una marca de agua imperceptible a las imágenes sintéticas producidas por Imagen. Y, a la vez que al escanear una imagen en busca de su marca de agua digital, SynthID puede evaluar la probabilidad de que una imagen haya sido creada por Imagen.
El modelo combinado se optimiza en función de una serie de objetivos, como identificar correctamente el contenido con marca de agua y mejorar la imperceptibilidad alineando visualmente la marca de agua con el contenido original.
Una tecnología no infalible, pero fiable
Pese a ello Deepmind ha subrayado que SynthID no es infalible contra las manipulaciones extremas de imágenes, pero sí ofrece un enfoque técnico prometedor para capacitar a personas y organizaciones para trabajar con contenidos generados por IA de forma responsable. “Aunque esta tecnología no es perfecta, nuestras pruebas internas demuestran que es precisa frente a muchas manipulaciones habituales de las imágenes”, han declarado en su comunicado.
Además, prevén que esta herramienta también podría evolucionar junto a otros modelos y modalidades de IA más allá de las imágenes, como el audio, el vídeo y el texto.