Xataka – Google abre SynthID para comprobar si una imagen, vídeo o audio es IA o no, pero el problema es que es un placebo
Si las noticias falsas ya eran un problema, distribuidas sobre todo a través de redes como X o Facebook, con la llegada de la IA generativa y la capacidad de hacer imágenes que cada vez más difuminan la línea entre la realidad y lo artificial… eso se ha disparado. Es por ello que Google DeepMind lanzó SynthID en 2023, una marca y herramienta de uso cerrado para identificar imágenes falsas. Ahora han decidido abrirla a todo el mundo y es más capaz que nunca.
El problema es que está (muy) lejos de ser infalible.
SynthID. Realmente, se trata de la tecnología de marcas de agua que DeepMind lanzó hace varios años y, básicamente, es algo que incrusta una marca imperceptible en imágenes, vídeo, audio o texto generado por IA. Lo hace en el momento de crear la pieza y no es algo que veamos (como una marca de agua en texto o el símbolo de Gemini que antes se introducía en la IA de Google), sino algo más profundo pensado para resistir recortes y filtros por encima en el caso de imágenes, de cambios de fotogramas y compresión con pérdida en vídeo o de ruido, compresión agresiva y cambios de velocidad en el caso del audio.
Según Google, con esta tecnología han marcado más de 180.000 millones de imágenes y vídeos… y más de 240.000 años de audio. Es tan loco el haber marcado eso como que se haya generado tantísimo en tan poco tiempo.
Puedes probar. Es tan fácil como ir a la web oficial del servicio o a Gemini y subir un archivo. En unos pocos segundos te da un resultado y te dice con qué se ha creado ya que OpenAI y Google tienen su propio marcador. Hay limitaciones de tamaño de archivo, duración de vídeos (deben ser de menos de 90 segundos) y realmente apenas hay 20 consultas por día. Al final, no deja de ser una IA y eso consume recursos que Google no nos va a regalar.
Problema. No es un estándar. Kakao, Nvidia en Cosmos y herramientas de OpenAI como ChatGPT o Codex lo soportan e integran en su API, pero si el contenido se genera con otro programa de IA, SynthID no puede leer esos marcadores ocultos y, por tanto, no sabe si es IA o no.
Hice la prueba con la imagen que tienes justo sobre estas líneas que es IA reconocible a leguas… y nada. Es una imagen que compartió un trabajador de Meta Superintelligence Labs y a saber con qué la creó, pero supuestamente ni con Gemini ni con ChatGPT. La propia Google apunta que el detector sólo puede saber si algo es IA si se ha creado «con IA de Google o de nuestros socios».
Hablando de Meta, ya en 2024 la compañía de Zuckerberg apuntaba que no era posible identificar todo el contenido generado por IA y que a la vez que surgían herramientas para identificarlo, aparecían otras para eliminar los marcadores. OpenAI tiene su propia herramienta basada en la de Google y ellos mismos reconocen que «el contenido aún podría haber sido generado por OpenAI si se eliminaran o manipularan sus metadatos, se degradara su marca de agua, procediera de un modelo heredado de generación o se creara antes de que existieran señales de procedencia»
Alternativas. Las empresas que crean la IA y la refinan para que cada vez sea más precisa, incluso borrando marcas de agua que antes estaban bien visibles, son las mismas que trabajan en herramientas para que se identifiquen esas imágenes falsas. Es añadir una complicación a algo que debería ser mucho más sencillo, pero aparte de SynthID, Adobe y Meta también han lanzado sistemas similares.
La propuesta más destacable en este sentido es la del estándar C2PA (Coalition for Content Provenance and Authenticity). Ésta, gestiona tecnologías como la especificación Content Credentials para etiquetar contenidos generados por IA y algunas de las mayores empresas del sector están incluidas.. La otra alternativa es la más utópica: confiar en la humanidad.
En marzo de 2025, el Gobierno aprobó un anteproyecto de ley que consideraba infracción grave no etiquetar el contenido generado por IA. Desde entonces, no sólo hemos sido bombardeados por elementos generados por IA, sino que han salido hasta influencers falsos (hechos con IA, quiero decir) con mensajes nocivos sobre cualquier cosa y con un mensaje que puede calar entre algunas audiencias.
–
La noticia
Google abre SynthID para comprobar si una imagen, vídeo o audio es IA o no, pero el problema es que es un placebo
fue publicada originalmente en
Xataka
por
Alejandro Alcolea
.