Google DeepMind presenta SynthID, una herramienta para identificar texto generado por IA

Google DeepMind ha lanzado una nueva herramienta llamada SynthID, diseñada para identificar texto escrito por inteligencia artificial (IA) y está disponible como un proyecto de código abierto. Esta herramienta es parte de una serie de herramientas de marcado que se están desarrollando para mejorar la transparencia en las producciones generativas de IA. SynthID ha dado un paso importante en esta iniciativa al presentar un sistema de marcas de agua para imágenes el año pasado y, posteriormente, para videos generados por IA.

SynthID se ha integrado en la aplicación Gemini de Google y en sus chatbots en línea. Actualmente, los desarrolladores pueden acceder a ella a través de Hugging Face, un sitio web que alberga conjuntos de datos y modelos de IA. Las marcas de agua son un componente crítico que permite a los usuarios distinguir entre contenido generado por IA, lo que es esencial para combatir la desinformación.

Características de SynthID

La herramienta SynthID presenta un marcado de agua invisible que puede ser incorporado en el texto generado por modelos de IA, sin modificar el texto de ninguna manera. El sistema utiliza análisis estadístico para alterar la probabilidad de generación de tokens y así identificar el texto generado por inteligencia artificial. Las investigaciones realizadas en este ámbito han mostrado que SynthID no compromete la calidad, precisión, creatividad y velocidad del texto producido.

Además, SynthID está disponible en Hugging Face, permitiendo a los desarrolladores integrarla en sus propios modelos y está licenciada bajo código abierto. La estabilidad y eficacia del método de marcado puede ser evaluada mediante una función de pruebas comunitarias. Actualmente, SynthID está diseñado para funcionar exclusivamente con modelos de IA de Google, con la esperanza de que en el futuro sea compatible con diversas plataformas.

Limitaciones de SynthID

Sin embargo, el sistema de marcado tiene ciertas limitaciones; es menos efectivo cuando hay numerosas modificaciones en el texto, como reescrituras o traducciones, y como resultado, no es particularmente útil para realizar consultas fácticas.

Aunque SynthID representa un avance en la transparencia de la IA, los expertos enfatizan que el marcado de agua debería considerarse como un componente dentro de una estrategia más amplia para asegurar un uso seguro de la IA. Será esencial el desarrollo de medidas adicionales a medida que la tecnología continúe evolucionando.

IA, transparencia, desinformación