Meta desarrolla herramientas para detectar contenido alterado por IA

La empresa Meta Platforms, conocida por ser la matriz de Facebook, está colaborando con otras compañías del sector en la creación de estándares y herramientas comunes para la detección de contenido modificado mediante inteligencia artificial.

Herramientas de Detección de Meta

Meta anunció que está desarrollando herramientas capaces de detectar marcas invisibles que revelan que un contenido ha sido generado por inteligencia artificial. La intención es poder etiquetar adecuadamente estas imágenes cuando sean compartidas en plataformas como Facebook, Instagram y Threads.

Actualmente, la compañía está trabajando en estas capacidades, con la expectativa de empezar a aplicar etiquetas en los próximos meses.

Identificación de Contenido de IA en Audio y Video

Aunque ya existen generadores de imágenes que incluyen estas marcas invisibles, la identificación de contenido generado por IA en formatos de audio y video no se ha desarrollado al mismo nivel. Mientras la industria trabaja en mejorar esta capacidad, Meta planea ofrecer una opción para que los usuarios revelen cuando comparten videos o audios creados por IA, facilitando así su etiquetaje.

Por el momento, Meta reconoce que no es posible identificar todo el contenido generado por IA y que existen maneras de eliminar las marcas de identificación. Sin embargo, están trabajando para complicar la remoción o alteración de estas marcas y para desarrollar métodos de detección automática de contenido generado por IA, incluso en ausencia de estas.

El Futuro del Contenido de IA

A medida que el contenido generado por inteligencia artificial se vuelva más común en los próximos años, Meta anticipa que se generarán debates en la sociedad sobre cómo se debe y no se debe identificar el contenido sintético y no sintético.

Meta, IA, tecnología