Las imágenes generadas por inteligencia artificial están siendo un quebradero de cabeza para las redes sociales en España. YouTube, X y otras plataformas como TikTok se han visto obligadas a introducir mecanismos que ayuden a etiquetar contenidos como hechos con IA. TikTok ahora marcará de forma automática el contenido generado por IA que venga de otras herramientas, como DALL-E.

TikTok ya se encargaba de etiquetar contenidos creados con inteligencia artificial, con un sistema de etiquetados introducido hace ya meses. De hecho, lleva más de un año requiriendo a los usuarios que a la hora de subir estos contenidos, los etiqueten como tal en caso de que hayan sido generados así. La red social de ByteDance ahora amplía este etiquetado automático a contenidos generados en otras plataformas.

Tal y como ha anunciado la misma TikTok, llevarán a cabo este etiquetado implementando la llamada Tecnología de Credenciales de Contenido, una tecnología que proviene de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Esta entidad fundada por compañías como Adobe, Google o Intel con el objetivo de crear sistemas que ayuden a proporcionar contextos a los contenidos de medios digitales.

TikTok marcará más contenidos de IA

La firma asegura haber sido la primera en implementar esta metodología, y anuncia que dicho sistema de etiquetado comienza desde hoy mismo. En palabras de TikTok, la red social "amplía el etiquetado automático a los AIGC (contenido generado por IA) creados en otras plataformas con la posibilidad de leer credenciales de contenido".

Estas credenciales que servirán a TikTok para etiquetar estos vídeos cuentan con un conjunto de metadatos únicos adheridos a dicho contenido, los cuales se pueden usar para reconocerlos en caso de que hayan sido creados por IA. Si un vídeo o imagen es subido a TikTok y los metadatos dejan claro que ha sido generado por inteligencia artificial, la plataforma los etiquetará por sí misma.

Logo de TikTok. antonbe en Pixabay Omicrono

Por otro lado la red social explica que también comenzarán a adjuntar estas credenciales al contenido inherente de la propia plataforma. Las credenciales en cuestión permanecerán en el contenido cuando este se descargue, lo que permitirá que cualquier plataforma o usuario podrá usar la herramienta de verificación de la C2PA para identificar contenido generado por inteligencia artificial hecho y publicado en TikTok.

El sistema promete que gracias a estas credenciales y metadatos se pueda saber no solo cuando y donde se hizo este contenido, sino cómo se hizo, revelando las herramientas de IA usadas en el proceso. "Otras plataformas que adopten las credenciales de contenido podrán etiquetarlas automáticamente", apostilla TikTok en su comunicado.

[Que es TikTok Lite: la nueva app para ganar dinero viendo vídeos que preocupa en la UE]

Lo que busca TikTok con esta nueva iniciativa es evitar que usuarios con intenciones dañinas puedan usar la inteligencia artificial para crear contenido que pueda ser engañoso o que tenga usos maliciosos como mínimo. Es habitual que estos usuarios u organizaciones eviten catalogar sus contenidos como IA para hacerlos pasar por auténticos y así engañar a la máxima cantidad de usuarios posible.

Por último, la red social ha aclarado su intención de que este sistema de credenciales se adopte a lo largo y ancho del mercado de redes sociales. Por eso, han anunciado su adhesión a la Iniciativa de Autenticidad de Contenido (CAI) liderada por Adobe. La idea es simple; a medida que más plataformas adopten este sistema, TikTok será más certera y capaz de etiquetar todavía más contenido.