YouTube lanza herramienta contra deepfakes para proteger a celebridades de Hollywood

YouTube ha comenzado a desplegar una nueva herramienta gratuita de detección de “deepfakes” dirigida inicialmente a celebridades y artistas de Hollywood, con el objetivo de reforzar la protección contra la suplantación de identidad mediante inteligencia artificial.

“Solo yo tengo derecho a ser yo”: YouTube ofrece a celebridades y artistas de Hollywood una herramienta gratuita de detección de “deepfakes”, reforzando aún más la lucha contra las usurpaciones de identidad generadas por inteligencia artificial (IA).

La plataforma de videos propiedad de Google lanzó el mes pasado una función de “protección de imagen” que permite identificar contenidos donde el rostro de una persona ha sido alterado o generado con IA para imitar a alguien real.

En un inicio, esta tecnología estaba pensada para funcionarios públicos, candidatos políticos y periodistas. Sin embargo, recientemente YouTube amplió su acceso a la industria del entretenimiento, incluyendo actores y músicos, a través de agencias de talentos y representantes de celebridades.

La herramienta permite “buscar contenidos generados por IA que reproduzcan la apariencia de una persona inscrita, como un ‘deepfake’ de su rostro, y le da la facultad de localizarlos y solicitar su eliminación”.

Un punto relevante es que las celebridades pueden utilizarla incluso si no cuentan con un canal activo en YouTube.

De acuerdo con especialistas del sector, esta medida representa un cambio importante en la forma en que las plataformas digitales enfrentan la protección de identidad frente al avance de la IA generativa.

“El hecho de que YouTube abra sus capacidades de detección de deepfakes a las personalidades públicas marca un punto de inflexión en la manera en que las plataformas abordan la protección de la identidad en la era de la IA generativa”, declaró a la AFP Alon Yamin, director ejecutivo y cofundador de la plataforma Copyleaks.

Yamin advirtió además que la tecnología de clonación digital ha evolucionado más rápido que los mecanismos de protección:

“La tecnología que permite reproducir el rostro, la voz y los gestos de una persona ha avanzado más rápido que las salvaguardas que la rodean, creando una brecha que actores malintencionados ya están explotando”.

Crecen los casos de “deepfakes” hiperrealistas

La iniciativa surge en un contexto donde aumentan los videos hiperrealistas de celebridades, incluidos artistas fallecidos, creados con herramientas de IA de uso general como Sora, desarrollada por OpenAI. Este tipo de contenido ha generado recreaciones virales de figuras como Michael Jackson o Elvis Presley.

Ante la controversia, OpenAI anunció recientemente el cierre de la aplicación Sora.

En paralelo, otros casos han encendido alarmas en la industria del entretenimiento. En febrero, el director irlandés Ruairí Robinson difundió un video altamente realista en el que Brad Pitt y Tom Cruise peleaban en una azotea, creado con la herramienta Seedance 2.0, desarrollada por el grupo chino ByteDance.

El contenido generó preocupación en Hollywood y reavivó el debate sobre el uso de IA en la creación de imágenes falsas de celebridades. Robinson también realizó otras piezas similares con escenarios ficticios protagonizados por ambas figuras.

Ante estos hechos, Charles Rivkin, presidente de la Motion Picture Association (MPA), pidió acciones más firmes contra este tipo de prácticas, acusando a ByteDance de vulnerar derechos de autor.

Protección del “patrimonio digital”

YouTube señaló que trabaja junto a agencias de representación para mejorar la detección de contenidos manipulados y proteger la identidad de los artistas.

“Su patrimonio”

“Su patrimonio es su rostro, su cuerpo, quiénes son, lo que hacen, su forma de expresarse”, señaló Jason Newman, de la empresa de representación y producción Untitled Entertainment.

El desarrollo de esta herramienta responde también a quejas de figuras públicas que consideraban complicado el proceso anterior para reportar y retirar contenidos manipulados en la plataforma.

Expertos advierten que los riesgos de los deepfakes incluyen la difusión de desinformación, la manipulación de mercados y daños a la reputación de personas.

“Los riesgos son especialmente elevados porque los ‘deepfakes’ pueden utilizarse para difundir desinformación, manipular los mercados, dañar reputaciones o hacer creer en un apoyo engañoso. Una detección robusta ya no es opcional”, explicó el responsable de Copyleaks.

Finalmente, el especialista subrayó la necesidad de sistemas más precisos y actualizados:

“Los sistemas de detección deben ser extremadamente precisos, actualizarse continuamente y estar asociados a normas claras y procedimientos de retirada rápidos para ser eficaces”.

Y concluyó que estas herramientas no eliminarán por completo el problema, pero sí pueden reducir su impacto:

“Esto no eliminará por completo los ‘deepfakes’, pero puede reducir considerablemente su alcance y su impacto, al dificultar la circulación de contenidos manipulados sin ser detectados o cuestionados”.