El desafío de las celebridades frente a los deepfakes impulsados por inteligencia artificial

La expansión de los deepfakes, imágenes y voces generadas mediante inteligencia artificial, pone en jaque la privacidad y la identidad de figuras públicas. Estas imitaciones no solo representan una amenaza para la integridad de las celebridades, sino también para sus seguidores, quienes a menudo son víctimas de fraudes relacionados.

El caso de Scarlett Johansson y el asistente virtual “Sky” de OpenAI, retomado por Rolling Stone, ejemplifica cómo la tecnología puede cruzar los límites éticos y legales en busca de intereses corporativos​.

En mayo pasado, Scarlett Johansson denunció públicamente a OpenAI tras descubrir que su voz había sido imitada para el desarrollo del asistente “Sky”, parte de ChatGPT 4.0. Según la actriz, la voz era tan similar a la suya que incluso sus amigos cercanos no podían notar la diferencia​.

Lo más alarmante es que OpenAI se había acercado previamente a Johansson para proponerle una colaboración oficial, a lo que ella se negó rotundamente. Pese a ello, la empresa lanzó el producto, lo que provocó que la actriz tomara medidas legales.

“Estaba sorprendida, enfurecida y no lo podía creer”, expresó Johansson en un comunicado. A través de sus abogados, exigió que OpenAI revelara los métodos usados para crear “Sky”, logrando que el modelo fuera retirado​.

Los deepfakes no solo afectan a las celebridades. Un caso destacado retomado por Rolling Stone fue el de una mujer en Francia que perdió más de USD 800.000 tras ser estafada por un impostor que utilizó imágenes generadas de Brad Pitt para simular una emergencia médica​.

Además de estos riesgos, grandes corporaciones tecnológicas encontraron formas de apropiarse de las identidades digitales de las figuras públicas, ya sea para el desarrollo de productos o para reforzar sus intereses empresariales.

Rolling Stone señala que empresas como OpenAI ya utilizan datos privados y material protegido por derechos de autor, planteando una pregunta crítica: ¿Dónde está el límite?​

Ante el panorama alarmante, empresas como Loti surgieron para proteger la imagen y la voz de las figuras públicas en el mundo digital. Fundada por Luke y Rebekah Arrigoni en 2022, Loti combina tecnología avanzada con un enfoque ético, ayudando a rastrear y eliminar contenido no autorizado en internet, según informó Rolling Stone​.

Loti utiliza sistemas que analizan más de 100 millones de imágenes y videos al día, identificando posibles usos indebidos. Con un índice de éxito del 95% en menos de 17 horas, la empresa emite notificaciones automáticas de eliminación antes de que el contenido dañino tenga un alcance significativo​.

Además, Loti no se limita a eliminar contenido. También proporciona análisis técnicos detallados que ayudan a los equipos legales a determinar si un deepfake se basa en atributos únicos de una celebridad.

Loti adopta un enfoque pragmático, utilizando inteligencia artificial para combatir los riesgos que la misma tecnología generó.

Aunque su efectividad fue probada, persuadir a las figuras públicas de confiar en soluciones tecnológicas sigue siendo un desafío. Según Luke Arrigoni, este esfuerzo requiere una comunicación cuidadosa, dado el impacto negativo que la inteligencia artificial ya tuvo en sus vidas y carreras.

La revista asegura que el desarrollo de legislaciones específicas es crucial para combatir los efectos negativos de los deepfakes.

Un ejemplo mencionado por Rolling Stone es la Ley ELVIS, aprobada en Tennessee, que protege las voces de los artistas contra la clonación no autorizada. No obstante, el ritmo de los avances tecnológicos supera al de las normativas, dejando vacíos legales que pueden ser explotados​.

Las celebridades no solo buscan protegerse a sí mismas, sino también evitar que sus seguidores sean víctimas de estafas.

Según Rolling Stone, la expansión de los deepfakes evidencia la urgencia de regular la inteligencia artificial y desarrollar herramientas para proteger la privacidad y reputación de las figuras públicas.

Además, la revista afirma que las iniciativas como Loti representan un paso hacia la defensa de la identidad digital, mientras los marcos legales intentan adaptarse al vertiginoso ritmo de la tecnología​.

Esta lucha, sin embargo, no recae únicamente en las celebridades o en las empresas tecnológicas. Rolling Stone concluye asegurando que es una cuestión social y ética que requiere la colaboración de todos los actores involucrados para garantizar que los avances tecnológicos respeten la dignidad y los derechos individuales en el entorno digital.