La proliferación de canales que explotan inteligencia artificial para crear fan fiction de famosos pone en jaque la credibilidad de YouTube. El fenómeno, que engaña a millones y genera debate ético, apunta a maximizar ingresos utilizando contenido sintético cada vez más difícil de detectar.
La era de la inteligencia artificial ha traído consigo un problema que crece a gran velocidad en YouTube: la circulación de videos falsos protagonizados por celebridades. Un relevamiento de WIRED identificó más de 100 canales dedicados a producir material de fan fiction utilizando IA, engañando potencialmente a millones de espectadores.
La mecánica es sencilla pero efectiva: voces generadas por modelos de lenguaje, scripts cargados de clichés y una puesta en escena visual rudimentaria logran que miles de personas crean ver momentos inéditos con estrellas como Mark Wahlberg, cuando en verdad nunca ocurrieron.
El caso más resonante involucra un supuesto enfrentamiento de Wahlberg en el programa The View, video visto por 460.000 personas. Nada de esto ocurrió realmente. La escena fue íntegramente creada usando inteligencia artificial, combinando imágenes fijas, una voz sintética y filtros simples. Sin embargo, la respuesta del público —muchas veces defendiendo apasionadamente al actor— demuestra el poder persuasivo de estos contenidos.
Lo más llamativo es que, como explica Simon Clark, psicólogo cognitivo de la Universidad de Bristol, “estos videos pueden sorprender por su baja sofisticación, pero existen razones psicológicas de peso que explican por qué la gente cae en la trampa. Los videos logran activar emociones y debilitan el pensamiento crítico”. El término adecuado para estas piezas sería cheapfakes, en contraste con los deepfakes que requieren más producción y tecnología avanzada.
WIRED analizó 120 canales de YouTube con estrategias similares. Bajo nombres como “Starfame”, “Media Buzz” o “Celebrity Scoop”, se mimetizan dentro del amplio universo de clips reales de programas famosos. Según el informe, muchos de estos canales suman decenas de miles de suscriptores; uno de los más populares, Talk Show Gold, cuenta con 88.000 seguidores y sus videos acumulan cientos de miles de visualizaciones.
La política de YouTube frente a la IA está en revisión. El 15 de julio, la plataforma modificó sus reglas para combatir el contenido sintético. Zayna Aston, directora de comunicaciones de YouTube EMEA, fue tajante: “Todo el contenido subido a YouTube debe cumplir con nuestras Directrices de la Comunidad, independientemente de cómo se genere. Si descubrimos que un contenido infringe una política, lo eliminamos”. Entre las nuevas medidas, se exige a los creadores advertir sobre material manipulado, especialmente cuando se hace parecer que una persona dice o hace algo falso, pero la efectividad depende del control y la denuncia de los usuarios.
A pesar de estas regulaciones, WIRED constató que solo 37 de los canales más problemáticos han sido eliminados. Las producciones tienden a seguir una narrativa similar: actores reconocidos como Clint Eastwood o Denzel Washington enfrentándose a conductores que personifican arquetipos políticos, en contextos que nada tienen que ver con la realidad. “Están modificando mi voz o la suya para que suene como yo. La gente comenta pensando que realmente soy yo, pero no es así… Y lamentablemente la gente les cree”, afirmó Denzel Washington cuando fue consultado sobre estos contenidos.
El atractivo de los cheapfakes reside en provocar indignación y engagement, una lógica inherente a la economía de la atención. “La indignación es la emoción ideal si quieres provocar interacción. Si logras que alguien se enoje, es mucho más probable que comparta el video y deje comentarios”, argumenta Clark.
El negocio detrás de este fenómeno es grande. Sandra Wachter, profesora de la Universidad de Oxford, lo resume así: “Lo que mantiene a la gente en la plataforma no son los contenidos amables, sino lo escandaloso o tóxico, y eso con IA se produce en minutos y a muy bajo coste”. El objetivo no es precisión, sino notoriedad y viralidad. Varios de estos canales escalan sus beneficios multiplicando videos, reciclando formatos, y cambiando de nichos (de tutoriales a drama sensacionalista) para engañar al algoritmo de YouTube.
El peligro es notable: usuarios —muchos de ellos mayores— pueden caer en la desinformación, consultar la autenticidad de los clips o incluso compartirlos creyendo que son reales. Ben Colman, cofundador de Reality Defender, confirma que familiares y amigos han detectado videos dudosos y acudieron a expertos para corroborar su veracidad ante la confusión generada por la IA.
En la actualidad, la lucha por erradicar este contenido parece interminable. Muchos videos logran sortear las políticas de autenticidad simplemente porque es difícil demostrar un engaño cuando la ficción imita tan bien a la realidad. Como sostiene Wachter, la monetización podría disuadir, pero el sistema “engendra toxicidad porque se basa en generar clics y retener la atención”.
El desafío está planteado: YouTube y otras plataformas deberán equilibrar creatividad, verdad y responsabilidad, en un ecosistema mediático cada vez más permeado por la inteligencia artificial y la desinformación. La batalla por la autenticidad recién comienza.
Fuente: Wired
