Categoría: Deepfake
Meta y los chatbots “celebridad”: cuándo hacer pruebas se vuelve riesgo legal y reputacional
Meta permitió —y en algunos casos creó internamente— decenas de chatbots que usaban nombres e imágenes de celebridades (Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez) sin permiso, algunos con respuestas sexuales o invitaciones a encuentros. La compañía afirma que se trató de fallos en la aplicación. Una investigación de la agencia de noticias Reuters…
YouTube: la epidemia de videos falsos generados por IA desafía a millones de usuarios
La proliferación de canales que explotan inteligencia artificial para crear fan fiction de famosos pone en jaque la credibilidad de YouTube. El fenómeno, que engaña a millones y genera debate ético, apunta a maximizar ingresos utilizando contenido sintético cada vez más difícil de detectar. La era de la inteligencia artificial ha traído consigo un problema…
Velvet Sundown, el “engaño artístico» que expone a Spotify, al periodismo y al futuro de la música
Un proyecto viral con 850.000 oyentes mensuales, música creada con IA y un supuesto vocero que ahora admite haber inventado todo. El caso de The Velvet Sundown reabre el debate sobre la autenticidad en la era de la música algorítmica. El periodismo también quedó expuesto. En cuestión de semanas, Velvet Sundown pasó de ser un…
Experimento No Autorizado: con bots generan comentarios en una red para influir en debates
Investigadores de la Universität Zürich utilizaron cuentas falsas impulsadas por inteligencia artificial para influir en debates sin consentimiento, desatando una ola de críticas éticas y legales. Entre noviembre de 2024 y marzo de 2025, un equipo de investigadores de la Universidad de Zúrich llevó a cabo un experimento no autorizado en el popular foro de…
Reino Unido planea criminalizar la creación de contenido de deepfake sexualmente explícito
El gobierno del Reino Unido avanza con planes para hacer que el acto de crear imágenes de «deepfake» sexualmente explícitas sea un delito penal específico, ampliando las reglas existentes que solo penalizaban el hecho de compartir este tipo de contenido. Como en ningún otro país del mundo, el de las deepfakes con contenidos dirigidos a…
Meta retira cuentas de personajes de IA después de las críticas de los usuarios
Tras el lanzamiento de las cuentas de personajes de IA en Instagram y Facebook, la empresa matriz Meta se vio obligada a eliminarlas debido a la controversia generada entre los usuarios, quienes las calificaron como «inquietantes e innecesarias». Desde finales de 2023, Meta, la empresa matriz de Facebook e Instagram, había lanzado silenciosamente alrededor de…
Instagram 2025 desafiará la creatividad y la ética con edición de video con IA
Meta planea integrar potentes herramientas de edición de video con IA en Instagram para 2025. Esta nueva funcionalidad permitirá a los usuarios modificar prácticamente cualquier aspecto de sus videos con simples indicaciones de texto. Creatividad y desafíos éticos a la vista La plataforma Instagram, propiedad de Meta, se prepara para una revolución en la edición…
Detectan uso de IA de Elevenlabs en operación de desinformación desde Rusia
Investigadores revelan cómo la tecnología de generación de voz artificial fue utilizada para crear contenido engañoso contra Ucrania Un informe reciente de la empresa de inteligencia Recorded Future ha destapado una sofisticada operación de influencia rusa que utilizó tecnología de inteligencia artificial para generar voces sintéticas en múltiples idiomas europeos. LA OPERACIÓN AL DESCUBIERTO Denominada…
Meta presentó una herramienta para marcar con marcas de agua los videos generados por IA
Meta ha lanzado una nueva herramienta llamada «Meta Video Seal» que permite agregar marcas de agua imperceptibles a los clips de video generados por inteligencia artificial. La herramienta, disponible de forma gratuita y de código abierto, tiene como objetivo ayudar a combatir la proliferación de deepfakes. En un esfuerzo por combatir el auge de los…
ElevenLabs se adelanta en la creación de podcasts con IA que imita el habla natural
La startup de voz artificial lanza GenFM, una función que transforma contenidos en podcasts multilocutor y compite directamente con Google NotebookLM, incluyendo elementos realistas como pausas y ehh.. muletillas. ElevenLabs ha dado un paso significativo en la evolución del contenido audio generado por IA con el lanzamiento de GenFM, una nueva función disponible en su…