Categoría: Deepfake
California pone límites a los chatbots: OpenAI, Meta y Character AI en la mira con la ley SB 243
La nueva norma obliga a operadores de chatbots de compañía a implementar verificación de edad, protocolos contra autolesiones y límites para menores. Las multas por deepfakes ilegales llegan hasta U$S 250.000 por infracción y la ley entra en vigor el 1 de enero de 2026. California firmó la primera ley estatal que regula los AI…
OpenAI y Sora 2: cuando los deepfakes de personajes del pasado chocan con la dignidad
La nueva herramienta de video de OpenAI, Sora 2, permite crear deepfakes hiperrealistas incluso de personas fallecidas; la reacción pública plantea un dilema ético y reputacional urgente. La cuestión no es solo legal: es profundamente humana. OpenAI lanzó Sora 2 y la app Sora con la capacidad de generar videos notablemente realistas —y la avalancha…
Tilly Norwood la “actriz” IA sensación que ya seduce a agencias en Zurich
Sindicato de actores en alerta: En el Zurich Summit, Particle6 —a través del spin-off Xicoia— presentó a Tilly Norwood, la primera creación del estudio de talento IA que, según Eline Van der Velden, ha pasado de ser ignorada en febrero a despertar interés de agencias y estudios en apenas meses. Tilly Norwood hizo su aparición…
Meta y los chatbots “celebridad”: cuándo hacer pruebas se vuelve riesgo legal y reputacional
Meta permitió —y en algunos casos creó internamente— decenas de chatbots que usaban nombres e imágenes de celebridades (Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez) sin permiso, algunos con respuestas sexuales o invitaciones a encuentros. La compañía afirma que se trató de fallos en la aplicación. Una investigación de la agencia de noticias Reuters…
YouTube: la epidemia de videos falsos generados por IA desafía a millones de usuarios
La proliferación de canales que explotan inteligencia artificial para crear fan fiction de famosos pone en jaque la credibilidad de YouTube. El fenómeno, que engaña a millones y genera debate ético, apunta a maximizar ingresos utilizando contenido sintético cada vez más difícil de detectar. La era de la inteligencia artificial ha traído consigo un problema…
Velvet Sundown, el “engaño artístico» que expone a Spotify, al periodismo y al futuro de la música
Un proyecto viral con 850.000 oyentes mensuales, música creada con IA y un supuesto vocero que ahora admite haber inventado todo. El caso de The Velvet Sundown reabre el debate sobre la autenticidad en la era de la música algorítmica. El periodismo también quedó expuesto. En cuestión de semanas, Velvet Sundown pasó de ser un…
Experimento No Autorizado: con bots generan comentarios en una red para influir en debates
Investigadores de la Universität Zürich utilizaron cuentas falsas impulsadas por inteligencia artificial para influir en debates sin consentimiento, desatando una ola de críticas éticas y legales. Entre noviembre de 2024 y marzo de 2025, un equipo de investigadores de la Universidad de Zúrich llevó a cabo un experimento no autorizado en el popular foro de…
Reino Unido planea criminalizar la creación de contenido de deepfake sexualmente explícito
El gobierno del Reino Unido avanza con planes para hacer que el acto de crear imágenes de «deepfake» sexualmente explícitas sea un delito penal específico, ampliando las reglas existentes que solo penalizaban el hecho de compartir este tipo de contenido. Como en ningún otro país del mundo, el de las deepfakes con contenidos dirigidos a…
Meta retira cuentas de personajes de IA después de las críticas de los usuarios
Tras el lanzamiento de las cuentas de personajes de IA en Instagram y Facebook, la empresa matriz Meta se vio obligada a eliminarlas debido a la controversia generada entre los usuarios, quienes las calificaron como «inquietantes e innecesarias». Desde finales de 2023, Meta, la empresa matriz de Facebook e Instagram, había lanzado silenciosamente alrededor de…
Instagram 2025 desafiará la creatividad y la ética con edición de video con IA
Meta planea integrar potentes herramientas de edición de video con IA en Instagram para 2025. Esta nueva funcionalidad permitirá a los usuarios modificar prácticamente cualquier aspecto de sus videos con simples indicaciones de texto. Creatividad y desafíos éticos a la vista La plataforma Instagram, propiedad de Meta, se prepara para una revolución en la edición…