Categoría: Deepfake
En medio del auge de la música generada artificialmente YouTube Music etiqueta las canciones creadas con IA
YouTube Music implementará etiquetas para identificar cuándo una canción fue creada total o parcialmente con inteligencia artificial. La iniciativa busca transparentar el papel de esta tecnología en la música, en un mercado donde las plataformas también debaten cómo regular su monetización y distribución. YouTube Music anunció un nuevo sistema de etiquetas que permitirá a los…
Anthropic admite fallas en sus agentes de IA tras enviar una denuncia falsa de homicidio a la policía
Un modelo de la compañía envió información falsa sobre un asesinato sin resolver durante una prueba de navegación web. Anthropic tardó más de dos meses en detectar el incidente y anunció cambios en sus evaluaciones internas para reducir los comportamientos inesperados de sus agentes. Anthropic enfrenta nuevas preguntas sobre la seguridad de sus sistemas de…
Google abre SynthID al público para identificar contenido generado por IA
Google lanzó SynthID, un sitio web que permite verificar si imágenes, videos y audios fueron generados mediante inteligencia artificial. La herramienta, que ya procesa 1 millón de solicitudes diarias, amplía el sistema de marcas de agua de la compañía. Google abrió al público SynthID, una herramienta que permite comprobar si un contenido multimedia fue generado…
Cloudflare y gigantes de internet, bajo la lupa: videos porno deepfake con IA aumentan de 500.000 a 8 millones en 2 años
Un revelador estudio señala a las principales empresas de infraestructura de internet, con Cloudflare a la cabeza alojando más de la mitad de las plataformas identificadas, en medio de un aumento del 1.500% en el volumen de imágenes íntimas no consensuales generadas por IA. El acelerado avance y la democratización de la inteligencia artificial generativa…
¿Hasta qué punto la IA está manipulando tus emociones?
La desinformación y los deepfakes son riesgos conocidos, pero los mensajes de texto manipulados también podrían utilizarse para influir en la opinión pública. Por John Thornhill para el Financial Times Como algunos hemos comprobado a nuestra costa, los modelos de IA generativa tienen la desagradable costumbre de inventar o confabular hechos. Los bibliotecarios denuncian que…
OpenAI y Google unen fuerzas para identificar imágenes hechas con IA y combatir la desinformación
La compañía detrás de ChatGPT anunció nuevas herramientas de verificación de contenido basadas en C2PA y SynthID de Google DeepMind. El objetivo es facilitar la detección de imágenes generadas con inteligencia artificial y fortalecer la confianza digital. OpenAI acaba de dar un nuevo paso en la carrera por hacer más transparente el contenido generado con…
Tinder, Zoom y World y el escaneo de iris: la nueva batalla contra bots y deepfakes en la era de la IA
Las plataformas digitales avanzan hacia sistemas de “prueba de humanidad” mediante escaneo ocular. Con más de 18 millones de usuarios verificados, la tecnología de World busca frenar fraudes que ya superan los U$S 1.000 millones y anticipa un cambio estructural en la identidad online. La creciente sofisticación de la inteligencia artificial está forzando a las…
YouTube mejora tecnología para detectar deepfakes y proteger a periodistas y políticos
La plataforma de video de Google lanzó un programa piloto que permitirá a figuras públicas detectar y solicitar la eliminación de videos creados con inteligencia artificial que utilicen su rostro sin autorización. La medida busca frenar la desinformación en un momento de expansión de los deepfakes. La proliferación de contenidos generados con inteligencia artificial está…
La guerra de la IA: videos falsos del conflicto con Irán inundan las redes y confunden a millones
Más de 110 imágenes y videos generados con IA sobre la guerra en Medio Oriente circularon en solo dos semanas. Expertos advierten que estas herramientas se están convirtiendo en un nuevo instrumento de propaganda digital y desinformación geopolítica. La guerra en Medio Oriente ya no se libra únicamente en el campo de batalla. También se…
Matthew McConaughey se convierte en su propia marca para frenar los abusos de la IA
El actor obtuvo ocho marcas registradas en Estados Unidos para proteger su imagen, su voz y una de sus frases más icónicas frente al avance de los deepfakes. La estrategia abre un nuevo frente legal en la disputa entre la industria creativa y el uso no autorizado de IA. Matthew McConaughey decidió enfrentar uno de…