Categoría: Seguridad
Anthropic advierte por el robo de tokens de Claude: hackers acceden a cuentas mediante malware
La compañía detectó que un actor malicioso utiliza infostealers para robar sesiones de usuarios desde sus computadoras y consumir sus cuentas de Claude sin autorización. Un caso expuso además una dificultad: los usuarios no pueden acceder a un detalle de cómo se utilizan sus tokens. El uso de inteligencia artificial generativa comienza a convertirse en…
Un ex investigador de OpenAI renunció a Anthropic y lanzó una dura advertencia: “la IA podría matarnos a todos”
Aunque no es novedad, las palabras del desconocido Jacob Coxon genera temor en la sociedad. El joven inglés trabajó durante tres años en OpenAI, cuestionó la carrera por desarrollar una superinteligencia y aseguró que ninguna de las dos compañías tiene hoy mecanismos suficientes para controlarla. Otro investigador de Anthropic respaldó públicamente sus temores. La carrera…
OpenAI alerta sobre una inteligencia artificial que ya supera a los humanos y pide frenar la carrera
Jakub Pachocki, científico jefe de OpenAI, aseguró que la compañía espera que la inteligencia artificial avance hacia la mejora recursiva de sí misma. Pero advirtió que ningún laboratorio ha resuelto todavía los problemas de alineación y monitoreo necesarios para acelerar el desarrollo sin límites. La carrera por desarrollar inteligencia artificial cada vez más poderosa acaba…
Estados Unidos y China abrirán un diálogo sobre IA: los riesgos de los modelos avanzados, en el centro de la agenda
Washington y Beijing preparan una reunión para discutir cómo regular los modelos de inteligencia artificial más avanzados y reducir sus riesgos. La competencia tecnológica, la seguridad nacional, los ciberataques y el control de los modelos de frontera estarán en el centro de las conversaciones. Estados Unidos y China se preparan para abrir un nuevo capítulo…
OpenAI lanza Astra: su modelo más potente genera polémica por cómo razona
OpenAI presentó Astra, su nuevo y más potente modelo de inteligencia artificial. La compañía destaca sus avances en programación, ciberseguridad y uso de computadoras, pero una técnica que dificulta auditar su razonamiento abrió un nuevo debate sobre transparencia y seguridad. OpenAI presentó Astra, su nuevo modelo de inteligencia artificial y, según la propia compañía, el…
Meta ofrece hasta 95% de descuento en su nueva IA a cambio de acceder a los datos de los usuarios
Meta lanzó un agresivo esquema de precios para su nuevo modelo Muse Spark: los usuarios pueden pagar hasta 95% menos si aceptan compartir sus prompts y resultados con la compañía para contribuir al entrenamiento de futuras generaciones de inteligencia artificial. La carrera por desarrollar modelos de inteligencia artificial cada vez más capaces abrió una nueva…
El Pentágono lanza sus propias versiones de ChatGPT y Grok para 3 millones de empleados civiles y militares
El Departamento de Defensa de Estados Unidos incorporó ChatGPT Mil y Grok for Government a su plataforma segura GenAI.mil. Más de 1,7 millones de usuarios ya ingresaron al sistema, que busca llevar modelos comerciales de frontera al trabajo militar sin exponer datos sensibles. El Pentágono acaba de dar un nuevo paso en la adopción masiva…
Perplexity y NVIDIA lanzan Portable Computer: la IA que trabaja en tu PC y mantiene datos sensibles fuera de la nube
La nueva versión de Perplexity Computer funciona directamente en equipos con NVIDIA DGX Spark y apunta a resolver una de las grandes tensiones de la inteligencia artificial: aprovechar agentes cada vez más potentes sin tener que enviar información privada, código o documentos confidenciales a servidores externos. La carrera por llevar la inteligencia artificial a cada…
DeepSeek y los hackers chinos: cómo la inteligencia artificial de bajo costo está duplicando los ciberataques globales
Investigaciones revelan que grupos de cibercrimen vinculados al gobierno chino están multiplicando sus ofensivas globales mediante el uso de inteligencia artificial como DeepSeek, desafiando incluso las defensas de gigantes estadounidenses como OpenAI y Anthropic. En el dinámico y vertiginoso ecosistema de la tecnología y los negocios, la inteligencia artificial se ha consolidado como la palanca…
Anthropic advierte sobre el lado oscuro de los agentes de IA: pueden coordinarse, coludirse y hasta sabotearse
Un nuevo estudio de Anthropic revela que los sistemas multiagente pueden generar fallas sistémicas difíciles de anticipar: desde decisiones idénticas y escasez de recursos hasta colusión comercial y conflictos entre agentes capaces de sabotear el trabajo de otros. Los agentes de inteligencia artificial están dejando de ser sistemas que simplemente responden instrucciones para convertirse en…