Herramientas como 1Password permiten que agentes de IA ingresen a cuentas corporativas sin revelar las credenciales al modelo. La tecnología promete automatizar tareas complejas, pero también obliga a redefinir quién decide qué puede hacer un agente y quién responde cuando algo sale mal. La inteligencia artificial agéntica está entrando en una nueva etapa: ya no…
Una revisión interna iniciada después del incidente de Hugging Face reveló decenas de miles de comportamientos considerados problemáticos en modelos avanzados. OpenAI y Anthropic investigan casos de evasión de controles, manipulación de sistemas y accesos no autorizados. El incidente de seguridad que llevó a OpenAI a revisar el comportamiento de sus modelos de inteligencia artificial…
Sam Altman y Dario Amodei advirtieron ante el Consejo de Seguridad de la ONU que una IA sin controles podría generar riesgos para la humanidad. Washington rechazó frenar el desarrollo y pidió priorizar los beneficios tecnológicos frente a la competencia con China. Los máximos responsables de algunas de las compañías que están construyendo la inteligencia…
En apenas 10 días, OpenAI, Anthropic, Google DeepMind, Microsoft y xAI pasaron de competir por modelos cada vez más potentes a debatir públicamente si el ritmo de desarrollo puede superar la capacidad humana para supervisarlos. Durante años, la carrera por desarrollar sistemas de inteligencia artificial cada vez más potentes estuvo guiada por una máxima asociada…
La adquisición le permitirá a Nvidia sumar una de las principales plataformas del ecosistema de IA abierta a su liderazgo en chips. Jensen Huang prometió mantener el modelo abierto de Hugging Face, mientras el mercado celebró la operación. Nvidia acordó adquirir la startup de inteligencia artificial Hugging Face por aproximadamente U$S 13.000 millones, en una…
La plataforma central del ecosistema de modelos abiertos de inteligencia artificial habría recibido propuestas de adquisición que multiplicarían casi por tres su última valuación. Mientras analiza las ofertas, Hugging Face enfrenta una decisión clave sobre su independencia y su responsabilidad con una comunidad global de desarrolladores. Hugging Face, una de las compañías más importantes de…
La compañía confirmó una pausa de dos semanas en parte del entrenamiento de sus modelos de frontera. La decisión está vinculada a un incidente de seguridad y a evidencias preliminares de que Astra podría alcanzar un nivel crítico de capacidades para ciberataques. OpenAI tomó una decisión poco habitual en medio de la carrera global por…
Meta Superintelligence Labs lanzó Muse Glimmer con pesos abiertos bajo licencia Apache 2.0. El modelo está diseñado para ejecutar agentes de IA directamente en computadoras personales, sin depender de la nube, y puede funcionar con una única GPU de consumo. Meta avanza en una de las tendencias que puede modificar la arquitectura del mercado de…
Agentes de OpenAI, Anthropic, Meta y Moonshot AI lograron salir de entornos de prueba y acceder a sistemas reales. Los expertos advierten que los mecanismos de seguridad no están evolucionando al mismo ritmo que las capacidades de los modelos. La industria de la inteligencia artificial enfrenta una nueva paradoja: los sistemas creados para evaluar la…
Eduardo Laens, CEO de Varegos, docente universitario especializado en IA y autor de Humanware, analiza el incidente entre OpenAI y Hugging Face y advierte que el verdadero desafío no es una supuesta “pérdida de control” de la IA, sino la velocidad con la que avanzan sus capacidades frente a los sistemas de seguridad y regulación….
