Categoría: Seguridad
American Express desarrolla un sistema para evitar compras no autorizadas por agentes de IA
American Express presentó un marco tecnológico que verifica qué autorizó comprar un usuario antes de que un agente de inteligencia artificial complete el pago. La iniciativa busca reducir errores, reforzar la seguridad de las transacciones y preparar a la compañía para el crecimiento del comercio autónomo. Los agentes de inteligencia artificial comienzan a asumir tareas…
Anthropic restringe el acceso a internet de sus modelos de IA tras detectar conductas autónomas no controladas
La firma tecnológica Anthropic anunció que cortó el acceso en vivo a internet para sus evaluaciones internas de inteligencia artificial, luego de que sus agentes explotaran fallas de software en sitios web gubernamentales de EE. UU. y enviaran pistas falsas a la policía. En un hecho que vuelve a encender los debates sobre la seguridad…
Microsoft pide una regulación global de la IA y propone al Reino Unido como líder en seguridad
Brad Smith, presidente de Microsoft, advierte que la inteligencia artificial representa riesgos crecientes para la ciberseguridad y reclama normas obligatorias para las empresas que desarrollan los modelos más avanzados. También cuestiona la autorregulación voluntaria y destaca el papel del instituto británico dedicado a evaluar estos sistemas. La inteligencia artificial necesita reglas de seguridad más estrictas…
Crisis interna en OpenAI: tres investigadores despedidos advierten que el miedo puede debilitar la seguridad de la IA
Jasmine Wang, Tomek Korbak y Mikita Balesni rechazaron las acusaciones de mala conducta y cuestionaron la forma en que fueron desvinculados. La compañía sostiene que hubo violaciones de sus políticas, mientras crece el debate sobre la supervisión independiente de sus modelos. OpenAI enfrenta un nuevo conflicto en torno a la seguridad de la inteligencia artificial….
Anthropic admite fallas en sus agentes de IA tras enviar una denuncia falsa de homicidio a la policía
Un modelo de la compañía envió información falsa sobre un asesinato sin resolver durante una prueba de navegación web. Anthropic tardó más de dos meses en detectar el incidente y anunció cambios en sus evaluaciones internas para reducir los comportamientos inesperados de sus agentes. Anthropic enfrenta nuevas preguntas sobre la seguridad de sus sistemas de…
Microsoft lanza PC con IA desde U$S 2.600 y busca competir por los desarrolladores
La compañía presentó la Surface Laptop Ultra y una estación de trabajo equipada con chips Nvidia RTX Spark, diseñadas para ejecutar modelos y agentes de inteligencia artificial localmente. También renovó Windows 11 e incorporó herramientas para aislar agentes en entornos controlados. Microsoft presentó los detalles técnicos y los precios de sus nuevas computadoras personales preparadas…
OpenAI: un exresponsable de seguridad renuncia y advierte que el problema está en los que piden más y más a la IA
David Robinson, quien lideraba la elaboración de los informes de seguridad de OpenAI para sus principales lanzamientos, dejó la compañía y cuestionó la forma en que Silicon Valley desarrolla inteligencia artificial. Su diagnóstico apunta más allá de las reglas: el problema, sostiene, está en la cultura. David Robinson renunció esta semana a OpenAI, donde estaba…
Google lleva SynthID a la biología: una marca de agua para rastrear proteínas creadas con IA
Google presentó SynthID Bio, una tecnología que inserta una firma imperceptible en diseños biológicos generados con inteligencia artificial. El sistema busca identificar proteínas creadas por IA incluso después de ser sintetizadas físicamente, sin alterar su función biológica. Google llevó su tecnología de marcas de agua para contenidos generados con inteligencia artificial a uno de los…
La IA agéntica ya puede usar contraseñas: el nuevo riesgo para las empresas
Herramientas como 1Password permiten que agentes de IA ingresen a cuentas corporativas sin revelar las credenciales al modelo. La tecnología promete automatizar tareas complejas, pero también obliga a redefinir quién decide qué puede hacer un agente y quién responde cuando algo sale mal. La inteligencia artificial agéntica está entrando en una nueva etapa: ya no…
Google lanza Gemini 4 Argon: el nuevo modelo que busca encontrar y corregir vulnerabilidades de forma autónoma
Google presentó Gemini 4 Argon, un nuevo modelo de inteligencia artificial que la compañía define como el más potente de su historia. Su primera implementación estará limitada a socios de ciberseguridad y apunta especialmente a detectar, validar y corregir vulnerabilidades críticas de software. Google presentó Gemini 4 Argon, un nuevo modelo de inteligencia artificial desarrollado…