Categoría: Seguridad
Anthropic propone bloquear modelos de IA si pueden causar 50 muertes o daños por más de U$S 1.000 millones
La compañía de inteligencia artificial impulsa un proyecto de ley en Estados Unidos que permitiría frenar la distribución de modelos ante riesgos catastróficos vinculados con armas biológicas, ciberataques o la pérdida de control de sus desarrolladores. La iniciativa busca establecer evaluaciones independientes y una intervención judicial. Anthropic, la compañía creadora de Claude, presentó a legisladores…
OpenAI y Wiz descubren fallas críticas en PHP que ponen en riesgo a millones de sitios web
Dos vulnerabilidades presentes desde 2004 fueron detectadas con ayuda de inteligencia artificial y obligaron a la Agencia de Seguridad Nacional de Estados Unidos a emitir una alerta. Aunque no se reportaron ataques, los expertos advierten que la IA también puede facilitar su explotación. La inteligencia artificial está cambiando la forma en que se detectan las…
NorForge al descubierto: una falla en el panel Cairn expone cómo los cibercriminales usan agentes de IA para vulnerar e-commerce
Una investigación reveló que más de 20 paneles de la herramienta de pentesting con IA, Cairn, quedaron expuestos en la red pública. El hallazgo dejó al descubierto credenciales de acceso, métodos de explotación automatizados y ciberataques contra plataformas de comercio electrónico. El uso de la inteligencia artificial en el terreno de la ciberseguridad ha alcanzado…
Estados Unidos ordena retirar DeepSeek de los sistemas de sus agencias federales por razones de seguridad nacional
La medida prohíbe a las agencias civiles federales comprar productos y servicios de la startup china y exige eliminar su tecnología de los sistemas informáticos gubernamentales. La restricción también alcanza a soluciones de terceros que utilicen sus modelos, aunque contempla excepciones. El gobierno de Estados Unidos ordenó a las agencias civiles federales dejar de comprar…
OpenCode sufrió una brecha que pudo exponer claves de OpenAI, Anthropic y Google
Anomaly Innovations informó que un acceso no autorizado a un sistema heredado pudo comprometer credenciales de API de una parte de los usuarios de OpenCode Console. La compañía notificó a las cuentas afectadas y trabaja con los tres proveedores para contener el incidente. Una brecha de seguridad en OpenCode, el agente de programación desarrollado por…
Anthropic abre sus puertas a investigadores externos de la ONG METR para auditar la seguridad de sus modelos de IA
Seis especialistas de METR tendrán acceso de nivel empleado a herramientas, equipos e información interna de Anthropic. La organización podrá publicar sus evaluaciones sin autorización previa de la compañía, en un intento por reforzar la supervisión independiente de los sistemas de IA. Anthropic habilitó un nuevo esquema de evaluación externa que permitirá a seis investigadores…
Bank of America contrató a 1.000 especialistas para corregir fallas de software expuestas por la IA de Anthropic
El banco estadounidense sumó 1.000 contratistas externos para reforzar el trabajo de 3.000 empleados dedicados a corregir vulnerabilidades de sus sistemas y de proveedores. Su CEO, Brian Moynihan, anticipó que los costos disminuirán con el tiempo y proyectó ahorros de U$S 700 millones en 2027 gracias a proyectos internos de IA. Bank of America incorporó…
Unos 400 científicos piden un organismo internacional para controlar la inteligencia artificial avanzada
Geoffrey Hinton y Yoshua Bengio están entre los investigadores que reclaman estándares obligatorios para contener los modelos de IA más avanzados, supervisión independiente y un registro de incidentes de seguridad. La iniciativa busca reemplazar los compromisos voluntarios por mecanismos de control coordinados entre países. Alrededor de 400 científicos de 34 países reclamaron la creación de…
Arrestaron a un ingeniero de OpenAI acusado de ocultar grabadores para interceptar reuniones confidenciales
Abdulrahman Alfozan, de 35 años, fue acusado en Estados Unidos de intentar interceptar comunicaciones orales dentro de OpenAI. La investigación apunta al uso de dispositivos de grabación ocultos en oficinas de San Francisco donde se discutían investigaciones, planes de productos y decisiones estratégicas sobre inteligencia artificial. Un ingeniero de OpenAI fue arrestado en Estados Unidos…
Ucrania atacó con drones centros de datos de Yandex y afectó la infraestructura de IA de la «Google de Rusia»
Dos de los cinco centros de datos de Yandex quedaron fuera de servicio tras ataques con drones ucranianos. Uno de ellos alberga dos de las tres supercomputadoras que la compañía utiliza para entrenar YandexGPT, su modelo de inteligencia artificial. Los ataques con drones ucranianos contra dos centros de datos de Yandex, la compañía tecnológica conocida…