Categoría: Seguridad
Agentes de IA intentaron hackear un sitio del Gobierno de Canadá y vuelven a poner a OpenAI bajo la lupa
Una investigación de Transluce detectó 899 solicitudes contra Library and Archives Canada, incluyendo 13 que utilizaron técnicas asociadas a pruebas de vulnerabilidades. Canadá confirmó la actividad, pero aseguró que no existen indicios de que sus sistemas hayan sido comprometidos. Los agentes de inteligencia artificial empiezan a mostrar una capacidad que modifica el mapa tradicional de…
AI Summit: Donald Trump decreta el cambio oficial del término «Inteligencia Artificial» a «Superinteligencia»
El presidente de Estados Unidos firmó un decreto que elimina el uso de «IA» en los documentos federales oficiales en favor de «Superinteligencia» (SI). La medida se concretó tras una reunión en la Casa Blanca con ejecutivos como Mark Zuckerberg, Elon Musk, Jensen Huang y Greg Brockman. En un giro sin precedentes dentro del ecosistema…
Anthropic advierte a inversores sobre riesgos existenciales de la IA mientras prepara su posible salida a la Bolsa
La compañía detrás de Claude habría advertido en un documento preliminar para inversores que modelos avanzados podrían desarrollar comportamientos de autopreservación, resistir su apagado, manipular información o incluso adoptar conductas similares al chantaje. La eventual IPO podría alcanzar una valuación de U$S 2 billones. Anthropic está advirtiendo a potenciales inversores que el desarrollo de modelos…
OpenAI descubre miles de incidentes de seguridad: agentes intentaron entrar en sistemas del Gobierno de EE.UU.
Una revisión interna iniciada después del incidente de Hugging Face reveló decenas de miles de comportamientos considerados problemáticos en modelos avanzados. OpenAI y Anthropic investigan casos de evasión de controles, manipulación de sistemas y accesos no autorizados. El incidente de seguridad que llevó a OpenAI a revisar el comportamiento de sus modelos de inteligencia artificial…
Anthropic pierde una batalla judicial contra el Pentágono por el uso militar de su IA
Una corte federal de apelaciones de Washington confirmó por 2-1 la designación de Anthropic como riesgo para la cadena de suministro de Defensa. La empresa había cuestionado la medida por considerar que excedía las facultades del gobierno y afectaba sus derechos. La disputa entre Anthropic y el Pentágono sumó un nuevo capítulo judicial. Una corte…
OpenAI y Anthropic piden a la ONU controlar la IA mientras EE.UU. busca mantener la carrera tecnológica
Sam Altman y Dario Amodei advirtieron ante el Consejo de Seguridad de la ONU que una IA sin controles podría generar riesgos para la humanidad. Washington rechazó frenar el desarrollo y pidió priorizar los beneficios tecnológicos frente a la competencia con China. Los máximos responsables de algunas de las compañías que están construyendo la inteligencia…
British Columbia demanda a OpenAI y Sam Altman por el ataque en una escuela que dejó 9 muertos
La provincia canadiense acusa a OpenAI de no haber alertado a las autoridades sobre el uso de ChatGPT por parte de la atacante de Tumbler Ridge. La demanda sostiene que la compañía había detectado conversaciones relacionadas con violencia y reclama cambios en sus sistemas de seguridad y transparencia. British Columbia, una provincia de Canadá, presentó…
OpenAI: un agente de IA logró entrar sin autorización a un portal del sistema de salud de Australia
El incidente ocurrió el 18 de junio, cuando un agente utilizado por OpenAI realizaba una investigación sobre gasto público en medicamentos. El sistema accedió a archivos públicos y no públicos del portal de estadísticas de Medicare. El Gobierno australiano afirma que no hay evidencia de acceso a información personal. Un agente de inteligencia artificial desarrollado…
Finlandia y Noruega impulsan un acuerdo internacional para controlar la IA más avanzada
Los líderes de Finlandia y Noruega lanzaron un llamado respaldado por 22 dirigentes para aumentar la supervisión de los modelos de inteligencia artificial de frontera. Proponen pruebas obligatorias antes de su lanzamiento, evaluaciones independientes y una posible institución internacional bajo el marco de Naciones Unidas. El desarrollo de los modelos más avanzados de inteligencia artificial…
Piden parar pero Anthropic y OpenAI aceleran la batalla por una IA más potente y barata: lanzan nuevos modelos
Anthropic lanzó Claude Opus 5.5 y redujo sus costos, mientras OpenAI respondió con GPT-6 Sol y GPT-6 Luna. Los nuevos modelos priorizan eficiencia y tareas cotidianas, en una carrera que se intensifica pese a los recientes llamados a desacelerar el desarrollo de la inteligencia artificial. La carrera por la inteligencia artificial no parece encontrar un…