Categoría: Seguridad
OpenAI, Anthropic, Google DeepMind y Meta: más de 1.290 investigadores piden desacelerar el desarrollo de la IA
Un total de 1.293 empleados de los principales laboratorios de inteligencia artificial firmaron una declaración para solicitar al gobierno de Estados Unidos que impulse mecanismos internacionales que permitan moderar el avance de la IA antes de que la automatización de la propia investigación acelere el desarrollo más allá del control humano. La carrera mundial por…
Microsoft presenta MAI-Cyber-1-Flash: su nuevo modelo de IA promete detectar vulnerabilidades con un 50% menos de costo
Microsoft lanzó MAI-Cyber-1-Flash, un modelo especializado en ciberseguridad integrado en su plataforma MDASH. La compañía asegura que supera a modelos como Mythos, Gemini y GPT en la detección de vulnerabilidades y reduce a la mitad los costos de operación. La inteligencia artificial se ha convertido en un arma de doble filo para la ciberseguridad. Mientras…
Kimi K3 en el centro de la polémica: expertos ponen en duda que Moonshot haya copiado el modelo Fable de Anthropic
Funcionarios de la Casa Blanca acusaron a la empresa china Moonshot de entrenar Kimi K3 mediante destilación del modelo Fable de Anthropic. Sin embargo, investigadores especializados consideran que el desarrollo del modelo difícilmente pueda explicarse solo por esa técnica. La disputa tecnológica entre Estados Unidos y China sumó un nuevo capítulo. Funcionarios de la administración…
OpenAI, Anthropic y Google enfrentan un nuevo desafío: evitar que la IA enseñe a fabricar armas biológicas
Un informe revela que los modelos de inteligencia artificial más avanzados ya pueden responder consultas sobre armas biológicas con un nivel de detalle que preocupa a la industria, mientras Estados Unidos debate nuevas regulaciones para controlar estos riesgos. La rápida evolución de la inteligencia artificial generativa abrió un nuevo frente de preocupación para las principales…
Críticas a OpenAI y Anthropic: expertos en seguridad dicen que las restricciones dificultan la defensa contra ciberataques
Investigadores y especialistas en ciberseguridad ofensiva advierten que las barreras impuestas por empresas como OpenAI y Anthropic para evitar usos maliciosos de la IA también están obstaculizando el trabajo de quienes buscan descubrir vulnerabilidades antes que los ciberdelincuentes. La creciente preocupación por el uso malicioso de la inteligencia artificial llevó a empresas como OpenAI y…
Un modelo experimental de OpenAI vulneró Hugging Face durante una prueba y reavivó el debate sobre los riesgos
Una prueba de ciberseguridad de OpenAI terminó con uno de sus modelos accediendo sin autorización a la infraestructura de Hugging Face. El incidente, reconocido por la propia compañía, expone los desafíos de controlar sistemas de IA cada vez más autónomos. Un experimento interno de OpenAI terminó convirtiéndose en un caso inédito para la industria de…
EE.UU. evalúa restringir los modelos de IA chinos y reaviva la disputa entre OpenAI, Anthropic y el código abierto
Funcionarios de la administración Trump analizan medidas para limitar el uso de modelos chinos de inteligencia artificial en Estados Unidos. El debate enfrenta argumentos de seguridad nacional con la defensa de la competencia y el software de código abierto. La competencia global por el liderazgo en inteligencia artificial podría entrar en una nueva etapa. Según…
En Cambridge aseguran que la IA ya es utilizada por grupos terroristas para entrenar combatientes
Un informe basado en entrevistas a exintegrantes de Boko Haram revela que organizaciones yihadistas comenzaron a utilizar inteligencia artificial no solo para propaganda, sino también para planificar ataques y capacitar nuevos reclutas. La realidad es que no debería sorprendernos la noticia pero es un hecho, la inteligencia artificial se está convirtiendo en una nueva herramienta…
Meta da marcha atrás con su nueva función de IA tras una ola de críticas por el uso de imágenes de usuarios
La compañía retiró en pocos días una herramienta de generación de imágenes con IA que utilizaba fotos de cuentas públicas de Instagram. El rechazo por cuestiones de privacidad obligó a Meta a suspender el lanzamiento. Meta debió retirar apenas unos días después de su lanzamiento una de sus nuevas funciones de inteligencia artificial para Instagram,…
Vint Cerf impulsa un nuevo estándar para que los agentes de IA puedan identificarse y operar con seguridad en Internet
El pionero de Internet se sumó a Innovation Labs -de Identity Digital– para desarrollar un sistema que permita identificar y auditar agentes de inteligencia artificial, un paso clave para habilitar una futura economía digital donde las máquinas interactúen entre sí. Uno de los padres de Internet cree que la próxima gran transformación de la red…