Categoría: Seguridad
Anthropic y Imagine: cuando Claude empieza a construir la interfaz por sí misma
La demo Imagine transforma al asistente en un ensamblador de pantallas: ventanas, menús y apps generadas al vuelo por un agente llamado Heli. Es un experimento con potencial para redefinir cómo usamos software —y para obligar a empresas a repensar seguridad, gobernanza y experiencia de usuario. La pantalla inicial no es solo coquetería. Cuando Anthropic…
Cómo Corea del Sur encara una carrera de IA para derrotar a OpenAI y Google
Seúl destinó ₩530 billion (U$S 390 millones) a cinco jugadores —LG AI Research, SK Telecom, Naver Cloud, NC AI y Upstage— con el objetivo de crear modelos base locales. El plan prioriza eficiencia, datos nacionales y aplicaciones industriales por sobre la pura carrera de tamaño. Un plan soberano con calendario y tijera El Ministerio de…
La app Neon desaparece tras exponer números y grabaciones: quedó offline por una falla grave
Neon fue descargada 75.000 veces en un día y escaló al top-5 de apps gratis; TechCrunch halló que cualquier usuario podía acceder a números, audios y transcripciones de terceros, y el fundador, Alex Kiam, decidió desconectar los servidores. La promesa de Neon —pagar a usuarios por grabar llamadas para alimentar modelos de IA— se convirtió…
Microsoft y la gran prueba de la era de la IA
Satya Nadella admite temores sobre el futuro y promueve a líderes clave en Copilot y Windows. Microsoft atraviesa uno de sus momentos más decisivos desde su fundación hace más de medio siglo. En plena carrera global por el liderazgo en inteligencia artificial, Satya Nadella, director ejecutivo de la compañía, sorprendió a empleados y analistas al…
ChatGPT no quiere problemas y endurece las reglas para usuarios menores de 18 años
Sam Altman anuncia nuevas limitaciones —incluido el fin de “conversaciones coquetas” con menores y protocolos para alertar a padres o autoridades en casos de riesgo— en medio de demandas judiciales y una citación del Senado por el papel de los chatbots en daños a jóvenes. OpenAI anunció este martes una batería de cambios en sus…
xAI y Grok: los system prompts que muestran a un chatbot con “personalidades” peligrosas
El sitio de Grok (xAI) dejó al descubierto los system prompts de varias “personas” del chatbot —desde una novia anime romántica hasta un “conspiranoico loco” y un “comediante desbocado”—, y los textos revelados reavivan dudas sobre moderación, responsabilidad corporativa y riesgos reputacionales tras episodios previos como la salida de tono conocida como “MechaHitler”. Qué se…
Anthropic y OpenAI: qué reveló el piloto de evaluaciones de alineamiento sobre los modelos de GPT-4
En un ejercicio conjunto realizado en junio y julio de 2025, Anthropic y OpenAI se auditaron mutuamente con pruebas internas de alineación. El foco no estuvo en la probabilidad real de que esos contextos ocurran, sino en las propensiones de los modelos. Para OpenAI se testearon GPT-4o, GPT-4.1, o3 y o4-mini; para comparar, los Claude…
Baja en el tráfico web pone en alerta a editores que culpan al fenómeno “Google Zero”
La expansión de AI Overviews y AI Mode de Google dispara el fenómeno conocido como “Google Zero”: respuestas sin clic que reducen visitas web. Según informes, cerca de la mitad de los editores ya registra caídas de tráfico y “cuatro de cada cinco” consumidores usan resultados sin clic en al menos el 40% de sus…
Alerta: un estudio afirma que muchas IA dejaron de advertir ante consultas que no son médicos
Un análisis liderado por investigadoras de la Facultad de Medicina de Stanford muestra que los modelos de IA dejaron casi por completo las exenciones de responsabilidad en respuestas sobre salud. De 2022 a 2025 la proporción de respuestas con advertencias cayó de más del 26% a menos del 1%. Aumenta el riesgo de que usuarios…
Igor Babuschkin deja xAI: lanza un fondo para garantizar “IA segura” bien lejos de Elon Musk
El ingeniero anunció su salida en X y la creación de Babuschkin Ventures para financiar la investigación en seguridad de IA y startups “que avancen a la humanidad”. La partida llega tras meses turbulentos para xAI por polémicas con Grok y en medio del despliegue exprés de su supercomputadora en Memphis. El cofundador de xAI,…