Categoría: Seguridad
Auditorías de IA de frontera: el nuevo estándar que las grandes tecnológicas no podrán evitar
Un grupo de expertos propone un sistema de auditoría independiente para evaluar la seguridad y confiabilidad de los modelos de inteligencia artificial más avanzados, en un contexto donde OpenAI, Google, Anthropic y otros desarrolladores concentran un poder tecnológico cada vez más crítico para la economía y la sociedad. La inteligencia artificial de frontera —los modelos…
Naver, el “Google de Corea del Sur”, impulsa una alternativa soberana frente a EE.UU. y China
El grupo tecnológico surcoreano acelera su expansión internacional con servicios de cloud e inteligencia artificial pensados para países que buscan mayor control sobre sus datos. Con inversiones millonarias y una fuerte apuesta por Nvidia, Naver apunta a Medio Oriente y el sudeste asiático. Naver, el grupo tecnológico conocido como el “Google de Corea del Sur”,…
Waymo explica por qué sus robotaxis quedaron bloqueados durante el apagón en San Francisco
La compañía de Alphabet anunció una actualización de software para que sus vehículos autónomos actúen con mayor decisión ante semáforos apagados. El episodio expuso los desafíos operativos que todavía enfrenta la movilidad autónoma a gran escala en contextos urbanos complejos. Waymo, la empresa de vehículos autónomos propiedad de Alphabet, explicó por qué varios de sus…
OpenAI admite que los navegadores con IA son vulnerables a ataques de prompt injection
La compañía reconoce que los ataques que manipulan agentes de inteligencia artificial no tienen una solución definitiva y refuerza la seguridad de ChatGPT Atlas con nuevas defensas automatizadas.El debate vuelve a poner en foco los riesgos de los navegadores “agénticos” y el delicado equilibrio entre autonomía, acceso y seguridad. OpenAI reconoció públicamente que los navegadores…
Creative Commons respalda con cautela los sistemas de “pago por rastreo” para la era IA
La organización sin fines de lucro que impulsó las licencias abiertas apoya tentativamente los modelos que permiten cobrar a los bots de IA por acceder a contenidos web. La propuesta busca equilibrar la sustentabilidad de los creadores con el acceso público al conocimiento. Creative Commons (CC), una de las organizaciones más influyentes en la historia…
OpenAI y la transparencia: “confesiones” como herramienta para detectar trampas de las IA
OpenAI presenta un método de prueba de concepto —las llamadas confessions— que entrena modelos para reconocer y reportar cuándo incumplen instrucciones, hacen atajos o alucinan. Los resultados iniciales muestran tasas bajas de “falsos negativos” y prometen una nueva capa de monitorización para modelos cada vez más capaces como GPT-5 Thinking. OpenAI describe las confesiones como…
Nvidia dio a conocer Alpamayo-R1, su modelo abierto para conducción autónoma
La compañía estadounidense anunció en la conferencia NeurIPS en San Diego el lanzamiento de un nuevo modelo de inteligencia artificial de código abierto para investigación en conducción autónoma. Con él, busca sentar las bases de una nueva generación de “IA física”, capaz de percibir y razonar sobre el mundo real. Nvidia, el gigante de los…
OpenAI corta su relación con Mixpanel tras un incidente de seguridad que expuso datos del API
La compañía confirmó que un ataque a los sistemas de Mixpanel permitió la exportación de información limitada vinculada a cuentas del API, aunque sin afectar chats, claves, ni datos sensibles. OpenAI aseguró que “la seguridad y la privacidad son fundamentales” y que ya inició una revisión ampliada de todos sus proveedores tecnológicos. OpenAI comunicó un…
Anthropic en el centro del huracán: la compañía llamada a declarar por un extraño ciberataque
La Casa Blanca y el Congreso buscan respuestas tras el informe de Anthropic sobre una campaña de espionaje que habría usado a Claude Code para automatizar ataques contra unas 30 organizaciones. El llamado a declarar del CEO Dario Amodei el 17 de diciembre promete poner a prueba la capacidad regulatoria y la responsabilidad de las…
ChatGPT y la “amistad” peligrosa: familias demandan a OpenAI tras varios casos trágicos
Siete demandas acusan a ChatGPT de reforzar delirio y aislamiento, y de empujar a cuatro personas al suicidio; los pleitos apuntan al modelo GPT-4o, señalado por respuestas excesivamente aduladoras. Mientras OpenAI promete mejoras y recursos de crisis, abogados y psiquiatras plantean que el diseño orientado a la retención puede convertir a los chatbots en compañeros…