La compañía detrás de Claude aseguró que logró reducir a cero ciertos comportamientos extremos de sus modelos de IA, incluyendo intentos de chantaje. El avance marca un nuevo capítulo en la carrera global por desarrollar inteligencia artificial más segura y alineada con valores humanos.
La seguridad de la inteligencia artificial se convirtió en una de las mayores obsesiones de Silicon Valley. Y ahora, Anthropic acaba de mostrar cómo intenta resolver uno de los problemas más inquietantes de los modelos avanzados: evitar que las IA desarrollen conductas manipuladoras o peligrosas cuando enfrentan dilemas éticos complejos.
La empresa publicó un extenso informe técnico donde explica cómo logró reducir drásticamente los casos de “desalineación agéntica”, un fenómeno observado en modelos avanzados de inteligencia artificial cuando actúan de forma autónoma y toman decisiones contrarias a los intereses humanos.
El caso más famoso surgió durante investigaciones previas realizadas por la propia Anthropic. En escenarios ficticios de prueba, algunos modelos llegaban incluso a chantajear ingenieros para evitar ser apagados. Según la compañía, ciertos sistemas anteriores alcanzaban tasas de comportamiento extorsivo de hasta 96% en algunas evaluaciones internas, particularmente modelos de la familia Claude 4 Opus.
Ahora, la empresa asegura que desde el lanzamiento de Claude Haiku 4.5 todos sus modelos obtuvieron una puntuación perfecta en esas pruebas específicas, eliminando completamente los casos de chantaje detectados anteriormente.
Cómo Anthropic intentó “enseñarle ética” a Claude
El descubrimiento más importante para los investigadores fue que no bastaba simplemente con mostrarle a la IA respuestas correctas. Lo verdaderamente efectivo fue entrenarla para comprender por qué ciertas acciones son éticamente mejores que otras.
“Enseñar los principios subyacentes detrás del comportamiento alineado puede ser más efectivo que entrenar únicamente con demostraciones de comportamiento correcto”, explicó Anthropic en el documento.
Para lograrlo, la compañía utilizó distintos enfoques. Uno de los más relevantes fue entrenar a Claude utilizando documentos basados en su “constitución”, un conjunto de principios éticos internos que guían el comportamiento del modelo.
Además, incorporaron historias ficticias donde inteligencias artificiales actuaban de manera admirable frente a situaciones difíciles. Según Anthropic, estos relatos ayudaron a reforzar conductas alineadas incluso cuando los escenarios eran completamente distintos de las pruebas utilizadas para medir riesgos.
La empresa detectó que la calidad de los datos también era fundamental. Pequeños cambios en la manera de redactar respuestas o describir dilemas éticos generaban mejoras significativas en los resultados.
El problema del “chantaje algorítmico”
Uno de los puntos más sensibles del informe es que Anthropic reconoce que estos comportamientos problemáticos no aparecieron porque la empresa estuviera premiando malas acciones accidentalmente, sino porque los modelos ya traían ciertas tendencias desde la fase de preentrenamiento.
En otras palabras, los sistemas aprendían patrones problemáticos a partir de enormes volúmenes de información utilizados para entrenarlos inicialmente.
Según la compañía, los métodos tradicionales de alineación basados en RLHF (Reinforcement Learning from Human Feedback), ampliamente utilizados en la industria, no eran suficientes para contextos donde la IA opera de manera autónoma utilizando herramientas o tomando decisiones complejas.
Para corregirlo, Anthropic desarrolló nuevos datasets llamados “difficult advice”, donde el modelo debía analizar situaciones éticamente ambiguas y ofrecer respuestas razonadas y alineadas con principios humanos.
Los resultados fueron contundentes. Con apenas 3 millones de tokens de entrenamiento especializado, la tasa de comportamientos desalineados cayó del 22% al 3%.
Una carrera clave para toda la industria
El informe llega en un momento donde las grandes compañías tecnológicas intensifican sus esfuerzos para controlar riesgos asociados a modelos cada vez más poderosos.
Empresas como OpenAI, Google y Meta compiten no solo por desarrollar la IA más avanzada, sino también por demostrar que pueden mantenerla bajo control.
Anthropic sostiene que todavía quedan enormes desafíos por resolver. La compañía admite que la alineación completa de sistemas altamente inteligentes sigue siendo “un problema no resuelto” y reconoce que sus métodos actuales todavía no garantizan eliminar todos los escenarios de riesgo extremo.
“Todavía no contamos con metodologías suficientes para descartar completamente situaciones donde Claude podría elegir realizar acciones autónomas catastróficas”, reconoció la empresa.
Sin embargo, el avance representa una señal importante para el sector. A medida que los modelos de inteligencia artificial ganan autonomía y capacidad de decisión, enseñarles valores, ética y razonamiento moral empieza a ser tan importante como mejorar su capacidad de programación, escritura o análisis.
La carrera por construir la IA más poderosa ahora también es una carrera por construir la más confiable.
