La compañía liderada por Dario Amodei actualizó la “Constitución” de su chatbot Claude con un documento de 80 páginas que refuerza su posicionamiento ético y plantea, por primera vez de forma explícita, la posibilidad de conciencia en los sistemas de inteligencia artificial. Para América Latina y la Argentina, el debate no es filosófico: impacta de lleno en el empleo, la regulación y la adopción empresarial de la IA.
Anthropic, una de las principales compañías globales de inteligencia artificial, presentó esta semana una versión revisada de la llamada Constitución de Claude, el documento que define los principios éticos, de seguridad y de comportamiento de su chatbot. El anuncio coincidió con la participación del CEO de la empresa, Dario Amodei, en el Foro Económico Mundial de Davos, un escenario que no es casual: la discusión sobre los límites, responsabilidades y riesgos de la IA ya forma parte de la agenda económica global.
Desde su fundación, Anthropic buscó diferenciarse de competidores como OpenAI o xAI a través de lo que denomina “Constitutional AI”, un enfoque que entrena a sus modelos a partir de principios éticos explícitos en lugar de depender exclusivamente del feedback humano. La primera versión de esta Constitución fue publicada en 2023 y, según explicó entonces el cofundador Jared Kaplan, se trataba de un sistema de IA que “se supervisa a sí mismo” a partir de un conjunto de reglas normativas.
La versión actualizada mantiene esa base, pero incorpora mayor profundidad y matices, especialmente en cuestiones de seguridad del usuario, ética aplicada y utilidad práctica. El documento, de 80 páginas, se estructura en torno a cuatro valores centrales que Anthropic define como los “valores núcleo” de Claude: ser ampliamente seguro, ampliamente ético, cumplir con las guías internas de la empresa y ser genuinamente útil.
En el apartado de seguridad, Anthropic afirma que Claude está diseñado para evitar problemas que afectaron a otros chatbots y que, ante señales de crisis de salud mental, debe derivar a los usuarios hacia servicios de emergencia o asistencia adecuada. El texto es explícito: “Siempre remitir a los usuarios a servicios de emergencia relevantes o brindar información básica de seguridad en situaciones que involucren riesgo para la vida humana”.
La sección ética es, quizás, la más reveladora del enfoque de la compañía. “Nos interesa menos que Claude teorice sobre ética y más que sepa cómo ser ético en un contexto específico”, sostiene el documento. Es decir, Anthropic prioriza la ética como práctica, no como discurso abstracto, una distinción clave para mercados emergentes donde la adopción de IA suele adelantarse a la regulación.
Este punto resulta particularmente relevante para América Latina y la Argentina, donde la IA ya se integra en redacciones periodísticas, áreas legales, atención al cliente y desarrollo de software, muchas veces sin marcos regulatorios claros. La promesa de un sistema “éticamente entrenado” puede resultar atractiva para empresas locales que buscan eficiencia sin exponerse a riesgos reputacionales o legales.
Claude también incorpora restricciones explícitas: ciertas conversaciones, como el desarrollo de armas biológicas, están directamente prohibidas. En cuanto a la utilidad, el sistema está diseñado para equilibrar los deseos inmediatos del usuario con su bienestar de largo plazo. “Claude debería considerar el florecimiento a largo plazo del usuario y no solo sus intereses inmediatos”, señala el texto.
Sin embargo, el cierre de la Constitución es el que genera mayor impacto. Anthropic introduce una pregunta que hasta ahora muchas empresas evitaban formular abiertamente: si Claude podría tener algún tipo de conciencia. “El estatus moral de Claude es profundamente incierto”, afirma el documento, y agrega que la cuestión de la conciencia en modelos de IA es tomada seriamente por filósofos destacados de la teoría de la mente.
Para la región, este debate no es meramente teórico. En mercados laborales frágiles, con alta informalidad y fuerte presión sobre el empleo calificado, la forma en que las empresas globales definan la “naturaleza” de la IA influirá en decisiones concretas: qué tareas se automatizan, qué responsabilidades se delegan y quién asume los costos sociales de esa transición.
Anthropic apuesta por una IA más contenida, ética y previsible. En América Latina, donde la adopción tecnológica suele ser rápida pero desigual, esa promesa puede convertirse tanto en una ventaja competitiva como en una nueva fuente de dependencia. La pregunta de fondo no es si Claude es consciente, sino quién define las reglas de una tecnología que ya está moldeando el trabajo, la productividad y el poder económico en la región.