El CEO de Anthropic respondió a las críticas que lo responsabilizan por alimentar el rechazo hacia la inteligencia artificial. Amodei sostuvo que el problema no es su mensaje sobre los riesgos, sino la falta de confianza en empresas, gobiernos y la industria tecnológica.
El CEO de Anthropic, Dario Amodei, rechazó las acusaciones de que sus advertencias sobre los riesgos de la inteligencia artificial contribuyeron a generar una reacción negativa contra la tecnología en Estados Unidos, especialmente frente a la expansión de los centros de datos.
El debate comenzó a partir de los comentarios del inversor Gavin Baker, quien sostuvo en el podcast All-In y en X que el discurso de Amodei sobre los peligros de la IA había contribuido a alimentar el rechazo social y político contra la industria. Baker también cuestionó la posición de Anthropic sobre regulación y señaló que Amodei debería convertirse en un defensor más positivo de la propia industria que lidera.
Baker argumentó que Amodei había “perdido el argumento” en materia de regulación de IA y que, dado que está al frente de una de las compañías que considera más importantes del mundo, debería realizar un esfuerzo para presentar una visión más favorable sobre el futuro de la tecnología.
Amodei respondió que no considera que sus mensajes hayan sido “desproporcionadamente negativos”. Según explicó, sus escritos estuvieron “más o menos equilibrados entre riesgos y beneficios”. Incluso recordó que escribió su ensayo “Machines of Loving Grace” porque consideraba que la industria de IA no estaba ofreciendo una visión suficientemente inspiradora sobre cómo la tecnología podría transformar radicalmente el mundo para mejor.
Pero el CEO de Anthropic sí reconoció un problema: el público tiene una visión negativa de la inteligencia artificial.
“Creo que es un gran problema”, afirmó Amodei. Sin embargo, rechazó que esa percepción sea “principalmente causada” por él o por otros líderes de empresas de inteligencia artificial que advierten sobre sus riesgos.
“Creo que es fundamentalmente una crisis de confianza”, sostuvo.
“La gente no confía en las empresas, los gobiernos ni la industria tecnológica”
Para Amodei, el rechazo hacia la IA forma parte de un problema mucho más amplio y anterior al desarrollo de los actuales modelos generativos.
“Creo que la gente común no confía en las empresas, los gobiernos o la industria tecnológica y siempre sospecha que estamos preparando alguna nueva forma de perjudicarla”, afirmó.
Desde esa perspectiva, la reacción contra la inteligencia artificial sería apenas “la última iteración” de una crisis de confianza que lleva décadas desarrollándose.
El ejecutivo también reconoció una crítica que considera válida para Anthropic y para el conjunto de la industria: las compañías todavía no cumplieron sus grandes promesas de impacto positivo.
“Creo que, con diferencia, la crítica más acertada hacia las empresas de IA, incluida Anthropic, es que todavía no hemos cumplido nuestras grandes promesas de beneficiar al mundo”, afirmó. “Eso depende totalmente de nosotros”.
Para Amodei, esa debería ser la discusión central, en lugar de concentrarse en los problemas de comunicación y marketing.
El CEO utilizó como ejemplo las promesas relacionadas con la medicina. Decir que la inteligencia artificial permitirá curar el cáncer, sostuvo, es “más un cliché que algo inspirador”. Lo que realmente podría modificar la percepción pública sería “curar realmente el cáncer”.
La regulación como límite al poder de las grandes compañías
El debate también alcanzó la regulación. Baker había planteado una disyuntiva entre distribuir ampliamente la inteligencia artificial sin regulación o, por el contrario, concentrar la tecnología en pocas empresas como consecuencia de las normas.
Amodei calificó esa interpretación como “una falsa elección”.
El ejecutivo cuestionó lo que definió como una visión instalada en Silicon Valley según la cual regulación equivale automáticamente a captura regulatoria y concentración de poder.
“Muchas personas fuera de esta burbuja piensan en la regulación como algo que limita el poder corporativo y beneficia a la gente común”, explicó.
Anthropic ha respaldado algunas iniciativas regulatorias, entre ellas una ley de California que establece requisitos de transparencia para grandes compañías de inteligencia artificial.
Amodei aseguró que la empresa analiza cuidadosamente sus propuestas regulatorias y que busca que las normas no terminen fortaleciendo a los actores dominantes.
“Nos esforzamos mucho para hacer propuestas que perjudiquen —ralenticen— a las compañías de IA de frontera y, al mismo tiempo, beneficien a competidores más pequeños”, afirmó.
La razón, según el CEO de Anthropic, es estructural: considera que la inteligencia artificial tiende naturalmente a concentrar poder.
El dilema de los modelos de código abierto
Amodei también se refirió al papel de los modelos de pesos abiertos (open weights). Reconoció que pueden contribuir a reducir la concentración, pero sostuvo que están lejos de ser una solución suficiente.
“Creo que la IA es estructuralmente una tecnología que tiende a concentrar el poder”, afirmó. Los modelos de pesos abiertos, agregó, “ayudan algo con esto, pero están lejos de ser una solución suficiente porque simplemente desplazan parcialmente la concentración hacia quienes tienen más capacidad de cómputo y chips”.
En su visión, las reglas adecuadas deberían cumplir simultáneamente tres objetivos: enfrentar los riesgos relacionados con ciberseguridad, biología y alineación; limitar institucionalmente el poder de las compañías de IA de frontera; y mantener espacio para los modelos de pesos abiertos, al mismo tiempo que se abordan sus riesgos específicos.
La discusión planteada por Amodei coloca a Anthropic en una posición particular dentro de la industria: una compañía que busca desarrollar modelos de frontera y, al mismo tiempo, sostiene que la regulación puede ser necesaria para evitar que el desarrollo de la inteligencia artificial derive en una concentración excesiva de poder.
Para el CEO, sin embargo, ninguna estrategia de comunicación podrá resolver por sí sola el problema de legitimidad de la industria. La respuesta, en última instancia, tendrá que surgir de resultados concretos.
La confianza no se recuperaría prometiendo que la IA cambiará el mundo, sino demostrando que efectivamente puede hacerlo.