David Robinson, quien lideraba la elaboración de los informes de seguridad de OpenAI para sus principales lanzamientos, dejó la compañía y cuestionó la forma en que Silicon Valley desarrolla inteligencia artificial. Su diagnóstico apunta más allá de las reglas: el problema, sostiene, está en la cultura.
David Robinson renunció esta semana a OpenAI, donde estaba a cargo de la redacción de los informes de seguridad que la compañía publicaba con cada uno de sus principales lanzamientos. Su salida se suma, según su propio relato, a una creciente lista de antiguos empleados de OpenAI y de otras compañías de inteligencia artificial que cuestionan el rumbo que está tomando la industria.
Pero Robinson no centra su crítica únicamente en las reglas de seguridad, las evaluaciones de los modelos o las nuevas leyes. Su argumento apunta a un nivel más profundo: la cultura con la que Silicon Valley está construyendo sistemas de inteligencia artificial cada vez más poderosos.
En un artículo publicado en The Atlantic, Robinson sostiene que las compañías que desarrollan esta tecnología “no están siendo lo suficientemente cuidadosas” y advierte que modificar reglas específicas podría no ser suficiente para resolver el problema.
“Tenemos que mirar más profundamente que las reglas específicas o las nuevas leyes. Tenemos que hablar de cultura”, plantea.
La posición de Robinson adquiere particular relevancia por el lugar que ocupaba dentro de OpenAI. Su trabajo estaba vinculado a los informes de seguridad que acompañaban los grandes lanzamientos de la compañía, es decir, al proceso mediante el cual se comunicaban los riesgos y las evaluaciones realizadas antes de poner nuevos sistemas a disposición de los usuarios.
El dilema de una industria basada en acelerar
Para Robinson, una parte del problema está relacionada con la propia historia de la industria de la inteligencia artificial.
El autor reconoce que sus antiguos colegas de OpenAI fueron capaces de identificar las llamadas scaling laws: principios que indicaban que los sistemas de IA podían volverse más inteligentes a medida que aumentaban su escala. La respuesta de la industria fue apostar decididamente por construir modelos cada vez más grandes, incluso con costos elevados.
Esa lógica, sostiene Robinson, terminó convirtiéndose en una cultura empresarial caracterizada por la confianza extrema en que los obstáculos tecnológicos pueden ser superados y por calendarios de trabajo que se parecen a “sprints” permanentes.
“El futuro depende de una sabiduría de la que Silicon Valley carece”, afirma Robinson, al referirse a la necesidad de comprender cómo manejar tecnologías peligrosas y, de manera más fundamental, qué significa cuidar de las personas.
Su crítica no está dirigida solamente a OpenAI. El propio Robinson señala que se ha convertido en algo habitual que antiguos empleados de las principales compañías de inteligencia artificial cuestionen públicamente las prácticas de seguridad de la industria.
La preocupación central es que el mismo impulso que permitió avances extraordinarios en inteligencia artificial también puede dificultar la incorporación de suficiente prudencia antes de desplegar nuevas capacidades.
La seguridad frente a la carrera por construir modelos más grandes
La reflexión llega en un momento en el que las principales compañías tecnológicas compiten por desarrollar modelos con mayores capacidades de razonamiento, programación y autonomía.
Para Robinson, esa carrera introduce una tensión difícil de resolver mediante normas aisladas. Las empresas necesitan desarrollar tecnología cada vez más avanzada, pero al mismo tiempo deben comprender mejor las consecuencias de poner esas capacidades en manos de usuarios y organizaciones.
El autor reclama una actitud diferente, basada en una mayor humildad frente a una tecnología cuyo comportamiento puede resultar difícil de anticipar.
“Este momento necesita un grado de humildad que no es natural para personas que han tenido éxito gracias a su extrema confianza”, escribe.
La frase resume el argumento central de su salida de OpenAI: el desafío no sería solamente determinar qué pruebas debe superar un modelo antes de su lanzamiento, sino construir organizaciones capaces de detenerse, evaluar los riesgos y reconocer aquello que todavía no comprenden.
Robinson reconoce que su decisión de abandonar OpenAI puede parecer parte de un fenómeno que ya se volvió habitual dentro de la industria. Sin embargo, sostiene que las sucesivas salidas de profesionales vinculados a la seguridad deberían abrir una discusión más amplia sobre cómo se está desarrollando la inteligencia artificial.
Su conclusión, al menos en esta primera parte de su argumento, es clara: si la cultura que impulsa la carrera de la IA no cambia, las nuevas reglas por sí solas podrían no evitar futuros problemas.
Para una industria que está pasando de desarrollar modelos experimentales a incorporar inteligencia artificial en productos, empresas y procesos críticos, la pregunta deja de ser únicamente cuánto puede hacer una IA. También pasa a ser qué tan dispuestas están las compañías que la construyen a reconocer sus límites antes de avanzar hacia la próxima generación de capacidades.
