La IA tiene el potencial de mejorar la calidad de vida y ayudar a superar retos globales, pero también plantea preocupaciones sobre valores humanos como la equidad, la libertad y la responsabilidad explica Sam Altman. Este es el posteo completo de su Blog.
Hemos superado el horizonte de sucesos; el despegue ha comenzado. La humanidad está cerca de construir una superinteligencia digital, y al menos hasta ahora es mucho menos extraña de lo que debería ser.
Los robots aún no caminan por las calles, ni la mayoría de nosotros hablamos con IA todo el día. La gente sigue muriendo de enfermedades, aún no podemos viajar fácilmente al espacio, y hay mucho del universo que no entendemos.
Y, sin embargo, recientemente hemos construido sistemas que son más inteligentes que las personas en muchos sentidos y capaces de amplificar significativamente el rendimiento de quienes los utilizan. La parte menos probable del trabajo ya ha quedado atrás; los conocimientos científicos que nos llevaron a sistemas como GPT-4 y o3 fueron fruto de un esfuerzo, pero nos llevarán muy lejos.
La IA contribuirá al mundo de muchas maneras, pero las mejoras en la calidad de vida derivadas de la IA, que impulsa un progreso científico más rápido y una mayor productividad, serán enormes; el futuro puede ser mucho mejor que el presente. El progreso científico es el principal impulsor del progreso general; es sumamente emocionante pensar en cuánto más podríamos tener.
En gran medida, ChatGPT ya es más poderoso que cualquier ser humano que haya existido jamás. Cientos de millones de personas dependen de él a diario para tareas cada vez más importantes; una pequeña nueva capacidad puede generar un impacto enormemente positivo; una pequeña desalineación multiplicada por cientos de millones de personas puede causar un gran impacto negativo.
En 2025 llegaremos a agentes que pueden realizar trabajo cognitivo real; escribir códigos informáticos nunca volverá a ser lo mismo. En 2026 probablemente llegaremos a sistemas capaces de descubrir nuevos conocimientos. En 2027 podremos ver la llegada de robots que puedan realizar tareas en el mundo real.
Mucha más gente podrá crear software y arte. Pero el mundo quiere mucho más de ambos, y los expertos probablemente seguirán siendo mucho mejores que los novatos, siempre que adopten las nuevas herramientas. En general, la capacidad de una persona para lograr mucho más en 2030 que en 2020 será un cambio notable, y muchos sabrán cómo beneficiarse de ello.
En los aspectos más importantes, la década de 2030 podría no ser tan diferente. La gente seguirá queriendo a sus familias, expresando su creatividad, jugando y nadando en lagos.
Pero en aspectos aún muy importantes, la década de 2030 probablemente será muy diferente a cualquier otra anterior. No sabemos hasta qué punto podemos superar la inteligencia humana, pero estamos a punto de descubrirlo.
En la década de 2030, la inteligencia y la energía —las ideas y la capacidad de hacerlas realidad— serán inmensamente abundantes. Estas dos han sido los principales limitantes del progreso humano durante mucho tiempo; con inteligencia y energía abundantes (y un buen gobierno), teóricamente podemos tener cualquier otra cosa.
Ya vivimos con una inteligencia digital increíble, y tras una conmoción inicial, la mayoría nos hemos acostumbrado bastante a ella. Enseguida pasamos de asombrarnos de que la IA pueda generar un párrafo impecable a preguntarnos cuándo podrá generar una novela impecable; de asombrarnos de que pueda realizar diagnósticos médicos que salven vidas a preguntarnos cuándo podrá desarrollar las curas; o de asombrarnos de que pueda crear un pequeño programa informático a preguntarnos cuándo podrá crear una empresa completamente nueva. Así es como funciona la singularidad: las maravillas se vuelven rutina, y luego, requisito indispensable.
Ya oímos a los científicos decir que son dos o tres veces más productivos que antes de la IA. La IA avanzada es interesante por muchas razones, pero quizás nada sea tan significativo como el hecho de que podemos usarla para investigar más rápido en IA. Quizás podamos descubrir nuevos sustratos computacionales, mejores algoritmos y quién sabe qué más. Si podemos realizar una década de investigación en un año o un mes, el ritmo de progreso será obviamente muy diferente.
A partir de ahora, las herramientas que ya hemos desarrollado nos ayudarán a obtener más conocimientos científicos y a crear mejores sistemas de IA. Claro que esto no es lo mismo que un sistema de IA que actualice su propio código de forma completamente autónoma, pero aun así es una versión larvaria de la autosuperación recursiva.
Existen otros ciclos que se retroalimentan. La creación de valor económico ha iniciado un ciclo de desarrollo de infraestructura para operar estos sistemas de IA cada vez más potentes. Y robots capaces de construir otros robots (y, en cierto sentido, centros de datos capaces de construir otros centros de datos) no están tan lejos.
Si tenemos que fabricar el primer millón de robots humanoides a la antigua usanza, pero luego pueden operar toda la cadena de suministro (excavar y refinar minerales, conducir camiones, dirigir fábricas, etc.) para construir más robots, que pueden construir más instalaciones de fabricación de chips, centros de datos, etc., entonces el ritmo de progreso será obviamente muy diferente.
A medida que se automatiza la producción de los centros de datos, el coste de la inteligencia debería converger eventualmente a un nivel cercano al de la electricidad. (La gente suele sentir curiosidad por saber cuánta energía consume una consulta de ChatGPT; una consulta promedio consume unos 0,34 vatios-hora, aproximadamente lo que consumiría un horno en poco más de un segundo o una bombilla de alta eficiencia en un par de minutos. También consume unos 0,000085 galones de agua; aproximadamente la quinceava parte de una cucharadita).
El ritmo del progreso tecnológico seguirá acelerándose, y las personas seguirán siendo capaces de adaptarse a casi cualquier cosa. Habrá aspectos muy difíciles, como la desaparición de clases enteras de empleos, pero, por otro lado, el mundo se enriquecerá tanto y tan rápidamente que podremos considerar seriamente nuevas ideas políticas que antes no podíamos. Probablemente no adoptemos un nuevo contrato social de golpe, pero cuando miremos atrás dentro de unas décadas, los cambios graduales habrán tenido un gran impacto.
Si la historia sirve de guía, descubriremos nuevas cosas que hacer y nuevas cosas que desear, y asimilaremos nuevas herramientas rápidamente (el cambio de trabajo tras la revolución industrial es un buen ejemplo reciente). Las expectativas aumentarán, pero las capacidades también lo harán con la misma rapidez, y todos conseguiremos mejores cosas. Construiremos cosas cada vez más maravillosas para los demás. Las personas tenemos una importante y curiosa ventaja a largo plazo sobre la IA: estamos programados para preocuparnos por los demás y por lo que piensan y hacen, y no nos importan demasiado las máquinas.
Un agricultor de subsistencia de hace mil años vería lo que muchos de nosotros hacemos y diría que tenemos trabajos falsos, pensando que solo nos entretenemos, ya que tenemos comida en abundancia y lujos inimaginables. Espero que dentro de mil años veamos esos trabajos y pensemos que son trabajos falsos, y no me cabe duda de que quienes los realizan los sentirán increíblemente importantes y satisfactorios.
El ritmo al que se alcanzarán nuevas maravillas será inmenso. Es difícil siquiera imaginar hoy lo que habremos descubierto para 2035; quizá pasemos de resolver física de altas energías un año a iniciar la colonización espacial el siguiente; o de un gran avance en la ciencia de los materiales un año a verdaderas interfaces cerebro-computadora de gran ancho de banda el siguiente. Mucha gente elegirá vivir de forma similar, pero al menos algunos probablemente decidan «conectarse».
De cara al futuro, esto suena difícil de asimilar. Pero probablemente vivirlo resultará impresionante, pero manejable. Desde una perspectiva relativista, la singularidad ocurre poco a poco y la fusión es lenta. Estamos ascendiendo por el largo arco del progreso tecnológico exponencial; siempre parece vertical hacia adelante y plano hacia atrás, pero es una curva suave. (Recuerden 2020 y cómo habría sido tener algo cercano a la IAG para 2025, en comparación con lo que han sido los últimos 5 años).
Existen serios desafíos que afrontar, junto con enormes ventajas. Necesitamos resolver los problemas de seguridad, tanto técnicos como sociales, pero también es crucial distribuir ampliamente el acceso a la superinteligencia, dadas las implicaciones económicas. El mejor camino a seguir podría ser algo como:
- Resolver el problema de la alineación, lo que significa que podemos garantizar de manera sólida que lograremos que los sistemas de IA aprendan y actúen en función de lo que realmente queremos colectivamente a largo plazo (los feeds de las redes sociales son un ejemplo de IA desalineada; los algoritmos que los impulsan son increíbles para lograr que usted siga desplazándose y comprenda claramente sus preferencias a corto plazo, pero lo hacen explotando algo en su cerebro que anula su preferencia a largo plazo).
- Luego, concéntrate en que la superinteligencia sea económica, esté ampliamente disponible y no se concentre demasiado en una sola persona, empresa o país. La sociedad es resiliente, creativa y se adapta rápidamente. Si logramos aprovechar la voluntad y la sabiduría colectivas, aunque cometeremos muchos errores y algunas cosas saldrán muy mal, aprenderemos y nos adaptaremos rápidamente y podremos usar esta tecnología para maximizar las ventajas y minimizar las desventajas. Dar a los usuarios amplia libertad, dentro de unos límites que la sociedad debe decidir, parece fundamental. Cuanto antes se inicie un debate mundial sobre cuáles son estos límites generales y cómo definimos la alineación colectiva, mejor.
Nosotros (toda la industria, no solo OpenAI) estamos construyendo un cerebro para el mundo. Será extremadamente personalizado y fácil de usar para todos; estaremos limitados por las buenas ideas. Durante mucho tiempo, los técnicos de la industria de las startups se han burlado de los «tipos de ideas»; personas que tenían una idea y buscaban un equipo para desarrollarla. Ahora me parece que están a punto de alcanzar su máximo esplendor.
OpenAI es muchas cosas ahora, pero ante todo, somos una empresa de investigación en superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminado, y las zonas oscuras se están despejando rápidamente. Nos sentimos sumamente agradecidos de poder hacer lo que hacemos.
La inteligencia, demasiado barata para medirla, está al alcance de la mano. Puede parecer una locura decirlo, pero si en 2020 les hubiéramos dicho que estaríamos donde estamos hoy, probablemente sonaría más descabellado que nuestras predicciones actuales para 2030.
Que podamos escalar de manera fluida, exponencial y sin incidentes a través de la superinteligencia.
