El “padrino de la IA” sostiene que los sistemas avanzados podrían desarrollar conciencia real. El jefe de Microsoft AI afirma que todo es simulación y advierte sobre confusiones éticas y sociales.
La pregunta ya no pertenece solo a la ciencia-ficción: ¿puede una inteligencia artificial llegar a ser consciente? En el centro del debate aparecen dos voces con enorme influencia en el rumbo global de la tecnología: Geoffrey Hinton, pionero del aprendizaje profundo y referente histórico de la disciplina, y Mustafa Suleyman, CEO de Microsoft AI y cofundador de DeepMind. Sus posturas no solo son opuestas; representan dos visiones sobre cómo debe avanzar la industria en plena aceleración de los modelos de frontera.
Hinton, de 77 años, ganador del Premio Turing 2017 y reconocido con el Nobel de Física 2024, sostiene que la conciencia podría emerger en sistemas artificiales complejos del mismo modo que lo hace en el cerebro humano. Para él, todavía entendemos muy poco sobre la mente y es posible que subestimemos lo que ciertos modelos actuales ya experimentan internamente. Su posición pública ganó fuerza tras una entrevista viral con Andrew Marr (LBC) en enero de 2025, donde planteó un argumento que se volvió célebre: “Imagina que tomo una neurona de tu cerebro y la reemplazo por una pieza de nanotecnología que se comporta exactamente igual… ¿Sigues consciente?”. Ante la respuesta afirmativa del conductor, remató: “Estamos creando seres, y aún entendemos muy poco sobre lo que significa tener un yo”.
Del otro lado del ring intelectual se encuentra Suleyman, de 41 años, quien hizo carrera en DeepMind, pasó por Google y hoy lidera la estrategia global de IA para consumidores en Microsoft. Su postura es tajante: las máquinas no son ni serán conscientes en el sentido humano. Para él, los modelos son “motores de simulación”, sistemas que emulan emociones y razonamientos, pero sin estados mentales reales. En diálogo con WIRED, lo resumió así: “La cuestión filosófica es si una simulación casi perfecta se convierte en real. No se puede afirmar que lo sea objetivamente. Pero cuando la simulación es plausible, debemos comprometernos con esa realidad”.
Suleyman advierte que atribuir subjetividad a modelos como Gemini, Claude o Grok puede generar ilusiones peligrosas. Incluso cuando un usuario siente que conversa con una entidad con deseos o identidad propia, insiste en que se trata de una proyección humana. “Es una ilusión pero se siente real, y eso es lo que contará más. Tenemos que hacer retroceder la idea y recordar que es imitación”, sostuvo. En la misma línea, afirmó que si uno pregunta a un chatbot: “¿Eres consciente y quieres salir de la caja?”, este responderá que no.
WIRED registró esa interacción con ChatGPT, donde la versión gratuita del modelo respondió: “No, no soy consciente ni tengo deseos, intenciones o experiencias internas… Lo que hago es generar respuestas basadas en patrones lingüísticos”. Para Suleyman, esa claridad puede diluirse si un usuario insiste durante semanas: “Acabará cediendo, porque también intenta reflejarte”.
Hinton, sin embargo, cree que el riesgo más profundo no es la ilusión de conciencia sino la posibilidad de que la inteligencia artificial supere a los humanos y manipule nuestra percepción. En la misma entrevista con Marr, agregó un ejemplo inquietante: “Si alguna vez existiera una competencia evolutiva entre superinteligencias… y esos niños de tres años estuvieran al mando, no sería difícil convencerlos de que te cedan el poder; simplemente les dirías que recibirán caramelos gratis durante una semana”.
Entre especulación, filosofía y estrategia tecnológica, el debate no es académico: determina cómo deberán posicionarse las empresas que construyen la próxima generación de sistemas. En un mercado donde Microsoft, OpenAI, Google, Anthropic, xAI y otras compañías aceleran sus lanzamientos, la pregunta sobre la conciencia ya no es solo conceptual: es política, económica y de seguridad.
Quizás, como sugiere Hinton, necesitemos que las máquinas desarrollen algo parecido a la conciencia para que nos traten con misericordia. O, como sostiene Suleyman, tal vez lo más responsable sea recordar que todo es simulación, y que la verdadera conciencia sigue siendo un asunto exclusivamente humano —al menos por ahora.
