La división de IA de Google, dirigida por Demis Hassabis, dificulta que sus investigadores publiquen estudios en un cambio importante de enfoque.
La división de inteligencia artificial de Google, DeepMind, ha estado retrasando la publicación de su investigación de renombre mundial, ya que busca mantener una ventaja competitiva en la carrera por dominar la floreciente industria de la IA.El grupo, dirigido por el ganador del Premio Nobel Sir Demis Hassabis, ha introducido un proceso de investigación más estricto y más burocracia que ha dificultado la publicación de estudios sobre su trabajo en IA, según siete científicos investigadores actuales y anteriores de Google DeepMind.
Tres ex investigadores dijeron que el grupo era más reacio a compartir documentos que revelaran innovaciones que pudieran ser explotadas por competidores o que presentaran el propio modelo de inteligencia artificial Gemini de Google bajo una luz negativa en comparación con otros.
Los cambios representan un cambio significativo para DeepMind, que durante mucho tiempo se ha enorgullecido de su reputación de publicar artículos innovadores y de ser el hogar de los mejores científicos que desarrollan IA.
Mientras tanto, los enormes avances de los investigadores de Google (como su artículo “Transformers” de 2017 que proporcionó la arquitectura detrás de los grandes modelos de lenguaje) desempeñaron un papel central en la creación del auge actual de la IA generativa. Desde entonces, DeepMind se ha convertido en un elemento central del esfuerzo de su empresa matriz por capitalizar la tecnología de vanguardia, ya que los inversores expresaron su preocupación por que el gran grupo tecnológico hubiera cedido su liderazgo inicial a empresas como OpenAI, creador de ChatGPT.
«No me imagino publicando los documentos sobre transformadores para uso general ahora», declaró un investigador actual. Entre los cambios en las políticas de publicación de la empresa se encuentra un embargo de seis meses antes de la publicación de artículos «estratégicos» relacionados con la IA generativa.
Los investigadores también suelen tener que convencer a varios miembros del personal de las ventajas de la publicación, según dos personas con conocimiento del tema.
Una persona cercana a DeepMind afirmó que los cambios beneficiaron a los investigadores que se habían frustrado al dedicar tiempo a trabajos que no serían aprobados por razones estratégicas o competitivas. Añadió que la empresa aún publica cientos de artículos al año y es una de las principales contribuyentes a las principales conferencias de IA.
La preocupación de que Google se estuviera quedando atrás en la carrera de la IA contribuyó a la fusión de las unidades DeepMind, con sede en Londres, y Brain AI, con sede en California, en 2023. Desde entonces, ha sido más rápido lanzar una amplia gama de productos con IA.
“La empresa se ha vuelto más preocupada por el producto y menos por difundir los resultados de la investigación para el bien común”, dijo un excientífico investigador de DeepMind. “No es lo que yo esperaba”.
DeepMind afirmó que “siempre ha estado comprometido con el avance de la investigación en IA y estamos implementando actualizaciones a nuestras políticas que preservan la capacidad de nuestros equipos de publicar y contribuir al ecosistema de investigación más amplio”.
Si bien la empresa contaba con un proceso de revisión de publicaciones antes de la fusión de DeepMind con Brain, el sistema se ha vuelto más burocrático, según personas con conocimiento de los cambios. Ex empleados sugirieron que los nuevos procesos habían frenado la publicación de investigaciones comercialmente sensibles para evitar la filtración de posibles innovaciones. Uno de ellos afirmó que publicar artículos sobre IA generativa era «casi imposible».
En un incidente, DeepMind detuvo la publicación de una investigación que mostraba que el modelo de lenguaje Gemini de Google no es tan capaz o es menos seguro que sus rivales, especialmente GPT-4 de OpenAI, según un empleado actual.
Sin embargo, el empleado agregó que también había bloqueado un documento que revelaba vulnerabilidades en ChatGPT de OpenAI, por temor a que la publicación pareciera un ataque hostil de ojo por ojo.
Una persona cercana a DeepMind dijo que no bloqueaban artículos que discutían vulnerabilidades de seguridad, y agregó que rutinariamente publican dichos trabajos bajo una “política de divulgación responsable”, en la que los investigadores deben dar a las empresas la oportunidad de corregir cualquier falla antes de hacerlas públicas.
Sin embargo, las restricciones han inquietado a algunos empleados, cuyo éxito se ha medido durante mucho tiempo por su aparición en revistas científicas de primer nivel. Personas con conocimiento del tema afirmaron que los nuevos procesos de revisión habían contribuido a algunas salidas.
«Si no puedes publicar, si eres investigador, eso acaba con tu carrera», dijo un ex investigador. Algunos ex empleados agregaron que los proyectos enfocados en mejorar su suite Gemini de productos con inteligencia artificial fueron cada vez más priorizados en la batalla interna por el acceso a conjuntos de datos y poder de cómputo.
En los últimos años, Google ha lanzado una gama de productos basados en IA que han impresionado al mercado. Esto incluye la mejora de sus resúmenes generados por IA que aparecen sobre los resultados de búsqueda, hasta la presentación de un agente de IA «Astra» que puede responder consultas en tiempo real en vídeo, audio y texto.
El precio de las acciones de la compañía ha aumentado hasta un tercio durante el último año, aunque estas ganancias se han frenado en las últimas semanas debido al impacto de la preocupación por los aranceles estadounidenses en las acciones tecnológicas.
En los últimos años, Hassabis ha equilibrado el deseo de los líderes de Google de comercializar sus avances con su misión de vida de intentar crear inteligencia artificial general: sistemas de IA con capacidades que puedan igualar o superar a los humanos.
“Cualquier cosa que se interponga en su camino, la eliminará”, dijo un empleado actual. “Le dice a la gente que esto es una empresa, no un campus universitario; si quieren trabajar en un lugar así, mejor que se vayan”.
Fuente: Financial Times