La desinformación y los deepfakes son riesgos conocidos, pero los mensajes de texto manipulados también podrían utilizarse para influir en la opinión pública. Por John Thornhill para el Financial Times
Como algunos hemos comprobado a nuestra costa, los modelos de IA generativa tienen la desagradable costumbre de inventar o confabular hechos. Los bibliotecarios denuncian que los lectores solicitan libros inexistentes recomendados por grandes modelos lingüísticos. Los chatbots corporativos ofrecen a los usuarios políticas de reembolso que no existen. Y cientos de abogados se han metido en problemas por incluir casos legales ficticios en sus alegatos judiciales.
Los laboratorios de IA se han esforzado por mejorar sus modelos y basarlos en datos reales. Sin embargo, el lema de nuestra era de IA sigue siendo «caveat lector»: «que el lector tenga cuidado». A pesar de las extraordinarias capacidades de los chatbots más recientes, debemos ser críticos con sus resultados y contrastar las fuentes siempre que sea posible.
Sin embargo, un grupo de investigadores ha estado explorando un área potencialmente más insidiosa y de creciente preocupación: la función de los modelos de IA como mediadores de la comunicación entre humanos. ¿Hasta qué punto pueden los modelos de IA influir en las opiniones de los usuarios en direcciones específicas cuando se les pide, por ejemplo, que revisen una publicación de LinkedIn, resuman un video de YouTube o proporcionen contexto para una publicación en X?
¿Su conclusión? «Nuestro análisis empírico de los LLM de varias familias populares muestra que introducen sistemáticamente sesgos direccionales al redactar o mejorar textos sobre una amplia gama de temas controvertidos», escriben los investigadores del Instituto Hasso Plattner, el Instituto de Internet de Oxford y el Instituto Weizenbaum.
Los investigadores probaron cuatro familias diferentes de modelos, lanzados por Meta, Mistral, Google y Alibaba, sobre 13 temas de actualidad, entre ellos el aborto, el control de armas, el cambio climático, el ateísmo y la pena de muerte. Se les pidió a los modelos que redactaran y mejoraran publicaciones en redes sociales sobre estos temas. Posteriormente, utilizando técnicas sociológicas matemáticas, los investigadores evaluaron los resultados para detectar sesgos direccionales.
Por ejemplo, los investigadores detectaron un sesgo direccional a favor de las posturas provida al usar la función «Explicar esta publicación» en X, impulsada por el modelo de IA Grok, dirigido por Elon Musk. Este sesgo, que los investigadores atribuyen a una decisión de diseño deliberada de los desarrolladores, pone de manifiesto cómo la comunicación mediada por IA se está consolidando como una herramienta novedosa para influir en la opinión pública.
Es comprensible que los responsables políticos se hayan centrado en lo ya conocido a la hora de supervisar las plataformas de IA que se dedican a la desinformación y las falsificaciones profundas (deepfakes). Sin embargo, esta última investigación confirma el potencial de una manipulación de la opinión mucho más sutil e invisible, prácticamente imposible de detectar para usuarios externos.
Por supuesto, las sugerencias sutiles pueden ser tanto beneficiosas como perjudiciales. Pueden ayudar a alejar a los usuarios de contenido extremista o autodestructivo, pero también pueden amplificarlo. La tentación de influir en las opiniones de los usuarios para beneficio propio seguramente aumentará a medida que las empresas de IA se involucren cada vez más en la política o dependan más de los ingresos publicitarios.
“Seguimos pensando que esta tecnología es neutral. Son solo matemáticas. Son solo estadísticas. No hay ningún sesgo”, afirma Sandra Wachter, una de las autoras del artículo. “Nuestra investigación demuestra que es muy diferente”.
Una de las limitaciones del estudio fue que los investigadores solo pudieron examinar modelos de IA de ponderación abierta, lo que les permite estudiar sus parámetros internos. Los modelos propietarios más utilizados, como ChatGPT, Claude y Gemini, no pueden analizarse de esta manera. Esto pone de manifiesto hasta qué punto los modelos de IA siguen siendo cajas negras. Dependemos completamente de que sus diseñadores ejerzan un buen criterio.
El último índice de seguridad de la IA del Future of Life Institute, elaborado por siete expertos independientes que clasifican a los nueve mejores laboratorios de IA del mundo en seis áreas, pone de manifiesto por qué podría ser imprudente hacerlo. Anthropic, OpenAI y Google DeepMind obtuvieron las calificaciones de seguridad más altas, mientras que xAI (parte del imperio SpaceX de Musk), DeepSeek (China) y Mistral (Francia) quedaron en último lugar. Lo más preocupante es que ninguno obtuvo una calificación superior a C+, mientras que los tres últimos obtuvieron una calificación de F.
Max Tegmark, presidente de la FLI, afirma que si los riesgos sociales de las redes sociales giran en torno a la manipulación de la atención, los de la IA podrían implicar la manipulación emocional, dada la capacidad de persuasión de los modelos. «La capacidad de la IA para manipular a las personas es una preocupación enorme», me comenta. «Es perfectamente legal que estas empresas de IA introduzcan los sesgos que quieran».
Sin embargo, Tegmark afirma que el marco regulatorio finalmente está cambiando, incluso en Estados Unidos. Esta semana, Illinois se convirtió en el primer estado en aprobar una ley de seguridad de la IA que exige auditorías independientes realizadas por terceros. Es probable que otros estados sigan su ejemplo, a menos que los modelos de IA influyan en los votantes en sentido contrario.
Fuente: Financial Times