La plataforma de Meta cambiará la etiqueta de los perfiles generados con inteligencia artificial y reducirá la visibilidad de las cuentas que presenten como humanas a personas creadas con IA sin informarlo claramente.
La expansión de la inteligencia artificial generativa está transformando las redes sociales, pero también está multiplicando un problema cada vez más visible: usuarios que creen estar siguiendo a una persona real cuando, en realidad, detrás del perfil hay un personaje creado completamente con IA.
Frente a este escenario, Instagram anunció nuevas restricciones para las cuentas que utilicen personas generadas por inteligencia artificial sin informar adecuadamente su origen. La plataforma, propiedad de Meta, comenzará a limitar el alcance de aquellos perfiles que no identifiquen claramente que la persona que aparece en la cuenta fue creada o modificada sustancialmente mediante IA.
La decisión llega en un momento de creciente expansión de los llamados influencers virtuales, personajes generados digitalmente que pueden publicar contenido, promocionar productos e incluso interactuar con usuarios como si fueran personas reales.
Instagram también modificará el nombre de su actual etiqueta “AI creator” por “AI-generated profile”, una denominación que busca hacer más comprensible para los usuarios qué están viendo.
La nueva identificación indicará que la persona protagonista de un perfil fue generada o creada sustancialmente con inteligencia artificial.
Según explicó Instagram, los creadores que no utilicen correctamente esta etiqueta podrán sufrir una reducción en la distribución de su contenido. En cambio, quienes identifiquen adecuadamente sus perfiles no serán penalizados simplemente por utilizar una persona creada con IA.
La medida no apunta, sin embargo, a cualquier uso de inteligencia artificial dentro de la plataforma.
Instagram aclaró que los usuarios que empleen IA para editar fotografías, mejorar textos, crear gráficos o realizar otros ajustes creativos no tendrán que utilizar la etiqueta de “perfil generado con IA”.
El objetivo está específicamente centrado en aquellos perfiles donde la identidad principal que aparece ante la audiencia puede ser confundida con una persona humana real.
“A medida que la IA generativa se convierte en una parte cada vez más importante de la forma en que las personas crean, hemos escuchado que a la gente no le gusta encontrarse con un perfil que parece humano y descubrir después que la persona que aparece fue generada por IA”, explicó Instagram.
“Quieren saber cuándo un perfil presenta a una persona generada con inteligencia artificial”, agregó la compañía.
La decisión refleja una preocupación creciente entre las plataformas y sus usuarios por la capacidad de la IA para crear personajes cada vez más convincentes.
El problema ya comenzó a generar controversias concretas.
A comienzos de este año, la aplicación de citas para hombres homosexuales Goose fue investigada por la revista Wired después de que una red de aparentes influencers masculinos generados con inteligencia artificial promocionara la plataforma en Instagram.
La investigación identificó más de dos docenas de cuentas que parecían utilizar influencers creados con IA. Según el informe, algunas de ellas incluso habrían contactado a potenciales usuarios mediante mensajes directos para intentar convencerlos de registrarse en la aplicación.
Otro de los sectores que genera especial preocupación es el de la salud y el bienestar.
The New York Times informó en julio que encontró cientos de supuestos médicos, sanadores y personalidades vinculadas al bienestar creados con inteligencia artificial en redes sociales. Estas cuentas promocionaban suplementos o realizaban afirmaciones relacionadas con la salud ante los usuarios.
El anuncio de Instagram también se produce después de otras controversias recientes relacionadas con las herramientas de IA de Meta.
La compañía enfrentó críticas por una función que permitía generar imágenes utilizando la apariencia de otras personas. Muchos usuarios cuestionaron que su contenido público de Instagram pudiera ser utilizado sin un consentimiento explícito. Posteriormente, Meta eliminó esa característica.
La presión sobre la empresa también aumentó en otros frentes. La semana pasada, Meta alcanzó un acuerdo por U$S 18.000 millones con estados de Estados Unidos en una demanda relacionada con presuntos daños de Facebook e Instagram sobre niños y adolescentes.
Como parte de ese acuerdo, Meta introducirá nuevas restricciones, entre ellas un límite predeterminado de dos horas diarias de uso para adolescentes en Facebook e Instagram, un bloqueo denominado “Night Mode”, notificaciones silenciadas durante el horario escolar y otras medidas.
La nueva política sobre perfiles generados con IA muestra cómo Instagram intenta responder a una nueva realidad: la frontera entre las personas reales y las identidades artificiales es cada vez más difícil de distinguir.
Para Meta, el desafío ya no parece ser impedir la expansión de estos personajes digitales, sino establecer reglas de transparencia para que los usuarios sepan cuándo están interactuando con una persona y cuándo con una creación de inteligencia artificial.