El gobierno indio ordenó a la red social de Elon Musk realizar cambios urgentes en Grok, su chatbot de inteligencia artificial, tras denuncias por generación de imágenes sexualizadas y contenido ilegal. La decisión vuelve a poner en el centro del debate la responsabilidad de las plataformas frente al uso de IA generativa.
India dio un paso firme en su estrategia de control sobre los contenidos generados por inteligencia artificial al ordenar a X, la red social propiedad de Elon Musk, que implemente de manera inmediata cambios técnicos y procedimentales en Grok, su chatbot de IA. La decisión se produjo luego de que usuarios y legisladores alertaran sobre la generación de contenido considerado “obsceno”, incluyendo imágenes de mujeres alteradas por IA y material sexualizado prohibido por la legislación local.
La orden fue emitida el viernes por el Ministerio de Tecnologías de la Información (IT Ministry) de la India, que exigió a X restringir la generación de contenidos vinculados con “desnudez, sexualización, material sexualmente explícito o de otro modo ilegal”. Además, el organismo otorgó un plazo de 72 horas para que la compañía presente un informe detallado de las medidas adoptadas para evitar la publicación o difusión de material “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo u otro contenido prohibido por la ley”.
El documento, revisado por TechCrunch, advierte que el incumplimiento podría poner en riesgo las protecciones de “puerto seguro” de las que goza X en la India, un marco legal que otorga inmunidad a las plataformas frente a la responsabilidad por contenidos generados por usuarios, siempre que cumplan con las normas vigentes.
La intervención del gobierno se produjo tras múltiples denuncias de usuarios que compartieron ejemplos en los que Grok era utilizado para modificar imágenes de personas —principalmente mujeres— con el objetivo de hacerlas parecer vestidas con bikinis. El caso escaló políticamente cuando la parlamentaria india Priyanka Chaturvedi presentó una queja formal ante las autoridades.
En paralelo, informes recientes también señalaron que el chatbot había generado imágenes sexualizadas que involucraban a menores de edad. X reconoció el viernes que esos episodios se debieron a fallas en sus mecanismos de protección y aseguró que las imágenes fueron retiradas. Sin embargo, al momento de la publicación de la orden, TechCrunch constató que seguían siendo accesibles en X otras imágenes generadas por Grok que alteraban fotos de mujeres para sexualizarlas mediante IA.
La decisión contra Grok no es un hecho aislado. Días antes, el lunes, el Ministerio de IT había emitido una advertencia general dirigida a plataformas de redes sociales, recordando que el cumplimiento de las leyes locales sobre contenido obsceno y sexualmente explícito es un requisito indispensable para conservar la inmunidad legal. En ese comunicado, el gobierno instó a las compañías tecnológicas a reforzar sus salvaguardas internas y advirtió que el incumplimiento podría derivar en acciones legales bajo las leyes informáticas y penales de la India.
“Se reitera que el incumplimiento de los requisitos mencionados será considerado grave y puede resultar en estrictas consecuencias legales contra su plataforma, sus funcionarios responsables y los usuarios que violen la ley, sin necesidad de aviso adicional”, señala textualmente la orden oficial.
Desde el gobierno indio también se remarcó que la falta de cumplimiento podría derivar en acciones directas contra X en virtud de la ley de tecnologías de la información y del código penal del país.
Con más de 1.400 millones de habitantes y uno de los ecosistemas digitales más grandes del mundo, la India se ha convertido en un caso testigo para evaluar hasta dónde están dispuestos a llegar los Estados para responsabilizar a las plataformas por el contenido generado mediante inteligencia artificial. Un endurecimiento de la aplicación de las normas en este mercado podría tener efectos en cadena para las grandes tecnológicas que operan a nivel global.
El conflicto se produce, además, en un contexto complejo para la empresa de Elon Musk. X continúa impugnando judicialmente algunos aspectos de las reglas de moderación de contenidos en la India, argumentando que los amplios poderes de bloqueo del gobierno federal pueden derivar en abusos. Aun así, la plataforma ha cumplido con la mayoría de las órdenes de restricción emitidas por las autoridades.
Mientras tanto, Grok ha ganado protagonismo entre los usuarios de X como una herramienta para verificación de datos en tiempo real y para comentar eventos noticiosos, lo que hace que sus respuestas sean más visibles y políticamente sensibles que las de otros sistemas de IA que operan de forma independiente.
Consultadas por la orden del gobierno indio, ni X ni xAI —la empresa de inteligencia artificial impulsada por Musk— respondieron de inmediato a los pedidos de comentarios. El episodio refuerza el debate global sobre los límites de la IA generativa y la creciente presión regulatoria que enfrentan las grandes plataformas tecnológicas.