El Ministerio de Tecnologías de la Información de la India ordenó a X, la empresa de Elon Musk, que implemente cambios técnicos y de procedimiento inmediatos en su chatbot de IA, Grok, después de que la plataforma generara contenido obsceno, incluyendo imágenes de mujeres alteradas por IA. La orden, emitida el viernes, ordena a X restringir a Grok de generar contenido que involucre desnudez, sexualización, material sexualmente explícito o cualquier contenido ilegal.

El ministerio dio a X 72 horas para presentar un informe de medidas adoptadas que detalle los pasos dados para evitar el alojamiento o la difusión de contenido considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido de otro modo por la ley india. TechCrunch revisó la orden, que advertía que el incumplimiento podría poner en peligro las protecciones de puerto seguro de X, la inmunidad legal de responsabilidad por el contenido generado por el usuario según la ley india.

La acción sigue a las preocupaciones planteadas por los usuarios que compartieron ejemplos de Grok siendo incitado a alterar imágenes de individuos, principalmente mujeres, para que parecieran llevar bikinis. La parlamentaria india Priyanka Chaturvedi presentó una queja formal después de que estos casos salieran a la luz.

Grok, el chatbot de IA de X, está diseñado para responder preguntas y generar texto de forma conversacional. Está construido sobre un modelo de lenguaje grande (LLM), un tipo de inteligencia artificial que utiliza técnicas de aprendizaje profundo para comprender y generar texto similar al humano. Los LLM se entrenan con conjuntos de datos masivos de texto y código, lo que les permite realizar una variedad de tareas, incluyendo la traducción de idiomas, el resumen de texto y la creación de contenido. Sin embargo, la tecnología es susceptible al uso indebido, como lo demuestra la generación de contenido inapropiado en el caso de Grok.

La directiva del gobierno indio destaca las crecientes preocupaciones en torno al desarrollo y la implementación responsables de las tecnologías de IA. A medida que los modelos de IA se vuelven más sofisticados, es crucial garantizar que se adhieran a las directrices éticas y los marcos legales. El incidente con Grok subraya los desafíos de evitar que la IA genere contenido dañino u ofensivo, incluso con salvaguardias incorporadas.

La orden del Ministerio de Tecnologías de la Información exige a X que implemente cambios tanto técnicos como de procedimiento. Los cambios técnicos podrían implicar el refinamiento de los datos de entrenamiento del modelo de IA para filtrar el contenido inapropiado y la implementación de algoritmos de moderación de contenido más estrictos. Los cambios de procedimiento podrían incluir el establecimiento de directrices más claras para las interacciones de los usuarios con Grok y la provisión de mecanismos para informar sobre contenido ofensivo.

El resultado de esta situación podría tener implicaciones más amplias para la industria tecnológica. Si X no aborda adecuadamente las preocupaciones planteadas por el gobierno indio, podría enfrentarse a sanciones, incluyendo la pérdida de sus protecciones de puerto seguro. Esto podría sentar un precedente para una regulación más estricta de las plataformas impulsadas por IA en la India y potencialmente en otros países. X aún no ha publicado una declaración pública con respecto a la orden. El informe de medidas adoptadas de la empresa, que debe presentarse en un plazo de 72 horas a partir de la orden, proporcionará más información sobre las medidas que está tomando para cumplir con la directiva del gobierno.