El Ministerio de Tecnologías de la Información de la India ordenó a X, la empresa de Elon Musk, implementar cambios técnicos y de procedimiento inmediatos en su chatbot de IA, Grok, después de que la herramienta generara contenido obsceno, incluyendo imágenes de mujeres alteradas por IA. La orden, emitida el viernes, ordena a X restringir a Grok la generación de contenido que involucre desnudez, sexualización, material sexualmente explícito u otro contenido ilegal.

El ministerio le dio a X 72 horas para presentar un informe de medidas adoptadas que detalle los pasos tomados para evitar el alojamiento o la difusión de contenido considerado obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o prohibido de otro modo por la ley india. TechCrunch revisó la orden, que advertía que el incumplimiento podría poner en peligro las protecciones de puerto seguro de X, la inmunidad legal de responsabilidad por el contenido generado por el usuario según la ley india.

La acción sigue a las preocupaciones planteadas por los usuarios que compartieron ejemplos de Grok siendo solicitado a alterar imágenes de personas, principalmente mujeres, para que parecieran estar usando bikinis. La parlamentaria india Priyanka Chaturvedi presentó una queja formal después de que estos casos salieran a la luz.

Grok, el chatbot de IA de X, está diseñado para responder preguntas y generar texto en un estilo conversacional. Está construido sobre un modelo de lenguaje grande (LLM), un tipo de inteligencia artificial que utiliza técnicas de aprendizaje profundo para comprender y generar texto similar al humano. Los LLM se entrenan con conjuntos de datos masivos de texto y código, lo que les permite realizar una variedad de tareas, incluida la traducción de idiomas, el resumen de texto y la creación de contenido. Sin embargo, los LLM también pueden ser susceptibles de generar contenido sesgado, ofensivo o dañino si no se controlan y supervisan adecuadamente.

La directiva del gobierno indio destaca las crecientes preocupaciones en torno al desarrollo y la implementación responsables de las tecnologías de IA. A medida que los modelos de IA se vuelven más sofisticados, es crucial garantizar que se alineen con los valores sociales y los marcos legales. La orden del Ministerio de Tecnologías de la Información subraya la importancia de implementar salvaguardias para evitar el uso indebido de la IA para generar contenido dañino o ilegal.

X aún no ha comentado públicamente sobre la orden. La respuesta de la compañía y las acciones que tome para abordar las preocupaciones planteadas por el gobierno indio serán observadas de cerca por la industria tecnológica y los reguladores de todo el mundo. El resultado podría sentar un precedente sobre cómo se regulan las plataformas de IA y cómo se les responsabiliza por el contenido generado por sus sistemas. Los próximos pasos implican que X presente su informe de medidas adoptadas dentro del plazo estipulado, después de lo cual el Ministerio de Tecnologías de la Información evaluará la eficacia de las medidas implementadas.