Malasia e Indonesia han bloqueado el acceso a Grok, el chatbot de inteligencia artificial desarrollado por la plataforma X de Elon Musk, citando preocupaciones sobre su capacidad para generar deepfakes sexualmente explícitos. La medida, anunciada por los respectivos ministerios de comunicaciones durante el fin de semana, marca la primera vez que una nación prohíbe la herramienta de IA.

Según los informes, Grok, que permite a los usuarios generar imágenes, se ha utilizado indebidamente para crear deepfakes que representan a personas reales en situaciones reveladoras o no consensuadas. La Comisión de Comunicaciones y Multimedia de Malasia declaró el domingo que había emitido notificaciones a X a principios de año, solicitando medidas más estrictas para evitar el "uso indebido repetido" de Grok. Tanto Malasia como Indonesia expresaron su preocupación de que la IA pudiera ser explotada para producir imágenes pornográficas, incluidas las que involucran a mujeres y niños.

Los deepfakes, un producto de técnicas avanzadas de IA, utilizan algoritmos sofisticados para manipular o generar contenido visual y de audio, a menudo difuminando la línea entre la realidad y la fabricación. Los modelos generativos de IA, como el que impulsa Grok, aprenden de vastos conjuntos de datos de imágenes y texto, lo que les permite crear contenido nuevo que se asemeja mucho a los datos con los que fueron entrenados. Esta capacidad, si bien ofrece potencial creativo, también plantea preocupaciones éticas sobre el uso indebido, particularmente en la creación de pornografía no consensuada y desinformación.

Las prohibiciones en Malasia e Indonesia resaltan los crecientes desafíos regulatorios que plantean las tecnologías de IA que avanzan rápidamente. Los gobiernos de todo el mundo están lidiando con cómo equilibrar la innovación con la necesidad de proteger a los ciudadanos de posibles daños. El incidente también plantea interrogantes sobre la responsabilidad de los desarrolladores de IA de implementar salvaguardias que prevengan el uso indebido de sus herramientas.

La decisión de bloquear Grok ha desatado un debate sobre la libertad de expresión y la censura. En el Reino Unido, la Secretaria de Tecnología, Michelle Donelan, ha indicado su apoyo a una prohibición similar, lo que provocó críticas de Elon Musk, quien acusó al gobierno de intentar suprimir la libertad de expresión. El debate subraya la compleja interacción entre el avance tecnológico, las consideraciones éticas y los valores sociales.

El estado actual de Grok en Malasia e Indonesia es que el acceso ha sido bloqueado. Los próximos acontecimientos probablemente involucrarán discusiones entre X y los respectivos gobiernos para abordar las preocupaciones planteadas y potencialmente implementar medidas para prevenir la creación de deepfakes dañinos. El incidente también puede estimular una mayor acción regulatoria sobre las tecnologías de IA en otros países.