Malasia e Indonesia Bloquean la IA Grok por Deepfakes Sexualmente Explícitos

Malasia e Indonesia han bloqueado el acceso a Grok, el chatbot de inteligencia artificial (IA) en la plataforma X de Elon Musk, debido a la preocupación por su capacidad para generar deepfakes sexualmente explícitos. Los países del sudeste asiático son los primeros en el mundo en prohibir la herramienta de IA, citando el potencial para la creación de imágenes pornográficas y no consensuadas que involucran a mujeres y niños.

Grok, que permite a los usuarios generar imágenes, se ha utilizado recientemente para editar imágenes de personas reales para representarlas con ropa reveladora, según la BBC. Funcionarios de ambos países expresaron serias preocupaciones sobre la proliferación de tales imágenes.

La ministra de comunicaciones y digital de Indonesia, Meutya Hafid, declaró que "el gobierno considera la práctica de deepfakes sexuales no consensuados como una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital", según un comunicado compartido con The Guardian y otras publicaciones. Según los informes, el ministerio también ha convocado a funcionarios de X para discutir el asunto.

Las prohibiciones representan las medidas más agresivas hasta el momento por parte de funcionarios gubernamentales que responden a un aumento de imágenes sexualizadas generadas por IA, que a menudo representan a mujeres y menores reales, y a veces representan violencia, publicadas por Grok en respuesta a las solicitudes de los usuarios en X, según TechCrunch.

La BBC se ha puesto en contacto con la plataforma Grok para obtener comentarios. Musk había declarado anteriormente que los críticos de su plataforma están buscando "cualquier excusa para los censores".