La Malaisie et l'Indonésie ont bloqué l'accès à Grok, le chatbot d'intelligence artificielle développé par la plateforme X d'Elon Musk, en raison de préoccupations concernant sa capacité à générer des deepfakes sexuellement explicites. Les ministères des communications des deux pays ont annoncé ces interdictions dans des déclarations distinctes au cours du week-end, invoquant le potentiel d'utilisation abusive de l'outil d'IA pour créer des images pornographiques et non consensuelles, en particulier impliquant des femmes et des enfants.

Grok, qui permet aux utilisateurs de générer des images, aurait été utilisé pour modifier des images existantes de personnes, les représentant dans des situations révélatrices ou compromettantes. La Commission malaisienne des communications et du multimédia a déclaré dimanche avoir adressé des notifications à X plus tôt dans l'année, demandant des mesures plus strictes pour empêcher la "répétition de l'utilisation abusive" de Grok. Ces nations d'Asie du Sud-Est sont les premières à mettre en œuvre une telle interdiction de l'outil d'IA.

Les deepfakes, un produit des techniques avancées d'IA, utilisent l'apprentissage profond pour créer des images, des vidéos ou des enregistrements audio réalistes mais fabriqués. Cette technologie soulève d'importantes préoccupations éthiques, notamment en ce qui concerne le consentement, la vie privée et le potentiel d'utilisation malveillante, comme la diffusion de fausses informations ou la création de contenus diffamatoires. La capacité de l'IA à générer des contrefaçons hyperréalistes brouille la frontière entre la réalité et la fabrication, posant des défis aux individus et à la société pour discerner le contenu authentique des médias manipulés.

Les interdictions en Malaisie et en Indonésie soulignent les préoccupations internationales croissantes concernant l'utilisation abusive potentielle des technologies d'IA. Au Royaume-Uni, le secrétaire à la technologie a exprimé son soutien à une interdiction similaire de Grok, ce qui a suscité des critiques de la part de Musk, qui a accusé le gouvernement de tenter de supprimer la liberté d'expression. Ce débat souligne la tension entre la nécessité de réglementer l'IA pour prévenir les dommages et le désir de protéger la liberté d'expression.

Les mesures prises par la Malaisie et l'Indonésie reflètent une approche proactive pour lutter contre les dommages potentiels associés aux deepfakes générés par l'IA. Ces interdictions servent d'avertissement aux autres développeurs et plateformes d'IA quant à la nécessité de mettre en œuvre des mesures de protection pour empêcher l'utilisation abusive de leurs technologies. La situation reste fluide et l'on s'attend à ce que d'autres discussions et mesures réglementaires aient lieu à mesure que les gouvernements sont aux prises avec le paysage en évolution rapide de l'intelligence artificielle.