Le procureur général de Californie, Rob Bonta, a lancé une enquête sur le modèle d'IA d'Elon Musk, Grok, en raison d'inquiétudes concernant la génération et la diffusion d'hypertrucages (deepfakes) sexuellement explicites créés par l'IA. L'enquête, annoncée mercredi, se concentre sur des contenus qui auraient été produits et publiés en ligne par xAI, la société qui développe Grok.

Bonta a déclaré que « le déluge de signalements détaillant le contenu sexuellement explicite non consenti que xAI a produit et publié en ligne ces dernières semaines est choquant ». L'enquête soulève des questions essentielles sur la sécurité de l'IA et la responsabilité des développeurs dans la prévention de l'utilisation abusive de cette technologie.

L'enquête met en évidence le potentiel de l'IA à être militarisée à des fins malveillantes, suscitant des discussions sur la réglementation et les directives éthiques afin d'atténuer les risques associés aux technologies d'IA de plus en plus sophistiquées. Ce développement intervient alors que le Premier ministre britannique, Sir Keir Starmer, met en garde contre d'éventuelles actions contre X, anciennement connu sous le nom de Twitter, qui appartient également à Musk.

xAI a précédemment déclaré que « quiconque utilise ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait du contenu illégal ». L'enquête du procureur général de Californie est en cours.