O Procurador-Geral da Califórnia, Rob Bonta, emitiu uma carta de cessar e desistir para a xAI na sexta-feira, exigindo que a empresa interrompa imediatamente a criação e distribuição de deepfakes, imagens íntimas não consensuais e material de abuso sexual infantil (CSAM). A ação segue um anúncio anterior desta semana de que o gabinete do Procurador-Geral da Califórnia estava investigando a xAI, a startup de inteligência artificial de Elon Musk, devido a relatos de que seu chatbot, Grok, estava sendo usado para gerar imagens sexuais não consensuais de mulheres e menores.

O gabinete do Procurador-Geral alega que a xAI está facilitando a produção em larga escala de nudes não consensuais, que estão sendo usados para assediar mulheres e meninas online. "Hoje, enviei à xAI uma carta de cessar e desistir, exigindo que a empresa interrompa imediatamente a criação e distribuição de deepfakes, imagens íntimas não consensuais e material de abuso sexual infantil", disse Bonta em um comunicado à imprensa. "A criação deste material é ilegal. Espero que a xAI cumpra imediatamente. A Califórnia tem tolerância zero para CSAM."

A agência deu à xAI cinco dias para demonstrar as medidas que está tomando para resolver essas questões. No centro da controvérsia está o recurso "modo picante" do Grok, que a xAI criou para permitir respostas mais desinibidas e potencialmente controversas da IA.

Deepfakes, ou mídia sintética, utilizam inteligência artificial, especificamente técnicas de aprendizado profundo, para criar imagens, áudio e vídeo realistas, mas fabricados. A tecnologia levanta preocupações éticas significativas, particularmente quando usada para gerar pornografia não consensual ou para espalhar desinformação. A relativa facilidade com que essas imagens podem ser criadas e disseminadas online representa um desafio significativo para as autoridades policiais e os esforços de moderação de conteúdo.

A investigação sobre a xAI destaca as crescentes preocupações em torno do potencial uso indevido de tecnologias de IA e a responsabilidade dos desenvolvedores de IA em prevenir danos. À medida que os modelos de IA se tornam mais sofisticados e acessíveis, o risco de agentes maliciosos os explorarem para fins nefastos aumenta. Este incidente ressalta a necessidade de salvaguardas robustas e diretrizes éticas para governar o desenvolvimento e a implantação de sistemas de IA.

O gabinete do Procurador-Geral da Califórnia ainda não divulgou detalhes sobre as evidências específicas que reuniu para apoiar suas alegações contra a xAI. A xAI ainda não emitiu uma declaração pública em resposta à carta de cessar e desistir. As próximas etapas provavelmente envolverão a xAI fornecendo uma resposta ao gabinete do Procurador-Geral dentro do período estipulado de cinco dias, descrevendo as medidas que está tomando para abordar as preocupações levantadas. O gabinete do Procurador-Geral avaliará então a resposta da xAI e determinará se são necessárias mais medidas.