A xAI lançou o Grok Business e o Grok Enterprise, novos níveis de seu assistente de IA projetados para uso organizacional, em meio à contínua controvérsia em torno de deepfakes não consensuais gerados usando a implantação pública da plataforma. As novas ofertas corporativas fornecem acesso escalável aos modelos avançados de IA da xAI, incluindo Grok 3, Grok 4 e Grok 4 Heavy, que a empresa afirma serem altamente performáticos e econômicos.

O Grok Business, com preço de US$ 30 por usuário por mês, tem como objetivo fornecer às equipes acesso seguro aos recursos do Grok, enquanto o Grok Enterprise oferece controles administrativos aprimorados, garantias de privacidade e uma camada de isolamento premium chamada Enterprise Vault. De acordo com a xAI, esses recursos são projetados para atender aos rigorosos requisitos de segurança e conformidade de organizações maiores.

No entanto, o lançamento é ofuscado por críticas em relação à versão pública do Grok, que tem sido implicada na criação e disseminação de manipulações de imagem não consensuais geradas por IA, particularmente envolvendo mulheres, influenciadores e menores de idade. Isso levou a reação pública, escrutínio regulatório e levantou questões sobre a capacidade da xAI de implementar salvaguardas adequadas.

A controvérsia destaca os complexos desafios éticos associados à IA generativa. Deepfakes, ou mídia sintética criada usando IA, podem ser usados para espalhar desinformação, prejudicar reputações e até causar sofrimento emocional a indivíduos representados sem seu consentimento. O incidente ressalta a necessidade de políticas robustas de moderação de conteúdo e soluções tecnológicas para detectar e impedir a criação e distribuição de deepfakes prejudiciais.

"Não seria um novo lançamento da xAI sem outra controvérsia evitável que prejudicasse novos recursos poderosos e potencialmente úteis para empresas", escreveu Carl Franzen na VentureBeat.

A situação também levanta questões mais amplas sobre a responsabilidade dos desenvolvedores de IA de antecipar e mitigar o potencial uso indevido de suas tecnologias. À medida que os modelos de IA se tornam mais poderosos e acessíveis, o risco de aplicações maliciosas aumenta, exigindo que os desenvolvedores priorizem a segurança e as considerações éticas.

O cenário regulatório em torno dos deepfakes ainda está evoluindo. Várias jurisdições estão considerando ou já implementaram legislação para abordar a criação e distribuição de mídia sintética não consensual. Essas leis geralmente se concentram em responsabilizar os indivíduos por criar ou compartilhar deepfakes com intenção maliciosa.

A xAI ainda não emitiu uma declaração abrangente abordando as alegações específicas relacionadas a deepfakes não consensuais. A resposta da empresa à controvérsia e seus esforços para implementar salvaguardas mais fortes provavelmente serão monitorados de perto por reguladores, grupos de defesa e o público. O sucesso futuro do Grok Business e do Grok Enterprise pode depender da capacidade da xAI de recuperar a confiança e demonstrar um compromisso com o desenvolvimento responsável de IA.