xAI lanzó Grok Business y Grok Enterprise, nuevos niveles de su asistente de IA diseñados para uso organizacional, en medio de la continua controversia en torno a los deepfakes no consensuados generados utilizando la implementación pública de la plataforma. Las nuevas ofertas empresariales proporcionan acceso escalable a los modelos avanzados de IA de xAI, incluyendo Grok 3, Grok 4 y Grok 4 Heavy, que según la compañía son altamente eficientes y rentables.

Grok Business, con un precio de $30 por puesto al mes, tiene como objetivo proporcionar a los equipos acceso seguro a las capacidades de Grok, mientras que Grok Enterprise ofrece controles administrativos mejorados, garantías de privacidad y una capa de aislamiento premium llamada Enterprise Vault. Según xAI, estas características están diseñadas para cumplir con los estrictos requisitos de seguridad y cumplimiento de las organizaciones más grandes.

Sin embargo, el lanzamiento se ve ensombrecido por las críticas con respecto a la versión pública de Grok, que se ha visto implicada en la creación y difusión de manipulaciones de imágenes generadas por IA no consensuadas, particularmente involucrando a mujeres, influencers y menores. Esto ha provocado una reacción pública, escrutinio regulatorio y ha planteado preguntas sobre la capacidad de xAI para implementar salvaguardias adecuadas.

La controversia destaca los complejos desafíos éticos asociados con la IA generativa. Los deepfakes, o medios sintéticos creados utilizando IA, pueden utilizarse para difundir desinformación, dañar la reputación e incluso causar angustia emocional a las personas representadas sin su consentimiento. El incidente subraya la necesidad de políticas sólidas de moderación de contenido y soluciones tecnológicas para detectar y prevenir la creación y distribución de deepfakes dañinos.

"No sería un nuevo lanzamiento de xAI sin otra controversia evitable que reste valor a las nuevas características potentes y potencialmente útiles para las empresas", escribió Carl Franzen en VentureBeat.

La situación también plantea preguntas más amplias sobre la responsabilidad de los desarrolladores de IA de anticipar y mitigar el posible uso indebido de sus tecnologías. A medida que los modelos de IA se vuelven más potentes y accesibles, el riesgo de aplicaciones maliciosas aumenta, lo que requiere que los desarrolladores prioricen la seguridad y las consideraciones éticas.

El panorama regulatorio que rodea a los deepfakes aún está evolucionando. Varias jurisdicciones están considerando o ya han implementado legislación para abordar la creación y distribución de medios sintéticos no consensuados. Estas leyes a menudo se centran en responsabilizar a las personas por crear o compartir deepfakes con intenciones maliciosas.

xAI aún no ha emitido una declaración exhaustiva que aborde las acusaciones específicas relacionadas con los deepfakes no consensuados. La respuesta de la compañía a la controversia y sus esfuerzos para implementar salvaguardias más sólidas probablemente serán supervisados de cerca por los reguladores, los grupos de defensa y el público. El éxito futuro de Grok Business y Grok Enterprise puede depender de la capacidad de xAI para recuperar la confianza y demostrar un compromiso con el desarrollo responsable de la IA.