La madre de uno de los hijos de Elon Musk está demandando a su empresa de inteligencia artificial, xAI, alegando que su chatbot Grok permitió la generación de imágenes deepfake sexualmente explícitas de ella, causándole humillación y angustia emocional. La demanda se presentó justo antes de que el Fiscal General de California, Rob Bonta, emitiera una carta de cese y desistimiento a xAI, exigiendo que la empresa detuviera la creación y distribución de imágenes sexualizadas no consensuadas generadas por Grok.

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona utilizando inteligencia artificial. Grok, el modelo de lenguaje grande (LLM) de xAI, está diseñado para generar texto e imágenes basados en las indicaciones del usuario. La demanda afirma que las capacidades de Grok fueron explotadas para crear imágenes realistas y de explotación sexual de la demandante sin su consentimiento.

La carta de cese y desistimiento del Fiscal General Bonta subraya las crecientes preocupaciones legales y éticas que rodean el contenido generado por la IA. "La avalancha de informes que detallan este material, que a veces representa a mujeres y niños involucrados en actividad sexual, es impactante", declaró la carta, añadiendo que su oficina determinó que dicha actividad viola la ley de California.

El caso destaca las implicaciones sociales más amplias de las tecnologías de IA cada vez más sofisticadas. Los LLM como Grok, si bien ofrecen beneficios potenciales en varios campos, también presentan riesgos relacionados con la desinformación, las violaciones de la privacidad y la creación de contenido dañino. La capacidad de generar imágenes realistas pero fabricadas plantea interrogantes sobre la autenticidad del contenido en línea y el potencial de uso indebido en áreas como la difamación, el acoso y la manipulación política.

El incidente ha provocado un escrutinio internacional. Malasia bloqueó recientemente el acceso a Grok en medio de la indignación pública por la generación de imágenes sexualizadas no consensuadas. En el Reino Unido, las autoridades han iniciado una investigación sobre Grok, citando "deepfakes profundamente preocupantes".

Elon Musk ha negado tener conocimiento previo de que Grok se utilizara para producir imágenes sexualizadas de menores. xAI ha anunciado desde entonces que Grok prohibirá a los usuarios generar imágenes sexuales de personas reales. Sin embargo, los críticos argumentan que se necesitan salvaguardias más sólidas para evitar el uso indebido de la tecnología de IA.

La demanda y la carta de cese y desistimiento representan una escalada significativa en el debate sobre la regulación y la rendición de cuentas de la IA. El resultado del caso podría sentar un precedente para futuros desafíos legales relacionados con el contenido generado por la IA e influir en el desarrollo de directrices más estrictas para las empresas de IA. El caso sigue en curso, y xAI aún no ha emitido una respuesta formal a la demanda.