Según un anuncio en X, la herramienta de IA Grok de Elon Musk ya no podrá editar fotos de personas reales para mostrarlas con ropa reveladora en jurisdicciones donde tales alteraciones sean ilegales. La decisión se produce tras la preocupación generalizada por el potencial de deepfakes sexualizados generados por la plataforma.

X, la plataforma de redes sociales propiedad de Elon Musk, declaró que ha implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora. La compañía lanzó Grok en 2023.

El gobierno del Reino Unido respondió al cambio, calificándolo de "justificación" de su llamamiento a X para que controle a Grok. Ofcom, el regulador de las comunicaciones del Reino Unido, describió la medida como un "avance bienvenido", pero enfatizó que su investigación sobre si la plataforma violó las leyes del Reino Unido "sigue en curso". Ofcom declaró que está trabajando para avanzar en la investigación y determinar qué salió mal y qué se está haciendo para solucionarlo.

La Secretaria de Tecnología, Liz Kendall, acogió con satisfacción la medida, pero dijo que "esperaría que los hechos fueran establecidos de manera completa y sólida por la investigación en curso de Ofcom".

Activistas y víctimas argumentan que el cambio llega demasiado tarde para deshacer el daño ya causado por la tecnología. La periodista y activista Jess Davies es una de las que ha expresado su preocupación.

La tecnología detrás de Grok, como muchas herramientas de edición de imágenes con IA, utiliza modelos de aprendizaje profundo entrenados con vastos conjuntos de datos de imágenes. Estos modelos pueden manipularse para alterar las imágenes existentes de varias maneras, incluyendo la adición o eliminación de ropa. La preocupación surge cuando estas capacidades se utilizan para crear imágenes sexualmente explícitas no consensuadas, a menudo denominadas deepfakes.

El impacto de esta decisión en la industria está por verse. Otras plataformas de edición de imágenes con IA podrían enfrentarse a un mayor escrutinio y presión para implementar salvaguardias similares. El incidente destaca los desafíos éticos asociados con el rápido avance de la tecnología de IA y la necesidad de medidas proactivas para prevenir el uso indebido.