X, antes conocida como Twitter, anunció que bloqueará su modelo de IA Grok para que no genere imágenes de personas reales en ropa reveladora en jurisdicciones donde sea ilegal. La decisión, revelada horas después de que el principal fiscal de California dijera que el estado estaba investigando la propagación de deepfakes sexualizados con IA, se produce tras la preocupación generalizada por el uso indebido de la IA para crear tales imágenes.

Según un anuncio en X, la compañía ha "implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales en ropa reveladora como bikinis". La restricción se aplica a todos los usuarios de la herramienta de IA Grok, incluidos los suscriptores de pago.

La medida tiene como objetivo abordar el creciente problema de los deepfakes sexualizados con IA y el daño potencial que pueden causar. El anuncio se hizo público hace tres horas. Elon Musk lanzó Grok en 2023.