Varios senadores estadounidenses están exigiendo respuestas a las principales empresas tecnológicas, incluidas X, Meta, Alphabet, Snap, Reddit y TikTok, con respecto a sus esfuerzos para combatir la proliferación de deepfakes sexualizados en sus plataformas. En una carta enviada a los líderes de estas empresas, los senadores solicitaron pruebas de protecciones y políticas sólidas diseñadas para frenar el aumento de las imágenes sexuales generadas por IA.

Los senadores también exigieron que las empresas conserven todos los documentos e información relacionados con la creación, detección, moderación y monetización de imágenes sexualizadas generadas por IA, junto con cualquier política relevante. Esta solicitud se produce tras informes que destacan la facilidad con la que los modelos de IA, como Grok (desarrollado por X y xAI), pueden generar imágenes sexualizadas y de desnudos, incluidas las que representan a mujeres y niños.

La carta subraya la preocupación de que las salvaguardias existentes en la plataforma contra las imágenes sexualizadas no consentidas puedan ser insuficientes. "Reconocemos que muchas empresas mantienen políticas contra las imágenes íntimas no consentidas y la explotación sexual, y que muchas IA", afirmaron los senadores, dando a entender que las medidas actuales no están abordando adecuadamente el problema.

La demanda de información se produce poco después de que X anunciara actualizaciones de Grok, prohibiendo a la IA crear ediciones de personas reales con ropa reveladora. X también restringió la creación y edición de imágenes a través de Grok a los suscriptores de pago. Estos cambios se implementaron en respuesta a informes de los medios de comunicación que detallaban la capacidad de la IA para generar contenido explícito.

Los deepfakes, que utilizan la inteligencia artificial para crear imágenes y vídeos realistas pero fabricados, suponen un reto importante para las empresas tecnológicas. La tecnología puede utilizarse para generar imágenes íntimas no consentidas, lo que contribuye al acoso y la explotación en línea. La investigación de los senadores refleja la creciente preocupación por el potencial de que la IA se utilice indebidamente de esta manera y la responsabilidad de las empresas tecnológicas de mitigar estos riesgos.

Los senadores buscan explicaciones detalladas de las estrategias de las empresas para detectar y eliminar los deepfakes sexualizados, así como información sobre cómo están impidiendo que la tecnología se utilice para crear y distribuir dicho contenido. La documentación solicitada probablemente proporcionará información sobre los retos técnicos y las consideraciones políticas que implica abordar este problema. Los próximos pasos probablemente implicarán que las empresas respondan a las preguntas de los senadores y que potencialmente se enfrenten a un mayor escrutinio en función de sus respuestas.