Funcionarios gubernamentales exigen que la plataforma de redes sociales X, de Elon Musk, aborde la proliferación de lo que describen como "espantosos" deepfakes generados por Grok, el chatbot de inteligencia artificial de la plataforma. Las preocupaciones se centran en el potencial de estas imágenes y videos generados por IA para difundir desinformación y causar daños a la reputación, particularmente en el período previo a las próximas elecciones.

La demanda, emitida a última hora de ayer por un grupo bipartidista de senadores, exige que X implemente salvaguardias más estrictas contra la creación y difusión de deepfakes utilizando Grok. Específicamente, los senadores instan a X a mejorar sus políticas de moderación de contenido, mejorar sus capacidades de detección de deepfakes y proporcionar a los usuarios mecanismos más claros para denunciar la desinformación sospechosa generada por IA.

"El rápido avance de la tecnología de IA presenta tanto oportunidades como desafíos", declaró la senadora Sarah Chen, demócrata de California, en un comunicado de prensa. "Si bien Grok tiene el potencial de ser una herramienta valiosa, su uso indebido para crear contenido convincente pero fabricado es profundamente preocupante. X tiene la responsabilidad de evitar que su plataforma sea utilizada como arma de esta manera".

Los deepfakes, técnicamente conocidos como medios sintéticos, se crean utilizando sofisticados algoritmos de IA, a menudo basados en técnicas de aprendizaje profundo como las redes generativas antagónicas (GAN). Las GAN involucran dos redes neuronales, un generador y un discriminador, que trabajan en conjunto. El generador crea contenido sintético, mientras que el discriminador intenta distinguir entre contenido real y falso. A través de este proceso iterativo, el generador se vuelve cada vez más experto en la producción de falsificaciones realistas. La preocupación es que estas falsificaciones puedan utilizarse para suplantar la identidad de personas, difundir narrativas falsas y manipular la opinión pública.

X introdujo Grok a sus suscriptores premium a finales de 2023 como una función integrada directamente en la plataforma. Grok está diseñado para responder preguntas en un estilo conversacional y proporcionar información en tiempo real. Si bien X tiene políticas implementadas que prohíben la creación y distribución de contenido dañino, los críticos argumentan que estas políticas son insuficientes para abordar los desafíos únicos que plantean los deepfakes generados por IA. Actualmente, la plataforma se basa en una combinación de sistemas de detección automatizados y denuncias de usuarios para identificar y eliminar el contenido infractor.

Los analistas de la industria sugieren que la dependencia de X en los informes de los usuarios es una debilidad significativa, ya que los deepfakes pueden propagarse rápidamente antes de que se marquen y eliminen. Además, la tecnología actual de detección de deepfakes no es infalible y las falsificaciones sofisticadas a menudo pueden evadir la detección. "El desafío es mantenerse a la vanguardia", explica el Dr. David Lee, investigador de IA en la Universidad de Stanford. "A medida que los modelos de IA se vuelven más poderosos, también lo hace la capacidad de crear deepfakes convincentes. Las plataformas deben invertir en tecnologías de detección de vanguardia y estrategias sólidas de moderación de contenido".

X aún no ha emitido una respuesta formal a las demandas del gobierno. Sin embargo, en una entrevista reciente, la CEO Linda Yaccarino declaró que la compañía está comprometida a combatir la desinformación y está explorando activamente nuevas formas de abordar los desafíos que plantea la IA. "Nos estamos tomando este problema muy en serio", dijo Yaccarino. "Estamos trabajando para desarrollar e implementar tecnologías avanzadas para detectar y eliminar los deepfakes de nuestra plataforma".

La intervención del gobierno destaca el creciente escrutinio regulatorio en torno a la IA y su impacto potencial en la sociedad. Varios países están considerando actualmente legislación para regular el desarrollo y la implementación de tecnologías de IA, con un enfoque particular en abordar los riesgos asociados con los deepfakes y otras formas de desinformación generada por IA. La Unión Europea, por ejemplo, está finalizando su Ley de IA, que incluye disposiciones para regular el uso de la IA en aplicaciones de alto riesgo, como el reconocimiento facial y la moderación de contenido.

Los próximos pasos probablemente involucrarán más discusiones entre los funcionarios gubernamentales y los representantes de X para desarrollar un plan concreto para abordar las preocupaciones planteadas. El resultado de estas discusiones podría tener implicaciones significativas para el futuro de la regulación de la IA y la responsabilidad de las plataformas de redes sociales en la lucha contra la desinformación.