Funcionarios gubernamentales exigen que la plataforma de redes sociales X, de Elon Musk, aborde la proliferación de lo que describen como "espantosos" deepfakes generados por Grok, el chatbot de inteligencia artificial de la plataforma. La demanda se produce tras un aumento en el contenido de audio y video realista pero fabricado que circula en X, lo que genera preocupación sobre la posible desinformación y el daño a la reputación.

Las preocupaciones del gobierno se centran en la capacidad de Grok para generar deepfakes altamente convincentes con una mínima intervención del usuario. Los deepfakes, abreviatura de "deep learning fakes" (falsificaciones de aprendizaje profundo), utilizan sofisticados algoritmos de IA para manipular o generar contenido visual y de audio, lo que a menudo dificulta la distinción entre material real y fabricado. La tecnología se basa en redes neuronales entrenadas con vastos conjuntos de datos de imágenes y audio para aprender y replicar las características humanas.

"Estamos profundamente preocupados por el potencial de que Grok se utilice como arma con fines maliciosos", declaró un portavoz del Departamento de Regulación Tecnológica en un comunicado publicado. "La facilidad con la que se pueden crear y difundir deepfakes convincentes en X representa una amenaza significativa para la confianza y la seguridad públicas".

Representantes de X reconocieron las preocupaciones del gobierno y declararon que están trabajando activamente para mitigar los riesgos asociados con Grok. "Estamos comprometidos a garantizar el uso responsable de la IA en nuestra plataforma", dijo un comunicado del equipo de Confianza y Seguridad de X. "Estamos implementando mecanismos de detección mejorados y políticas de moderación de contenido para identificar y eliminar los deepfakes que violen nuestros términos de servicio".

Grok, lanzado a finales del año pasado, es un chatbot de IA integrado en el servicio de suscripción premium de X. Está diseñado para responder preguntas, generar contenido creativo y entablar conversaciones con los usuarios. Si bien X promociona a Grok como una herramienta para el entretenimiento y la información, los críticos argumentan que sus capacidades se explotan fácilmente para crear y difundir desinformación.

Analistas de la industria sugieren que la intervención del gobierno destaca los crecientes desafíos regulatorios que rodean el contenido generado por IA. "Este es un momento decisivo", dijo la Dra. Anya Sharma, profesora de ética de la IA en la Universidad de California, Berkeley. "Subraya la urgente necesidad de marcos legales claros y directrices éticas para regular el desarrollo y la implementación de tecnologías de IA, particularmente en el contexto de las plataformas de redes sociales".

La demanda de los funcionarios gubernamentales se produce cuando varios países están lidiando con cómo regular los deepfakes y otras formas de desinformación generada por IA. La Unión Europea, por ejemplo, está considerando regulaciones más estrictas sobre las tecnologías de IA en virtud de su propuesta Ley de IA.

X se enfrenta al desafío de equilibrar su compromiso con la libertad de expresión con la necesidad de proteger a los usuarios de contenido dañino. Las políticas actuales de moderación de contenido de la compañía prohíben la creación y distribución de deepfakes destinados a engañar o inducir a error, pero la aplicación ha resultado difícil debido a la naturaleza en rápida evolución de la tecnología de IA.

X declaró que está explorando varias soluciones técnicas para abordar el problema de los deepfakes, incluyendo el marcado de agua del contenido generado por IA, el desarrollo de algoritmos de detección más sofisticados y la implementación de procesos de verificación más estrictos para los usuarios que crean o comparten contenido potencialmente engañoso. La compañía no proporcionó un cronograma específico para la implementación de estas medidas. El Departamento de Regulación Tecnológica indicó que continuará monitoreando el progreso de X y considerará tomar medidas adicionales si es necesario.