El número 10 de Downing Street ha expresado su aprobación a los informes que indican que X, antes conocido como Twitter, está tomando medidas para abordar el problema de los deepfakes generados por Grok, su modelo de inteligencia artificial. Esta acción se produce en medio de la creciente preocupación por el potencial uso indebido del contenido generado por la IA para difundir desinformación y propaganda.

Un portavoz del Primer Ministro declaró que el gobierno acoge con satisfacción cualquier esfuerzo para mitigar los riesgos asociados con la tecnología deepfake. "Hemos sido claros sobre la necesidad de que las empresas tecnológicas asuman la responsabilidad del contenido alojado en sus plataformas, particularmente cuando se trata de material generado por IA", dijo el portavoz. "Nos alientan los informes de que X se está tomando este asunto en serio".

Los deepfakes son medios sintéticos en los que se reemplaza a una persona en una imagen o video existente con la apariencia de otra persona. Esto se logra típicamente utilizando técnicas sofisticadas de aprendizaje automático, específicamente algoritmos de aprendizaje profundo, de ahí el nombre "deepfake". Grok, el modelo de IA de X, es capaz de generar texto e imágenes, lo que genera preocupación de que pueda usarse para crear deepfakes de aspecto realista a escala.

El impacto de la tecnología deepfake en la industria es significativo. Los expertos advierten que los deepfakes pueden erosionar la confianza en los medios, manipular la opinión pública e incluso utilizarse con fines maliciosos, como el fraude financiero o el sabotaje político. La proliferación de herramientas de IA accesibles ha facilitado que las personas con conocimientos técnicos limitados creen deepfakes convincentes, lo que amplifica el potencial de daño.

Si bien los detalles de las medidas específicas de X para abordar los deepfakes generados por Grok siguen siendo limitados, los informes sugieren que la compañía está explorando varias opciones, incluyendo el marcado de agua del contenido generado por IA, la implementación de políticas de moderación de contenido para eliminar los deepfakes que violen sus términos de servicio y el desarrollo de herramientas de detección para identificar y marcar los medios sintéticos.

"El desafío no es solo detectar deepfakes, sino también atribuirlos a su fuente", dijo la Dra. Anya Sharma, una destacada investigadora de IA en la Universidad de Oxford. "Si X puede rastrear eficazmente los deepfakes hasta Grok, sería un importante paso adelante en la rendición de cuentas".

X aún no ha publicado una declaración formal sobre sus planes, pero fuentes familiarizadas con el asunto indican que se espera un anuncio en las próximas semanas. Según los informes, la compañía está trabajando en estrecha colaboración con los reguladores gubernamentales y los socios de la industria para desarrollar un enfoque integral para abordar la amenaza deepfake. La efectividad de las medidas de X será observada de cerca tanto por los responsables políticos como por el público, a medida que el debate sobre la regulación de la IA continúa intensificándose.