El número 10 de Downing Street ha expresado su aprobación ante los informes de que X, antes conocido como Twitter, está tomando medidas para abordar el problema de los deepfakes generados utilizando su modelo de IA Grok. Esta acción se produce en medio de la creciente preocupación por el potencial uso indebido del contenido generado por IA para difundir desinformación y propaganda.

Un portavoz del Primer Ministro declaró que el gobierno acoge con satisfacción cualquier esfuerzo para mitigar los riesgos asociados con los deepfakes, enfatizando la importancia del desarrollo y la implementación responsables de la IA. "Hemos sido claros sobre la necesidad de que las empresas tecnológicas tomen medidas proactivas para prevenir el uso malicioso de sus plataformas y tecnologías", dijo el portavoz. "Nos alientan los informes de que X se está tomando este asunto en serio".

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que se reemplaza a una persona en una imagen o video existente con la apariencia de otra persona. Esto se logra típicamente utilizando potentes técnicas de IA, como redes neuronales profundas, para analizar y replicar expresiones faciales, patrones de habla y movimientos corporales. Los videos resultantes pueden ser muy realistas y difíciles de distinguir de las imágenes genuinas, lo que genera preocupación sobre su posible uso en campañas de desinformación, manipulación política y acoso en línea.

Grok, el modelo de IA de X, es un modelo de lenguaje grande (LLM) similar a la serie GPT de OpenAI y Gemini de Google. Los LLM se entrenan con conjuntos de datos masivos de texto y código, lo que les permite generar texto de calidad humana, traducir idiomas y responder preguntas de manera integral. Si bien los LLM tienen muchas aplicaciones beneficiosas, también se pueden utilizar para crear deepfakes convincentes, lo que exacerba los riesgos asociados con esta tecnología.

Las medidas específicas que, según se informa, X está tomando para abordar los deepfakes generados por Grok no se han revelado por completo. Sin embargo, los expertos de la industria especulan que pueden incluir la implementación de políticas de moderación de contenido para detectar y eliminar deepfakes, el desarrollo de herramientas técnicas para identificar contenido generado por IA y la educación de los usuarios sobre los riesgos de los deepfakes.

"El desafío no es solo detectar deepfakes, sino también atribuirlos a su fuente", dijo la Dra. Emily Carter, una destacada investigadora de IA en la Universidad de Oxford. "Si X puede identificar los deepfakes generados por Grok y rastrearlos hasta los usuarios que los crearon, ese sería un importante paso adelante".

El auge de los deepfakes ha provocado llamamientos a una mayor regulación de las tecnologías de IA. Los gobiernos de todo el mundo están lidiando con cómo equilibrar los beneficios de la IA con la necesidad de protegerse contra sus posibles daños. La Unión Europea está trabajando actualmente en la Ley de IA, una legislación integral que establecería reglas para el desarrollo y la implementación de sistemas de IA, incluidos los utilizados para crear deepfakes.

X aún no ha publicado una declaración oficial sobre sus planes para abordar los deepfakes de Grok. Sin embargo, se espera que la compañía proporcione más detalles en las próximas semanas. La efectividad de los esfuerzos de X será observada de cerca por los responsables políticos, los investigadores y el público por igual, ya que la lucha contra los deepfakes sigue siendo un desafío fundamental en la era de la IA.