Downing Street ha expresado su aprobación ante los informes que indican que X, antes conocida como Twitter, está tomando medidas para abordar el problema de los deepfakes generados con Grok, su modelo de inteligencia artificial. Esta acción se produce en medio de crecientes preocupaciones sobre el posible uso indebido de contenido generado por IA para difundir desinformación y propaganda.

La respuesta positiva del gobierno refleja un impulso más amplio hacia el desarrollo y la implementación responsables de la IA. "Agradecemos cualquier esfuerzo para mitigar los riesgos asociados con los deepfakes generados por IA", declaró un portavoz del gobierno. "Es crucial que las empresas tecnológicas tomen medidas proactivas para garantizar que sus tecnologías no se utilicen con fines maliciosos".

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que se reemplaza a una persona en una imagen o video existente con la imagen de otra persona. Grok, el modelo de lenguaje grande de X, es capaz de generar texto e imágenes realistas, lo que genera preocupación de que pueda utilizarse para crear contenido convincente pero fabricado. La tecnología se basa en algoritmos sofisticados, incluidas las redes generativas antagónicas (GAN), para aprender y replicar patrones de datos existentes. Las GAN involucran dos redes neuronales, un generador y un discriminador, que compiten entre sí para producir resultados cada vez más realistas.

Las medidas específicas que, según se informa, X está implementando para combatir los deepfakes generados por Grok no se han divulgado por completo. Sin embargo, los expertos de la industria especulan que pueden incluir el uso de marcas de agua en el contenido generado por IA, el desarrollo de herramientas de detección para identificar deepfakes y la implementación de políticas de moderación de contenido más estrictas. El uso de marcas de agua implica incrustar una señal sutil, a menudo imperceptible, en una imagen o video para indicar que fue creado por IA. Las herramientas de detección utilizan algoritmos de aprendizaje automático para analizar los medios e identificar signos reveladores de manipulación.

El auge de los deepfakes plantea un desafío importante para la confianza y la credibilidad en la era digital. Los expertos advierten que estos videos e imágenes fabricados pueden utilizarse para manipular la opinión pública, dañar la reputación e incluso incitar a la violencia. El impacto potencial en las elecciones y el discurso político es particularmente preocupante.

Otras plataformas de redes sociales y desarrolladores de IA también están lidiando con el problema de los deepfakes. Empresas como Meta y Google han invertido fuertemente en investigación y desarrollo para detectar y eliminar medios manipulados de sus plataformas. La Partnership on AI, un consorcio de empresas tecnológicas, académicos y organizaciones de la sociedad civil, está trabajando para desarrollar directrices éticas y mejores prácticas para el desarrollo de la IA.

El estado actual de los esfuerzos de X para abordar los deepfakes de Grok sigue sin estar claro. Se espera que la empresa publique más detalles en las próximas semanas. El gobierno ha indicado que seguirá supervisando la situación de cerca y trabajando con las empresas tecnológicas para garantizar el desarrollo y la implementación responsables de las tecnologías de IA.