El número 10 de Downing Street ha expresado su aprobación por los informes de que X, antes conocida como Twitter, está tomando medidas para abordar el problema de los deepfakes generados utilizando su modelo de IA Grok. La oficina del Primer Ministro reconoció el potencial de uso indebido del contenido generado por IA y enfatizó la importancia de que las plataformas asuman la responsabilidad de mitigar los riesgos.

Los deepfakes, un acrónimo de "deep learning" (aprendizaje profundo) y "fake" (falso), son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona. Esta tecnología aprovecha la inteligencia artificial sofisticada, específicamente los algoritmos de aprendizaje profundo, para crear contenido altamente realista, aunque fabricado. La preocupación es que estos deepfakes puedan utilizarse para difundir información errónea, manipular la opinión pública y dañar la reputación.

Grok, el modelo de IA de X, es un modelo de lenguaje grande (LLM) similar a los modelos GPT de OpenAI y Gemini de Google. Los LLM se entrenan con conjuntos de datos masivos de texto y código, lo que les permite generar texto de calidad humana, traducir idiomas, escribir diferentes tipos de contenido creativo y responder a sus preguntas de manera informativa. Sin embargo, las mismas capacidades que hacen que los LLM sean útiles también pueden explotarse para crear contenido malicioso, incluidos los deepfakes.

Si bien los detalles de las medidas específicas de X para combatir los deepfakes generados por Grok siguen siendo limitados, los analistas de la industria especulan que la plataforma puede estar implementando técnicas como el marcado de agua del contenido generado por IA, el desarrollo de algoritmos para detectar deepfakes y el establecimiento de políticas claras contra la creación y difusión de medios sintéticos engañosos. El marcado de agua implica incrustar un marcador sutil, a menudo invisible, en el contenido generado que lo identifica como generado por IA. Los algoritmos de detección analizan los medios en busca de signos reveladores de manipulación, como inconsistencias en los rasgos faciales o movimientos antinaturales.

La proliferación de deepfakes plantea un desafío importante para el ecosistema de la información. Los expertos advierten que la creciente sofisticación de estas tecnologías hace que sea más difícil distinguir entre contenido real y falso, lo que podría erosionar la confianza en los medios y las instituciones. El gobierno del Reino Unido ha estado explorando activamente marcos regulatorios para la IA, con un enfoque en garantizar el desarrollo y la implementación responsables de la tecnología.

La medida de X para abordar los deepfakes se alinea con una tendencia más amplia en la industria tecnológica, donde las empresas están lidiando con las implicaciones éticas y sociales de la IA. Otras plataformas importantes, incluidas Meta y Google, también han anunciado iniciativas para combatir la propagación de deepfakes y otras formas de desinformación generada por IA.

El gobierno estará monitoreando de cerca el progreso de X en el abordaje de los deepfakes de Grok y espera que la plataforma tome medidas proactivas para proteger a los usuarios de los daños potenciales de esta tecnología, según un comunicado emitido por un portavoz de Downing Street. Se esperan más actualizaciones sobre los esfuerzos de X en las próximas semanas.