El número 10 de Downing Street ha reconocido los informes de que X, antes conocido como Twitter, está tomando medidas para abordar el problema de los deepfakes generados utilizando su modelo de IA Grok. La recepción positiva del gobierno indica una creciente presión sobre las plataformas de redes sociales para combatir la propagación de la desinformación generada por la IA.

La medida de X se produce en medio de la creciente preocupación por el potencial de Grok, un modelo de IA diseñado para la IA conversacional y la generación de texto, para ser mal utilizado en la creación de contenido de audio y video convincente pero fabricado. Los deepfakes, que aprovechan sofisticadas técnicas de aprendizaje automático, se pueden utilizar para suplantar la identidad de personas, difundir narrativas falsas y manipular la opinión pública.

"Agradecemos cualquier esfuerzo para mitigar los riesgos asociados con el contenido generado por la IA", declaró un portavoz de Downing Street. "Es crucial que las plataformas asuman la responsabilidad de la tecnología que implementan y trabajen activamente para prevenir su uso indebido".

Grok, desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, es un modelo de lenguaje grande (LLM) entrenado con un conjunto de datos masivo de texto y código. Los LLM como Grok utilizan redes neuronales con miles de millones de parámetros para comprender y generar texto similar al humano. La preocupación surge de la capacidad del modelo para generar guiones y diálogos realistas que luego se pueden combinar con técnicas de manipulación de imágenes y video para crear deepfakes convincentes.

Si bien los detalles de las medidas específicas de X siguen siendo limitados, los analistas de la industria especulan que la plataforma puede estar implementando una combinación de algoritmos de detección, políticas de moderación de contenido y mecanismos de denuncia de usuarios. Los algoritmos de detección pueden analizar el contenido de video y audio en busca de signos reveladores de manipulación de la IA, como inconsistencias en los movimientos faciales o patrones de habla antinaturales. Las políticas de moderación de contenido describirían la postura de la plataforma sobre los deepfakes y las consecuencias para los usuarios que los creen o compartan. Los mecanismos de denuncia de usuarios permitirían a los usuarios marcar contenido potencialmente dañino para que el equipo de moderación de X lo revise.

El auge de las herramientas de IA generativa como Grok ha presentado un desafío importante tanto para las plataformas de redes sociales como para los responsables políticos. Las regulaciones existentes a menudo tienen dificultades para seguir el ritmo de los rápidos avances en la tecnología de la IA. La Ley de IA de la Unión Europea, por ejemplo, tiene como objetivo regular los sistemas de IA en función de su nivel de riesgo, pero su eficacia para abordar la amenaza específica de los deepfakes aún está por verse.

El impacto en la industria de las acciones de X podría ser sustancial, estableciendo potencialmente un precedente para que otras plataformas lo sigan. A medida que la tecnología deepfake se vuelve más sofisticada y accesible, la presión sobre las empresas de redes sociales para que aborden proactivamente el problema no hará más que intensificarse. El desarrollo y la implementación de estrategias eficaces de detección y mitigación serán cruciales para mantener la confianza pública y prevenir la propagación de la desinformación.

X aún no ha publicado una declaración completa que describa sus planes específicos para abordar los deepfakes generados por Grok. Se esperan más detalles en las próximas semanas.