El gobierno se enfrenta a críticas por supuestamente retrasar la implementación de legislación diseñada para combatir los deepfakes, particularmente a la luz de la aparición de Grok AI y su posible uso indebido. Los críticos argumentan que la demora deja al público vulnerable a formas cada vez más sofisticadas de desinformación y manipulación.

Las acusaciones se centran en la percibida lentitud del progreso de un proyecto de ley propuesto que establecería marcos legales para identificar, etiquetar y penalizar la creación y distribución de contenido deepfake. Los deepfakes, que son medios sintéticos en los que una persona en una imagen o video existente es reemplazada por la imagen de otra persona, se crean utilizando técnicas de inteligencia artificial, principalmente el aprendizaje profundo. Estas técnicas permiten la generación de videos y grabaciones de audio altamente realistas, aunque fabricados.

"Cuanto más esperemos para promulgar una legislación sólida, mayor será el riesgo de que los deepfakes se utilicen para socavar las elecciones, dañar la reputación y sembrar la discordia", declaró Laura Cress, una experta destacada en ética y política de la IA, en una entrevista reciente. Cress enfatizó aún más la urgencia de la situación, señalando los rápidos avances en la tecnología de la IA, particularmente el desarrollo de Grok AI, como un catalizador para el posible uso indebido.

Grok AI, desarrollado por xAI, es un modelo de lenguaje grande (LLM) conocido por sus habilidades conversacionales y acceso a información en tiempo real a través de la plataforma X (anteriormente Twitter). Los LLM son sistemas de IA entrenados en conjuntos de datos masivos de texto y código, lo que les permite generar texto similar al humano, traducir idiomas y responder preguntas. Si bien Grok AI está diseñado para fines beneficiosos, sus capacidades podrían ser explotadas para crear y difundir deepfakes convincentes a escala, según las preocupaciones planteadas por varios observadores de la tecnología.

La legislación propuesta tiene como objetivo abordar varios aspectos clave del problema de los deepfakes. Incluye disposiciones para el etiquetado obligatorio del contenido generado por IA, el establecimiento de recursos legales para las personas cuyas imágenes se utilizan sin consentimiento y la imposición de sanciones a quienes crean y distribuyen deepfakes maliciosos. El proyecto de ley también busca aclarar las responsabilidades legales de las plataformas de redes sociales en la identificación y eliminación de contenido deepfake.

Sin embargo, el proyecto de ley ha enfrentado numerosos obstáculos, incluidos debates sobre el alcance de la legislación, preocupaciones sobre los posibles impactos en la libertad de expresión y desacuerdos sobre la viabilidad técnica de la detección de deepfakes. Algunos argumentan que una legislación demasiado amplia podría sofocar los usos legítimos de la tecnología de la IA, como la expresión artística y la sátira. Otros expresan escepticismo sobre la capacidad de los métodos de detección actuales para seguir el ritmo de los rápidos avances en la tecnología deepfake.

"Encontrar el equilibrio adecuado entre proteger al público del daño y preservar la libertad de expresión es un desafío complejo", dijo un portavoz del gobierno, que solicitó el anonimato debido a la sensibilidad del asunto. "Estamos comprometidos a garantizar que cualquier legislación que promulguemos sea efectiva y constitucional".

El estado actual del proyecto de ley es que permanece bajo revisión por un comité parlamentario. Una serie de audiencias públicas están programadas para las próximas semanas, durante las cuales expertos, partes interesadas y miembros del público tendrán la oportunidad de brindar sus comentarios. El gobierno ha indicado que tiene la intención de finalizar la legislación para fines de año, pero los críticos siguen siendo escépticos, citando retrasos anteriores y la falta de un compromiso claro. El debate destaca la tensión continua entre la innovación tecnológica y la necesidad de marcos regulatorios para mitigar los riesgos potenciales.