El gobierno se enfrenta a críticas por supuestamente retrasar la implementación de una legislación diseñada para combatir los deepfakes, particularmente a la luz de la aparición de Grok AI y su potencial para el uso indebido. Los críticos argumentan que la demora deja a la sociedad vulnerable a las aplicaciones maliciosas de esta tecnología, incluidas las campañas de desinformación y el robo de identidad.

La acusación se centra en el ritmo lento percibido del progreso de un proyecto de ley propuesto que tiene como objetivo definir legalmente los deepfakes, establecer sanciones por su uso indebido y regular su creación y distribución. Según Laura Cress, una destacada investigadora de ética de la IA, "Cuanto más esperemos para promulgar una legislación significativa, mayor será el riesgo de que los deepfakes se utilicen como arma para manipular la opinión pública y socavar la confianza en las instituciones".

Los deepfakes, abreviatura de "deep learning fakes" (falsificaciones de aprendizaje profundo), son medios sintéticos en los que una persona en una imagen o video existente se reemplaza con la imagen de otra persona. Esto se logra utilizando potentes técnicas de inteligencia artificial, específicamente algoritmos de aprendizaje profundo. Estos algoritmos analizan grandes cantidades de datos para aprender patrones y luego generar falsificaciones de aspecto realista. La tecnología ha avanzado rápidamente en los últimos años, lo que hace que sea cada vez más difícil distinguir entre contenido genuino y contenido fabricado.

Grok AI, un modelo de inteligencia artificial lanzado recientemente, ha intensificado las preocupaciones debido a sus capacidades avanzadas para generar texto e imágenes realistas. Los expertos temen que Grok AI pueda usarse para crear deepfakes convincentes a escala, lo que facilitaría a los actores maliciosos la difusión de desinformación y propaganda. La facilidad de acceso a herramientas de IA tan poderosas amplifica la urgencia de marcos regulatorios.

La legislación propuesta tiene como objetivo abordar varias áreas clave. Busca establecer definiciones legales claras de deepfakes, diferenciándolos de la sátira y la parodia. También propone sanciones para individuos u organizaciones que creen y distribuyan deepfakes con intenciones maliciosas, como difamar a alguien o interferir con las elecciones. Además, el proyecto de ley exige requisitos de transparencia, exigiendo que los deepfakes estén claramente etiquetados como tales para informar a los espectadores que el contenido es sintético.

Sin embargo, algunos argumentan que una legislación demasiado amplia podría sofocar los usos legítimos de la tecnología de IA, como en la producción cinematográfica o la expresión artística. Encontrar el equilibrio adecuado entre proteger a la sociedad del daño y fomentar la innovación es un desafío clave para los responsables políticos.

El gobierno ha defendido su enfoque, afirmando que está adoptando un enfoque medido y considerado para garantizar que cualquier legislación sea efectiva y no tenga consecuencias no deseadas. Los funcionarios han enfatizado la complejidad del problema y la necesidad de consultar con una amplia gama de partes interesadas, incluidas empresas de tecnología, expertos legales y organizaciones de la sociedad civil.

El estado actual del proyecto de ley es que todavía está bajo revisión por un comité parlamentario. Se espera que el comité celebre más audiencias y solicite comentarios adicionales antes de hacer recomendaciones al parlamento en pleno. El cronograma para una votación final sobre el proyecto de ley sigue siendo incierto. Se espera que continúe el debate en torno a la legislación, con partes interesadas de ambos lados abogando por sus respectivas posiciones. El resultado tendrá implicaciones significativas para el futuro de la regulación de la IA y su impacto en la sociedad.