El gobierno se enfrenta a críticas por supuestamente retrasar la implementación de legislación que aborda los deepfakes, particularmente a la luz de la aparición de Grok AI, un nuevo modelo de inteligencia artificial capaz de generar medios sintéticos realistas. Los críticos argumentan que el retraso deja al público vulnerable a la desinformación y la manipulación, especialmente a medida que la tecnología se vuelve más sofisticada y accesible.

La acusación se centra en el ritmo lento percibido del progreso en un proyecto de ley propuesto destinado a regular la creación y distribución de deepfakes. El proyecto de ley, redactado inicialmente hace seis meses, permanece bajo revisión por una comisión parlamentaria, sin un cronograma claro para su aprobación como ley. "Cuanto más esperemos, más oportunidades habrá para que actores maliciosos exploten estas tecnologías", dijo Laura Cress, una destacada investigadora de ética de la IA, en un comunicado publicado a principios de esta semana. "Necesitamos un marco legal para disuadir el abuso y responsabilizar a los perpetradores".

Los deepfakes, abreviatura de "deep learning fakes" (falsificaciones de aprendizaje profundo), son medios sintéticos, generalmente videos o grabaciones de audio, en los que la imagen o la voz de una persona se manipulan digitalmente para representarla diciendo o haciendo cosas que nunca dijo o hizo realmente. Estos se crean utilizando técnicas avanzadas de inteligencia artificial, particularmente algoritmos de aprendizaje profundo, que analizan grandes cantidades de datos para aprender y replicar patrones en el habla y el comportamiento humanos. Grok AI, desarrollado por xAI, la empresa de inteligencia artificial de Elon Musk, es el último de una serie de modelos de IA capaces de generar deepfakes cada vez más realistas. Su capacidad para crear rápidamente contenido sintético convincente ha aumentado las preocupaciones sobre el potencial de uso indebido.

Las implicaciones de los deepfakes se extienden más allá del mero entretenimiento. Se pueden utilizar para difundir desinformación, dañar la reputación, influir en las elecciones e incluso incitar a la violencia. La falta de directrices legales claras dificulta el enjuiciamiento de las personas que crean y difunden deepfakes maliciosos. Las leyes actuales, como las que abordan la difamación y el fraude, pueden no ser suficientes para abordar los desafíos únicos que plantea esta tecnología.

"El marco legal existente simplemente no está equipado para lidiar con la velocidad y la sofisticación de la tecnología deepfake", explicó la académica de derecho Dra. Anya Sharma. "Necesitamos legislación específica que aborde la creación, la distribución y la intención detrás de los deepfakes".

El gobierno ha defendido su enfoque, afirmando que está adoptando un enfoque medido y considerado para garantizar que cualquier legislación sea eficaz y no reprima los usos legítimos de la tecnología de IA. Un portavoz del Ministerio de Tecnología declaró que la comisión está examinando cuidadosamente las complejidades técnicas y legales de los deepfakes para elaborar un proyecto de ley que logre el equilibrio adecuado entre la protección del público y el fomento de la innovación. El portavoz añadió que el gobierno está consultando con expertos en IA, derecho y ética para garantizar que la legislación sea sólida y esté preparada para el futuro.

Sin embargo, los críticos siguen siendo escépticos y argumentan que la respuesta del gobierno es inadecuada dado el rápido ritmo del desarrollo tecnológico. Señalan a otros países que ya han promulgado leyes para regular los deepfakes, como China y la Unión Europea, como ejemplos de acción proactiva. Es probable que el debate sobre la legislación sobre deepfakes continúe en los próximos meses, con una presión creciente sobre el gobierno para que tome medidas decisivas para abordar la creciente amenaza de los medios sintéticos. Se espera que la comisión parlamentaria publique su informe sobre el proyecto de ley propuesto en el próximo trimestre, lo que probablemente dará forma al futuro de la regulación de los deepfakes en el país.