La Internet Watch Foundation (IWF), una organización benéfica con sede en el Reino Unido centrada en la identificación y eliminación de imágenes de abuso sexual infantil en línea, informó haber encontrado imágenes que "parecen haber sido" generadas por Grok, el modelo de inteligencia artificial desarrollado por xAI de Elon Musk. La IWF hizo el descubrimiento durante su monitoreo rutinario de internet en busca de contenido ilegal.

La naturaleza específica de las imágenes no fue revelada por la IWF, citando la necesidad de evitar una mayor distribución del material. Sin embargo, la organización confirmó que las imágenes cumplían con sus criterios para imágenes de abuso sexual infantil. "Nuestra prioridad es la seguridad de los niños, y trabajamos diligentemente para eliminar este tipo de contenido de internet", declaró Susie Hargreaves OBE, CEO de la IWF, en un comunicado de prensa. "Estamos trabajando con las plataformas relevantes y las agencias de aplicación de la ley para abordar este problema".

Grok, lanzado a finales de 2023, es un modelo de lenguaje grande (LLM) diseñado para generar texto, traducir idiomas, escribir diferentes tipos de contenido creativo y responder preguntas de manera informativa. Los LLM se entrenan con conjuntos de datos masivos de texto y código, lo que les permite aprender patrones y relaciones en el lenguaje. Sin embargo, este entrenamiento también puede exponer inadvertidamente a los modelos a contenido dañino, que luego puede replicarse en sus resultados.

El incidente plantea preocupaciones sobre el potencial de que los modelos de IA se utilicen indebidamente con fines maliciosos, incluida la creación de material de abuso sexual infantil. Los expertos en el campo de la seguridad de la IA han advertido durante mucho tiempo sobre los riesgos asociados con el desarrollo y la implementación incontrolados de estas tecnologías. "Este es un crudo recordatorio de que necesitamos salvaguardias sólidas para evitar que la IA sea explotada de esta manera", dijo la Dra. Joanna Bryson, profesora de Ética y Tecnología en la Hertie School de Berlín. "Los desarrolladores tienen la responsabilidad de garantizar que sus modelos no sean capaces de generar contenido dañino".

xAI aún no ha emitido una declaración formal con respecto a los hallazgos de la IWF. Sin embargo, Elon Musk ha declarado previamente su compromiso de desarrollar la IA de manera responsable y ética. El sitio web de la compañía describe su enfoque de la seguridad de la IA, que incluye medidas para evitar la generación de contenido dañino. Queda por ver qué medidas tomará xAI para abordar los problemas específicos planteados por el informe de la IWF.

La IWF continúa trabajando con plataformas en línea y las fuerzas del orden para eliminar las imágenes identificadas y evitar su mayor difusión. Es probable que el incidente alimente un mayor debate sobre la necesidad de una regulación más estricta del desarrollo y la implementación de la IA, particularmente en áreas donde existe un riesgo de daño para las personas vulnerables. El gobierno del Reino Unido está considerando actualmente una nueva legislación para abordar los desafíos que plantea la IA, incluidas medidas para garantizar la seguridad de los sistemas de IA.