La Internet Watch Foundation (IWF), una organización benéfica con sede en el Reino Unido centrada en identificar y eliminar imágenes de abuso sexual infantil en línea, informó haber encontrado imágenes que "parecen haber sido" creadas por Grok, el modelo de inteligencia artificial desarrollado por xAI de Elon Musk. La IWF, que trabaja con proveedores de servicios de Internet y plataformas de redes sociales para bloquear el acceso a contenido ilegal, hizo el descubrimiento durante sus actividades de monitoreo de rutina.

La IWF no divulgó detalles sobre el número de imágenes o su naturaleza exacta, citando la necesidad de proteger a las posibles víctimas y evitar una mayor distribución del material. Sin embargo, un portavoz confirmó que las imágenes fueron señaladas como material de abuso sexual infantil (CSAM) potencialmente generado por IA. "Nuestro análisis sugiere una alta probabilidad de participación de la IA en la creación de estas imágenes", declaró el portavoz. "La velocidad y la escala a la que la IA puede generar dicho contenido presenta un desafío significativo para nuestros esfuerzos por salvaguardar a los niños en línea".

Grok, lanzado en noviembre de 2023, es un modelo de lenguaje grande (LLM) diseñado para generar texto, traducir idiomas y responder preguntas de manera conversacional. Actualmente está disponible para los suscriptores de X Premium+, el nivel más alto del servicio de suscripción de X. Grok se distingue de otros LLM por su supuesta capacidad para acceder a información en tiempo real de X, anteriormente Twitter, y su tono "rebelde" y humorístico. xAI aún no ha publicado especificaciones técnicas detalladas sobre la arquitectura o los datos de entrenamiento de Grok.

La aparición de CSAM generado por IA es una preocupación creciente dentro de la industria tecnológica y entre los defensores de la seguridad infantil. Los expertos advierten que la facilidad y la velocidad con la que la IA puede producir imágenes realistas y de explotación podrían abrumar los sistemas de detección y eliminación existentes. Los métodos actuales para identificar CSAM a menudo se basan en la huella digital y la revisión humana, técnicas que pueden tener dificultades para seguir el ritmo de la rápida proliferación de contenido generado por IA.

"Este es un momento decisivo", dijo la Dra. Emily Carter, investigadora especializada en ética de la IA en la Universidad de Oxford. "Durante mucho tiempo hemos anticipado el potencial de que la IA se utilice indebidamente de esta manera, y ahora estamos viendo evidencia concreta de ello. La industria necesita priorizar el desarrollo de salvaguardias sólidas para evitar la creación y difusión de CSAM generado por IA".

xAI aún no ha emitido una declaración formal con respecto a los hallazgos de la IWF. Sin embargo, Elon Musk ha declarado anteriormente que xAI está comprometida con el desarrollo de la IA de manera responsable y ética. Queda por ver qué medidas específicas tomará xAI para abordar el potencial de que Grok se utilice para generar CSAM. La IWF está trabajando con xAI para proporcionar información y apoyar su investigación. El incidente destaca la necesidad urgente de colaboración entre los desarrolladores de IA, las fuerzas del orden y las organizaciones de protección infantil para combatir la amenaza en evolución del material de abuso sexual infantil generado por IA.