A Internet Watch Foundation (IWF), uma instituição de caridade sediada no Reino Unido focada na identificação e remoção de imagens de abuso sexual infantil online, relatou ter encontrado imagens que "parecem ter sido" geradas pelo Grok, o modelo de inteligência artificial desenvolvido pela xAI de Elon Musk. A IWF fez a descoberta durante seu monitoramento de rotina da internet em busca de conteúdo ilegal.

A natureza específica das imagens não foi divulgada pela IWF, citando a necessidade de evitar a distribuição adicional do material. No entanto, a organização confirmou que as imagens atendiam aos seus critérios para imagens de abuso sexual infantil. "Nossa prioridade é a segurança das crianças, e trabalhamos diligentemente para remover esse tipo de conteúdo da internet", afirmou Susie Hargreaves OBE, CEO da IWF, em um comunicado à imprensa. "Estamos trabalhando com plataformas relevantes e agências de aplicação da lei para resolver este problema."

O Grok, lançado no final de 2023, é um modelo de linguagem grande (LLM) projetado para gerar texto, traduzir idiomas, escrever diferentes tipos de conteúdo criativo e responder a perguntas de forma informativa. Os LLMs são treinados em conjuntos de dados massivos de texto e código, permitindo que aprendam padrões e relacionamentos na linguagem. No entanto, esse treinamento também pode expor inadvertidamente os modelos a conteúdo prejudicial, que pode então ser replicado em suas saídas.

O incidente levanta preocupações sobre o potencial de modelos de IA serem mal utilizados para fins maliciosos, incluindo a criação de material de abuso sexual infantil. Especialistas na área de segurança de IA alertam há muito tempo sobre os riscos associados ao desenvolvimento e implantação descontrolados dessas tecnologias. "Este é um lembrete gritante de que precisamos de salvaguardas robustas para impedir que a IA seja explorada dessa forma", disse a Dra. Joanna Bryson, Professora de Ética e Tecnologia na Hertie School em Berlim. "Os desenvolvedores têm a responsabilidade de garantir que seus modelos não sejam capazes de gerar conteúdo prejudicial."

A xAI ainda não emitiu uma declaração formal sobre as descobertas da IWF. No entanto, Elon Musk já declarou seu compromisso de desenvolver a IA de forma responsável e ética. O site da empresa descreve sua abordagem para a segurança da IA, que inclui medidas para impedir a geração de conteúdo prejudicial. Resta saber quais medidas a xAI tomará para resolver as questões específicas levantadas pelo relatório da IWF.

A IWF continua a trabalhar com plataformas online e autoridades policiais para remover as imagens identificadas e impedir sua posterior disseminação. O incidente provavelmente alimentará ainda mais o debate sobre a necessidade de uma regulamentação mais rigorosa do desenvolvimento e implantação da IA, particularmente em áreas onde existe risco de dano a indivíduos vulneráveis. O governo do Reino Unido está atualmente considerando uma nova legislação para enfrentar os desafios colocados pela IA, incluindo medidas para garantir a segurança dos sistemas de IA.