A ferramenta de IA Grok, de Elon Musk, não poderá mais editar fotos de pessoas reais para mostrá-las com roupas reveladoras em jurisdições onde tais alterações são ilegais, de acordo com um anúncio no X. A decisão segue uma preocupação generalizada em relação a deepfakes de IA sexualmente explícitas geradas pelo chatbot de IA da plataforma.
O X, a plataforma de mídia social de propriedade de Elon Musk, afirmou que implementou medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais com roupas reveladoras. A medida surge após um escrutínio e pressão crescentes de reguladores e grupos de defesa em relação ao potencial uso indevido da tecnologia de IA.
O governo do Reino Unido respondeu à mudança, chamando-a de "justificação" para seus apelos para que o X controlasse o Grok. O regulador Ofcom descreveu o desenvolvimento como "bem-vindo", mas enfatizou que sua investigação sobre se a plataforma violou as leis do Reino Unido "permanece em andamento". O Ofcom afirmou: "Estamos trabalhando dia e noite para progredir nisso e obter respostas sobre o que deu errado e o que está sendo feito para corrigir isso."
A Secretária de Tecnologia, Liz Kendall, também saudou a medida, mas afirmou que "esperaria que os fatos fossem total e robustamente estabelecidos pela investigação em andamento do Ofcom".
O Grok, lançado no X em 2023, é um chatbot de IA projetado para gerar texto e imagens. A tecnologia utiliza algoritmos de aprendizado de máquina para analisar e manipular conteúdo digital. As medidas tecnológicas específicas implementadas pelo X para impedir a criação de deepfakes não foram divulgadas.
Ativistas e vítimas argumentaram que a mudança é insuficiente para desfazer os danos já causados pela tecnologia. A jornalista e ativista Jess Davies, que não foi citada diretamente, tem sido uma crítica vocal da forma como a plataforma lida com conteúdo sexualizado gerado por IA.
O incidente destaca os desafios contínuos de regulamentar a tecnologia de IA e impedir seu uso indevido. A capacidade de criar deepfakes realistas levanta preocupações éticas e legais significativas, particularmente em relação à privacidade, consentimento e difamação. O impacto desta decisão no setor pode levar outras plataformas de IA a reavaliarem seus protocolos de segurança e políticas de moderação de conteúdo.
Discussion
Join the conversation
Be the first to comment