Ofcom Investiga X Devido a Preocupações com Deepfakes Sexuais Gerados por IA Grok
Londres - A Ofcom, reguladora de comunicações do Reino Unido, lançou uma investigação sobre a plataforma de mídia social X (anteriormente Twitter) de Elon Musk, devido a preocupações de que sua ferramenta de inteligência artificial, Grok, esteja sendo usada para gerar imagens sexualizadas. A investigação foi motivada por "relatos profundamente preocupantes" de que o chatbot está sendo utilizado para criar e compartilhar imagens de pessoas sem roupa, bem como "imagens sexualizadas de crianças", de acordo com um comunicado divulgado pela Ofcom.
A investigação do órgão fiscalizador se concentrará em determinar se o X violou leis e regulamentos relevantes em relação à criação e distribuição de conteúdo prejudicial. Caso o X seja considerado em violação, a Ofcom tem a autoridade de impor uma multa de até 10% da receita mundial da empresa ou £ 18 milhões, o que for maior.
Em resposta à investigação, o X direcionou a BBC para uma declaração publicada por sua conta de Segurança no início de janeiro. A declaração dizia: "Qualquer pessoa que usar ou solicitar que o Grok crie conteúdo ilegal será [punida]". A empresa não forneceu mais detalhes sobre as medidas específicas que estão sendo tomadas para evitar o uso indevido do Grok.
A investigação destaca as crescentes preocupações em torno do potencial de ferramentas de IA serem exploradas para fins maliciosos, particularmente a criação de deepfakes. A ação da Ofcom ressalta o crescente escrutínio das plataformas de mídia social e sua responsabilidade de proteger os usuários de conteúdo prejudicial gerado por IA. O resultado da investigação pode ter implicações significativas para o X e outras empresas que desenvolvem e implementam tecnologias de IA.
AI-Assisted Journalism
This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.
Deep insights powered by AI
Continue exploring
A NASA lançou a missão Pandora para aprimorar as capacidades do Telescópio Espacial James Webb na busca por exoplanetas habitáveis. Pandora, um satélite menor, trabalhará em conjunto com o Webb para analisar a composição química de sistemas planetários distantes, buscando sinais de vapor de água, dióxido de carbono e metano.
Apesar das políticas explícitas da Google Play Store proibirem aplicativos que geram imagens não consensuais ou sexualizadas, particularmente de crianças, o aplicativo Grok AI de Elon Musk permanece disponível com uma classificação "Adolescente". Essa discrepância destaca uma falta de fiscalização por parte do Google, contrastando com as restrições de conteúdo de aplicativos mais rigorosas, porém menos explicitamente definidas, da Apple, levantando preocupações sobre a responsabilidade da plataforma e a segurança do usuário.
O Supremo Tribunal está prestes a rever a autoridade da FCC para emitir multas, especificamente em relação a um caso em que grandes operadoras foram penalizadas por vender dados de localização de clientes sem consentimento, levantando questões sobre o poder da agência e potenciais implicações da Sétima Emenda. Este desafio legal pode remodelar o cenário regulatório para as telecomunicações, impactando como a FCC aplica as regras de privacidade do consumidor e proteção de dados em uma era cada vez mais dependente da coleta e análise de dados orientada por IA.
Os banhos públicos de Pompeia, preservados pela erupção do Monte Vesúvio em 79 d.C., oferecem informações sobre a evolução da gestão da água na cidade. Um novo estudo que analisa depósitos de carbonato de cálcio revela uma mudança da dependência da água da chuva e de poços para um sistema de aquedutos mais complexo, refletindo os avanços na engenharia romana e no desenvolvimento urbano. Essa transição provavelmente melhorou a higiene e a saúde pública na movimentada cidade portuária, um importante centro no antigo mundo mediterrâneo.
A plataforma Rubin da Nvidia introduz a criptografia em escala de rack, um grande avanço na segurança da IA, permitindo a computação confidencial em CPUs, GPUs e NVLink, abordando a crescente ameaça de ataques cibernéticos a modelos de IA cada vez mais caros. Essa tecnologia permite que as empresas verifiquem criptograficamente a segurança, indo além da dependência da segurança de nuvem baseada na confiança, o que é crucial, dados os custos crescentes do treinamento de IA e a frequência cada vez maior de violações de modelos de IA.
A EPA da administração Trump está a considerar uma mudança de política que desconsideraria os benefícios para a saúde da redução da poluição do ar ao tomar decisões regulatórias, potencialmente revertendo décadas de prática estabelecida que considera o valor económico da vida humana. Esta mudança poderá ter implicações significativas para a saúde pública, uma vez que poderá levar a regulamentações mais brandas sobre poluentes como o ozono e as partículas finas, ambos associados a doenças cardiovasculares graves. A medida levanta preocupações sobre o futuro da proteção ambiental e o papel da IA na avaliação da verdadeira análise custo-benefício das regulamentações ambientais.
O cache semântico, que se concentra no significado das consultas em vez da redação exata, pode reduzir drasticamente os custos da API LLM, identificando e reutilizando respostas a perguntas semanticamente semelhantes. O cache de correspondência exata tradicional geralmente não consegue capturar essas redundâncias, levando a despesas desnecessárias, mas a implementação do cache semântico pode aumentar as taxas de acerto do cache e diminuir significativamente as contas do LLM.
O Cowork da Anthropic, agora em pré-visualização de pesquisa para assinantes Max, simplifica o gerenciamento de arquivos orientado por IA, permitindo que Claude interaja com pastas designadas por meio de uma interface de chat amigável. Construído no Claude Agent SDK, o Cowork oferece uma alternativa menos técnica ao Claude Code, abrindo possibilidades para tarefas sem codificação, como a geração de relatórios de despesas, ao mesmo tempo que levanta considerações sobre o gerenciamento da autonomia da IA.
Eric Migicovsky, o fundador da Pebble, está lançando a Core Devices, focando em um modelo de negócios sustentável para uma reinicialização do smartwatch Pebble e um anel de IA, evitando as armadilhas das startups tradicionais apoiadas por capital de risco. A Core Devices visa à lucratividade desde o início, aproveitando as lições aprendidas com a aquisição da Pebble pela Fitbit, gerenciando cuidadosamente o estoque e renunciando ao financiamento externo. Essa abordagem sinaliza uma mudança em direção à viabilidade a longo prazo no espaço de eletrônicos de consumo, priorizando o crescimento medido em vez da expansão rápida.
Várias fontes de notícias relatam que MacKenzie Scott doou US$ 45 milhões para o The Trevor Project, uma organização sem fins lucrativos que apoia jovens LGBTQ, marcando sua maior doação individual de todos os tempos e um impulso crítico após o aumento da demanda por serviços e o fechamento de programas federais de aconselhamento relacionados pelo governo Trump. Esta doação tem como objetivo expandir o alcance da organização e abordar os desafios de saúde mental aumentados e a hostilidade política enfrentada pelos jovens LGBTQ, que têm experimentado um aumento na ideação suicida.
A Anthropic revelou o Claude for Healthcare, um conjunto de ferramentas de IA projetadas para otimizar os processos de saúde para prestadores, seguradoras e pacientes, espelhando o anúncio do ChatGPT Health da OpenAI. Claude se distingue com conectores que permitem o acesso a bancos de dados cruciais, potencialmente acelerando a pesquisa e as tarefas administrativas, embora permaneçam preocupações sobre a confiabilidade de conselhos médicos orientados por IA.
A GoFundMe está enfrentando críticas por hospedar uma arrecadação de fundos para um agente do ICE que baleou fatalmente um civil, potencialmente violando sua própria política contra o apoio a defesas legais para crimes violentos. Isso levanta questões sobre a moderação de conteúdo da plataforma e as implicações éticas do financiamento coletivo em casos envolvendo aplicação da lei e mortes de civis, destacando os desafios de aplicar políticas de conteúdo orientadas por IA de forma consistente. O FBI está atualmente investigando o tiroteio.
Discussion
Join the conversation
Be the first to comment