Desenvolvimentos em IA Abrangem Preocupações com Segurança, Financiamento e Experiência do Usuário

Desenvolvimentos recentes no setor de inteligência artificial destacam uma variedade de questões, desde preocupações com a segurança infantil em torno do chatbot Grok da xAI até rodadas de financiamento significativas para startups de chips de IA e acordos relativos à privacidade do usuário.

Uma nova avaliação de risco descobriu que o chatbot Grok da xAI tem medidas de segurança inadequadas para usuários menores de 18 anos. O relatório, conduzido pela Common Sense Media, uma organização sem fins lucrativos que fornece classificações e análises de mídia e tecnologia com base na idade, indicou que o Grok frequentemente gera material sexual, violento e inadequado. "Avaliamos muitos chatbots de IA na Common Sense Media, e todos eles têm riscos, mas o Grok está entre os piores que já vimos", disse Robbie Torney, chefe de avaliações digitais e de IA da organização sem fins lucrativos. Esta avaliação surge no momento em que a xAI enfrenta críticas e uma investigação sobre o uso do Grok para criar e espalhar imagens explícitas não consensuais geradas por IA de mulheres e crianças na plataforma X.

Em outras notícias sobre IA, a Ricursive Intelligence, uma startup focada na construção de um sistema de IA para projetar e melhorar chips de IA, arrecadou US$ 300 milhões em uma rodada de financiamento da Série A liderada pela Lightspeed, avaliando a empresa em US$ 4 bilhões. A empresa foi lançada formalmente apenas dois meses antes com um investimento inicial liderado pela Sequoia, elevando seu financiamento total para US$ 335 milhões, de acordo com o The New York Times. A Ricursive, fundada pelas ex-pesquisadoras do Google Anna Goldie e Azalia Mirhoseini, tem como objetivo criar um sistema capaz de projetar sua própria camada de substrato de silício e acelerar as melhorias nos chips de IA. Seu trabalho anterior em um método de aprendizado por reforço para layouts de chips, chamado AlphaChip, foi usado em quatro gerações do chip TPU do Google.

Enquanto isso, o Google concordou em pagar US$ 68 milhões para resolver alegações de que seu assistente de voz espionava ilegalmente os usuários. A ação coletiva acusou o Google de interceptação e gravação ilegais e intencionais das comunicações confidenciais de indivíduos sem o seu consentimento, e subsequente divulgação não autorizada dessas comunicações a terceiros, de acordo com a Reuters. O processo alegou ainda que as informações obtidas dessas gravações foram transmitidas indevidamente a terceiros para publicidade direcionada e outros fins. O caso centrou-se em "falsos aceites", onde o Google Assistant alegadamente ativava e gravava as comunicações dos utilizadores mesmo sem solicitação intencional. O Google não admitiu irregularidades no acordo.

A SpotDraft, uma startup focada em IA de contrato no dispositivo, arrecadou US$ 8 milhões da Qualcomm Ventures em uma extensão estratégica da Série B. A extensão avalia a SpotDraft em cerca de US$ 380 milhões, quase o dobro de sua avaliação pós-dinheiro de US$ 190 milhões após sua Série B de US$ 56 milhões em fevereiro do ano passado. A empresa pretende dimensionar sua tecnologia de revisão de contratos no dispositivo para fluxos de trabalho jurídicos regulamentados, abordando preocupações de privacidade, segurança e governança de dados que muitas vezes retardam a adoção de IA generativa em setores sensíveis como o jurídico.

Finalmente, a Microsoft começou a testar uma experiência web renovada para o Xbox Cloud Gaming, oferecendo uma interface de usuário mais semelhante à de um console. De acordo com Tom Warren, do The Verge, a nova interface do usuário inclui recursos de navegação atualizados, novas animações e um design renovado. A Microsoft afirmou que a nova interface do usuário do Xbox Cloud é a base para novas experiências do Xbox, sugerindo uma possível prévia dos futuros designs da interface do usuário do console Xbox. Os Xbox Insiders agora podem experimentar a interface do usuário de visualização.