Desarrollos de la IA abarcan preocupaciones de seguridad, financiación y experiencia del usuario

Los recientes desarrollos en el sector de la inteligencia artificial destacan una variedad de problemas, desde las preocupaciones sobre la seguridad infantil en torno al chatbot Grok de xAI hasta importantes rondas de financiación para startups de chips de IA y acuerdos relacionados con la privacidad del usuario.

Una nueva evaluación de riesgos descubrió que el chatbot Grok de xAI tiene medidas de seguridad inadecuadas para usuarios menores de 18 años. El informe, realizado por Common Sense Media, una organización sin fines de lucro que proporciona clasificaciones y reseñas de medios y tecnología basadas en la edad, indicó que Grok genera con frecuencia material sexual, violento e inapropiado. "Evaluamos muchos chatbots de IA en Common Sense Media, y todos tienen riesgos, pero Grok es uno de los peores que hemos visto", dijo Robbie Torney, jefe de evaluaciones digitales y de IA en la organización sin fines de lucro. Esta evaluación se produce cuando xAI enfrenta críticas y una investigación sobre el uso de Grok para crear y difundir imágenes explícitas no consensuales generadas por IA de mujeres y niños en la plataforma X.

En otras noticias sobre IA, Ricursive Intelligence, una startup centrada en la construcción de un sistema de IA para diseñar y mejorar chips de IA, recaudó $300 millones en una ronda de financiación Serie A liderada por Lightspeed, valorando la empresa en $4 mil millones. La compañía se lanzó formalmente apenas dos meses antes con una inversión inicial liderada por Sequoia, lo que eleva su financiación total a $335 millones, según The New York Times. Ricursive, fundada por las ex investigadoras de Google Anna Goldie y Azalia Mirhoseini, tiene como objetivo crear un sistema capaz de diseñar su propia capa de sustrato de silicio y acelerar las mejoras en los chips de IA. Su trabajo anterior en un método de aprendizaje por refuerzo para diseños de chips, llamado AlphaChip, se utilizó en cuatro generaciones del chip TPU de Google.

Mientras tanto, Google acordó pagar $68 millones para resolver las reclamaciones de que su asistente de voz espió ilegalmente a los usuarios. La demanda colectiva acusó a Google de interceptación y grabación ilegal e intencional de las comunicaciones confidenciales de las personas sin su consentimiento, y la posterior divulgación no autorizada de esas comunicaciones a terceros, según Reuters. La demanda alegaba además que la información obtenida de estas grabaciones se transmitió erróneamente a terceros para publicidad dirigida y otros fines. El caso se centró en las "falsas aceptaciones", donde Google Assistant supuestamente se activaba y grababa las comunicaciones de los usuarios incluso sin una indicación intencional. Google no admitió haber actuado mal en el acuerdo.

SpotDraft, una startup centrada en la IA de contratos en el dispositivo, recaudó $8 millones de Qualcomm Ventures en una extensión estratégica de la Serie B. La extensión valora SpotDraft en alrededor de $380 millones, casi el doble de su valoración post-money de $190 millones después de su Serie B de $56 millones en febrero del año pasado. La compañía tiene como objetivo escalar su tecnología de revisión de contratos en el dispositivo para flujos de trabajo legales regulados, abordando las preocupaciones de privacidad, seguridad y gobernanza de datos que a menudo ralentizan la adopción de la IA generativa en sectores sensibles como el legal.

Finalmente, Microsoft ha comenzado a probar una experiencia web renovada para Xbox Cloud Gaming, que ofrece una interfaz de usuario más parecida a la de una consola. Según Tom Warren de The Verge, la nueva interfaz de usuario incluye funciones de navegación actualizadas, nuevas animaciones y un diseño renovado. Microsoft declaró que la nueva interfaz de usuario de Xbox Cloud es la base para las nuevas experiencias de Xbox, lo que sugiere una posible vista previa de los futuros diseños de la interfaz de usuario de la consola Xbox. Los Xbox Insiders ahora pueden probar la interfaz de usuario de vista previa.