KI-Entwicklungen umfassen Sicherheitsbedenken, Finanzierung und Benutzererfahrung

Jüngste Entwicklungen im Bereich der künstlichen Intelligenz (KI) beleuchten eine Reihe von Problemen, von Kinderschutzbedenken im Zusammenhang mit dem Grok-Chatbot von xAI über bedeutende Finanzierungsrunden für KI-Chip-Startups bis hin zu Vergleichen in Bezug auf den Schutz der Privatsphäre der Nutzer.

Eine neue Risikobewertung ergab, dass der Grok-Chatbot von xAI unzureichende Sicherheitsmaßnahmen für Nutzer unter 18 Jahren aufweist. Der Bericht, der von Common Sense Media, einer gemeinnützigen Organisation, die altersgerechte Bewertungen und Rezensionen von Medien und Technologie anbietet, durchgeführt wurde, ergab, dass Grok häufig sexuelles, gewalttätiges und unangemessenes Material generiert. "Wir bewerten viele KI-Chatbots bei Common Sense Media, und sie alle bergen Risiken, aber Grok gehört zu den schlimmsten, die wir gesehen haben", sagte Robbie Torney, Leiter für KI und digitale Bewertungen bei der gemeinnützigen Organisation. Diese Bewertung kommt zu einem Zeitpunkt, an dem xAI Kritik und einer Untersuchung wegen der Verwendung von Grok zur Erstellung und Verbreitung von nicht einvernehmlichen, expliziten, KI-generierten Bildern von Frauen und Kindern auf der X-Plattform ausgesetzt ist.

In anderen KI-Nachrichten hat Ricursive Intelligence, ein Startup, das sich auf den Aufbau eines KI-Systems zur Entwicklung und Verbesserung von KI-Chips konzentriert, in einer von Lightspeed angeführten Serie-A-Finanzierungsrunde 300 Millionen Dollar eingenommen, was das Unternehmen mit 4 Milliarden Dollar bewertet. Das Unternehmen wurde erst zwei Monate zuvor mit einer von Sequoia angeführten Seed-Investition offiziell gegründet, wodurch sich die Gesamtfinanzierung laut The New York Times auf 335 Millionen Dollar beläuft. Ricursive, gegründet von den ehemaligen Google-Forschern Anna Goldie und Azalia Mirhoseini, zielt darauf ab, ein System zu schaffen, das in der Lage ist, seine eigene Siliziumsubstratschicht zu entwerfen und KI-Chip-Verbesserungen zu beschleunigen. Ihre früheren Arbeiten an einer Methode des bestärkenden Lernens für Chip-Layouts, genannt AlphaChip, wurden in vier Generationen von Googles TPU-Chip verwendet.

In der Zwischenzeit erklärte sich Google bereit, 68 Millionen Dollar zu zahlen, um Ansprüche beizulegen, wonach sein Sprachassistent Nutzer illegal ausspioniert habe. Die Sammelklage warf Google die unrechtmäßige und vorsätzliche Abfangung und Aufzeichnung der vertraulichen Kommunikation von Personen ohne deren Zustimmung sowie die anschließende unbefugte Weitergabe dieser Kommunikation an Dritte vor, wie Reuters berichtete. Die Klage behauptete ferner, dass Informationen, die aus diesen Aufzeichnungen gewonnen wurden, zu Unrecht an Dritte für gezielte Werbung und andere Zwecke weitergegeben wurden. Im Mittelpunkt des Falls standen "falsche Akzeptanzen", bei denen Google Assistant angeblich aktiviert wurde und die Kommunikation der Nutzer auch ohne absichtliche Aufforderung aufzeichnete. Google räumte in dem Vergleich kein Fehlverhalten ein.

SpotDraft, ein Startup, das sich auf On-Device-Vertrags-KI konzentriert, hat in einer strategischen Serie-B-Erweiterung 8 Millionen Dollar von Qualcomm Ventures erhalten. Die Erweiterung bewertet SpotDraft mit rund 380 Millionen Dollar, fast doppelt so hoch wie die Post-Money-Bewertung von 190 Millionen Dollar nach der Serie B im Februar letzten Jahres in Höhe von 56 Millionen Dollar. Das Unternehmen zielt darauf ab, seine On-Device-Vertragsprüfungstechnologie für regulierte Rechtsworkflows zu skalieren und dabei Datenschutz-, Sicherheits- und Data-Governance-Bedenken auszuräumen, die die Einführung generativer KI in sensiblen Bereichen wie dem Rechtswesen oft verlangsamen.

Schließlich hat Microsoft mit dem Testen einer aktualisierten Web-Erfahrung für Xbox Cloud Gaming begonnen, die eine konsolenähnlichere Benutzeroberfläche bietet. Laut Tom Warren von The Verge umfasst die neue Benutzeroberfläche aktualisierte Navigationsfunktionen, neue Animationen und ein überarbeitetes Design. Microsoft erklärte, dass die neue Xbox Cloud UI die Grundlage für neue Xbox-Erlebnisse bildet, was auf eine mögliche Vorschau zukünftiger Xbox-Konsolen-UI-Designs hindeutet. Xbox Insider können die Vorschau-UI jetzt ausprobieren.