Die Wahrheitsproblematik der KI: Unternehmen ringen mit DEI, RAG und Systemdesign

HHS nutzte KI-Tools von Palantir, um DEI in Fördergeldern gezielt anzugehen, wie Dokumente zeigen

Das Department of Health and Human Services (HHS) nutzte künstliche Intelligenz-Tools von Palantir Technologies, um Fördergelder, Förderanträge und Stellenbeschreibungen auf die Einhaltung der Executive Orders des ehemaligen Präsidenten Donald Trump zu prüfen, die auf Initiativen zu Diversität, Gleichberechtigung und Inklusion (DEI) sowie auf die Gender-Ideologie abzielten. Dies geht aus einem kürzlich veröffentlichten Inventar der KI-Anwendungsfälle des HHS im Jahr 2025 hervor. Der Einsatz der Palantir-Software für diese Zwecke wurde weder von Palantir noch vom HHS öffentlich bekannt gegeben.

Aus dem Inventar ging hervor, dass das HHS die KI-Tools seit März 2025 einsetzt. Im ersten Jahr von Trumps zweiter Amtszeit erhielt Palantir allein vom HHS Zahlungen und Verpflichtungen in Höhe von über 35 Millionen Dollar, wie Wired berichtete. In den Beschreibungen dieser Transaktionen wurde die Arbeit, die auf DEI oder die Gender-Ideologie abzielte, jedoch nicht erwähnt.

In anderen Nachrichten zur KI-Implementierung erkennen Unternehmen zunehmend Retrieval als eine grundlegende Systemabhängigkeit bei der Einführung von Retrieval-Augmented Generation (RAG), um Large Language Models (LLMs) in proprietären Daten zu verankern, so VentureBeat. Fehler beim Retrieval können sich direkt in ein Geschäftsrisiko übertragen und das Vertrauen, die Compliance und die betriebliche Zuverlässigkeit untergraben. "Veralteter Kontext, unkontrollierte Zugriffspfade und schlecht bewertete Retrieval-Pipelines beeinträchtigen nicht nur die Antwortqualität, sondern untergraben auch das Vertrauen, die Compliance und die betriebliche Zuverlässigkeit", berichtete VentureBeat.

Unterdessen berichtete das MIT Technology Review, dass das US-amerikanische Department of Homeland Security KI-Videogeneratoren von Google und Adobe verwendet, um Inhalte für den öffentlichen Konsum zu erstellen. Diese Nachricht hat Bedenken hinsichtlich des Potenzials von KI-generierten Inhalten zur Aushöhlung des gesellschaftlichen Vertrauens geweckt.

Um erfolgreiche KI-Systeme in Unternehmen zu gewährleisten, empfiehlt Mistral AI, einen "ikonischen Anwendungsfall" als Grundlage für die KI-Transformation zu identifizieren. Dieser Ansatz beinhaltet die gemeinsame Entwicklung maßgeschneiderter KI-Lösungen mit Branchenführern, um spezifische Herausforderungen anzugehen und messbare Ergebnisse zu erzielen, so das MIT Technology Review.

Asana CPO Arnab Bose betonte die Bedeutung von gemeinsamem Gedächtnis und Kontext für erfolgreiche KI-Agenten innerhalb eines Unternehmens. "Wenn man eine Aufgabe zuweist, muss man nicht den gesamten Kontext darüber, wie das eigene Unternehmen funktioniert, erneut bereitstellen", sagte Bose auf einer VentureBeat-Veranstaltung in San Francisco. Asana hat letztes Jahr Asana AI Teammates mit dem Ziel auf den Markt gebracht, ein kollaboratives System zu schaffen, in dem KI-Agenten direkt in Teams und Projekte integriert sind.