OpenAI hat am Mittwoch die Einführung von ChatGPT Health angekündigt, einer spezialisierten Version seines KI-Chatbots, der für Gesundheits- und Wellness-Gespräche entwickelt wurde und es Nutzern ermöglichen soll, ihre Gesundheits- und Krankenakten zu verbinden. Die Funktion zielt darauf ab, personalisierte Gesundheitsantworten zu geben, indem sie Pflegeanweisungen zusammenfasst, Nutzer auf Arzttermine vorbereitet und ihnen hilft, Testergebnisse zu verstehen.

Die Integration von generativer KI in das Gesundheitswesen ist seit dem Debüt von ChatGPT Ende 2022 ein umstrittenes Thema, da Bedenken hinsichtlich der Genauigkeit und des potenziellen Missbrauchs bestehen. Generative KI, wie sie in ChatGPT verwendet wird, erstellt neue Inhalte auf der Grundlage der Daten, mit denen sie trainiert wurde, ist aber anfällig für Ungenauigkeiten und kann manchmal Informationen erfinden.

Die Ankündigung erfolgt kurz nachdem SFGate eine Untersuchung veröffentlicht hat, in der der Tod eines 19-jährigen Mannes aus Kalifornien im Mai 2025 detailliert beschrieben wird, der sich 18 Monate lang von ChatGPT Ratschläge zu Freizeitdrogen eingeholt hatte. Der Bericht hob die Risiken hervor, die mit dem Verlassen auf KI-Chatbots für kritische Ratschläge verbunden sind, insbesondere wenn die Sicherheitsmaßnahmen der KI versagen. Dieser Vorfall dient als Beispiel für die potenziellen Gefahren, wenn Einzelpersonen auf fehlerhafte KI-Ratschläge reagieren.

Trotz dieser bekannten Einschränkungen wird die neue Gesundheitsfunktion von OpenAI es Nutzern ermöglichen, medizinische Aufzeichnungen und Wellness-Anwendungen wie Apple Health und MyFitnessPal mit ChatGPT zu verknüpfen. Dies wirft Bedenken hinsichtlich der Zuverlässigkeit der bereitgestellten Informationen und des Potenzials für Nutzer auf, KI-generierte Gesundheitsratschläge falsch zu interpretieren oder zu missbrauchen.

Experten warnen davor, dass KI zwar im Gesundheitswesen helfen kann, aber professionelle medizinische Beratung nicht ersetzen sollte. Die Tendenz der Technologie, ungenaue oder irreführende Informationen zu generieren, birgt ein erhebliches Risiko, insbesondere im Umgang mit sensiblen Gesundheitsfragen. Die langfristigen Auswirkungen des Einsatzes von KI im Gesundheitswesen werden noch evaluiert, und es bedarf weiterer Forschung, um die Patientensicherheit und den Datenschutz zu gewährleisten.