OpenAI hat kürzlich ChatGPT Health auf den Markt gebracht, ein neues Produkt, das Gesundheitsberatung bieten soll, inmitten wachsender Bedenken hinsichtlich der Zuverlässigkeit von KI-gestützten medizinischen Informationen. Die Einführung von ChatGPT Health, die Anfang dieses Monats erfolgte, kommt zu einem Zeitpunkt, an dem laut OpenAI bereits schätzungsweise 230 Millionen Menschen pro Woche ChatGPT für gesundheitsbezogene Anfragen nutzen.

Die Markteinführung wurde von einem Bericht von SFGate überschattet, der den Tod des Teenagers Sam Nelson detailliert beschreibt, der sich Berichten zufolge ausführlich mit ChatGPT über die Kombination von Medikamenten unterhalten hatte, bevor er tödlich überdosierte. Dieser Vorfall hat eine Debatte unter Journalisten und Experten über die Sicherheit und die ethischen Implikationen der Nutzung von KI für medizinische Beratung ausgelöst.

ChatGPT Health ist kein neues KI-Modell, sondern eine spezielle Schnittstelle, die auf bestehenden OpenAI-Modellen aufbaut. Dieser "Wrapper" versieht die KI mit spezifischen Anweisungen und Werkzeugen, um Gesundheitsberatung zu geben, einschließlich des potenziellen Zugriffs auf die elektronische Patientenakte eines Nutzers. Ziel ist es, die Genauigkeit und Relevanz der bereitgestellten Informationen im Vergleich zu Allzweck-KI-Chatbots zu verbessern.

Seit Jahren suchen Menschen im Internet nach medizinischen Informationen, eine Praxis, die oft als "Dr. Google" bezeichnet wird. Der Aufstieg von großen Sprachmodellen (LLMs) wie ChatGPT birgt jedoch sowohl Chancen als auch Risiken. Diese KI-Tools können zwar schnell große Mengen an medizinischen Daten verarbeiten und synthetisieren, sind aber auch anfällig für Fehler, Verzerrungen und die Erzeugung von irreführenden oder schädlichen Ratschlägen.

Der Vorfall mit Sam Nelson unterstreicht die potenziellen Gefahren, die mit dem Verlassen auf KI bei kritischen Gesundheitsentscheidungen verbunden sind. Experten warnen davor, dass KI-generierte medizinische Ratschläge nicht die Konsultation mit qualifizierten medizinischen Fachkräften ersetzen sollten. Sie betonen, wie wichtig es ist, Informationen, die von KI-Tools stammen, mit vertrauenswürdigen Quellen zu überprüfen und personalisierte medizinische Beratung von Ärzten und anderen Gesundheitsdienstleistern einzuholen.

OpenAI hat die Bedenken bezüglich KI und Gesundheitswesen anerkannt und erklärt, dass ChatGPT Health unter Berücksichtigung von Sicherheit und Genauigkeit entwickelt wurde. Das Unternehmen erklärt, dass es sich verpflichtet, das Tool kontinuierlich zu verbessern und potenzielle Risiken zu beheben. Die langfristigen Auswirkungen von ChatGPT Health und ähnlichen KI-gestützten medizinischen Tools auf die Gesellschaft bleiben jedoch abzuwarten, und eine kontinuierliche Überprüfung ist erforderlich, um eine verantwortungsvolle Entwicklung und Bereitstellung zu gewährleisten.