OpenAI hat kürzlich ChatGPT Health auf den Markt gebracht, ein neues Produkt, das Gesundheitsberatung bieten soll, inmitten wachsender Bedenken hinsichtlich der Zuverlässigkeit von KI-gestützten medizinischen Informationen. Die Markteinführung, die Anfang des Monats stattfand, erfolgt zu einem Zeitpunkt, an dem laut OpenAI bereits schätzungsweise 230 Millionen Menschen pro Woche ChatGPT für gesundheitsbezogene Anfragen nutzen. Diese Entwicklung kommt zu einer Zeit, in der der Einsatz von KI für medizinische Beratung verstärkt unter die Lupe genommen wird.

Die Vorstellung von ChatGPT Health wurde von einem Bericht von SFGate überschattet, der den Tod des Teenagers Sam Nelson schilderte, der Berichten zufolge ChatGPT um Rat zur Kombination von Medikamenten gebeten hatte, bevor er im vergangenen Jahr eine Überdosis nahm. Dieser Vorfall hat eine Debatte unter Journalisten und Experten über die Sicherheit und die ethischen Implikationen der Nutzung von KI für medizinische Beratung ausgelöst.

ChatGPT Health ist kein neues KI-Modell, sondern eine spezielle Schnittstelle, die auf bestehenden OpenAI-Modellen aufbaut. Dieser "Wrapper", wie er beschrieben wurde, versorgt die KI mit spezifischen Anweisungen und Werkzeugen, die auf gesundheitsbezogene Anfragen zugeschnitten sind. Er kann auch auf die elektronische Patientenakte eines Nutzers zugreifen und so potenziell eine individuellere Beratung anbieten.

Die Zunahme der Online-Symptomsuche, oft als "Dr. Google" bezeichnet, ist seit zwei Jahrzehnten gängige Praxis. Die Verlagerung hin zur Nutzung von Large Language Models (LLMs) wie ChatGPT wirft jedoch neue Fragen zur Genauigkeit und Verantwortlichkeit auf. Im Gegensatz zu traditionellen Suchmaschinen, die Links zu verschiedenen Quellen bereitstellen, synthetisieren LLMs Informationen und bieten direkte Antworten, die irreführend oder sogar schädlich sein können, wenn die zugrunde liegenden Daten fehlerhaft oder voreingenommen sind.

Experten betonen, wie wichtig es ist, die Grenzen von KI im Gesundheitswesen zu verstehen. KI kann zwar riesige Datenmengen verarbeiten und Muster erkennen, ihr fehlt aber das kritische Denken und das differenzierte Urteilsvermögen eines menschlichen Mediziners. Das Potenzial für Fehldiagnosen, falsche Behandlungsempfehlungen und die Verbreitung von Fehlinformationen sind erhebliche Bedenken.

Der aktuelle Stand von ChatGPT Health befindet sich noch in einem frühen Stadium, und OpenAI hat noch keine detaillierten Informationen über seinen Validierungsprozess oder seine Sicherheitsmaßnahmen veröffentlicht. Das Unternehmen steht vor der Herausforderung, sicherzustellen, dass die KI genaue, zuverlässige und unvoreingenommene medizinische Ratschläge gibt und gleichzeitig die Privatsphäre und Datensicherheit der Nutzer schützt. Zukünftige Entwicklungen werden sich wahrscheinlich auf die Verfeinerung der Algorithmen der KI, die Einbeziehung von Feedback von Medizinern und die Festlegung klarer Richtlinien für ihren Einsatz im Gesundheitswesen konzentrieren.