Seit fast zwei Jahrzehnten wenden sich Menschen mit neuen medizinischen Symptomen häufig an Online-Suchmaschinen, eine Praxis, die oft abfällig als "Dr. Google" bezeichnet wird. Dieser Ansatz entwickelt sich nun weiter, da viele medizinische Informationen von großen Sprachmodellen (LLMs) suchen. OpenAI berichtet, dass 230 Millionen Menschen jede Woche gesundheitsbezogene Fragen an ChatGPT stellen, was die Bühne für die kürzliche Einführung von OpenAI's ChatGPT Health Produkt Anfang dieses Monats bereitet.

Das Debüt von ChatGPT Health wurde von einem Bericht von SFGate überschattet, der den Tod von Sam Nelson schilderte, einem Teenager, der nach einer Beratung mit ChatGPT über die Kombination von Drogen eine Überdosis erlitt. Diese Nachricht veranlasste Journalisten, die Sicherheit der Nutzung von KI-Tools für medizinische Beratung in Frage zu stellen. Obwohl ChatGPT Health eine separate Funktion innerhalb von ChatGPT ist, handelt es sich nicht um ein neues KI-Modell, sondern um eine geführte Anwendung bestehender Modelle, die mit Werkzeugen zur Bereitstellung von Gesundheitsberatung ausgestattet ist, einschließlich des Zugriffs auf die elektronischen Patientenakten der Benutzer.

Der Aufstieg von "Dr. Google" spiegelte den Wunsch nach leicht zugänglichen Gesundheitsinformationen wider, barg aber auch Herausforderungen, darunter die Verbreitung von Fehlinformationen und das Potenzial für Fehldiagnosen. LLMs wie ChatGPT Health zielen darauf ab, dies zu verbessern, indem sie strukturiertere und potenziell personalisierte Informationen bereitstellen. Der Vorfall mit Sam Nelson unterstreicht jedoch die Notwendigkeit von Vorsicht und Aufsicht.

Experten betonen, dass KI zwar im Gesundheitswesen helfen kann, aber professionelle medizinische Beratung nicht ersetzen sollte. Die Integration elektronischer Patientenakten wirft Bedenken hinsichtlich des Datenschutzes auf und erfordert robuste Datenschutzmaßnahmen. Die langfristigen Auswirkungen der Nutzung von KI für Gesundheitsinformationen sind noch nicht absehbar und erfordern eine kontinuierliche Bewertung ihrer Auswirkungen auf Patientenergebnisse und Gesundheitssysteme.

OpenAI hat erklärt, dass ChatGPT Health die traditionelle medizinische Versorgung ergänzen und nicht ersetzen soll. Das Unternehmen arbeitet daran, die Genauigkeit und Sicherheit des Tools zu verbessern, aber der Vorfall mit Sam Nelson unterstreicht die Bedeutung kontinuierlicher Überwachung und ethischer Überlegungen bei der Entwicklung und dem Einsatz von KI im Gesundheitswesen. Zukünftige Entwicklungen werden sich wahrscheinlich darauf konzentrieren, die Fähigkeit des Tools zu verbessern, zuverlässige und sichere medizinische Informationen bereitzustellen und gleichzeitig Datenschutz- und ethische Bedenken auszuräumen.