Ärzte glauben, dass künstliche Intelligenz eine Rolle im Gesundheitswesen spielen kann, äußern jedoch Bedenken hinsichtlich ihrer Verwendung als Chatbot und verweisen auf Fälle von ungenauer medizinischer Beratung. Dr. Sina Bari, praktizierender Chirurg und Leiter für KI im Gesundheitswesen beim Datenunternehmen iMerit, berichtete von einer Erfahrung, bei der ein Patient ein von ihm verschriebenes Medikament in Frage stellte und Informationen von ChatGPT vorlegte, die ein Risiko von 45 % für eine Lungenembolie behaupteten.

Dr. Bari stellte fest, dass die Statistik aus einer Studie stammte, die sich auf eine bestimmte Untergruppe von Tuberkulosepatienten konzentrierte, wodurch sie für den Fall seines Patienten irrelevant war. Trotz dieser Bedenken äußerte sich Dr. Bari optimistisch über die kürzliche Ankündigung von OpenAI bezüglich ChatGPT Health, einem speziellen Chatbot, der für gesundheitsbezogene Gespräche mit verbessertem Datenschutz entwickelt wurde.

ChatGPT Health zielt darauf ab, eine sicherere Umgebung für Benutzer zu schaffen, um ihre gesundheitlichen Bedenken zu besprechen und sicherzustellen, dass ihre Nachrichten nicht zum Trainieren des zugrunde liegenden KI-Modells verwendet werden. "Ich finde es großartig", sagte Dr. Bari. "Es ist etwas, das bereits geschieht, daher wird die Formalisierung, um Patienteninformationen zu schützen und einige Schutzmaßnahmen zu treffen, die Nutzung für Patienten umso effektiver machen."

Die medizinische Gemeinschaft erkennt die potenziellen Vorteile von KI im Gesundheitswesen an, wie z. B. personalisierte Beratung und verbesserter Zugang zu Informationen. Experten betonen jedoch, wie wichtig es ist, von KI generierte Informationen mit qualifizierten medizinischen Fachkräften zu überprüfen. Die Besorgnis rührt von der Möglichkeit her, dass KI-Modelle Daten falsch interpretieren oder Ratschläge geben, die für den spezifischen medizinischen Zustand einer Person nicht zutreffend sind.

ChatGPT Health, dessen Einführung in den kommenden Wochen erwartet wird, stellt einen Versuch dar, diesen Bedenken durch die Schaffung einer kontrollierteren und privateren Umgebung für gesundheitsbezogene KI-Interaktionen zu begegnen. Die Plattform ist darauf ausgelegt, personalisierte Beratung anzubieten und gleichzeitig Patienteninformationen zu schützen. Die Entwicklung markiert einen Schritt zur verantwortungsvollen Integration von KI in das Gesundheitswesen, wobei der Schwerpunkt auf Genauigkeit und Patientensicherheit liegt.