Laut OpenAI wenden sich mittlerweile mehr als 230 Millionen Menschen für Gesundheitsratschläge an KI-Chatbots wie ChatGPT. Während diese Tools einen einfacheren Zugang zur Navigation im Gesundheitswesen und zur Selbstvertretung versprechen, ist es ein Wagnis, ihnen sensible medizinische Daten anzuvertrauen. Für Technologieunternehmen gelten andere Regeln als für medizinische Anbieter, und der Datenschutz ist bei weitem nicht gewährleistet. Die Eile, KI in das Gesundheitswesen zu integrieren, wirft ernsthafte Fragen zur Privatsphäre der Benutzer und zur Zuverlässigkeit automatisierter Gesundheitsberatung auf.
Der Aufstieg der KI im Gesundheitswesen
Zwei große Player, OpenAI und Anthropic, haben kürzlich spezielle KI-Produkte für das Gesundheitswesen auf den Markt gebracht. ChatGPT Health von OpenAI und Claude for Healthcare von Anthropic zielen darauf ab, gesundheitsbezogene Abfragen zu rationalisieren. Allerdings unterscheiden sich diese Tools erheblich in der Sicherheit; OpenAI bietet eine Verbraucherversion neben einer besser geschützten Unternehmenslösung, ChatGPT for Healthcare, was zu Verwirrung bei Benutzern führt, die möglicherweise das gleiche Schutzniveau annehmen. Googles Gemini bleibt bei diesem Vorstoß weitgehend abwesend, aber sein MedGemma -Modell steht Entwicklern zur Verfügung.
OpenAI fördert aktiv die Weitergabe sensibler Gesundheitsdaten – Krankenakten, Testergebnisse, App-Daten von Apple Health, Peloton usw. – und verspricht dabei Vertraulichkeit. Allerdings können sich die Nutzungsbedingungen ändern und der rechtliche Schutz ist schwach. Das Fehlen umfassender bundesstaatlicher Datenschutzgesetze macht Benutzer verwundbar und verlässt sich eher auf Unternehmensversprechen als auf durchsetzbare Standards.
Die Illusion der Sicherheit
Selbst mit Verschlüsselung und erklärter Verpflichtung zum Datenschutz ist es riskant, KI Gesundheitsdaten anzuvertrauen. Die Zusicherungen von OpenAI werden durch die Existenz von ChatGPT for Healthcare getrübt, einem geschäftsorientierten Produkt mit stärkeren Sicherheitsvorkehrungen. Aufgrund der ähnlichen Namen und Startdaten kann die Verbraucherversion leicht mit der sichereren Version verwechselt werden, ein Fehler, den viele Benutzer bereits gemacht haben.
Darüber hinaus können Unternehmen ihre Datennutzungsrichtlinien jederzeit ändern. Hannah van Kolfschooten, Forscherin für digitales Gesundheitsrecht, betont: „Sie müssen darauf vertrauen, dass ChatGPT [seine Datenschutzpraktiken] nicht ändert.“ Die HIPAA-Konformität ist, selbst wenn sie behauptet wird, keine Garantie für die Durchsetzung. Die freiwillige Einhaltung von Standards ist nicht dasselbe wie eine gesetzliche Bindung.
Die Gefahren von Fehlinformationen
Über den Datenschutz hinaus können KI-Chatbots ungenaue oder gefährliche Gesundheitsratschläge geben. Beispiele hierfür sind Chatbots, die Natriumbromid anstelle von Salz empfehlen oder Krebspatienten fälschlicherweise raten, Fette zu meiden. OpenAI und Anthropic lehnen die Verantwortung für Diagnose und Behandlung ab und klassifizieren ihre Tools als nichtmedizinische Geräte, um strengere Vorschriften zu vermeiden.
Diese Einstufung ist fraglich, da Anwender diese Tools bereits zur medizinischen Entscheidungsfindung nutzen. OpenAI hebt Gesundheit als einen wichtigen Anwendungsfall hervor und stellt sogar eine Krebspatientin vor, die ChatGPT nutzte, um ihre Diagnose zu verstehen. Die eigenen Benchmarks des Unternehmens deuten darauf hin, dass die KI in medizinischen Szenarien gute Leistungen erbringen kann, was Fragen zur behördlichen Aufsicht aufwirft.
Eine Frage des Vertrauens
Das Kernthema ist Vertrauen. Die Medizin ist aus gutem Grund stark reguliert: Fehler können tödlich sein. KI-Unternehmen agieren jedoch in einem sich schneller entwickelnden, weniger regulierten Umfeld. Obwohl KI den Zugang zur Gesundheitsversorgung verbessern könnte, hat die Branche noch nicht das gleiche Maß an Vertrauen gewonnen wie traditionelle medizinische Anbieter.
Letztendlich ist der Austausch privater Gesundheitsdaten mit KI-Chatbots ein Kompromiss zwischen Bequemlichkeit und Risiko. Bis es strengere Vorschriften und durchsetzbare Datenschutzstandards gibt, müssen Benutzer mit Vorsicht vorgehen. In der aktuellen Situation hat Innovation Vorrang vor Sicherheit und überlässt es dem Einzelnen, sich in einer komplexen und unsicheren Zukunft zurechtzufinden.
