Eine kürzlich veröffentlichte Studie hat die Fähigkeit von KI-gestützten Chatbots zur Bereitstellung von Gesundheitsinformationen untersucht und kommt zu ernüchternden Ergebnissen. Die Untersuchung, die als erste ihrer Art auf randomisierten Studien basiert, zeigt, dass diese digitalen Assistenten nicht besser als bestehende Suchmaschinen wie Google darin sind, Nutzer zu korrekten Diagnosen zu führen oder hilfreiche Ratschläge zu geben. Tatsächlich bergen sie einzigartige Risiken, da sie manchmal falsche Informationen präsentieren oder ihre Empfehlungen drastisch ändern, wenn die Fragestellung nur leicht variiert.
Seit der Einführung von KI-Chatbots vor etwa drei Jahren sind Gesundheitsfragen zu einem der am häufigsten behandelten Themen geworden. Zahlreiche Menschen suchen online nach medizinischen Ratschlägen, und einige Ärzte berichten, dass Patienten regelmäßig mit Informationen aus KI-Modellen in die Praxis kommen. Umfragen zufolge nutzt etwa jeder sechste Erwachsene mindestens einmal im Monat Chatbots, um Gesundheitsinformationen zu erhalten. Große Technologieunternehmen wie Amazon und OpenAI haben Produkte entwickelt, die speziell darauf abzielen, Gesundheitsfragen zu beantworten.
Die Vorfreude auf diese Technologien ist nicht unbegründet: Einige Modelle haben medizinische Lizenzprüfungen bestanden und sich in bestimmten Fällen als besser bei der Diagnose komplexer medizinischer Probleme erwiesen als menschliche Ärzte. Dennoch warnt die aktuelle Studie davor, diese Tools ohne Einschränkungen in der direkten Patientenversorgung einzusetzen. Die Forscher betonen, dass keines der getesteten Modelle bereit für den Einsatz in der direkten Patientenversorgung ist.
Ein wesentlicher Teil des Problems scheint darin zu liegen, wie Nutzer ihre Fragen formulieren. Eine leichte Änderung in der Formulierung kann dazu führen, dass der Chatbot völlig unterschiedliche Ratschläge gibt. Dies wurde in der Studie durch Beispiele verdeutlicht: Während ein Nutzer mit Symptomen wie Kopfschmerzen und Nackensteifheit von dem Modell beruhigende Ratschläge erhielt, wurde einem anderen Nutzer mit ähnlichen Symptomen dringend geraten, sofort medizinische Hilfe aufzusuchen.
Die Studie verdeutlicht, dass trotz technologischer Fortschritte im Bereich der künstlichen Intelligenz bei der Bereitstellung medizinischer Informationen Vorsicht geboten ist. Die Forscher raten Nutzern, die Ratschläge von Chatbots kritisch zu hinterfragen und im Zweifelsfall stets einen medizinischen Fachmann zu konsultieren. Besonders besorgniserregend ist die Möglichkeit, dass falsche Informationen oder ungenaue Ratschläge zu ernsthaften Gesundheitsrisiken führen könnten.
Die Technologieunternehmen, die hinter diesen KI-Modellen stehen, betonen dennoch deren Potenzial. Sie argumentieren, dass die Modelle kontinuierlich verbessert werden und dass die Fähigkeit, medizinische Prüfungen zu bestehen, ein Indikator für ihre zukünftige Anwendbarkeit ist. Dennoch ist Skepsis angebracht, bis die Genauigkeit und Zuverlässigkeit dieser Technologien umfassend validiert sind.
Die Diskussion um die Rolle von KI in der Gesundheitsversorgung wirft auch ethische Fragen auf. Wer trägt die Verantwortung, wenn ein Chatbot falsche Ratschläge gibt und ein Nutzer dadurch Schaden erleidet? Diese und andere Fragen müssen geklärt werden, bevor KI-gestützte Gesundheitsberatung zur Norm werden kann.
Insgesamt zeigt die Studie, dass, obwohl KI-Chatbots in der Lage sind, beeindruckende Leistungen zu erbringen, sie derzeit nicht als verlässliche Quelle für medizinische Beratung angesehen werden sollten. Die Forscher fordern weitere Untersuchungen und eine sorgfältige Abwägung der Risiken und Chancen, die der Einsatz von KI in der Gesundheitsversorgung mit sich bringt. Bis dahin bleibt es wichtig, dass Nutzer bei Gesundheitsfragen auf die Expertise von medizinischen Fachleuten vertrauen.