Vom effizienteren Management von Krankenhäusern und Praxen bis zur besseren Diagnose von Krankheiten: Im Gesundheitswesen dürfte Künstliche Intelligenz eine immer wichtigere Rolle spielen. Doch was sind die Voraussetzungen dafür, dass die Menschen der KI auch vertrauen? Samer Schaat, selbst medizinischer Informatiker, hat sich dazu Gedanken gemacht.
Von Samer Schaat
Gesundheit ist Vertrauenssache. Das fängt bereits bei der zentralen Beziehung zu unseren Haus:ärztinnen an. Ihre digitale Entsprechung könnte eine Gesundheitsplattform oder ein virtueller Gesundheitsassistent als erste Anlaufstelle und Vermittler sein. Ob eine erste Einordnung von Beschwerden oder passende Empfehlungen zu weitergehenden Untersuchungen: Symptom-Checker wie Ada Health und in der Covid-Pandemie verwendete Chatbots sind bereits Vorstufen davon. Aber sind die Kriterien der Vertrauensbildung einer menschlichen Beziehung auch übertragbar auf die virtuelle Interaktion?
Die Basis einer Patienten-Arzt-Beziehung sind immerhin menschliche Umgangsformen. In erster Linie ist das die Frage nach der Empathiefähigkeit von Ärzt:innen: Verstehen sie mein Problem und meine Fragen, verstehe ich umgekehrt ihre Antworten? Auch KI-Systeme müssen ihre bisherige Schwäche der Erklärbarkeit ihrer Ergebnisse überwinden, um vertrauenswürdig sein zu können. Wenn diese Grundlage des Vertrauens vorhanden ist, bewährt sich das Verhältnis durch die Kompetenz der Behandlung.
KI-basierte Plattformen und Gesundheitsassistenten können durch ihre adaptive Fähigkeiten aufbauend auf Eigenschaften einer vertrauensvollen bestehenden Arzt-Patienten-Beziehung individuell auf Patient:innen eingehen, bspw. durch Avatare. Der Knackpunkt dabei ist ihre Empathiefähigkeit. Unterschiedliche Ansätze von KI-Systemen wollen die Emotionen von Menschen durch ihre Stimme oder ihre Gesichtszüge erkennen. Auch wenn sie sich dadurch noch nicht in Menschen mit ihren Gedanken hineinversetzen können, klappt eine grobe Einordnung ihrer Gefühlslage schon gut.
Dafür benötigen diese Systeme jedoch ausreichend Daten und Interaktion mit Nutzenden. Das dauert. Das Grundvertrauen, das ein Arzt bereits mit dem Erstbesuch schaffen kann, muss vom KI-System erst aufwendig gelernt werden. Erst mit der Zeit zeigt das KI-System durch die kontinuierliche Anpassung seiner Gesundheitsempfehlungen an die Nutzenden seine Stärken. Bis dahin ist es umgekehrt auf die Empfehlungen von Menschen angewiesen. Nur sie können das Grundvertrauen zum KI-System herstellen, gerade wenn die Wirksamkeit des Systems nicht direkt ersichtlich ist.
Verstehe, was die Zukunft bringt!
Als Mitglied von 1E9 bekommst Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 2,50 Euro im Monat!
Jetzt Mitglied werden!
Den Stellenwert von Kundenempfehlungen und Erfahrungsberichte kennen Konsument:innen bereits von digitalen Plattformen. Spätestens wenn es von der digitalen Erstanlaufstelle zur therapeutischen Behandlung geht, werden Zertifikate für weiteres Vertrauen sorgen. Im stark reglementierten Gesundheitsbereich müssen sie das sogar, um ihre medizinische Wirksamkeit und Sicherheit zu gewährleisten, auch wenn das Medizinproduktegesetz noch nicht den lernenden Charakter von KI-Systemen berücksichtigt. Gerade der ist aber wichtig, damit sich auch die Therapie des Gesundheitsassistenten auf den individuellen Patienten anpassen kann.
Anfang 2021 hat die US-amerikanische Gesundheitsbehörde FDA Eckpunkte der Regulierung von KI-basierten Medizinprodukten veröffentlicht: den Software as a medical device (SaMD) action plan. Dabei tendiert die Regulierung von lernenden KI-Systemen auf eine Zertifizierung des Prozesses, der durch die Veränderung des Systemverhaltens ausgelöst wird.
Bereits heute sehen wir durch die Regelung des Einsatzes digitaler Gesundheitsanwendungen (DiGAs), wie Vertrauen durch die Überprüfung des Patientennutzens aufgebaut werden kann. Dieses Vertrauen ist aber auch bei Ärzt:innen nötig. Denn am Ende – oder besser gesagt am Anfang – bleiben es Ärzt:innen, die durch den vertrauensvollen Einsatz von KI-Systemen Grundvertrauen schaffen können. KI-Assistenten können die zeitlich gebundene Arzt-Patienten-Beziehung im Alltag fortführen und so die bestehende vertrauensvolle Beziehung ergänzen statt zu ersetzen. So stehen auch im Vertrauensverhältnis Ärzt:innen und KI-Systeme nicht in Konkurrenz, sondern verstärken ihre Kompetenzen. Der nützliche Einsatz von KI-Systemen durch Ärzt:innen stärkt so auch umgekehrt das Vertrauen der Patient:innen in ihre Ärzt:innen.
Dieser Artikel ist Teil des 1E9-Themenspecials „KI, Verantwortung und Wir“. Darin wollen wir herausfinden, wie wir Künstliche Intelligenz so einsetzen, dass die Gesellschaft wirklich davon profitiert. Alle Inhalte des Specials findest du hier.