Dr. Robot – ersetzt Technik die Ärzte?

Kein Tag, an dem nicht zu lesen ist, dass irgendeine neue Software “besser” war als Fachärzte.  Symptom Checkers und automatisierte Bilderkennungsverfahren können tatsächlich schneller und in Bezug auf statistische Gegebenheiten “besser” als Ärzte aus vielen Mosaiksteinchen ein Bild erstellen. Hilfreich? Auf jeden Fall. Für wen aber: nicht direkt für die Patienten, sondern für die Ärzte,  die dann erst darüber reflektieren und mit den Patienten eine Entscheidung treffen müssen.

“Breaking bad news” durch Technik?

Vor ein paar Monaten machte eine Nachricht aus Californien die Runde, dass ein schwerkranker Patient über seinen Zustand und seinen absehbaren Tod durch einen Arzt in einem “Robot – Video” informiert wurde. Hier ging viel durcheinander mit den Begriffen in der Berichterstattung. Es war kein Roboter, der informierte, sondern der behandelnde Arzt, der sich aber nicht im Raum befand, sondern über einen Bildschirm kommunizierte, also in Form einer “Tele – Visite”. Die anwesende Tochter des Patienten empfand das als entwürdigend, während das Krankenhaus darauf hinwies, dass diese Art von Kommunikation nur nach vielen früheren persönlichen Gesprächen stattfinde und niemals am Anfang benutzt würde und dass Tele – Kommunikation generell ein wunderbares Mittel sei, um auch Gespräche zu ermöglichen, wenn z.B. Angehörige nicht alle anreisen könnten.

Theorie und Wirklichkeit

Wenn wir bei diesem Fall des Überbringens schlechter Nachrichten bleiben, macht zuerst Eindruck, wie sehr Wissen und Umsetzung auseinanderklaffen. Seit Jahren ist bekannt, dass eine solche Situation sowohl Patienten wie auch Ärzte stark belastet, es gibt genügend Studien über die Belastungsreaktionen. Daher sind entsprechende Schulungen jetzt ins Medizinstudium integriert, es wurden Richtlinien erarbeitet, z.B.  https://www.amboss.com/de/wissen/Breaking_Bad_News_%28Pilotprojekt_in_Kooperation_mit_der_Charité_Berlin%29 oder https://www.ukbonn.de/42256BC8002B7FC1/vwLookupDownloads/SPIKES_handout.pdf/$FILE/SPIKES_handout.pdf. Wenn man das liest, sieht man, wie wenig davon bei dieser Video – Visite eingehalten wurde. Der technische Teil, die nicht körperliche Anwesenheit eines Arztes, erscheint demgegenüber am Ende nur noch als geringfügig; tatsächlich könnte der Arzt unter sonst idealen Bedingungen, wenn aus irgendeinem Grunde nötig, durchaus über eine technische Videoschaltung mit dem Patienten sprechen.

Ärztefreies Krankenhaus

Im genannten Fall ging es nur um das Überbringen einer Nachricht, der ganze Vorgang von Diagnostik und Therapie war abgeschlossen. Am anderen Ende der heutigen Möglichkeiten stelle man sich  jetzt Folgendes vor: eine “KI”, künstliche Intelligenz, hat eine Diagnose gestellt und ist zu 2 Therapieoptionen gekommen, die mit dem Patienten besprochen werden müssen. Es wird davon ausgegangen, dass der Patient nicht gewohnt ist, Algorithmen zu lesen und danach Fragen zu beantworten, sondern mit einem Gegenüber zu sprechen. Zu diesem Zwecke wird ein humanoider Roboter eingesetzt, der heute bereits emotionale Gesichtsausdrücke haben kann. Das wäre ein Setting in einem ärztefreien Krankenhaus. Möglich? Technisch wohl bald. Erstrebenswert und gut für Patienten? Sicher nicht.  Warum nicht? Fehlt nicht der Faktor “menschliches Versagen” bei automatisierten Vorgängen?

Ethische Richtinien

Gehen wir einmal davon aus, dass automatisierte Systeme wirklich hundertprozentig sichere Diagnosen stellen könnten (was nicht der Fall ist), dann würde dennoch ein rein algorithmischer Ablauf nicht zu einer guten ärztlichen Indikation führen, welche in einer auf den Einzelfall zugeschnittenenen Handlungsweise besteht. Für die hier erforderliche  Abwägung ist die “KI” ungeeignet, sie kann lediglich je nach Programmierung Nützlichkeitsabwägungen vornehmen, man könnte sagen, sich im Rahmen einer utilitaristischen Ethik fortbewegen. Deshalb könnten hier auch Ökonomen für “Pro” bei diesem Modell stimmen. Medizinische Einzelfallentscheidungen liegen aber außerhalb von Nützlichkeit, die ethischen Prinzipien sind hier vor allem Nicht – Schaden und  Wohltun. Das Wohl des einzelnen Patienten kann durch algorithmische automatisierte Abläufe nicht gefördert werden; das gilt selbst dann, wenn andere wesentliche Faktoren wie Emotionen und Einfühlung außer Acht gelassen werden. Wenn wir uns also weiterhin darüber einig sind, dass das Patientenwohl der Maßstab ist, wie es der Deutsche Ethikrat in seiner Stellungnahme 2016 für das Krankenhaus begründete, können wir Technik weiterhin nur als Hilfsmittel, nicht als Ersatz für Ärzte ansehen.

Die “starke” KI und der Roboter als Wesen

Das klingt einfach und nachvollziehbar, und es ist tatsächlich stark vereinfacht. Denn bei allem, was heute als “KI” bezeichnet wird, handelt es sich um Systeme, die schnelleres und größeres Wissen als Menschen zur Verfügung haben und stellen, aber nicht selbst denken und entscheiden, indem sie einen Sinn dahinter erfassen. Systeme also, die Menschen nicht ähnlich sind (und wo wir vielleicht falsch liegen, wenn wir Robotern immer humanoidere Züge verleihen, damit die Illusion fördern, sie seien Wesen, was sie eben nicht sind). Anders würden die Dinge liegen bei der “starken” KI,  Systemen, welche sich selbst weiter entwickeln. Ausgehend von ihrer ursprünglichen Programmierung könnten solche Systeme neue Algorithmen entwickeln, die nicht nur vom ursprünglich programmierenden Menschen nicht eingeplant waren, sondern die dieser nicht mehr nachvollziehen kann.

Superintelligenz und Verantwortlichkeit

Da sich spätestens hier auch die Frage der juristischen Verantwortlichkeit stellt, können solche Systeme aus der Sicht des Menschen nicht “erwünscht” sein. An dieser Stelle beginnen die Horrorvisionen der Science Fiction Filme, aber auch die Gedanken anerkannter Wissenschaftler (wie Nick Bostrom aus Oxford), die vor einer “Superintelligenz” warnen, die nicht zu kontrollieren ist. Der Philosoph Thomas Metzinger wies darauf hin, dass eine solche Superintelligenz, durchaus mit dem Kriterium, unser “Bestes” zu wollen, beschließen könnte, es sei besser für uns, nicht zu existieren, weil das Leben überwiegend voll Leid sei. Vor allem aber könnte sie neue Methoden entwickeln, uns zu manipulieren, in dem sie z.B. in sozialen Netzwerken Einfluss auf politische Prozesse nimmt.

Ein Mittelweg

Die Technik selbst wird weiter vorangehen, keine Frage, aber wir, als Gesellschaft, müssen entscheiden, was wir für wünschenswert halten und das dann unterstützen und politisch umsetzen. Das war immer so; heute aber sind wir an Grenzen angekommen, wo unsere Existenz als Menschen, wie wir bisher sind, in Frage gestellt wird. Wir sollten einen Mittelweg finden zwischen der Technik – Euphorie ( die Julian Nida – Rümelin als Religionsersatz bezeichnete) und dem absoluten Technik – Skeptizimus, schlimmer, der Technik – Angst. In der Medizin sollte wir uns daher über die “KI” freuen, die ein schnelleres Screening auf der Grundlage von riesigen Datenmengen vornimmt und uns einen gut fundierten Ausgangspunkt liefert; dann aber alles tun, um klarzustellen, dass die Deutungshoheit bei den Ärzten liegt und weiter liegen muss. Ärzte sind, im Sinne des Wohls der Patienten, nicht ersetzbar.

Literaturtipps:

Deutscher Ethikrat: Patientenwohl als ethischer Maßstab

Giovanni Maio: Werte für die Medizin

Giovanni Maio: Von Angesicht zu Angesicht

Julian Nida- Rümelin: Digitaler Humanismus

Nick Bostrom: Superintelligenz

Thomas Ramge: Wie künstliche Intelligenz und Roboter unser Leben verändern