Die Situation: der demografische Wandel – Zunahme älterer bei Abnahme jüngerer Menschen –  ist längst da. Zusätzlich kommt in wenigen  Jahren die Generation der ‘Babyboomer’ ins Rentenalter. Somit wird die Anzahl pflegebedürftiger Menschen nochmals stark ansteigen.   Pflegenotstand ist jetzt schon Fakt, besonders dramatisch der Mangel an Pflegefachpersonen. Zusätzlich gibt es immer mehr Ausfälle bei den jetzt  Pflegenden, die durch dauernde Überforderung  in Schichtdiensten eher erkranken oder ganz ausfallen oder kündigen. So ist der Personalschlüssel Pflege in Deutschland im europäischen Vergleich schlecht. Was liegt also näher, als endlich Roboter zur Lösung einzusetzen? Die Frage ist: Können Roboter den Pflegenotstand beheben?

Pflegerobotik update

Unter diesem Titel hatte ich im März 2022 zusammengefasst, was es neu gab. Inzwischen ist mehr als ein Jahr vergangen. Gibt es einen Durchbruch? Um es gleich zu sagen: nein, und das trotz der immensen technischen Fortschritte. Kurz zusammengefasst: es stehen uns bereits zur Verfügung:

• Serviceroboter mit immer mehr Möglichkeiten:  Material wie Wäsche oder Verbandsmaterial in Kliniken zu den verschiedenen Stationen transportieren, inzwischen selbständig Aufzug fahren, be- und entladen. Was hier mit der Pflege zu tun hat, ist die Zeitersparnis. Wichtig, aber eben nur das.
• Näher an Patient:innen sind Assistenzrobotsysteme wie ferngesteuerte immer flexiblere und sensiblere technische Arme, die beispielsweise Verbandswechsel bei großflächigen Wunden durchführen können, Lagerungen in Isolierzimmern wegen Infektionsgefahr und Vieles mehr. Diese arbeiten aber nicht selbständig, sondern als Werkzeug für Pflegekräfte. Allerdings können Assistenzroboter auch einfache praktische Hilfen bereitstellen; sie können beispielsweise Getränke bringen, hingefallene Gegenstände aufheben, Erinnerungsfunktionen übernehmen und Stürze melden. Assistenzroboter wie Pepper spielen auch eine Rolle nur bei der Zeitersparnis, da sie Patient:innen eine Zeitlang beschäftigen können, ob durch Vorlesen und Spiele oder durch Gymnastikprogramme.
• Sozioemotionale Roboter wie die Robbe Paro (in den USA als Medizinprodukt zertifiziert und von den Kassen erstattet), die wie eine Tiertherapie dort eingesetzt werden können, wo aus hygienischen Gründen Tiere nicht gestattet sind. Menschliche soziale Umarmungen und Berührungen können aber auch durch immer menschenähnlichere humanoide Roboter nur dargestellt, nicht ersetzt werden.

Und was gibt es immer noch nicht ? Eine Kombination aus allem. Und schon gar nicht gibt es ein technisches System, welches eine Pflegefachkraft ersetzen könnte. Die – je nach Standpunkt und Interessen – Hoffnung oder Angst, dass Roboter Fachpflegekräfte ersetzen können, scheint immer unbegründeter.

Anforderungen an Pflegeroboter

Was müsste es denn geben, um Menschen in der Situation der Pflege, welche nicht Ersatz von einzelnen Funktionen, sondern Sorgearbeit ist, ersetzen zu können? Die Antwort wäre: Roboter mit sehr umfangreichen, wenn nicht allen menschlichen Eigenschaften, körperlicher und geistiger Interaktionsfähigkeit, sehr komplexem und selbständigem Verhalten (was der Verantwortung einer Person entspricht, auch mit allen rechtlichen Konsequenzen). Spätestens an dieser Stelle wird aber wohl deutlich, dass es um Fragen geht, die nicht nur die Grenze des Machbaren, sondern auch des Wünschbaren berühren! So formulierte Peter Tackenberg vom Deutschen Berufsverband für Pflegeberufe 2019 lapidar: “Technik, die das menschliche Beurteilungsvermögen durch künstliche Intelligenz ersetzt statt ergänzt, wird in der Pflege nicht benötigt.”

Pflegeroboter und Pflegenotstand heute

Was sind die Fakten? Im Augenblick muss der Einsatz sozialer Robotik von Pflegepersonen begleitet werden; es ist nicht nur die Technik, die Einführung verlangt, weil einmal die Nutzung robotischer Systeme technische Kenntnisse erfordert und zum Anderen diese Systeme gewartet werden müssen. Vor allem benötigen Menschen Zeit, um sich an Interaktionen mit Robotern zu gewöhnen; das gilt ganz besonders bei Patient:innen mit kognitiven  Einschränkungen. Dadurch entsteht aber mehr, nicht weniger Arbeit für Pflegepersonen, also genau auf dem Gebiet, wo (Altenpflege!) Roboter von der Werbung als die Lösung hingestellt werden. Ganz abgesehen davon, dass die Maschinenethik weiterhin ausgebaut werden muss, dass der Einsatz selbstlernender Systeme erst am Anfang steht, dass  Fragen zur Verantwortung und Haftung weiter ungeklärt und  gesetzgeberische Maßnahmen sowie rechtliche Vorgaben noch lückenhaft sind.

Pflegerobotik in der Entwicklung

Neueren Datums ist die Erkenntnis, die wegweisend sein könnte: dass die Probleme schon bei der Entwicklung gesehen werden müssen. Entwickler müssten zunächst die Komplexität pflegerischer Maßnahmen verstehen, abgesehen von allem, was mit den ethischen und sozialen Fragestellungen verbunden ist. Das ist nur durch enge Zusammenarbeit mit Pflegefachkräften erreichbar. Am Ende dieses Prozesses müsste ein Roboter stehen, bei dem eine Pflegefachkraft zusätzlich Aufgabenstellung und Veränderung für ihre einzelnen Patient:innen individuell  vornehmen kann. Es klingt so einfach und ist am schwierigsten: Roboter, die in der Interaktionsarbeit  (Arbeit an und mit Menschen) einen Menschen ersetzen sollen, müssen sich an die Anforderungen des Einzelfalls und die Bedürfnisse jedes einzelnen Menschen anpassen können und sie müssen in dieser Interaktion mit den beteiligten Menschen weiterlernen.

Wie geht es weiter?

Immerhin, es gibt Stimmen, die sagen: “[…] die Frage ist nicht, ob, sondern wie, wo und letztlich wann intelligente und autonome Roboter in der Altenpflege Einsatz finden werden”. Wenn man die Frage etwas erweitert auf ‘Seniorenbetreuung’, zum Beispiel auf alleinlebende ältere Menschen, die möglichst lange selbständig zu Hause bleiben wollen, ist das wohl richtig. Hier gibt es inzwischen Pilotprojekte. Auch Kombinationen aus Assistenz- und Unterhaltungsrobotern  wie TEMI werden in Praxisprojekten getestet,  kommen allerdings  bisher immer wieder an ihre Grenze. Ansonsten ist der Begriff Pflegeroboter, unter dem verstanden wird, dass eine Maschine Pflegekräfte ersetzt, auch heute nur irreführend. Wer Werbung sieht, glaubt, ein Roboter könne sich selbständig um Körperpflege, Ernährung und Medikamentenverabreichung kümmern und gleichzeitig Gesellschafter oder gar Ansprechpartner sein, und das ist nicht korrekt. Es trifft heute nicht zu und wird flächendeckend als Lösung unseres Pflegenotstandes zumindest sehr lange nicht zutreffen. Auf der anderen Seite steht das Problem, dass Serviceroboter von Pflegekräften zur Arbeitserleichterung audrücklich gewünscht werden, aber in der Altenpflege kaum zum Einsatz kommen. Grund? Die Kosten. Oder: Verschiebung des Problems auf die höchste strukturelle Ebene: politischer Wille. So ist selbst hier, wo es bereits möglich wäre, kaum ein Fortschritt zu verzeichnen.

Fazit:

• Im Augenblick ist im Pflegebereich jeder Roboter noch selbst zu stark  ‘pflegebedürftig’; er braucht die Menschen mehr als die Menschen ihn.
• Die in der Werbung oft dargestellte Kombination aus Serviceroboter und sozioemotionalem Roboter ist weder erreicht noch im Augenblick vostellbar.
• Der Technikfortschritt ist deutlich. Er bedeutet aber letztlich, dass nicht weniger, sondern mehr und vor allem besonders qualifizierte Pflegekräfte mit differenzierter Ausbildung erforderlich sind.
• Die Zukunft der Pflegerobotik liegt im individuellen Anpassen an die Bedürfnisse der einzelnen Menschen. Dazu wäre nicht nur viel mehr interdisziplinäre Forschung nötig, sondern vor allem praktische Zusammenarbeit von Entwicklern und Pflegefachkräften lange vor dem Einsatz eines Roboters. Die Einbindung der Pflege ist bereits in der ersten Entwicklungsphase dringend erforderlich.

Nicht der Roboter pflegt, sondern die Pflegekraft

Ich glaube, das Beitragsbild symbolisiert den jetzigen Stand sehr schön: die menschliche Hand und die Roboterhand versuchen, sich zu berühren, aber die Lücke zwischen beiden ist nicht zu schließen. Bei der Annäherung der zwei Welten ist ein Händedruck noch nicht in Sicht. So bleibt auch 2023 nur die Feststellung: nicht der Roboter pflegt, sondern die Pflegekraft. Oder, wie es der Deutsche Ethikrat
schon 2020 formulierte: es gibt einen möglichen Nutzen von Robotik im Pflegebereich, aber der liegt nicht in der Beseitigung von Personalengpässen im Einzelnen und des Pflegenotstandes im Ganzen, sondern in der Unterstützung und Förderung guter Pflege. Ferner kann und darf ein Roboter nicht im Sinne von Effizienzmaximierung  als Ersatz zwischenmenschlicher Beziehung betrachtet und niemals gegen den Willen von Gepflegten und Pflegenden eingesetzt werden; schließlich ist nötig, dass alle Betroffenen in die Entwicklung der Technik einbezogen werden.

Dank an Tara Winstead für Foto auf pexels 

Literaturtipps

OliverBendel: Pflegeroboter

Ludwig Binder: Pflegeroboter als Zukunft im Gesundheitswesen

Ronald Deckert: Digitalisierung in der Altenpflege

Katrin Misselhorn: Grundfragen der Maschinenethik

Thomas Rampe: Mensch und Maschine

Hergesell Jannis et al (Hrsg): Genese und Folgen der Pflegerobotik

Oliver Korn ( Hrsg) : Social Robots

Nicole Kaczmar:  Pflegeroboter in der Altenpflege

‘Ist ChatGPT intelligent’ und  ‘Geht Technik vor Ethik’? Grundlegende Fragen, die zu wenig gestellt werden. Große KI-Sprachmodelle wie ChatGPT,  vor wenigen Monaten nur Insidern bekannt,  gehören jetzt zum Alltag. Sie schreiben Texte und Programme, Privatbriefe, Hausarbeiten für Schüler und Studenten und inzwischen sind auch akustische und bildliche Eingaben möglich. Parallel zu den immer größer werdenden Möglichkeiten steigt ein allgemeines Unbehagen, auch treten mögliche Bedrohungen in unser Bewusstsein. Die Angst vor Sicherheitsrisiken und vielfältigem Missbrauchspotenzial ist überall präsent. Die Technik galoppiert, die Beschäftigung mit ihren Risiken versucht Schritt zu halten. Wir wissen kaum etwas und benutzen blind. Mit einer am 20. März 2023 veröffentlichten Stellungnahme hat der Deutsche Ethikrat etwas Licht auf “Mensch und Maschine” geworfen.

Was ist denn so neu an dieser KI?

Wir haben uns längst daran gewöhnt, dass mit Hilfe von Künstlicher Intelligenz große Datenmengen verarbeitet werden können und dass das auf allen Gebieten, auch in der Medizin, sehr hilfreich ist. Jetzt aber treten Systeme auf, die als “smart” bezeichnet werden, die uns nicht nur den Eindruck selbständiger Entscheidungen erwecken, sondern uns  ganz persönlich und sogar emotional  anzusprechen scheinen. Spätestens an dieser Stelle kommt es zu einer neuen gefühlten Bedrohung: gab es bisher nur Bedenken wegen missbräuchlicher Anwendung, beispielsweise von Schadsoftware, phishing mails und Sicherheitsbedrohungen, geht es jetzt um Ängste, die uns in unserer Existenz betreffen, eine Bedrohung durch ein Etwas, welches uns gleichwertig oder überlegen wäre und uns ersetzen würde.

Gesetzgebung für KI?

Weltweit gibt es Bestrebungen, Gefahren einzuhegen, die klar definierbare Gebiete betreffen. So stellen sich Probleme von Haftung, wenn KI immer unabhängiger von Menschen agieren würde. Wer wäre anzuklagen und müsste Entschädigungen bezahlen?  Praktische Fragen. die zu regeln sind, aber immer zurückweisen auf die Grundsatzfragen: sprechen wir von tools, von Maschinen, wenn wir KI meinen?  Oder kann ein technisches System wie KI eine eigene Rechtspersönlichkeit haben? Hilft oder schadet uns KI mehr?  Beides! Sie hilft: wir können Arbeiten delegieren. Sie schadet: sie stellt unsere Urheberschaft infrage. Eine Gesetzgebung der Handhabung zu finden ist nachvollziehbar ungeheuer schwierig. Mit diesen Fragen setzen sich Techniker und Juristen auseinander; es geht aber um weit mehr. Zunächst fällt auf, dass wir im Zusammenhang mit KI Begriffe benutzen, die wir dringend genauer definieren müssten.

Was ist Intelligenz?

Unser Begriff KI erweckt den Eindruck, es handele sich um unsere Intelligenz, die aber künstlich hergestellt sei. Ist das so? Zur menschlichen Intelligenz gehören – selbst wenn man die sogenannte emotionale Intelligenz weglässt – verschiedenste Faktoren, die nicht nur die Fähigkeit zu logischen Schlüssen umfassen, beispielsweise räumliches Vorstellungsvermögen und assoziatives Gedächtnis. Rationales Denken und entsprechendes Schlussfolgern gehören ebenso dazu wie danach ein zielgerichtetes Handeln; unser Verstehen von menschlicher Intelligenz umfasst theoretische und praktische Vernunft. Diese kann nicht von unserem Leib abgekoppelt werden (vereinfacht: ein isoliertes menschliches Gehirn in einer Nährflüssigkeit kann nicht denken und handeln. ICH bin nicht in einem isolierten Gehirn.)  So kommt der Deutsche Ethikrat in seiner Stellungnahme zu dem Schluss, dass es gravierende Unterschiede gibt: auch wenn sich in der Arbeitsweise von KI Parallelen zur theoretischen Vernunft aufzeigen lassen, verfügen “…die bislang verfügbaren KI- Systeme nicht über die dafür relevanten Fähigkeiten des Sinnverstehens, der Intentionalität und der Referenz auf eine außersprachliche Wirklichkeit”. In leichter Sprache: KI – Systeme können nicht denken und verstehen.

Ist ChatGPT intelligent – ohne Vernunft? Handlung? Absicht?

Noch mehr gilt das für die praktische  Vernunft, die mit einem weiteren Begriff verbunden ist: dem der Handlung. Handlung ist nicht alles, was wir tun, sondern nur ein Tun, welches zweckgerichtet, beabsichtigt und kontrolliert ist. Wenn also eine Maschine nicht die Absicht hat, etwas zu tun, können wir ihr nicht zuschreiben, dass sie handelt. Zum Begriff der Absicht gehört unsere Vorstellung von einer Person, die handelt und dann auch moralisch und rechtlich dafür verantwortlich ist. Handlungsurheberschaft ist die Grundlage für das, was wir als Autonomie bezeichnen. Wir Menschen können uns selbst Gesetze geben und unsere Handlungen danach ausrichten. Wenn also technische Systeme jeder Art absichtlich und verantwortungsfähig handeln könnten, müssten wir sie folgerichtig als Person betrachten.

Anthropomorphisierung vermeiden

Je mehr uns klar wird, dass es sich bei KI nicht um eine menschliche Intelligenz handelt, sondern um etwas gänzlich Anderes, umso mehr sollten wir zu dem Schluss kommen, dass wir sprachlich die Vermenschlichung der technischen Systeme vermeiden und neue Begriffe suchen sollten. Dass in den heute stattfindenden öffentlichen Diskursen KI nicht von menschlicher Intelligenz unterschieden wird, hat Folgen. Wenn wir sagen, dass technische  Systeme lernen, denken und entscheiden, sprechen wir von etwas, was Philosophie und Psychologie jahrhundertelang  durchdacht haben und was für uns  zu einem Begriff mit automatischen Vorannahmen und Assoziationen wurde. Wir müssen uns klarer darüber werden, dass unsere Begriffe bei KI gar nicht mehr zutreffen und daraus Schlüsse ziehen. Wenn nicht mehr zu jedem Zeitpunkt  ganz deutlich wird, dass der Begriff Intelligenz in Bezug auf technische Systeme nur metaphorisch ist, müssen wir neue Begriffe finden, sonst täuschen wir uns dauerhaft selbst. KI ist keine menschliche Superintelligenz, sie ist eine andere Intelligenz.

Gefahr durch Automation Bias

Hier genau ist nämlich der Punkt, wo die Nutzung schon der bisherigen KI-Systeme gefährlich sein könnte: als Automation Bias wird die ungeprüfte Übernahme algorithmisch vorgeschlagener Ergebnisse bezeichnet; diese entsteht dadurch, dass wir den algorithmisch erzeugten Ergebnissen mehr vertrauen als unseren (auf begrenzteren Daten beruhenden) Erkenntnissen. Praktisches Beispiel aus der Medizin: wenn wir durch KI erstellte Wahrscheinlichkeitsdiagnosen bei Hautkrebs einfach übernehmen. Solange wir davon ausgehen, dass KI unserer Intelligenz entspricht, freuen wir uns unter Umständen immer mehr nicht nur an schnell bereit gestellten Daten, sondern übernehmen ‘Entscheidungen‘, da wir unbewusst diesen künstlichen Akteuren auch Vernunft und Verantwortung zuschreiben. Es liegt an uns selbst, KI -Systeme weiterhin strikt als Entscheidungsunterstützer, nicht aber als Entscheider zu sehen. Sonst höhlen wir selbst unser eigenes System von Urheberschaft, Autorschaft und Verantwortlichkeit aus, ganz unabhängig von rechtlichen Gegebenheiten.

Wird “Starke KI” Wirklichkeit?

Dabei gelten all diese Überlegungen schon für die KI von heute; technisch sowie philosophisch ist man weiter darüber uneins, ob die sogenannte Starke oder Generelle Künstliche Intelligenz wirklich realisiert werden kann. Der Historiker Yuval Noah Harari sagte kürzlich in einem Vortrag, man solle den Begriff Artificial Intelligence durch Alien Intelligence ersetzen, da artificial (= künstlich)  ja meine, dass etwas durch uns erschaffen wurde, was aber nicht mehr gelte. Das trifft für die jetzige Situation wohl (noch?) nicht ganz zu, fest steht aber, dass unsere früher klare Grenzlinie zwischen Mensch und Technik immer mehr verschwimmt.  KI  ist anders  ‘intelligent’.

ChatGPT als Moralische Maschine?

Oliver Bendel bezeichnet ChatGPT erstmalig als moral machine im Sinne der Maschinenethik. Das heisst nicht, ein technisches System bilde sich ein eigenes Urteil darüber, was moralisch richtig oder falsch ist;  es reproduziert nur menschliche Urteile. Wie KI  ist maschinelle Moral nur ein terminus technicus, ein Begriff. Gemeint ist ein System, welches nicht selbst gut  oder böse ist, sondern menschliche Moral simuliert, indem es moralische Regeln befolgt. Das technische System ist nicht neutral.  Es lernt auf Basis vorhandener Daten, bei ChatGPT von Sprache, die Menschen geschaffen haben, und damit kann es Stereotypen benutzen und Ungerechtigkeiten verewigen. Grundlegende ethische Fragen werden hier an vielen Stellen berührt, beispielhaft hier zwei:

• im  Vorfeld, wo das System mit menschlichen Moralen trainiert wird. GPT heißt Generative Pre-trained Transformer; am Anfang steht also Training durch Menschen. Sozusagen in Handarbeit wurden dabei Inhalte gesichtet, um unerwünschte auszusortieren. Es ist bekannt, dass diese psychisch ungeheuer belastende Tätigkeit (die beispielsweise ständige Konfrontation mit Gewaltdarstellungen, Vergewaltigungen usw. beinhaltete), von billigeren Arbeitskräften im globalen Süden geleistet wurde.
• in der anhaltenden Testphase. Da eine spezielle Form des maschinellen Lernens benutzt wird (Reinforcement Learning from Human Feedback, RLHF), trainieren Benutzer durch ihre Rückmeldungen, in denen sie Antworten als richtig und gut ansehen, das System immer weiter. Insofern sind Systeme wie ChatGPT durch die Benutzer veränderbar. Diese können sie besser machen oder gezielt dahingehend beeinflussen, dass sie für Desinformation und Manipulation missbraucht werden können.

Erstes Ziel: Transparenz

Die Frage, ob Einsetzen von KI moralisch vertretbar ist, kommt jedenfalls zu spät; KI ist auf vielen Ebenen längst implementiert, ohne dass es uns überhaupt bewusst ist. Wir müssen aber alle  Anstrengungen für eine effektive und machbare Handhabung unternehmen mit dem Ziel, dass KI zum Wohl der Allgemeinheit eingesetzt wird; dabei sind Gesichtspunkte der Entwickler zu hinterfragen, bei denen Ökonomisches oft im Vordergrund stehen. Auch müssen Menschen, die technische Systeme gezielt für Desinformation einsetzen, zur Rechenschaft gezogen werden.

Darüber hinaus müssen wir zwischen Euphorie und apokalyptischem Denken einen Mittelweg finden, eine verantwortliche Haltung. An erster Stelle ist Transparenz für alle Beteiligten und Betroffenen erforderlich, dazu der erste unabdingbare Schritt: Quellenangaben, damit jeder Einzelne veröffentlichte Inhalte auf Zuverlässigkeit überprüfen kann. Bei dieser Gelegenheit sollten wir uns selbst hinterfragen: agieren wir nicht oft selbst wie Chatbots, wenn wir ungeprüft irgendwo gelesene oder gehörte Informationen einfach weitergeben? Es ist erfreulich, dass der European AI Act, dem das EU-Parlament gerade zustimmte, auch verschiedene Riskogruppen definiert. Medizin gehört sicher zum Hochrisikobereich. Das komplexe Thema angedeutet in einem Satz: KI kann uns rasch große Datenmengen für eine sicherere Beurteilung zur Verfügung stellen, aber weder Ärzt:innen Entscheidungen abnehmen noch korrekt mit der Aufklärung und Entscheidungsfindung von Patient:innen umgehen. Ähnlich wie KI sicher nach rascher Paragrafensichtung schneller ein korrektes Strafmaß nach Gesetzesvorgaben finden, aber nicht über Menschen richten  kann.

Literaturtipps

Deutscher Ethikrat: Stellungnahme Mensch und Maschine

Catrin Misselhorn: Grundfragen der Maschinenethik

Katharina Zweig: Ein Algorithmus hat kein Taktgefühl

Oliver Bendel:450 Keywords Digitalisierung

Und schließlich kann man heute auch schon einen diesbezüglichen von KI  (ChatGPT)  erstellten Text mit korrekt angegebenem ‘Autor ChatGPT’ erwerben und lesen. Spannend wären hier Rezensionen von Philosoph:innen.

ChatGPT (Autor): Die ethischen Herausforderungen im Umgang  mit ChatGPT: eine platonische Betrachtung

Dank für Bild an Julius H. auf pixabay