Die Grauzone ausleuchten – kann man das überhaupt? Nicholas Evans ist in dieser Hinsicht skeptisch: "Das Problem ist, dass wir nicht wissen, was ein wirklich deontologisches Auto sein sollte. Nehmen wir eines der universellsten moralischen Gebote: 'Du sollst nicht töten.' Ist ein Auto vorstellbar, das dieses Gebot respektiert? Nein! Die schlichte Tatsache, dass wir eine Maschine programmieren, zwingt uns zur Einnahme einer konsequenzialistischen und utilitaristischen Perspektive, auch wenn uns diese philosophischen Optionen abstoßen."

Kampfroboter im Anmarsch?

Es gibt Maschinen, die im Unterschied zu selbstfahrenden Autos ausdrücklich dafür konzipiert sind zu töten: Drohnen. Seit einigen Jahren bietet die Rüstungsindustrie – besonders in den USA – die Entwicklung autonomer Kampfroboter an, etwa von Drohnen, die nicht mehr von einem Soldaten ferngesteuert werden, sondern selbstständig ihren Dienstbefehl ausführen, sobald sie einmal in den Einsatz geschickt wurden.

Eines der Hauptargumente für solche Roboter, das auf den Robotikforscher Ronald C. Arkin zurückgeht, lautet, dass sie die Fähigkeit zur Selbstzerstörung hätten, während ein Soldat im Einsatz um jeden Preis seine Haut zu retten versuche und notfalls wahllos um sich schieße. Eine Drohne zum Beispiel werde eher implodieren, als das Risiko eingehen, einen Zivilisten oder ein Kind zu töten. "Dieses Argument überzeugt mich nicht", erklärt Peter Asaro, Dozent an der New Yorker New School und Experte für Roboterethik. "Zum einen ist das Verhalten von Menschen im Kampfeinsatz schwer vorherzusagen, und wir wissen aus Erfahrung, dass sich viele Soldaten opfern, um ihre Kameraden zu retten oder eine Stellung zu halten. Zum anderen kenne ich kaum Beispiele für militärische Befehle, hochwertiges technologisches Material aufzugeben. Welche Armee hätte schon ihre eigenen Panzer, Helikopter oder Drohnen zerstört, um Zivilisten zu schonen?"

Asaro ist Mitgründer des International Committee for Robot Arms Control (ICRAC), einer Nichtregierungsorganisation von Forschern, die Vorschläge für eine gesetzliche Regulierung des militärischen Einsatzes von Maschinen ausarbeitet; ein Erfolg der Organisation war die Gründung der "Campaign to Stop Killer Robots", die 2015 mit einem Appell zum Verbot autonomer Drohnen an die Öffentlichkeit trat, unterzeichnet von 1.500 namhaften Persönlichkeiten wie Stephen Hawking, dem Philosophen Daniel Dennett und dem Unternehmer Elon Musk.

Nun lautet ein weiteres Argument der Befürworter autonomer Kampfsysteme, man könne Maschinen so programmieren, dass sie nie Fehlverhalten begehen, also etwa das Feuer auf Zivilisten, Frauen, Alte oder Kinder eröffnen. "Ein Grundprinzip des Kriegsrechts", erläutert Asaro, "ist die Unterscheidung, das heißt: die Fähigkeit zur Unterscheidung zwischen Zivilbevölkerung und Kombattanten. Ginge es dabei allein um das visuelle Erkennen, dann wären Maschinen dazu zweifellos bestens geeignet. Aber so einfach ist es nicht, weil es auch die Kategorie der 'an Kampfhandlungen beteiligten Zivilisten' gibt. Hier ist das Kriterium nichts, das unmittelbar sichtbar wäre, sondern betrifft ihr Verhalten. Hebt dieser Zivilist dort bloß aus Wut einen Stein auf und wirft ihn auf das Kampffahrzeug, oder ist an der Art und Weise, wie er sich im Gelände bewegt, erkennbar, dass er einen militärischen Befehl ausführt? Stellt er eine Bedrohung dar? Solche Verhaltensaspekte lassen sich nur mit einem gewissen Verständnis sozialer Interaktionen, von Psychologie entziffern. Das Kriegsrecht erlaubt Angriffe auf Zivilisten nur dann, wenn sie direkt am Kampfgeschehen beteiligt sind, und das können Maschinen nicht erkennen."

Das zweite bedeutende Prinzip des Kriegsrechts heißt Verhältnismäßigkeit: Man zerstört nicht ein gesamtes Dorf, um fünf Personen auszuschalten – der Einsatz von Gewalt muss den militärischen Zielen und den realen Bedrohungen angemessen sein. "Auch dieses Prinzip der Verhältnismäßigkeit erfordert menschliches Urteilsvermögen", meint Asaro. "Da stellen sich mitunter heikle Dilemmata: Welche Infrastruktur riskieren Sie zu treffen, um Ihr militärisches Ziel zu erreichen? Angenommen, neben einem Munitionsdepot befindet sich ein Krankenhaus oder eine Schule, greifen Sie es dann trotzdem an? Wenn die Gefahr besteht, dass Sie eine Schule treffen, können Sie nachts bombardieren, aber bei einem Krankenhaus ist das keine Lösung. Es gibt hier keine Standardantwort. Militärische Strategien und Ziele können sich von Stunde zu Stunde ändern. Deshalb muss ein Militärkommandant die rechtliche Verantwortung für seine Befehle übernehmen. Wenn eine Maschine entscheidet und eine Schule mit 300 Kindern bombardiert wird, wer ist dann für dieses Massaker verantwortlich? Die Maschine? Der Programmierer? Wir haben keine Wahl: Wir können auf Menschen nicht verzichten."

Unersetzliche Spannung

So sieht es auch Nolen Gertz, Philosophieprofessor an der Universität Twente (Niederlande): "Die auf Augustinus zurückgehende Tradition des 'gerechten Krieges' lehrt uns, dass es, moralisch betrachtet, schlecht ist, wenn Kombattanten mit Freude töten. Ein gerechter Krieg ist nur möglich, wenn die Akteure weder Nihilisten noch Sadisten sind, wenn es ihnen grundsätzlich zuwider ist zu töten, sie aber gegen ihre moralischen Prinzipien handeln, weil aus ihrer Sicht ein Fall von legitimer Verteidigung oder von höherer Gewalt vorliegt. Das ist eine komplizierte Situation: Ein Krieg ist nur dann gerecht, wenn die, die ihn führen, dies widerwillig tun. Mit Kampfmaschinen verschwindet diese Spannung."

Gewiss, doch das Argument lässt sich auch umkehren: Sollte man jemals über Roboter verfügen, die den Menschen in der Kriegsführung vollständig ersetzen können – sodass man einen militärischen Sieg erringen kann, ohne das Leben eines einzigen Soldaten aufs Spiel zu setzen und ohne dass tödliche Entscheidungen das Gewissen von Drohnenpiloten belasten –, warum sollte man dann nicht der eigenen Bevölkerung dergestalt jedes Leid ersparen? "Dieses Argument scheint mir nicht zulässig", erklärt Gertz, "denn die Rolle von Technologie ist nicht einfach eine instrumentelle, neutrale. Die Technik berührt, prägt und beeinflusst unser Verhalten und ethische Entscheidungsprozesse. Angenommen, es sei, wie Sie eben meinten, mit keinerlei menschlichen Kosten verbunden, nicht einmal mit psychologischen, wenn man Krieg führt und den Gegner dezimiert, weil Roboter die schmutzige Arbeit machen. Das würde in den Augen der Öffentlichkeit, einer Regierung oder eines Generalstabs die Akzeptanzschwelle des Krieges dramatisch senken. Anders gesagt, es würde den Akt des Tötens erheblich erleichtern. Stellen Sie sich eine Welt voller Roboter mit einer Lizenz zum Töten vor. Erscheint Ihnen eine solche Welt wünschenswert?"

Es gibt jedoch noch ein drittes Feld mit gewichtigen ethischen Implikationen, auf dem KI rapide Fortschritte macht: die Medizin. Der IBM-Computer Watson, der bereits einen Jeopardy-Wettbewerb gewann, diagnostizierte kürzlich an der Universität Tokio bei einer Patientin eine seltene Art von Leukämie, nachdem er binnen zehn Minuten 20 Millionen Forschungsberichte ausgewertet hatte; der Computer schlug sogar eine geeignete Therapie vor. Doch angenommen, einer KI unterläuft ein schwerer Diagnosefehler – wer ist dann verantwortlich? "Hier liegt ein gewaltiges Problem der Zurechnung von Handlungen vor", hebt Kenneth W. Goodman, Medizinprofessor und Leiter des Instituts für Bioethik an der Universität Miami, an.

"Nehmen wir den Fall eines Chirurgen, der seit zehn Jahren erfolgreich mit einer Sonde arbeitet; bei einer schwierigen Operation hat die Sonde eine Panne, der Patient wird geschädigt. Ist der Chirurg dafür verantwortlich? Ja, wenn man bedenkt, dass er denselben Status hat wie ein Schiffskapitän und folglich für den Lauf der Ereignisse geradestehen muss. Aber meines Erachtens geht es hier eher um eine Frage von geteilter Verantwortung. Die Unterstützungssysteme für klinische Entscheidungen, die immer häufiger zum Einsatz kommen, befördern uns in eine Ära, in der es viele Ebenen der Verantwortung gibt. Wer hat die Datenbank konstruiert, auf die die KI zurückgreift? Wer hat das Programm geschrieben? Das sind umso vertracktere Fragen, als die meisten verwendeten Codes von mehreren Personen geschrieben wurden, manche stammen aus Open-Source-Programmen, die von Forschern oder Unternehmen für eine bestimmte Anwendung abgeändert wurden. Für dieses Niemandsland werden wir internationale Normen vereinbaren müssen."

Peter Asaro, der auch die Entwicklung der KI im Feld der Medizin verfolgt, meint ergänzend, wenngleich etwas kühl: "Die Krankenhäuser stehen bei der Zuteilung knapper Ressourcen, etwa von Blut für Transfusionen oder Organen für Transplantationen, vor schwierigen ethischen Abwägungen. Welchen Patienten soll man vorziehen? Hier haben wir einen Fall, bei dem die Subjektivität der Ärzte, ihre Sympathie für bestimmte Patienten oder sogar die Geldsumme, die ein Patient für seine lebenswichtige Behandlung aufbringen kann, Entscheidungen zu verzerren drohen. In diesem klar eingegrenzten Bereich kann es sein, dass die Entscheidungen einer KI objektiver, ethisch besser sind."

Nur eine Frage der Zeit?

Das ist einer der Fälle – der recht seltenen Fälle, wie es nach unseren Erkundungen scheint –, in denen der Mensch Gefahr läuft, ethisch weniger triftig zu urteilen als ein Computer. Und jenseits dessen? "Es gibt eine Geschichte aus den Anfängen der KI, die ich wunderbar finde", berichtet Goodman. "Ein Roboter hat drei Objekte vor sich: eine Kugel, eine Pyramide und einen Würfel aus Holz. Der Testleiter fordert ihn auf, die Pyramide auf den Würfel zu stellen. Das gelingt ihm. Bravo! Nun soll er die Kugel auf den Würfel zu stellen. Er versucht es, die Kugel rollt herunter. Er versucht es noch mal und noch mal und noch mal … Der Roboter weiß nicht, dass es unmöglich ist. Diese Geschichte ist eine aufschlussreiche Parabel für unsere Zeit: Unsere moralischen Urteile setzen im Hintergrund implizite Kenntnisse voraus, die nicht immer explizierbar und programmierbar sind, weil es zahllose von ihnen gibt. Wittgenstein fasst dies als den Bereich der Gewissheit." Mir fällt da ein prägnantes Beispiel ein, das Wittgenstein anführt: Ein Mensch, der seinem Nachbarn den Arm abtrennt, um zu sehen, ob er nachwächst, ist kein Wissenschaftler, der ein Experiment durchführt, sondern ein Verrückter.

"Genau! Das ist das Problem! Wir Menschen geben uns nie damit zufrieden, einfach eine Regel zu befolgen. Denn explizite Regeln gelten nur für einen kleinen Bereich des Handelns. Der Unterschied zwischen KI und dem Menschen besteht nicht nur in der Interpretation von Kontexten, sondern auch darin, dass der Mensch eine enorme Zahl von Prinzipien als derart gesichert und evident betrachtet, dass sie gar nicht ausgesprochen werden. Und eben deshalb bleibt das ethische Urteil des Menschen unverzichtbar." Müsste man vielleicht hinzufügen: beim aktuellen Stand der Technik?

Quelle: https://www.zeit.de/kultur/2018-05/kuenstliche-intelligenz-moral-menschen-maschinen-werte