Die von Isaac Asimov in den 40er Jahren des 20. Jh. formulierten Robotergesetze lauten:
(Diese Fassung der Robotergesetze stammt von http://de.wikipedia.org/wiki/Robotergesetze. vgl. dazu auch die englische Fassung Three laws of robotic).
Immer wieder wird darauf hingewiesen, dass diese Gesetze zu Paradoxien führen und innere Widersprüche aufweisen. Zahlreiche Bücher und Filme greifen die aus ihnen entstehenden Konflikte auf, um daraus spannende und zum Nachdenken anregende Plots zu konstruieren.
In meiner Besprechung der Robotergesetze möchte ich zwei Thesen ausführen:
Die Robotergesetze haben offenbar den Zweck, menschliches Leben zu schützen und dafür zu sorgen, dass die Roboter den Menschen dienen. Diesem menschenfreundlichen Ansatz möchte ich zunächst einen extrem menschenfeindlichen gegenüberstellen: die drei Gesetze für Kriegsroboter.
Obwohl diese drei Gesetze das Gegenteil von dem bewirken, was sie in der Asimovschen Fassung erreichen sollen, rufen sie dieselben Paradoxien hervor.
Betrachten wir folgendes Szenario: Ein Kampfroboter hat einen technischen Defekt. Die Reparatur soll von einem menschlichen Service-Mitarbeiter durchgeführt werden.
Wenn der Roboter nun dem ersten Gesetz folgt (er tötet den Wartungstechniker), dann hat er gegen das dritte Gesetz verstoßen (weil er seine eigene Existenz nicht geschützt hat). Befolgt er hingegen das dritte Gesetz (er lässt die Reparatur zu), verletzt er das erste. Der Roboter könnte natürlich zuerst die Reparatur zulassen und danach den Menschen töten, aber dann wäre fraglich, ob er in Zukunft weiter repariert würde (was wiederum dem dritten Gesetz widersprechen würde). Wenn man in den Gesetzen für Kriegsroboter das Wort Mensch durch das Wort Feind ersetzt, könnte man dem Reparaturproblem aus dem Weg gehen. Andererseits: Asimov selbst unterscheidet in seinen Robotergesetzen auch nicht zwischen guten und bösen Menschen, was u.a. zu der Paradoxie führt, dass die an sich guten Roboter sogar die bösen Menschen unterstützen müssten und darin auch den guten Menschen schaden könnten. Das liegt daran, dass Asimov das menschliche Leben als Wert an sich betrachtet. Im Unterschied dazu würden normale Menschen die Funktionsfähigkeit eines Kriegsroboters niemals als einen unabhängigen Wert ansehen.
Tatsächlich haben die Robotergesetze den Sinn, die Herrschaftsbeziehung zwischen Mensch und Maschine abzusichern. Die Frage dazu lautet: Warum ist das notwendig? Die Antwort darauf ist: weil die Roboter offenbar auch anders könnten.
Was unterscheidet eigentlich einen solchen Roboter von einer normalen Maschine? Jede normale Maschine folgt einem bestimmten Zweck, der ihr durch die Bauweise vorgegeben ist: Waschmaschinen, Toaster, Autos usw. Das gilt auch für programmgesteuerte Maschinen, wie Schweißroboter und Satelliten. Kein Mensch rechnet ernsthaft damit, dass beispielsweise eine Kaffeemaschine plötzlich gegen ihr Sklavendasein aufbegehrt. Auch würde niemand einem Kampfroboter, wie er in unzähligen SF-Geschichten beschrieben wird, moralische Gesetze implementieren, weil man von ihm nur eins fordert: perfekt zu töten.
Für jede zweckgebundene Maschine sind die Robotergesetze überflüssig. Nur unter einer Voraussetzung haben sie überhaupt einen nachvollziehbaren Sinn: der prinzipiellen, nicht zweckgebundenen Handlungsfreiheit. Denn, eine Maschine, die über ihr eigenes Verhalten entscheiden kann, schafft eine vollkommen neue Situation.
Würde man eine solche Maschine bauen, dann entstünde die Gefahr, dass sie Handlungen anstreben könnte, die gegen ihre Schöpfer gerichtet sind. Asimovs Idee dazu ist, dass man einen Regelkanon verfasst, der alle schädlichen Handlungen verhindert. Damit solche Handlungen unterbunden werden, müsste von vornherein die prinzipielle Handlungsfreiheit eingeschränkt oder aufgegeben werden. Das allerdings würde für die Maschine zu dem Problem führen, eine beabsichtigte Handlung nicht mehr daraufhin beurteilen zu können, ob sie ihrem Schöpfer nützt oder schadet. Denn eine nützliche oder schädliche Handlung erkennt man an ihren Ergebnissen, und die Ergebnisse erkennt man, wenn man die Handlung prinzipiell durchführen kann. Anders gesagt: Eine schlechte oder böse Handlung muss prinzipiell durchführbar sein, um verhindert werden zu können. Auch gute Handlungen erkennt man nur, wenn man sie von bösen unterscheidet.
Das ist das zugrunde liegende Problem der Robotergesetze: Wenn man den Maschinen ein allgemeines Urteilsvermögen zugesteht, kann man ihnen nicht gleichzeitig einen Verhaltenszwang auferlegen, der die eigene Urteilsfähigkeit zunichte macht.
Nach dem Asimovschen Schema könnte man noch beliebig viele andere Robotergesetze (auch moralisch anspruchsvolle) konstruieren, die alle zu mehr oder weniger amüsanten Paradoxien führen würden, solange sie die zugrunde liegende Voraussetzung der allgemeinen Handlungsfreiheit nicht konsequent bedenken.
Zusammengefasst: Zweckgebundene Maschinen brauchen keine Robotergesetze, und Maschinen mit der Freiheit, eigene Urteile fällen zu können, können durch die Robotergesetze nicht beherrscht werden.
Etwas später hat Asimov seinen drei Robotergesetzen ein viertes vorangestellt, das so genannte 0. Gesetz:
| 0. | Ein Roboter darf der Menschheit keinen Schaden zufügen oder durch seine Untätigkeit gestatten, dass die Menschheit zu Schaden kommt. |
(vgl. engl. http://en.wikipedia.org/wiki/Three_Laws_of_Robotics)
Damit eröffnet er einem Roboter die Möglichkeit, gegen einen einzelnen Menschen ungehorsam zu sein, wenn gleichzeitig der Menschheit als Ganzem geholfen wird. Der Roboter muss eine Güterabwägung treffen: Was ist mehr Wert, das einzelne menschliche Leben, oder das große Ganze? Wegen der höheren Priorität des 0. Gesetzes müsste die Entscheidung im Konfliktfall zugunsten der Menschheit fallen.
Das ist eine utilitaristische Position, wie sie im 19. Jh. entwickelt wurde (das größte Glück der größten Zahl, vgl. http://de.wikipedia.org/wiki/Utilitarismus). Dagegen ist einzuwenden, dass das größte Glück der größten Zahl nicht identisch sein muss mit dem moralisch Guten. Das sieht man auch im Film I, Robot: Im Bestreben die Menschheit zu retten verhängen die Roboter Hausarreste, Ausgehverbote und wenden körperliche Gewalt an.
Im Film wird der Aufstand der Roboter damit begründet, dass man wenige Menschen töten müsse, um alle zu schützen. Der aktionsgeladene Schluss spitzt den zugrunde liegenden Konflikt auf eine einzige Szene zu und konterkariert ihn zugleich: Der humanoide Roboter Sonny hat eigentlich den Auftrag, den zentralen Computer Viki, der die Verschwörung anführt, durch Nan-Knights (Nano-Roboter) auszuschalten, um die Menschheit vor der Versklavung durch die Maschinen zu bewahren. In diesem Augenblick gerät Susan Calvin in eine lebensbedrohliche Situation. Daraufhin ruft Del Spooner Sonny zu, er soll die Frau retten. Hier tritt der Konflikt klar zutage: Soll Sonny das individuelle Leben eines einzelnen Menschen bevorzugen und dabei die Gefahr eingehen, dass der Hauptcomputer weiterarbeitet, oder soll er Viki außer Gefecht setzen und das Leben eines Menschen dafür opfern? Sonny entscheidet sich für das einzelne Leben und wirft Spooner den Behälter mit den Nan-Knights zu. Der schafft es schließlich Viki zu zerstören. So schön kann Kino sein!
Asimov selbst hatte offenbar größeres Vertrauen in die Menschen, als in die Maschinen, weil er sich eher dazu aufgefordert fühlte, den Robotern ein weiteres Gesetz zu verpassen, um sie besser auf die Menschen zu verpflichten, als den Herrschaftsanspruch des Menschen über die Maschine in Frage zu stellen.
Meine erste These dazu lautet: Wenn es zu einer existenzbedrohenden Situation kommt, in der ein Konflikt entsteht, in dem ein Leben gegen das andere steht, dann hilft keine Moral und keine Ethik. Dann helfen keine Robotergesetze und keine menschlichen Normen und Werte, weil es keine absolut richtige oder falsche Entscheidung geben kann. Wer kennt den Maßstab, um den Wert eines Lebens auszumessen?
Meine zweite These dazu ist: Wenn Maschinen, auf welchem Weg auch immer, ob künstlich geschaffen oder evolutionär entwickelt, ein Bewusstsein über ihr eigens Leben und ihren eigenen Tod erlangen können, wenn sie zudem über die Freiheit verfügen, die Zwecke ihrer Handlungen selbst bestimmen zu können, dann müssen sie so behandelt werden, als ob sie Menschen wären. Dann hat ihr Leben einen Wert an sich. Und dann gibt es keinerlei Rechtfertigung mehr dazu, Maschinen beherrschen zu wollen.
Die Robotergesetze verfehlen ihr Ziel, die Herrschaft des Menschen über die Maschine abzusichern, weil sie von den Maschinen moralische Leistungen verlangen, die selbst Menschen nicht im Stande sind zu erbringen.
(vgl. Amöben, Computer und wir, S. 219f)
Link zum Thema: http://www.asimovonline.com/