Nach der Erfindung des Schießpulvers und der Entwicklung der Atombombe bezeichnet man das Erscheinen von Killerrobotern als die dritte Revolution der Kriegsführung. Während ersteres den Fernkampf und die Atombombe einen unvorstellbaren Massenmord ermöglichte, könnten die Killerroboter die Menschen auch von der Verantwortung für das Morden selbst befreien.
Als Killerroboter bezeichnet man jene autonomen Waffensysteme, die ohne menschliches Zutun Angriffsziele bestimmen und den Angriff durchführen können. Man bezeichnet diese Roboter auch als tödliche autonome Waffensysteme (lethal autonomous weapons, LAWs) – sie sind Maschinen, die über eine solche künstliche Intelligenz verfügen, die auch ohne menschliche Befehle töten.
Müssen wir Angst vor ihnen haben? Und was macht die Welt, damit wir keine Angst zu haben brauchen? Diese Frage wurde auf der im Juli abgehaltenen Tagung der CEU von Dalma Bíró und Barbara Vitrai in ihrem Vortrag Let’s Stop Killer Robots beforfe it is too late dargelegt / erörtert. Sie beide sind die ungarischen Vertreterinnen der CSKR – Campaign to Stop Killer Robots -, einer mehr als 110 wissenschaftliche Organisationen vereinigenden Bewegung.
Der Weg zur UN ist mit Offenen Briefen gepflastert
Weil KI-gesteuerte Killerroboter zumindest offiziell noch nicht existieren, wird folgerichtig auch ihre zukünftige Herstellung durch keine Regelung, kein Gesetz reglementiert. Die CSKR möchte/will erreichen, dass ihre Entwicklung bereits im Vorfeld durch internationale Abkommen untersagt wird. Eine Regulierung allein ist hier nicht ausreichend, da Schlupflöcher immer gefunden werden können – und wird einmal mit ihrer Herstellung begonnen, dann ist ihre Verwendung für illegale Ziele mehr als wahrscheinlich.
Doch kann man überhaupt etwas verbieten, was noch gar nicht existiert? Laut Dalma Bíró, der ungarischen Koordinatorin der Bewegung ja. Auf der Tagung der CEU führte sie aus, dass es sehr wohl Präzedenzfälle gibt, bei denen Waffensysteme, die technisch zwar realisierbar, jedoch in der Kriegsführung noch nicht umgesetzt worden sind, verboten wurden: so wurde der Einsatz von Laserwaffen, die zur Erblindung des Gegners führen, 1998 durch ein UN-Abkommen verboten.
Auch sind bereits einige grausame, dem möglichen Einsatz von Killerrobotern ähnlich unmenschliche militärische Tötungsarten mit der Begründung, sie würden das Leben von Zivilisten gefährden, verboten worden: so vereinbarte man 1997 in dem Übereinkommen von Ottawa das Verbot des Einsatzes von Antipersonenminen (als ob dies jemanden in Jemen und Syrien kümmern würde). In dem Abkommen von Dublin gelang 2008 eine internationale Übereinkunft über das Verbot des Einsatzes von Streumunition, allerdings wurde sie von den Vereinigten Staaten, von Russland und von China bis heute nicht ratifiziert.
Die CSKR wurde im April 2013 gegründet. Bereits im selben Jahr meldete sie sich auf der jährlichen Konferenz der CCW zu Wort und sprach sich gegen tödliche autonome Waffensysteme aus. 2015 erregte sie mit ihrem offenen Brief erstmalig weltweite Beachtung, in welchem sie – unterstützt von namhaften Wissenschaftlern wie Stephen Hawkins, Elon Musk, Jack Dorsey oder Steve Wozniak – die Wichtigkeit eines bereits im Vorfeld zu erfolgenden Verbotes der Killerroboter aufzeigte. 2017 folgte ein weiterer offener Brief; – in diesem versuchten bereits 116 technisch-orientierte Firmen die Aufmerksamkeit der UN auf die technischen Gefahren zu richten.
2018 wurde für die Bewegung ein bedeutendes Jahr. Im Juni hat das Gadget-Blog Gizmodo erfahren und veröffentlicht, dass die Firma Google an einem Geheimprojekt des US-Verteidigungsministeriums beteiligt ist und für das Pentagon mit künstlicher Intelligenz ausgestattete Drohnen bauen soll. Nach dem Bekanntwerden dieser Nachricht haben zahlreiche Mitarbeiter bei Google gekündigt. Sundar Pichai, der CEO von Google erhielt eine von 4.000 Mitarbeitern unterzeichnete Petition, in der die Mitarbeiter forderten, dass die Firma Google nicht an der Entwicklung von Kriegstechnologien mitwirken solle. In einem Blog sagte Pichai zu, dass Google künstliche Intelligenz nicht mehr für Waffensysteme entwickeln wolle und er die Vereinbarung mit dem Pentagon 2019 nicht verlängern werde.
Bereits im Juli desselben Jahres haben 164 Organisationen und 2410 Fachleute eine gemeinsame Petition verfasst, in welcher sie die Technik-Firmen und die Staaten darum bitten, mit Verordnungen und Gesetzen gegen die Entwicklung von AI-Waffen (AI=künstliche Intelligenz) vorzugehen. Unter den Unterzeichnern waren neben Elon Musk (der Gründer von SpaceX, Tesla und OpenAI) auch die Verantwortlichen von Google DeepMind. Einen weiteren Aufschwung erhielt die Bewegung, als der damalige Generalsekretär der UN, Antonio Guterres, auf der Web Summit in Lissabon sagte:
„Politisch inakzeptabel und moralisch abstoßend sind solche Maschinen, die die Macht und die Entscheidungsfähigkeit haben, menschliches Leben auszulöschen. Internationale Gesetze müssen ihre Existenz verbieten.“
Die Großmächte lehnen Einschränkungen bei der Entwicklung von Killerrobotern ab
Die Verhandlungen selbst verlaufen eher schleppend. So hat Großbritannien 2015 die Verbannung und Ächtung von Killerrobotern mit der Begründung zurückgewiesen, dass humanitäre Abkommen das menschliche Leben hinreichend schützen. Zwar haben seitdem mehr als 30 vorwiegend afrikanische und lateinamerikanische Staaten sich für ein Verbot von Killerrobotern ausgesprochen, aber auf dieser Liste steht kein einziger bedeutender westlicher Staat – Russland träumt von einem autonomen Roboterheer und die USA experimentiert mit AI-gesteuerten Drohnen. Und was China macht, weiß niemand.
„Weil Männer von neuen Waffen einen Ständer kriegen. Sie machen es nur, weil sie es können. Weil sie neugierig sind, wie weit man gehen kann.“ – nannte in ihrem Interview mit der Zeitung Guardian die Friedens-Nobel-Preisträgerin und CSKR-Botschafterin Jody Williams als mögliche Ursachen einer Krise. Bei der ersten globalen Tagung der CSKR im März dieses Jahres bat man den lautstark sich als Killerrobot-Gegner artikulierenden deutschen Außenminister, Deutschland möge sich an die Spitze der Bewegung stellen und als erster europäischer Staat die (Entwicklung der) autonomen Waffensysteme verbieten, was vielleicht die übrigen europäischen Staaten dazu bringen könnte, eigene diesbezügliche Gesetze zu verabschieden.
Im Januar dieses Jahres führte das international tätige Marktforschungsunternehmen IPSOS im Auftrag der CSKR in 26 Staaten eine Umfrage mit ca. 500-1.000 Befragten pro Staat zum Thema autonome Waffensysteme durch. Danach unterstützen 3 von 5 Befragten die Forderung nach Verbot der Killerroboter – es sind genau 61 %; – ein deutlicher Anstieg im Vergleich zu dem Ergebnis von 56% der vor 2 Jahren durchgeführten Umfrage.
66% der Befragten unterstützt ein Verbot aus moralischen Gründen und 56 % begründen ihre Entscheidung für ein Verbot damit, dass die fehlende Verantwortlichkeit diese Technologie gefährlich mache.
In jenen 4 Staaten, in denen die Regierung ein Vorab-Verbot der Killerroboter ablehnt, waren die Unterstützer eines Verbotes in der Überzahl: in China (wo die Regierung den Kriegseinsatz, nicht jedoch die Entwicklung ablehnt) unterstützen 60%, in Russland 59%, in Großbritannien 54% und in den USA 52 % der Befragten die Verbotsforderung und lehnen Killerroboter ab.
Obwohl Ungarn in dieser Frage keinen offiziellen Standpunkt vertritt, ist die Beurteilung durch die Bevölkerung eindeutig: nach der Türkei (78%) und nach Süd-Korea (74%) ist mit (gerundeten) 74% in Ungarn die Ablehnung von autonomen Waffensystemen in allen befragten Staaten am drittgrößten. Zur Wahrheit gehört natürlich auch, dass – so die überwiegende Meinung der Teilnehmer bei der Tagung der CEU – die wenigsten Menschen wirklich wissen, was mit den Begriffen autonome Waffen, oder Killerroboter gemeint ist.
Sieben Konferenzen wurden seit 2014 in Genf abgehalten, wobei an den letzten beiden Konferenzen ungarische Diplomaten nicht mehr teilgenommen haben. Dalma Bíró hofft, dass es gelingen wird, ungarische Delegierte an die kommende, im August anstehende Tagung zu entsenden, wenn schon die Haltung der ungarischen Bevölkerung in dieser Frage derart eindeutig ist.
Beängstigend aber anders
Spricht man von Killerrobotern, dann muss man natürlich nicht an die Drohnen aus Star Wars, oder gar an T-1000 aus dem Film Terminator denken; – sogar die auf der Autobahn rasenden Staubsaugerroboter des 1984 entstandenen Spielfilms Runaway (in Ungarn lief er unter dem Titel Killer Robots) ähneln mehr dem, was man sich heute unter autonomen Waffensystemen vorstellt.
Es gibt aber auch noch eine genauere Darstellung aus der Popkultur: Im letzten Teil der Filmtrilogie Black Mirror werden autonom fliegende Drohnenkäfer, die eigentlich entwickelt wurden, um die gefährlich dezimierte Bienenpopulation zu ersetzen umprogrammiert und sollen Personen, die in den öffentlichen Medien diffamiert werden, aufspüren und töten.
Vielleicht entstand aus der Angst vor der Übermacht der Technologie die distopische, negativ-utopische TED-Talk-Parodie des amerikanischen Future of Life Institute (FLI). Darin stellt ein All-Tech Magnat eine handtellergroße Drohne vor, die auch niedlich sein könnte, wenn sie neben ihren Kameras und Sensoren und Gesichtserkennungs-Software nicht mit einer geringen Menge Sprengstoff bestückt wäre, was nur dazu taugt, ein Loch durch die Schädeldecke, direkt ins Gehirn zu sprengen.
Und wenn dann die siebenminütige, mit überzeugenden Nachrichteneinspielungen gespickte Panikmache vorbei ist und man entspannen könnte, dass dies ja alles nur Science Fiction sei, dann kommt Stuart Russel, IT-Professor an der Berkeley University in Kalifornien, der sich seit 35 Jahren mit künstlicher Intelligenz beschäftigt und sagt:
„Dieser Kurzfilm ist mehr als einfache Phantasie. Er zeigt die Integration solcher Technologien und Miniaturisierungen, die bereits heute existieren. (…) Die potentiellen Vorteile der künstlichen Intelligenz sind riesig, dies gilt auch für die Kriegsindustrie. Wenn wir aber Maschinen erlauben, aufgrund eigener Entscheidung Menschen zu töten, das wäre vernichtend für unsere Sicherheit und Freiheit.“
Der Artikel von Zsolt Bodnár erschien unter dem Titlel „A magyarok megállítanák a gyilkos robotokat, a nagyhatalmak ragaszkodnak hozzájuk“ auf Qubit und wurde aus dem Ungarischen von Ferenc Héjjas, aus dem ehrenamtlichen Pressenza-Übersetzungsteam erstellt. Wir suchen Freiwillige!
