/ Politik

Über 2500 KI-Forscher unterschreiben Erklärung gegen Killerroboter

Wissenschaftler sehen autonome Waffensysteme als »mächtiges Werkzeug der Unterdrückung« und wollen sich nicht an ihrer Entwicklung beteiligen

»Wir werden uns nicht an der Entwicklung, Herstellung, am Handel und an der Benutzung von tödlichen autonomen Waffensystemen beteiligen und rufen Technologiefirmen, Regierungen, Politiker und andere Menschen auf, es uns gleich zu tun.« Mit diesem Versprechen wenden sich mittlerweile über 2500 Wissenschaftler an die Öffentlichkeit. Ihr Aufruf wurde am Mittwoch am Rande der »International Joint Conference on Artificial Intelligence« ((IJCAI) in Stockholm vorgestellt. Bei der Konferenz in Schweden kommen bis zu 5000 führende Forscher*innen aus dem Feld der künstlichen Intelligenz (KI) zusammen.

Weil Regierungen aus aller Welt bisher keine einheitlichen Regeln zu einem Verbot solcher Systeme erlassen hätten, müsse man selbst tätig werden. Die Unterzeichner stammen aus 36 Nationen, unter ihnen finden sich neben Forschern und Professoren auch Prominente wie der langjährige KI-Kritiker Elon Musk. Unterzeichnet haben auch rund 170 Organisationen, zum Beispiel das University College of London und die IJCAI-Organisatoren der schwedischen KI-Gesellschaft, sowie vor allem viele Firmen der Branche wie die Google-Tochter DeepMind.

Die Entwicklung autonomer Killerroboter ist längst keine Fantasie mehr aus Terminator-Filmen. In Zukunft könnten an Grenzen oder zu schützenden Einrichtungen feste automatische Verteidigungssysteme zum Einsatz kommen, während offensive Systeme Feinde etwa mit zunehmend autonomen Drohnen fliegend oder per Kampfrobotern auf dem Schlachtfeld angreifen können. Solche Waffensysteme werden derzeit offenbar von US-amerikanischen Rüstungsfirmen und in Russland entwickelt. Im vergangenen Jahr kündigte Israels Premierminister Benjamin Netanjahu außerdem an, dass sein Land Roboter in der Größe einer Fliege entwickele, um etwa Hamas-Führer anzugreifen. Die israelischen Roboter könnten demnach schon in drei Jahren einsatzbereit sein.

Werkzeug der Unterdrückung

»Die Entscheidung ein menschliches Leben zu töten, sollte niemals an eine Maschine delegiert werden«, heißt es im Aufruf. Das sei eine moralische Frage. Autonome Waffensysteme seien ein »mächtiges Werkzeug der Gewalt und Unterdrückung«. Die Forscher fürchten sich vor Entscheidungen von autonomen Waffensystemen, für die aniemand Verantwortung übernehme.

Doch es gebe auch ein »pragmatisches« Argument gegen den Einsatz autonomer Waffensysteme, so die Argumentation. Sie könnten ganze Länder destabilisieren, wenn sie in einem unkontrollierten Rüstungswettlauf entwickelt und eingesetzt würden. Deswegen sollte die Verhinderung eines solchen Rüstungswettlaufs »hohe Priorität« in der internationalen Politik genießen. Gegenwärtig habe die internationale Staatengemeinschaft aber nicht die technischen Möglichkeiten und politischen Kontrollstrukturen, um ihre Entwicklung zu überwachen, heißt es weiter.

Verbot oder Teilverbot?

Die KI-Forscher verweisen darauf, dass mittlerweile 26 Staaten – überwiegend aus dem globalen Süden - einen Aufruf zum Verbot autonomer Waffensysteme unterzeichnet haben. Kritische KI-Forscher fürchten, dass autonome Waffensysteme schwierig zu kontrollieren und leichter zu hacken seien, als andere Waffensysteme. Außerdem könnten sie einfacher für »bad actors« (gemeint sind damit beispielsweise Warlords) zum Einsatz gebracht werden. Die Unterzeichner der Erklärung wollen mit ihrem Appell weitere Staaten ermutigen, im Rahmen der Vereinten Nationen ein Verbot zu erwirken - das sei in der Vergangenheit schließlich auch für Chemiewaffen erreicht worden.

Bei den Vereinten Nationen wird seit Dezember 2016 über eine mögliche Regulierung von autonomen Waffensystemen verhandelt. Bei der letzten Sitzung der zuständigen UN-Organisation stimmten immerhin rund 26 Staaten einem zumindest teilweisen Verbot von autonomen Waffensystemen zu. Die nächste Verhandlungsrunde ist für den August geplant.

Die kritischen KI-Forscher wollen mit ihrem Appell erreichen, dass bei den Verhandlungen mehr Staaten ein Verbot unterstützen. Schon 2015 hatten über 1000 Forscher – darunter auch der weltbekannte Physiker Stephen Hawking – mit einem Brief ein Verbot von autonomen Waffensystemen gefordert. Die Aktivisten der Kampagne www.autonomousweapons.org verweisen darauf, dass bereits 1995 im Rahmen der Konvention zum Verbot konventioneller Waffen von 1980 ein Verbot von Lasern erreicht wurde, die Soldaten erblinden lassen sollen.