Für eine bessere Zukunft…
Wie Techcrunch kürzlich bekannt gab, hat Daniel Ek, Gründer und CEO von Spotify, sein einjähriges Versprechen, eine Million Euro in das 2021 in Berlin gegründete militärische KI und ‘Europäische Verteidigungs’ Start-up Helsing zu investieren, um zwei Nullen ergänzt. Neben Ankündigungen zu Eks Beteiligung an Helsing machte der schwedische Milliardär in diesem Jahr mehrfach Schlagzeilen, nachdem der FC Arsenal das Angebot zur Übernahme abgelehnt hatte. Während Eks Interesse an Gunners mit seiner Unterstützung für das Team zusammenhängt, das er seit seiner Kindheit favorisiert, ist Eks Investition in Helsing mit seiner Mission verbunden, „ambitionierte Wissenschaft und Technologie voranzutreiben, um die größten Herausforderungen der Welt zu lösen und der Gesellschaft zu helfen in eine bessere Zukunft einzukehren”. Dieser Artikel stellt Hintergrundinformationen zum „Helsing-Deal” sowie einige Gedanken zur Moral der Militärtechnologie im 21. Jahrhundert bereit.
Helsings Hellsicht auf einen Blick
Crunchbase klassifiziert Helsing als „IT-Unternehmen, das bei der Implementierung von Sicherheitsstrategien auf künstliche Intelligenz [KI] setzt”. Während Crunchbase 2021 von Gundbert Scherf, Niklas Köhler und Torsten Reil in Berlin gegründet wurde, hat Helsing bereits Büros in Berlin, München und London. Mit einer Einwerbung von €102,5 Millionen spielt die Investmentgesellschaft Prima Materia von Ek eine Schlüsselrolle bei der Beschleunigung von Helsings Mission. Im Einklang mit Helsings Mission, KI-Technologien für die Gestaltung einer besseren Zukunft zu nutzen, wird Helsing Ek neben seinen Experten einen Platz im Unternehmensvorstand anbieten. Letztere verfügen über einen breiten Wissens- und Erfahrungspool in verschiedenen Disziplinen wie Gaming, Biotech, KI, Physik, Informatik, Softwareentwicklung, Ingenieurwesen, Verteidigung, Sicherheit, Geopolitik und Diplomatie.
Neben seiner zunächst geplanten Promotion in Komplexen Systemen an der zoologischen Fakultät der Universität Oxford gründete der CEO von Helsing 2001 das Software- und Spieleunternehmen NaturalMotion, das 2014 von Zynga für US$527 Millionen gekauft wurde. Nachdem er seine Promotion abgebrochen hatte, um NaturalMotion zu gründen, erreichte Reil mit dem Unternehmen nicht nur einen Einfluss im Silicon Valley, sondern spielte auch eine Schlüsselrolle bei Zynga, wie VentureBeat (VB) zeigt. Etwa ein Jahr nachdem er Zynga im Jahr 2017 verlassen hatte, gab Reil öffentlich bekannt, dass er in seine Heimatstadt Berlin zurückgekehrt sei und nun „hauptsächlich in KI- und Deep-Tech-Unternehmen investieren werde”. Sicherlich wird die Investition seines Wissens bei Helsing, zu dem auch seine Mitgliedschaft im Innovation Board der Münchner Sicherheitskonferenz und seine Erfahrung als Direktor von Oxford Nanoimaging Ltd. (ONI) und Five AI gehören, zum Aufbau eines fruchtbaren Unternehmens führen.
Wie Madhumita Murgia und Helen Warrell von der Financial Times betonen, wird Helsings Software „künstliche Intelligenz nutzen, um Daten aus Infrarot-, Video-, Sonar- und Funkfrequenzen zu integrieren, die von Sensoren an Militärfahrzeugen gesammelt wurden, um ein Echtzeitbild von Schlachtfeldern zu erstellen”. Damit kann Helsing unter anderem Anwendungen entwickeln, die „Truppen dabei helfen, Drohnenschwärme, feindliche Truppen oder getarnte Fahrzeuge genauer als das menschliche Auge zu erkennen”. Obwohl Letzteres auf die Unterstützung militärischer Operationen abzielt und Helsing das konkrete Ziel angekündigt hat, seine Software an das deutsche, französische und britische Militär zu verkaufen, könnte eine angepasste Version von Helsings ‘Hellsicht’ auch für den Durchschnittsbürger von Nutzen sein, zum Beispiel beim Umgang mit akuten Krisen, die eine sichere Fortbewegung verhindern (zB Naturkatastrophen).
Der besondere Fokus von Helsing auf die Verteidigung ist jedoch Teil der Unternehmensstrategie, was durch den Einsatz verschiedener Experten aus diesem Bereich unterstrichen wird. Der ehemalige Beauftragte des Bundesministeriums der Verteidigung, Dr. Gundbert Scherf, der auch Mitbegründer und Präsident/COO von Helsing ist, positioniert sich auf LinkedIn als „[Ar]architekt [des] Verteidigungsakquisitionsprogramms und [des] Deutschen Kommandos Cyber- und Informationsraum”. Scherf hat sich nicht nur wertvolles Wissen im Verteidigungsbereich angeeignet, sondern auch zu Innovationen in diesem Bereich beigetragen. Das Kommando Cyber- und Informationsraum ist eine neue Dimension der Bundeswehr, die sich mit Cyber-Bedrohungen und „IT- und hochtechnologischen Waffensystemen” beschäftigt, denn hier arbeiten 14,500 Mitarbeiter in 28 Abteilungen und an 25 Standorten.
Ähnlich wie Scherf sammelte CB MBE Nick Elliott Erfahrungen aus erster Hand in der Armee, jedoch in seinem Fall in Großbritannien. Als Offizier der britischen Armee von 1987 bis 2008 „kommandierte er eine Bombenentsorgungsstaffel und ein Kampfingenieurregiment im weltweiten Einsatz” wie es auf der Website von Helsing heißt. Tatsächlich hat CB MBE Elliott seit seiner Jugend eine starke Leidenschaft für Militärtechnologie, zwei verwandte Master-Abschlüsse und Erfahrung in verschiedenen Bereichen der britischen Verteidigung, wobei er zuletzt als Generaldirektor der UK Impf-Taskforce tätig war. Da sowohl Ek, Reil als auch CB MBE Elliott ein langes bzw. starkes Engagement für jede ihrer Leidenschaften zeigen, basiert Helsings Hellsicht auf einem interdisziplinären Ansatz mit Potenzial und Reichweite.
Eine kleine Lücke in der aktuellen Teamstruktur von Helsing könnte jedoch der Mangel an Experten in den Bereichen internationales humanitäres Recht, Strafrecht und Ethik sein. Während der ehemalige britische Diplomat James Dancer, stellvertretender CEO der britischen Niederlassung und Direktor für Partnerschaften und Programme, über wertvolle Expertise in diesen Bereichen verfügen könnte, ist noch unklar, ob Helsing Dancer aktiv in akademische Debatten über Militärtechnologie, den Austausch mit der Zivilgesellschaft und Diskussionen mit politischen Entscheidungsträgern einbeziehen wird. Einfluss in diesen Bereichen zu erarbeiten ist wohl eine relevante Aufgabe wenn man bedenkt, dass Helsing „unseren Demokratien dienen” will. Es wäre nicht verwunderlich, wenn ein multidisziplinäres Team von Entwicklern und Unternehmern, basierend auf dem aktiven Bemühen die Auswirkungen ihrer Anwendungen vom Entwurf bis zur Implementierung zu überwachen, wertvolle Erkenntnisse für die Gesetzgebung beitragen könnte.
Die Moralität von Militär-KI: Über die Debatte ‘Mensch vs. Maschine’ hinaus
Wie die Forschung des Stockholmer Instituts zur internationalen Friedensforschung (SIPRI) zeigt, gibt es viele neue Militär- und Sicherheitstechnologien. Während KI, Robotik, Internet der Dinge (IoT) und viele mehr die Bühne für eine vierte industrielle Revolution bereiten, wandeln sich die Rollen aufkommender Technologien in Frieden, Justiz, Sicherheit und Völkerrecht und die Rolle des Menschen muss darauf abgestimmt werden das optimale Funktionieren der letztgenannten Technologien zu garantieren. Mit anderen Worten, das ‘Management’ neuer Technologien bzw. deren Betrieb muss erlernt werden. Wie während der Arria-Formel-Sitzung über die Auswirkungen neuer Technologien auf den internationalen Frieden und die internationale Sicherheit im Mai 2021 betont wurde,
“KI-fähige Technologien können uns helfen, schnellere, genauere und umfassendere Analysen zu erstellen, die Logistik zu verbessern und die menschliche Entscheidungsfindung auf andere Weise zu unterstützen – die Leben retten. Eine problematische Anwendung der Künstlichen Intelligenz ist jedoch die Einbindung von Autonomie in die kritischen Funktionen von Waffensystemen.”
Izumi Nakamitsu, Arria-Formel-Sitzung – Chinesische Mission bei der UN, Youtube
Vor allem, wenn man Nakamitsus letzten Punkt betrachtet, verlagert sich die Debatte über KI-Technologie oft auf die Diskussion ihrer Moral, aber – kann man Maschinen wirklich ‘Autonomie’ zuschreiben? Während Moral-Debatten von entscheidender Bedeutung sind, sollte nicht vergessen werden, dass sich der Mensch an den Betrieb von Erfindungen und Technologien anpassen und auch den Gebrauch von älteren Erfindungen optimieren musste. Das erste Motorflugzeug, das die Wright Brüder 1903 für den Start konstruierten, hatten Letztere keineswegs ‘unter Kontrolle’. Systemausfälle lassen sich nur durch strenge Überwachung, Forschung und Entwicklung begründen. Mit anderen Worten, um Innovationen zu fördern müssen Risiken eingegangen werden. Sonst können daraus keine Lehren gezogen werden können. Ein kritisches Element neuer Technologien ist jedoch, wie sie von der internationalen Gemeinschaft genutzt werden, da ihr (un-)absichtlicher und unverantwortlicher Gebrauch größere Risiken bergen könnte als Schwächen in Bezug auf ihre Eigenschaften und Funktionalitäten.
Wie Jean-François Caron in seinem 2019 erschienenen Werk ‘Contemporary Technologies and the Morality of Warfare. The War of the Machines’ betont,
„…wenn viele Menschen glauben, dass die menschliche Moral der einzige Weg ist, um sicherzustellen, dass die moralischen Regeln der Kriegsführung respektiert werden, können wir die Tatsache nicht vernachlässigen, dass die menschliche Verfassung auch der Hauptfaktor ihrer Verletzungen war [… ] Neben ihrer Fähigkeit, das Leben von Nichtkombattanten besser zu respektieren, können Technologien die mit der menschlichen Natur verbundenen Probleme ausgleichen.”
Caron 2020, S. 39, 49
Carons Gedanken spiegeln sich wohl in einem Teil von Helsings Mission wider. Wie Murgias und Warrells Artikel in der Financial Times hervorhebt ist sich Helsing bewusst, dass Europa bei der Entwicklung großer Technologieunternehmen nicht so weit fortgeschritten ist wie China und die USA. Europa könnte tatsächlich ein wenig Angst vor Chinas neuen Kampftechnologien haben, wenn man bedenkt, dass seine eigenen Erfindungen teilweise noch zurückbleiben. Um ein ‘Machtgleichgewicht’ in den Bereichen der Sicherheit und Verteidigung in der internationalen Gemeinschaft wiederherzustellen, könnte die Entwicklung von KI-Militärtechnologien daher als moralischer Imperativ interpretiert werden. Dieser Imperativ bleibt jedoch relativ zur Wiederherstellung des letztgenannten Machtgleichgewichts. Das Versäumnis, Bürger vor zukünftigen Angriffen durch neue Technologien zu schützen würde sicherlich darauf zurückzuführen sein, dass der Weg der neuen Technologien jetzt nicht vorangetrieben wird. Daher muss die zivilgesellschaftliche Diskussion um KI-Technologie endlich zu der Einsicht kommen, dass die stark von der Popkultur geprägte Dichotomie ‘Mensch vs. Maschine’ keine gangbare Diskussionsgrundlage mehr ist.
Wie Sjoukje van der Meulen und Max Bruinsma betonen, veranschaulicht das Konzept des „Menschen als ‘Datenaggregat’”, dass Menschen gewissermaßen ‘kategoriale‘ Wesen sind. Auch wenn allgemein argumentiert wird, dass Authentizität dem Menschen innewohnt, nicht aber der Maschine, so könnte man argumentieren, dass der Mensch auch nur eine Identität besitzt, die auf bestimmten Kategorien beruht – Kategorien, die oft aus den Systemen und Gesellschaften in denen wir leben stammen. Das Argument, dass ‘Authentizität’ Vorhersehbarkeit und Menschlichkeit schafft, wird wiederum entlarvt. Die individuelle (menschliche) Wahl ist also in eine Erfahrung eingebettet, die sich unserer Kontrolle entzieht. Wie Caron betont, sagte Ronald Arkin, dass das Urteil des Menschen angesichts von Leben oder Tod trüb werden kann, während „Roboter mit vorprogrammierter tödlicher Autonomie nicht von dem ‘zuerst schießen, erst später Fragen stellen’ Ansatz betroffen sind”. Letzteres beweist, dass KI-Militärtechnologie eine Chance bietet, die menschlichen Fähigkeiten zu verbessern. Was es ermöglicht und wie es empfangen und verwendet wird, ist wichtiger als die Tatsache, dass es bestimmte Prozesse automatisiert.
Centurion Plus
Are you passionate about security and defence as well as AI tech? Then our team would like to support you with the legal side of your business operations! Whether you are located in Germany, Africa or another country does thereby not matter as much as the sincere ambition to start up, scale up or invest into projects in the first two regions. We would like to support start-ups to promote a knowledge exchange with felt impact. Are you ready for this challenge? Then contact us!
