IT-Sicherheit

Von den Ludditen zur Robokalypse?

Heute, an der Startlinie von Industrie 4.0, prallen die Meinungen von Apologeten und Skeptikern der neuen technischen Epoche hart aufeinander. Gelegentlich macht der US-Unternehmer Elon Musk Anspielungen auf eine Robokalypse. Dies sei der Tag, an dem Roboter beschließen, die Welt zu übernehmen. Wohl aus diesem Grunde hat sich Musk, „ein bekennender Technikfan der Gruppe derjenigen angeschlossen, die die künstliche Intelligenz fürchten.“ („WeltN24“) Künstliche Intelligenz, auch wie heute in anglisierter Form mit Artifical Intelligence (AI) bezeichnet, „ist insofern nicht eindeutig abgrenzbar, als es bereits an einer genauen Definition von Intelligenz mangelt.“ Nichtsdestotrotz findet er als Terminus technicus allseitige Verwendung. „Während die Science-Fiction AI oft als Roboter mit menschlichen Eigenschaften darstellt, kann AI alles von den Suchalgorithmen von Google auf IBMs Watson zu autonomen Waffen umfassen“, heißt es in einer Erklärung des Future of Life Instituts (FLI), einer durchaus nicht technikfeindlichen Forschungs- und Lobbyorganisation in Boston (USA).

Risiken werden erkannt

Es ist also keine Frage, neben den Segnungen der neuen Etappe des technologischen Fortschritts, werden bereits jetzt die damit untrennbar verbundenen Risiken erkannt – zumindest von einigen wichtigen Institutionen. Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik, hat in seinem Interview mit SECURITY insight betont, dass seine Behörde sich gegenwärtig mit der „Herausforderung des automatisierten Fahrens“ befasst. Denn Künstliche Intelligenz spielt beim autonomen Fahren eine zentrale Rolle.

In einer Zeit, in der sich Anschläge mit Fahrzeugen häufen, bedarf es keiner visionären Fantasien, sich Szenarien vorzustellen, bei denen autonom fahrende Autos zum Einsatz kommen können. „Alles, was gehackt werden kann, wird gehackt werden“, prognostizierte ASW-Chef Volker Wagner auf der 11. Sicherheitstagung seiner Allianz mit dem Bundesverfassungsschutz Ende April in Berlin. Vielleicht schwingt in mancher Euphorie über die Möglichkeiten, die sich durch AI auftun, die Ernüchterung über die menschliche Unzulänglichkeit mit. Zugleich schwingt jedoch die Hoffnung mit, die Lasten des Alltags könnten einer Maschine aufgebürdet werden, die diese Murren und Gehaltsforderung, ohne 35-Stunden-Woche und Burn-out erledigt. Hat uns nicht der Dichterfürst J. W. v. Goethe mit seinem „Zauberlehrling“ („Die ich rief, die Geister werd ich nun nicht los.“) dazu bereits ein warnendes Gedicht hinterlassen?

Im Spiel gewinnt der Roboter

Science-Fiction-Buch-Schreiber Karl Olsberg übernahm auf der erwähnten Sicherheitstagung die Aufgabe, dem Auditorium eine Zukunft mit künstlicher Intelligenz vor Augen zu führen. Was liegt näher, als das Denkduell Mensch versus Computer auf einem Spielfeld austragen zu lassen? Ergebnis 5:0 für die Maschine. Die Arena war das chinesische Brettspiel Go, das wohl komplexeste Strategiespiel. Bislang galten alle Computer-Programme den Fähigkeiten der menschlichen Kontrahenten zumindest auf höherem Niveau nicht gewachsen. Bis der europäische Go-Meister vom Computer ausgeknockt wurde. Diese Leistung hatte die Software durch ihre Lernfähigkeit erzielt. Im millionenfach wiederholten Match Maschine gegen Maschine wurde trainiert, was der Mensch nicht schafft.

Intelligenz braucht Lehrer, auch künstliche Intelligenz. Im März vergangen Jahres – so berichtet die Presse – hatte Microsoft einen künstlich intelligenten Roboter namens Tay auf die Twitter-Gemeinschaft losgelassen – keine vierundzwanzig Stunden später wurde „Tay“ wieder ins Bett geschickt: „Das Experiment, eine künstliche Intelligenz vom Menschen lernen zu lassen, war gründlich schiefgegangen. Denn aus dem als Teenie konstruierten Bot ‚Tay‘ wurde innerhalb nur eines Tages ein Völkermord bejahender Internet-Troll voller Hass und Hetze.“ Binnen kürzester Zeit hätte die Kommunikation mit Menschen „Tay“ dazu gebracht, „Sätze zu tweeten wie ‚Ich hasse alle beschissenen Feministinnen, sie sollen sterben und in der Hölle brennen‘ bis zu ‚Hitler hatte recht, ich hasse Juden‘“, schreibt die FAZ. Der Schritt von der künstlichen Intelligenz zur natürlichen Dummheit scheint wirklich nur ein kleiner zu sein.

Das Microsoft-Experiment ist keinesfalls zum Schmunzeln, denn es legt eine Flanke der künstlichen Intelligenz offen, die nur wenig beleuchtet ist: Wer sind die Lehrmeister dieser AI? Wohl auch aus diesem Grunde hat sich neben Elon Musk auch Stephen Hawking zu den AI-Skeptikern gesellt.

… keine Bedrohung

In einer Studie der Stanford Universität vom September 2016 wird dagegengehalten: „Im Gegensatz zu den fantasievolleren Voraussagen in der Laienpresse, hat die Studiengruppe keinen Anlass zu der Besorgnis gefunden, dass KI eine unmittelbare Bedrohung der Menschheit ist.“

Die Experten hatten allerdings – ein schwerwiegendes Manko – militärische Optionen bei ihrer Forschung unberücksichtigt gelassen. Wie verhält sich AI bei Interessenskollisionen? Entwicklungen sind nicht so „alternativlos“, wie es uns zuweilen aus der Politik entgegenschallt.

So ist man auch sehr an der Frage nach des Pudels Kern: Wer entwickelt und nutzt AI letztlich zu welchem Zweck? Warum sollte die von Geheimdiensten oder Kriminellen ins Rennen geschickte AI weniger effektiv sein, als die mit hehren Absichten „ausgebildete“.

Intimes im Daten-Amazonas

Künstliche Intelligenz wird zum Schatten der Menschen, vordergründig als dienstbarer Geist. Der Versandriese Amazon ging mit seinem „Echo“ vorneweg. Das Gerät, das einer „Lautsprecherbox, etwa so groß wie eine Chipsdose“ gleicht, soll für möglichst viele Menschen zum Alter Ego werden. Es ist, wie die „WirtschaftsWoche“ schreibt, „gekoppelt an die Computerintelligenz Alexa. Sie ruht auf den firmeneigenen Amazon-Servern. Von Echo aufgeweckt, ist sie in der Lage, Sprachbefehle auf Deutsch zu verstehen und auszuführen und mit dem Nutzer zu kommunizieren. Alexa wird ein Taxi bestellen können und das Wetter auf Mallorca voraussagen. Wer will, kann sich von ihr vorwarnen lassen, ob es auf dem Weg zur Arbeit Stau gibt, und alternative Routenvorschläge einholen. Vor allem aber wird Alexa die Bedürfnisse seiner neuen Besitzer nach und nach kennenlernen und sich immer besser an diese anpassen lernen.“ Gegen die Fülle der Intimitäten, die auf diese Weise im Daten-Amazonas münden, verblasst jede Volkszählung zu einem mickrigen Rinnsal.

Mag ein Unternehmen selbst auch ein vitales Interesse an der weiteren Entwicklung der AI haben, dreht sich dieses Interesse in das Gegenteil, wenn es feststellen muss, dass der einzelne Mitarbeiter via künstlich intelligenter Ausforschung zum offenen Tor in die Welt der Betriebsgeheimnisse wird. Darauf werden die Sicherheitsverantwortlichen ihr Augenmerk richten müssen. So lange sie nicht von einem künstlich intelligenten Zerberus abgelöst worden sind.

www.prosecurity.de

About the author

Redaktion Prosecurity

Add Comment

Click here to post a comment