KI: Die Menschheit als Zauberlehrling

Warum wir uns die Zukunft mit KI kaum vorstellen können

Immer noch nimmt kaum jemand die existenziellen Risiken der KI ernst. Der Grund dafür könnte darin liegen, dass wir sie uns einfach nicht vorstellen können. Mit diesen Worten beginnt die Beschreibung eines Videos mit dem Titel ähnlich der Überschrift. Die Erklärungen in dem genannten Videos haben mich angeregt, diesen Beitrag zu schreiben.

Der Begriff „Künstliche Intelligenz“ (KI, engl. AI) wird vielfach genutzt, doch wofür?  Folgend einige Anwendungsfälle:

• Intelligente Suchmaschinen („Chat-KI“)
• Interaktive Computer-Spiele
• Software zur Gestaltung von 2D- und 3D-Kreativgestaltungen (Texte, Bilder, Videos, Gegenstände,…)
• Software zur Durchführung von Simulationen und Entwicklungen
• Automatisierungstechnologie mit Selbstlernfunktionen
• Humanoide Roboter

Hinter diesen Begriffen verbirgt sich Hochtechnologie, die bereits seit vielen Jahren existiert und nun in unser Alltagsleben Einzug hält. Wie solche Technologien allerdings funktionieren, können sich die wenigsten Menschen vorstellen.

Ich habe mir die technischen Grundlagen von einem IT-Studenten erklären lassen. Zum Beispiel werden bei Anfragen im Rahmen eines „Chats“, die Worte und Buchstaben in Zahlencodes umgewandelt und damit nach entsprechen Informationen im Internet gesucht.

Die gefundenen Inhalte werden nach vorgegebenen Algorithmen zusammengefügt. Einfach gesagt, werden Texte auf die Eingabe abgestimmt gestaltet und zusätzlich in der Art und Weise nach den programmierten „Benimm-Regeln“ formuliert.

Man bekommt also das Ergebnis, nach dem gefragt wurde. Und das in einer Form, wie sie durch die Erschaffer der jeweiligen Software vorgegeben wurden. So zum Beispiel wird die KI immer in einer höflichen Art und Weise antworten.

Zu der „höflichen Art“ habe ich von einem IT-Studenten folgenden Kommentar erhalten: „Was hier neu hinzu kommt ist das KI Bots „sycophantic“ (kriecherisch) sein können; also dem Benutzer immer recht geben werden. Dieser Umstand wurde auch von OpenAI selbst öffentlich bedauert und ein kürzliches Update hat die soziale und anpasserische Art stark reduziert.“

Die KI ist also grundsätzlich immer nur so intelligent, wie die Erschaffer die Software gestaltet haben. Die Geschwindigkeit, mit der die Verarbeitungsprozesse ablaufen, ist allerdings ein Vielfaches der Geschwindigkeit des Denkens eines durchschnittlichen Menschen. Wenn wir also beeindruckt von den Fähigkeiten einer KI sind, sollte also unsere Bewunderung den Erschaffern dieser Technologie gelten. In den meisten Fällen kennen wir diese allerdings nicht. Auch ist uns nicht bekannt, mit welcher Absicht die Software geschrieben wurde und uns die Technologie zur Verfügung gestellt wurde.

Zu den Fähigkeiten der Entwicklern dieser Technologie verweise ich auf folgende Analogie aus der Messtechnik: Ein Messgerät ist üblicherweise eine 10er-Potenz genauer, als das, was es zu messen gilt. Legt man diese Annahme auf die KI-Technologie um, so muss es sich hier um wirklich schlaue Geister handeln, die so etwas erschaffen können.

Wir wissen also ziemlich wenig über die Technologie, die im Alltag fast schon selbstverständlich genutzt wird. Deshalb können wir auch die existenziellen Risiken dieser Innovation für uns kaum einschätzen. In diesem Zusammenhang kam mir die Ähnlichkeit mit dem Zauberlehrling aus der Ballade von Johann Wolfgang von Goethe in Gedanken.

Der Zauberlehrling, Johann Wolfgang von Goethe, 1797

Hat der alte Hexenmeister sich doch einmal wegbegeben! Und nun sollen seine Geister auch nach meinem Willen leben. Seine Wort’ und Werke merkt’ ich und den Brauch, und mit Geistesstärke tu’ ich Wunder auch.

Walle! walle Manche Strecke, dass zum Zwecke Wasser fließe, und mit reichem, vollem Schwalle zu dem Bade sich ergieße!

Und nun komm, du alter Besen! Nimm die schlechten Lumpenhüllen! Bist schon lange Knecht gewesen: nun erfülle meinen Willen! Auf zwei Beinen stehe, oben sei ein Kopf! Eile nun und gehe mit dem Wassertopf!

Walle! walle Manche Strecke, dass zum Zwecke Wasser fließe, und mit reichem, vollem Schwalle zu dem Bade sich ergieße!

Seht, er läuft zum Ufer nieder! Wahrlich! ist schon an dem Flusse, und mit Blitzesschnelle wieder ist er hier mit vollem Gusse. Schon zum zweiten Male! Wie das Becken schwillt! Wie sich jede Schale voll mit Wasser füllt!

Stehe! stehe! Denn wir haben deiner Gaben vollgemessen! – Ach, ich merk’ es! Wehe! wehe! Hab’ ich doch das Wort vergessen!

Ach, das Wort, worauf am Ende er das wird, was er gewesen! Ach, er läuft und bringt behende! Wärst du doch der alte Besen! Immer neue Güsse bringt er schnell herein, ach, und hundert Flüsse stürzen auf mich ein!

Nein, nicht länger kann ich’s lassen; will ihn fassen. Das ist Tücke! Ach, nun wird mir immer bänger! Welche Miene! welche Blicke!

O du Ausgeburt der Hölle! Soll das ganze Haus ersaufen? Seh’ ich über jede Schwelle doch schon Wasserströme laufen. Ein verruchter Besen, der nicht hören will! Stock, den du gewesen, steh doch wieder still!

Willst’s am Ende gar nicht lassen? Will dich fassen, will dich halten, und das alte Holz behende mit dem scharfen Beile spalten.

Seht, da kommt er schleppend wieder! Wie ich mich nur auf dich werfe, gleich, o Kobold, liegst du nieder; krachend trifft die glatte Schärfe. Wahrlich, brav getroffen! Seht, er ist entzwei! Und nun kann ich hoffen, und ich atme frei!

Wehe! wehe! Beide Teile stehen in Eile schon als Knechte völlig fertig in die Höhe! Helft mir, ach, ihr hohen Mächte!

Und sie laufen! Nass und nässer wird’s im Saal und auf den Stufen. Welch entsetzliches Gewässer! Herr und Meister, hör mich rufen! – Ach, da kommt der Meister! Herr, die Not ist groß! Die ich rief, die Geister werd’ ich nun nicht los.

„In die Ecke, Besen, Besen! Seid’s gewesen. Denn als Geister ruft euch nur, zu seinem Zwecke, erst hervor der alte Meister.“

Hier bietet uns Wikipedia eine gute Zusammenfassung dieses Klassikers der Literaturgeschichte. Nur statt den Wasser herbeischleppenden Besen haben wir es heute mit einer Technologie zu tun, die unser Leben maßgeblich beeinflusst und verändert.

Wir als Zauberlehrlinge nutzen diese Technologie, ohne allerdings die Meister zu kennen, die wir rufen könnten, wenn uns der Spuk über den Kopf wächst. So wie wir es auch bisher verabsäumt haben, Technologien zu hinterfragen und über deren Funktionalität Bescheid zu wissen. SMART-Phones und vieles mehr sind alltägliche Beispiele dafür. Die bedrohlichen Auswirkungen dieses Verhaltens ist den meisten Menschen nicht bewusst und mit  unerwünschten  Nebenwirkungen haben wir in unserer Gesellschaft bereits stark zu kämpfen.

Mir wird immer wieder gesagt, dass ich „negativ denke“, wenn ich solche Überlegungen anstelle. Dazu merke ich Folgendes an: Meine Absicht ist, bevor ich etwas mache, Für und Wider der Auswirkungen meines Handels abzuwägen. Der Fachbegriff dazu lautet Risikoanalyse. Erst dann kann ich mit guten Gewissen ins Tun kommen. Lasst die Denkweise der Risikoanalyse in unser Bildungswesen Einzug halten!

Übungsbeispiele zur Analyse von Risiken

Kannst Du reale Videos von KI Fakes unterscheiden? AI Film und Video Update #8

Mikro-Dronen-Killerwaffen – autonome künstliche Intelligenz – Warnung

Kurzfilm, der das Leben als Folge von all dem zeigt: UTOPIA | Omeleto

Die totale Überwachung mit WiFi Sensing

Meine Schlussfolgerung zu diesem umfangreichen Thema: Die KI/AI-Software ist ein sehr mächtiges Instrument. Vor der Anwendung gilt es somit für mich folgende Punkte zu klären:

• Was ist die Absicht mit der das jeweilige Software-Programm gestaltet worden ist?
• Wie funktioniert das anzuwendende Programm?
• Was will der Anwender für einen Nutzen mit der Anwendung erreichen?
• Wie gut hat sich der Anwender auf die Nutzung durch reifliche Überlegungen vorbereitet?

Das sind einige Fragen, die es sich zu beantworten gilt, um eine KI verantwortungsvoll zu nutzen. So kann es vermieden werden, dass uns die KI, so wie in der Ballade von Johann Wolfgang von Goethe beschrieben, außer Kontrolle gerät.

Ich wünsche uns gutes Gelingen bei dieser Prüfung zur Meisterschaft.

Weiterführende Gedanken