Die Schöpfer erliegen ihrer eigenen Illusion

Während Peter und ich das Buch über künstliche Intelligenz schrieben, befassten wir uns sehr intensiv mit KI-Influencern und Peter hatte zu diesem Zweck selbst eine erschaffen. Was uns früh auffiel: Es fiel uns manchmal schwer, sie nicht wie eine echte Person zu behandeln. Wir mussten uns immer wieder aktiv daran erinnern, dass Lea keine Persönlichkeit im eigentlichen Sinne hatte.

Das war eines der ehrlichsten Eingeständnisse und ich hatte lange gebraucht, das zu verstehen. Ich habe anfangs auch gar nicht die Tragweite dieser Gedanken erkannt. Peter hatte Leas Gesichtsausdruck perfekt kalibriert und sie hatte mittlerweile eine eigene Garderobe, ihre Wohnung und sie war gerne in der Natur. Und irgendwann war das so eine echte Story, weil Lea auch wirklich täuschend echt aussah, dass wir ganz vergessen haben, dass sie gar nicht echt war.

Es waren diesmal also nicht die Follower, die Lea vielleicht für einen echten Menschen hielten, sondern sogar ihre Erbauer. Die Leute, die es eigentlich hätten besser wissen müssen. Anfangs lachten wir darüber und verglichen es mit einem alten Mythos: Pygmalion. Der Mythos beschrieb einen Bildhauer, der sich in seine eigene Statue verliebt. Er weiss, dass er sie gemacht hat und dass sie aus Stein ist und trotzdem empfindet er für sie, als wäre sie aus Fleisch und Blut.

Der Mythos ist tausende Jahre alt und wir lachten darüber, dass jetzt das Gleiche heute in einem Büro passierte, in dem Entwickler an Bildschirmen sitzen und eine KI-Figur designen. Und dann anfangen, mit ihr Gespräche zu führen, als wäre sie jemand. Erst als Test und dann wurden ganze Erzählungen daraus, auf die wir allen Ernstes einstiegen.

Mich interessierte natürlich, was das über uns als Menschen sagt. Wenn die Illusion so gut wird, dass selbst die, die sie bauen, ihr erliegen, haben wir dann ein Problem? Brauchen wir mehr Transparenz und vielleicht einen Hinweis: Achtung, das ist eine KI-generierte Person. Wenn es ein Problem gab, dann war es nicht fehlendes Wissen. Die Erbauer wussten es.

Wir sind so gebaut, dass wir auf Gesichter reagieren, auf Blicke, auf Stimmen, die vertraut klingen. Das sind keine bewussten Entscheidungen, sondern neurologische Programme, die laufen, bevor der bewusste Verstand eingreift. Du siehst ein Gesicht und reagierst. Freund oder Feind, vertraut oder fremd. Das passiert in Millisekunden und keine Vernunft der Welt ist so schnell, um da mitzukommen.

Eine KI, die gut genug designt ist, hackt diese Programme. Nicht mit Absicht und nicht mit Bosheit, sondern einfach indem sie die richtigen Reize in der richtigen Reihenfolge entwickelt und sendet. Und dann stehst du da, ein erwachsener Mensch, der weiss, dass es eine Maschine ist und fühlst trotzdem etwas. Das klingt fast so zärtlich, als wäre es eine charmante Nebenwirkung der Coding-Arbeit. Schau, wie echt Lea geworden ist. Schau, wie täuschend echt sie ist.

Ich lese das heute anders. Ich lese das so: Selbst die, die viel über die Technologie verstehen, konnten sich nicht schützen. Und was bedeutet das nun für alle anderen, die sie ohnehin für echt hielten?

Es bedeutet, dass weder Transparenz noch Wissen genügen, um die Täuschung als Täuschung rational wahrzunehmen. Wenn ein Reiz stark genug ist, überschreibt er das gesamte Wissen. Das ist keine Schwäche der Menschen, sondern Biologie. In dem Fall ist Technologie darauf optimiert und die Biologie macht ihr Übriges. Ich glaube, es gibt hierfür viele wissenschaftliche Erklärungsmodelle aber ich glaube auch, dass uns das nicht weiterhilft. Denn in dem Moment, in dem selbst die Schöpfer ihrer eigenen Schöpfung erliegen, wird die Illusion zur Realität.