Wie viel Automatisierung ist akzeptabel?

Es gibt eine Frage, die in der KI-Debatte oft gestellt wird aber meist unbeantwortet bleibt. Wie viel Automatisierung ist akzeptabel und ab wann wird sie unglaubwürdig oder sogar gefährlich?

Es ist die richtige Frage. Nicht ob KI funktioniert oder wie man sie implementiert. Sondern wie viel davon wir wollen.

Die Antwort könnte die ganze Diskussion in eine andere Richtung führen. In eine ehrliche Richtung. Eine, in der man anerkennt, dass mehr Technologie nicht automatisch besser ist. Dass die Antwort auf die Frage lauten könnte: weniger als wir denken.

Aber die Antwort, die immer kommt, ist ein hybrides Modell. Mensch und Maschine agieren zusammen und teilen sich die Aufgaben. KI übernimmt die Routineaufgaben, Menschen die wichtigen Entscheidungen. Hier geht es also darum, die richtige Balance zu finden.

Das klingt vernünftig. Es klingt nach einem Kompromiss, dem jeder eigentlich nur zustimmen kann.

Aber es beantwortet die Frage nicht.

Ein hybrides Modell sagt nicht, wie viel Automatisierung akzeptabel ist. Es sagt: irgendwo dazwischen. Es verschiebt die Entscheidung von der Grundsatzebene auf die Implementierungsebene. Nicht ob, sondern wie. Nicht wie viel, sondern welche Mischung. Die Frage nach dem Limit wird ersetzt durch die Frage nach der Konfiguration.

Ich habe in Projekten gearbeitet, in denen hybrid immer der Anfang war. Zuerst ersetzt die Maschine nur die langweiligen Aufgaben. Dann die repetitiven. Dann die, die sowieso keiner machen will. Und irgendwann ist hybrid nur noch ein anderes Wort für automatisiert, mit einem Menschen, der gelegentlich auf einen Button drückt.

Die Richtung ist immer dieselbe: mehr Automatisierung. Nie weniger. Kein Unternehmen implementiert ein hybrides Modell und entscheidet sich dann für weniger Maschine und mehr Mensch. Die ökonomische Logik zieht in eine Richtung. Hybrid ist immer eine Übergangsphase aber nie das eigentliche Ziel.

Das weiß jeder, der mit KI arbeitet, egal in welcher Branche. Die Idee, dass der Prozess irgendwo stehen bleibt und in seinem Sweet Spot verharrt, wo Mensch und Maschine gleichberechtigt zusammenarbeiten, widerspricht allem, was die Geschichte der Automatisierung zeigt.

Was mich an dieser Antwort stört, ist das Ignorieren dieses Widerspruchs. Denn die Wahrscheinlichkeit, dass sich Geschichte hier wiederholt, ist höher, als dass die Prinzipien der Automatisierung plötzlich nicht mehr gelten.

Die Realität kennt nur eine Richtung: mehr Automatisierung. Maschinen kosten weniger als Menschen. Die Frage nach dem wieviel verkennt diese Realität.

Nehmen wir Kundenservice. Die KI bearbeitet die einfachen Anfragen. Bei komplexen Fällen übernimmt ein Mensch. Hier klingt hybrid gut. Aber was passiert, wenn die KI auch die komplexen Fälle bearbeiten kann? Wird der Mensch dann wieder eingesetzt, aus Prinzip, oder wegrationalisiert, weil die Maschine billiger ist und mindestens ebenbürtig funktioniert?

Die Frage beantwortet sich selbst.

Also, wie viel Automatisierung ist akzeptabel? Die ehrliche Antwort wäre: Das wissen wir nicht. Wir haben keine Kriterien dafür. Wir haben kein Framework, das sagt: Hier ist die Grenze, dahinter sollte ein Mensch stehen, nicht weil die Maschine es nicht kann, sondern weil es nicht richtig wäre.

Solange eine ehrliche Antwort ausbleibt, werden wir weiter hören: hybrid. Und hybrid ist das Wort, das man benutzt, wenn man die Frage nicht ernsthaft beantworten will. Oder die Realität ignoriert.