„Wir sind die Kühe der Zukunft“ – Hararis Warnung vor einer unverständlichen Finanzordnung durch KI
„We are the cows of the future.“ Hararis zugespitzte Warnung beschreibt eine mögliche Abhängigkeit: Menschen nutzen Finanzsysteme weiter, während ihnen deren Regeln und der Einfluss darauf entgleiten. Entscheidend sind verständliche Grundlagen und wirksame Eingriffsmöglichkeiten.

Hararis Warnung vor einer unverständlichen Finanzordnung durch KI
Ein illustrativer Bankfall: Ein Bankmitarbeiter soll eine Entscheidung freigeben, die künstliche Intelligenz (KI) vorbereitet hat, doch die Empfehlung zeigt nicht, welche Daten den Ausschlag geben. Wie behalten Sie Einfluss, wenn Sie die Grundlage einer solchen Empfehlung kaum beurteilen können? Die erste Antwort lautet: Sie brauchen verständliche Entscheidungsgrundlagen und die Möglichkeit, eine Entscheidung tatsächlich zu verändern oder zurückzuweisen.
Ein Freigabeknopf allein löst das Problem nicht. Wer Verantwortung übernehmen soll, braucht mehr als ein Ergebnis auf dem Bildschirm. Genau hier wird Hararis Zukunftswarnung für den Arbeitsalltag greifbar.
Hararis Kuhvergleich beschreibt Abhängigkeit statt Dummheit
„We are the cows of the future.“ CTech berichtet diesen zugespitzten Vergleich von Yuval Noah Harari und ordnet ihn einem Interview mit dem tschechischen Fernsehen zu. Der Bericht erschien laut den bibliografischen Angaben am 19. Oktober 2026; daraus lässt sich nicht automatisch das Datum des Interviews ableiten. Hararis Aussage beschreibt eine mögliche Zukunft, keinen nachgewiesenen Kontrollverlust der Gegenwart. [1]
Eine Kuh nimmt Menschen wahr und reagiert auf ihr Verhalten. Sie versteht aber weder Kreditbedingungen noch Aktienmärkte oder wirtschaftliche Entscheidungen, die ihren Lebensraum verändern können. Sie erlebt die Folgen, ohne die Zusammenhänge dahinter zu begreifen.
Auf Menschen übertragen lautet das Szenario: Wir verdienen weiterhin Geld, nehmen Kredite auf und nutzen Finanzangebote. Doch die Strukturen, die unsere Möglichkeiten bestimmen, könnten unserem Verständnis entgleiten. Der Vergleich setzt menschliche und tierische Fähigkeiten nicht gleich. Er trennt zwei Dinge, die wir leicht verwechseln: An einem System teilzunehmen bedeutet nicht, seine Regeln zu verstehen oder mitzubestimmen.
KI im Finanzsystem könnte auch die Regeln mitgestalten
Ein geeignetes KI-System kann große Datenbestände auswerten, die ein einzelner Bankmitarbeiter nicht gleichzeitig überblickt. Mehr Verarbeitungskapazität macht ein Ergebnis allerdings noch nicht prüfbar. Der Fachbeitrag „KI im Controlling“ betont dafür nachvollziehbare Grundlagen, erkennbare Abweichungen und reproduzierbare Ergebnisse. Sein Schwerpunkt liegt auf Controlling und Buchhaltungsprozessen, nicht auf einer gesamten Finanzordnung. [3]
Hararis weitergehendes Szenario beginnt dort, wo KI nicht mehr nur bestehende Regeln anwendet, sondern finanzielle und administrative Strukturen mitgestaltet. CTech schreibt ihm dafür einen Zeitraum von zehn bis zwanzig Jahren zu. Das ist eine persönliche Zukunftseinschätzung, keine gesicherte wissenschaftliche Vorhersage. [1]
Die Gefahr liegt in diesem Gedankengang nicht vorrangig in einer Roboterrevolution. Wissen, Entscheidungsfähigkeit und Einfluss könnten sich schrittweise verlagern, während Menschen die Angebote solcher Systeme weiterhin bequem nutzen.
Typischer Denkfehler: Wer ein System bedienen kann, kann es auch kontrollieren. Eine verständliche Oberfläche erklärt noch nicht, weshalb eine Empfehlung entsteht. Und selbst eine gute Erklärung verschafft noch keine Befugnis, das Ergebnis zu ändern.
Eine menschliche Freigabe allein sichert noch keine Kontrolle
Ein „Human-in-the-Loop“, also ein Mensch als eingebundene Prüf- oder Freigabeinstanz, reicht nicht aus, wenn diese Person Ergebnisse weder beurteilen noch wirksam beeinflussen kann. Die Leitlinien zur KI-Transformation im Finanzwesen richten den Blick deshalb auch auf das System, die verwendeten Daten und die Zugriffsrechte. [2]
Aus dieser Argumentation lassen sich drei Fragen für eine erste Prüfung ableiten:
- Entscheidungsgrundlage: Welche wesentlichen Daten und Annahmen tragen die Empfehlung, und lassen sie sich überprüfen?
- Zuständigkeit: Wer kann offene Fragen fachlich klären und über eine Änderung entscheiden?
- Eingriff: Was geschieht tatsächlich, wenn die zuständige Person widerspricht oder die Freigabe verweigert?
Im illustrativen Bankfall heißt das: Die zuständige Person sollte die wesentlichen Entscheidungsgrundlagen prüfen und bei offenen Fragen die Freigabe aussetzen können. Eine Rückfrage sollte zu einer fachlichen Prüfung führen, nicht lediglich zu einer erneuten Anzeige derselben Empfehlung.
Diese Fragen sind eine erste Orientierung, kein vollständiger Kontrollmaßstab. Nicht jeder Mitarbeiter muss sämtliche technischen Abläufe verstehen. Entscheidend ist, dass die benötigte Fachkenntnis, die Verantwortung und die Eingriffsmöglichkeiten im Zusammenspiel verfügbar sind. Die Prüfung einzelner Empfehlungen und die Kontrolle des dahinterliegenden Systems ergänzen sich. [2]
Der Erkenntnisgewinn des Bankfalls liegt damit nicht in einer zusätzlichen Unterschrift. Er liegt darin, Verantwortung mit Urteilsmöglichkeiten und Entscheidungsbefugnissen zu verbinden. Eine Person kann sichtbar beteiligt sein und dennoch praktisch keinen Einfluss haben.
Entscheidend ist nicht allein, ob Menschen ein System bedienen können. Ohne ausreichendes Verständnis und wirksame Kontrolle kann technologischer Fortschritt neue Formen der Abhängigkeit schaffen.
Quellenverzeichnis
[1] Yuval Noah Harari on AI: “We are the cows of the future” · Lital Samet · 2026 · Ctech
[2] Leitlinien zur KI-Transformation im Finanzwesen · Dr. Hans-Jürgen Hillmer · 2026 · Beck/BC
[3] KI im Controlling: Woran Teams ein prüfbares Ergebnis erkennen · Arno Schleussner · 2026 · Controllingportal