KI-Agenten im Unternehmen: wer trifft am Ende die Entscheidung?

Vom Antworten zum Handeln

Sprachmodelle waren bisher reaktiv. Sie warteten, bis jemand etwas eintippte. KI-Agenten gehen weiter: Sie nehmen ein Ziel in normaler Sprache entgegen, zerlegen es in Schritte, rufen Werkzeuge auf, prüfen Ergebnisse und dokumentieren, was sie getan haben. Damit übernehmen sie nicht mehr einzelne Teilschritte, sondern orchestrieren ganze Arbeitsabläufe.

Kirsten Nachtigall beschreibt in ihrem OGcon-Vortrag, was daraus im Betrieb folgt: Kleine Teams liefern in Stunden, wofür früher ganze Abteilungen Wochen brauchten. Das klingt nach Entlastung. Es ist auch eine. Nur verschiebt sich dabei etwas, das im Aufwandsvergleich nicht auftaucht. Wie so ein Agent technisch aufgebaut ist, erklärt der Beitrag Agentische KI erklärt; hier geht es um die Frage danach.

Das Beispiel: wenn der Assistent die Reise plant

Nachtigall macht es an ihrer eigenen Welt fest. Sie plant eine mehrtägige Radtour über die Alpen. Ihr Radcomputer weiß heute schon erstaunlich viel über sie: Leistungswerte, Tempo, Trainingsstand, Regenerationszeiten. Er schlägt vor. Entscheiden tut sie.

Jetzt denkt sie denselben Assistenten als Agenten weiter — mit Zugriff auf Kalender, Routen und Bezahldaten. Er kennt den Rhythmus, in dem sie in die Berge fährt, plant die Strecke nach Leistungsdaten und Geländeprofil, reserviert den Zug, bucht die Unterkunft, stimmt Termin und Route mit den Freundinnen ab, prüft das Wetter und nennt die beste Startzeit für den Sonnenaufgang am Gipfel.

Was dabei verschwindet, ist nicht Arbeit, sondern ein Moment: die Region, von der eine Freundin erzählt hat; die Gegend, die sie einmal aus dem Zugfenster gesehen hat. Der Agent überspringt das Träumen. Übertragen auf das Unternehmen heißt das: Die Maschine übernimmt nicht nur die Arbeit, sie verändert die Architektur der Entscheidung.

Die stille Verschiebung der Verantwortung

Früher war die Kette klar. Der Vorstand entschied über die Strategie, der Bereich verantwortete das Budget, das Team plante das Projekt. Klare Rollen, klare Befugnisse. Heute kommen die Vorschläge aus der Maschine — sie filtert Optionen und bewertet Wahrscheinlichkeiten, bevor jemand bewusst hinschaut.

Nachtigalls Zuspitzung trifft den Punkt: Wenn die Maschine vorschlägt, der Mensch bestätigt, die Maschine nachrechnet und die Maschine live geht — wer hat dann eigentlich entschieden? Wenn am Ende niemand mehr den Moment der Entscheidung benennen kann, ist die Verantwortung nicht abgeschafft, sondern nur unsichtbar geworden.

• Entscheidungshoheit: Wer entscheidet überhaupt noch — und an welcher Stelle im Ablauf?
• Entscheidungsgrundlage: Die Daten sind nicht neutral. Sie tragen die Muster und Auslassungen ihrer Herkunft mit.
• Entscheidungslogik: Was bisher aus menschlicher Erfahrung kam, kommt zunehmend aus berechneten Wahrscheinlichkeiten.
• Tempo und Kultur: Maschinen entscheiden in Millisekunden, Organisationen im Quartalstakt. Diese Lücke ist selbst ein Risiko.

Ihr Gegenbild dafür ist die Stadtplanung. Systeme simulieren Verkehr, Baukosten und Energiebedarf und schlagen die optimale Lösung vor: effizient, günstig, CO2-arm. Was in dieser Rechnung fehlt, ist der Platz, auf dem Kinder spielen. Wer diese Dimension nicht bewusst einträgt, bekommt eine Stadt, die perfekt funktioniert und in der niemand leben möchte.

Das Fundament gehört anderen

Dazu kommt eine Abhängigkeit, die im eigenen Haus leicht übersehen wird. Viele Unternehmen verkünden stolz, sie hätten ihre eigene KI gebaut. Tatsächlich bauen sie meist Agenten — ihre Logik läuft auf einem fremden Fundament. Die Sprachmodelle darunter stammen von einer Handvoll globaler Anbieter, und mit dem Modell übernimmt man dessen Muster.

Der Vergleich mit Suchmaschinen, den Nachtigall zieht, macht den Unterschied deutlich: Suchmaschinen haben die Straße gebaut. Unternehmen betrieben ihre eigene Website, formulierten ihre Botschaft und konnten ihre Sichtbarkeit beeinflussen. Sprachmodelle sind kein Torwächter zur Information mehr — sie erzeugen die Information selbst, legen Optionen fest und geben Empfehlungen, bevor ein Mensch ins Spiel kommt. Was das für die eigene Auffindbarkeit bedeutet, behandelt der Beitrag zu Generative Engine Optimization.

Der zweite Effekt betrifft die Inhalte selbst. Ein Modell lernt aus der Vergangenheit. Kommen in Milliarden Trainingstexten Frauen seltener als Führungskräfte vor, dann ist das für das Modell die Welt — und es schreibt eine Zukunft, die aussieht wie gestern. Nachtigalls Formulierung dafür: Die Klischees, die wir überwunden glaubten, kommen leise durch die Hintertür zurück. Dass eloquente Sprache dabei nicht für Richtigkeit bürgt, ist die verwandte Falle; wie man sie technisch entschärft, steht in KI-Halluzinationen vermeiden.

Human in, on und out of the Loop

Gegen die unsichtbare Verschiebung setzt Nachtigall ein Werkzeug, das jedes Führungsteam an einem Nachmittag durchspielen kann: Jeden wesentlichen Prozess eintragen und ihm ausdrücklich eine von drei Zonen zuweisen.

• Human in the Loop: Der Mensch entscheidet, ohne Ausnahme. Keine Entscheidung ohne ausdrücklichen menschlichen Beschluss. Hierhin gehören Wertefragen, Personalentscheidungen und heikle Risiko- und Sicherheitsfragen.
• Human on the Loop: Die Maschine arbeitet eigenständig und leitet Entscheidungen ab, der Mensch überwacht und kann jederzeit eingreifen. Passend für dynamische Preisanpassung, Budgetsteuerung, Prozessoptimierung und Qualitätskontrolle.
• Human out of the Loop: Der Prozess läuft vollständig ohne Menschen. Er definiert Rahmen und Ziel, den Rest füllt die Maschine. Sinnvoll bei wiederkehrenden Backoffice-Abläufen und Datenaufbereitung — also dort, wo Tempo zählt und die ethischen Risiken gering sind.

Der Wert der Übung liegt weniger im Ergebnis als im Vorgang. Wer nicht ausdrücklich zuordnet, ordnet trotzdem zu — nur eben unbemerkt, über Trainingsdaten, Voreinstellungen und Schnittstellen. Bewusstsein schafft Steuerbarkeit, und Steuerbarkeit schafft Verantwortung. Neben dieser Zuordnung nennt Nachtigall zwei weitere Karten: einen Atlas, der sichtbar macht, in welchen Feldern KI die Entscheidungen bereits verschoben hat, und einen Kompass für die Balance zwischen Effizienzgewinn und den Entscheidungen, die beim Menschen bleiben müssen.

Was Teams brauchen, damit sie mitgehen

Den Schluss ihres Vortrags widmet Nachtigall nicht der Technik, sondern den Menschen. Ihre Erfahrung aus drei Jahrzehnten Führung und aus echten Expeditionen fällt zusammen: Die beste Route nützt nichts, wenn die Stimmung im Basislager kippt. Drei Dinge braucht ein Team, damit es mitgeht.

• Geländekenntnis: Unbekanntes Terrain erzeugt Unsicherheit. Wer nicht weiß, wo das Unternehmen steht und wohin die Route geht, kann nicht mitgehen. Also die KI-Landkarte sichtbar machen und darüber reden.
• Vertrauen: Es entsteht durch Transparenz: Welche Prozesse geben wir niemals ab, welche Werte bleiben in Menschenhand? Wer das klar sagt, gewinnt die Energie der Leute auch im schwierigen Gelände.
• Sinn: Niemand quält sich für ein abstraktes Strategiepapier durch einen Sturm. Menschen brauchen einen Grund, warum sich der Aufbruch lohnt.

Sie berichtet zugleich von einem großen Feldversuch in einem Konsumgüterkonzern mit einigen hundert Mitarbeitenden: Teams aus Mensch und KI kamen dort zu Ergebnissen, die mit denen größerer Teams mithielten — bei geringerem Zeitaufwand, höherer Zufriedenheit und dem Nebeneffekt, dass alte Abteilungsgrenzen durchlässiger wurden. Die Entlastung ist also real. Die Frage bleibt, wofür der gewonnene Freiraum genutzt wird.

Häufige Fragen