Agentische KI im Mittelstand: 6 Lektionen von McKinsey/QuantumBlack

Wenn du im Mittelstand überlegst, ob KI-Agenten etwas für dich sind: sechs Lektionen aus einem Jahr echter Projekte – was funktioniert und was nicht.

Illustration zu agentischer KI im Mittelstand

Das QuantumBlack-Team von McKinsey hat ein Jahr echter Agentic-AI-Projekte ausgewertet und daraus sechs praktische Lektionen abgeleitet. Wenn du im Mittelstand gerade überlegst, ob „KI-Agenten“ (Software, die planen, Tools aufrufen und mehrstufige Aufgaben erledigen kann) etwas für dich sind, hilft dir dieser Artikel bei der Entscheidung: was du tun solltest, was du lassen solltest und wie du steuerst, ohne dass es kompliziert wird.

1. Fang nicht beim Agenten an – fang beim Prozess an

Alle reden über KI und agentische KI, und genau das verleitet zu einem Fehler: Man jagt dem „Agenten“ hinterher statt der Lösung. Am Ende sitzt man in einer beeindruckenden Demo und hat trotzdem kaum Geschäftswert geschaffen.

Besser ist der umgekehrte Weg: Starte beim Prozess – Menschen, Ablauf, Technik – und entscheide erst dann, wo ein Agent überhaupt sinnvoll ansetzt.

Konkret: Nimm dir einen einzigen Prozess mit hoher Reibung vor (Onboarding, Angebotsprüfung, Rechnungskontrolle) und zeichne ihn auf. Markiere, wo Zeit verloren geht. Entscheide dann pro Schritt, ob es Regeln, Analytik, generative KI zum Entwerfen oder tatsächlich einen Agenten braucht.

2. Ein Agent ist nicht immer die Antwort

Nimm das einfachste Werkzeug, das die Aufgabe löst:

  • Regeln und RPA für wiederholbare, strukturierte Aufgaben
  • Analytik und ML für Klassifikation, Scoring und Prognosen
  • Generative KI für Entwürfe, Zusammenfassungen und das Verdichten unstrukturierter Texte
  • Agenten für mehrstufige Arbeit mit hoher Varianz, bei der sich der Kontext ständig ändert

3. Schluss mit „AI Slop“: Bewertung schafft Vertrauen

Behandle Agenten wie neue Kolleginnen und Kollegen: klare Aufgabenbeschreibung, Einarbeitung – und Bewertung. Zwei Kennzahlen reichen für den Anfang:

  • Erfolgsquote der Gesamtaufgabe – wurde der Auftrag wirklich zu Ende gebracht?
  • Treffsicherheit beim Abruf – hat der Agent die richtigen Informationen verwendet?

Konkret: Miss beide Werte wöchentlich. Trag sie in ein einfaches Dashboard ein, geh sie im Team durch und arbeite an den Schwachstellen.

4. Mach jeden Schritt sichtbar, nicht nur das Ergebnis

Sobald mehr als zwei, drei Agenten laufen, wird Fehlersuche zur Quälerei, wenn du nur Ergebnisse misst. Protokolliere deshalb auf Schrittebene: Eingaben, Tool-Aufrufe, Entscheidungen, Übergaben. Wenn die Qualität nachlässt, erkennst du sofort, ob es an den Daten, an einer wackeligen Schnittstelle oder am Prompt liegt.

Konkret: Hinterlege zu jeder Aktion eine kurze Begründung oder einen Link zum Beleg, damit Prüfende nachvollziehen können, worauf sich der Agent gestützt hat.

5. Der beste Anwendungsfall ist der wiederverwendbare

Wer für jede Aufgabe einen eigenen Spezialagenten baut, erstickt irgendwann in Wartungsaufwand. Standardisiere stattdessen gemeinsame Bausteine: Prompt-Blöcke, Retrieval-Module, Bewertungsskripte, Logging. Teams, die konsequent wiederverwenden, sparen typischerweise 30 bis 50 Prozent des überflüssigen Bauaufwands und skalieren schneller.

Konkret: Leg dir einen kleinen „Plattform-Ordner“ an: freigegebene Prompts, ein Retrieval-Modul, zwei Bewertungsskripte, ein Logging-Hook. Nutze ihn in jedem neuen Piloten.

6. Menschen bleiben zentral – Rollen ändern sich, Stellen nicht zwangsläufig

Agenten übernehmen mehr Schritte, aber Urteilsvermögen, Sonderfälle, Compliance und Freigaben bleiben beim Menschen. Definiere die Übergabepunkte klar, gib der Oberfläche kleine Hilfen mit (Hervorhebungen, Sprung zum Beleg) und erfasse Korrekturen strukturiert, damit der Agent dazulernt.

Konkret: Schreib die Prüfschritte in die Arbeitsanweisung. Mach eindeutig sichtbar, wo ein Mensch freigibt, korrigiert oder eskaliert – und speichere dieses Feedback.

Weitere Artikel