Ein Lieferant bietet „KI-Agenten für den Mittelstand“ an, der E-Mail-Dienst schaltet einen „Assistenten“ frei, und im Haus fragt jemand, ob man das nicht auch brauche. Was fehlt, ist selten die Neugier. Es fehlt die Klarheit, was ein Agent eigentlich darf, wenn man ihn einschaltet.
Dieser Beitrag beantwortet zuerst die Frage, was KI-Agenten sind, und danach die, auf die es im Mittelstand ankommt: Welche Rechte bekommt ein Agent, und wer prüft, bevor etwas wirkt? Er richtet sich an Geschäftsführung, Inhaber und Verantwortliche ohne eigene IT-Abteilung. Er enthält keine Produktempfehlung und ist keine Rechtsberatung.
Was sind KI-Agenten?
Ein Chatbot antwortet. Ein KI-Agent handelt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt KI-Agenten als KI-Systeme, die Aufgaben selbstständig und in mehreren Schritten ausführen, „ohne dass eine Person jeden Schritt einzeln bestätigen muss“. Sie nutzen dafür Schnittstellen zu anderen Programmen und zum Internet. Das BSI nennt als Beispiel einen Agenten, der Flüge sucht, Preise vergleicht, die Buchung durchführt und den Termin in den Kalender einträgt; ein einfacher Chatbot würde nur erklären, wie das geht (BSI: KI-Agenten, abgerufen im Oktober 2026).
Die Gesellschaft für Informatik fasst es nüchtern zusammen: Ein Agent ist ein Sprachmodell, das wiederholt Werkzeuge aufruft, die Ergebnisse verarbeitet und so schrittweise auf ein Ziel hinarbeitet. Sie weist darauf hin, dass der Begriff inzwischen inflationär verwendet wird und nicht alle dasselbe meinen (Gesellschaft für Informatik: Was ist Agentische KI?, Stand Februar 2026).
Auch rechtlich ist der Begriff offen. Der AI Act Service Desk der EU-Kommission schreibt, dass der Begriff „KI-Agent“ nicht gesetzlich definiert ist und im KI-Gesetz keine eigene Kategorie bildet. Die Regeln für KI-Systeme gelten aber auch für Agenten (AI Act Service Desk: Wie werden KI-Agenten im Rahmen des KI-Gesetzes behandelt?). Wer „Agent“ im Angebot liest, sollte deshalb nachfragen, was damit gemeint ist: ein Chatfenster mit Zusatzfunktion oder ein System, das in Ihren Systemen Dinge verändert.
KI-Agenten im Mittelstand: wo sie schon vorkommen
Agenten sind nicht nur ein Thema für Konzerne. Die IHK Regensburg nennt als Einsatzfelder in Handels-, Industrie- und Dienstleistungsunternehmen die E-Mail-Sortierung, die Rechnungsprüfung und die Planung von Wartungsterminen (IHK Regensburg: KI-Agenten und Agentic AI). Das BSI zählt den E-Mail-Assistenten auf, der Nachrichten „teils ohne Ihr Zutun“ liest, sortiert und beantwortet, dazu Terminplaner, Recherche-Assistenten und Programmierhilfen.
Ein Beispiel aus dem Mittelstand beschreibt das Mittelstand-Digital Zentrum Bremen-Oldenburg: Eine Anfrage kommt per E-Mail, der Agent ordnet sie ein, zieht freigegebene Informationen heran und erstellt einen Antwortentwurf. Komplexere Fälle gehen an Mitarbeitende (Mittelstand-Digital Zentrum Bremen-Oldenburg: KI-Agenten im Mittelstand, Oktober 2026). In diesem Beispiel steckt bereits der Kern dieses Beitrags: Der Agent entwirft, ein Mensch entscheidet. Auch auf Diensthandys sind Assistenten schon eingebaut; was sie dort mitlesen und wie Sie das regeln, beschreibt Apple Intelligence und Gemini im Unternehmen deaktivieren?.
Wie sich solche Anwendungsfälle grundsätzlich sortieren lassen, steht in KI im Mittelstand: wo sich der Einsatz lohnt und wo nicht. Dort geht es um zwei Fragen: Ist das Ergebnis überprüfbar, und was kostet ein Fehler? Für Agenten kommt eine dritte hinzu: Was darf das System selbst tun?
KI-Agent oder Automatisierung: worin der Unterschied liegt
Eine klassische Automatisierung folgt festen Regeln. Trifft eine Rechnung ein, wird sie nach demselben Schema verarbeitet, und bei gleicher Eingabe entsteht dasselbe Ergebnis. Bei einem Agenten entscheidet das Sprachmodell, welchen Schritt es als nächsten ausführt. Das ist seine Stärke bei unstrukturierten Aufgaben und zugleich der Grund, warum das Ergebnis abweichen kann.
Daraus folgt eine Arbeitsteilung, die wir für sinnvoll halten: Beträge, Bestände, Fristen und Buchungen bleiben in Regeln mit deterministischem Ergebnis. Der Agent übernimmt höchstens den Rand, also Text lesen, einordnen, Felder vorschlagen. Für den Kern gelten die bekannten Anforderungen an jede Automatisierung: Wiederanlauf nach Fehlern, keine doppelt angelegten Aufträge und ein definierter Umgang mit unklaren Ergebnissen, wie in Unklares Ergebnis: wiederholen, nachschauen oder Mensch? beschrieben. Ob ein Ablauf für beides reif ist, klärt Woran erkenne ich, ob ein Prozess automatisierungsreif ist?
Welche Risiken haben KI-Agenten?
Das BSI nennt fünf Risiken, die sich aus der Selbstständigkeit ergeben:
- Kontrollverlust durch Autonomie. Je selbstständiger ein Agent handelt, desto schwerer ist nachzuvollziehen, was er tut, etwa E-Mails in Ihrem Namen zu versenden oder kostenpflichtige Verträge abzuschließen.
- Prompt Injection. Angreifer verbergen Befehle in Webseiten, Dokumenten oder E-Mails. Liest der Agent diese Inhalte, kann er die versteckten Befehle als echte Anweisungen ausführen. Das BSI nennt als Beispiel eine manipulierte E-Mail, die den Agenten anweist, alle künftigen E-Mails an eine fremde Adresse weiterzuleiten.
- Datenweitergabe. Agenten mit Zugang zu E-Mails, Kalender und Dateien können manipuliert werden und Informationen an Dritte weiterleiten.
- Ungewollte Aktionen. Durch manipulierte Inhalte oder fehlerhafte Entscheidungen können Bestellungen, Überweisungen oder andere Aktionen ausgelöst werden.
- Kettenreaktionen. Arbeiten mehrere Agenten zusammen, kann ein Angriff auf einen von ihnen andere Systeme treffen.
Das BSI betont außerdem, dass sich KI-Agenten technologisch noch in einem frühen Stadium befinden und Sicherheitsstandards sowie rechtliche Rahmenbedingungen sich erst entwickeln.
Eine gemeinsame Leitlinie von CISA, NSA und den Cyber-Sicherheitsbehörden Australiens, Kanadas, Neuseelands und Großbritanniens vom 1. Mai 2026 kommt zu einem ähnlichen Bild. Sie nennt Rechteausweitung, unvorhergesehenes Verhalten und Lücken bei der Verantwortlichkeit als Risiken und empfiehlt, die Autonomie zu begrenzen und Agenten keinen weitreichenden Zugriff auf sensible Daten oder kritische Systeme zu geben (CISA: Guidance on Adopting Agentic AI Services; Canadian Centre for Cyber Security). Die Leitlinie richtet sich an Organisationen mit Schwerpunkt auf kritischen Infrastrukturen; die Grundaussage lässt sich auf kleinere Unternehmen übertragen. Wer eigene Agenten baut oder bauen lässt, findet mit den OWASP Top 10 for Agentic Applications for 2026 eine von mehr als 100 Fachleuten begutachtete Liste der kritischsten Sicherheitsrisiken solcher Systeme.
Lesen, vorschlagen, ausführen: drei Stufen für jeden Agenten
Alle diese Risiken hängen an einer Größe: an den Rechten, die ein Agent bekommt. Das BSI rät deshalb, nur die Zugriffe zu erlauben, die der Agent für seine Aufgabe wirklich braucht, und – sofern verfügbar – Einstellungen zu nutzen, bei denen der Agent wichtige Aktionen erst nach Bestätigung ausführt. Das Fraunhofer IPA formuliert es für die Praxis so: Welche Aktionen automatisiert ablaufen und wo eine Freigabe erforderlich ist, wird für den jeweiligen Einsatzfall festgelegt (Fraunhofer IPA: KI-Agent).
Wir ordnen das für Entscheidungen im Mittelstand in drei Stufen. Das ist unsere Einteilung, keine Norm:
- Lesen. Der Agent darf Daten einsehen, aber nichts verändern. Der mögliche Schaden ist eine falsche Auskunft oder ein Datenabfluss, wenn er zugleich nach außen kommunizieren kann.
- Vorschlagen. Der Agent legt Entwürfe, Zuordnungen oder Felder an. Ein Mensch prüft und übernimmt. Die Wirkung beginnt erst mit der Freigabe.
- Ausführen. Der Agent ändert, sendet oder bucht selbst. Das gehört nur dorthin, wo ein Fehler wenig kostet und sich zurücknehmen lässt, oder hinter eine Freigabe vor der Ausführung.
Für den Alltag heißt das:
| Aufgabe | Was der Agent darf | Wo der Prüfschritt steht |
|---|---|---|
| Eingehende Anfragen einordnen | Lesen, Kategorie vorschlagen | Falsch zugeordnete Vorgänge fallen in der Bearbeitung auf und lassen sich umlegen |
| Antwort an Kunden | Entwurf anlegen | Eine benannte Person liest und sendet |
| Rechnungspositionen auslesen | Felder vorschlagen | Abgleich mit dem Dokument, Buchung im regelbasierten Ablauf |
| Zahlung, Bestellung oder Preisänderung | Nichts selbst ausführen | Freigabe durch eine benannte Person vor der Ausführung |
Die Spalte rechts ist die entscheidende. Ein Prüfschritt ohne Namen ist keiner. Wer ihn besetzt, wer vertritt und wo das Protokoll liegt, gehört vor den Start geklärt; ein Agent ohne diese Antworten verlagert die Arbeit nur in die Korrektur danach. Die Zuständigkeit im laufenden Betrieb ist Thema in Automatisierte Prozesse überwachen: wer wartet, wer vertritt.
Viele Werkzeuge bringen die Möglichkeit mit. Microsoft beschreibt für Copilot Studio Workflows mit Human-in-the-Loop-Steuerungen und Agent-Flows mit menschlichen Überprüfungsschritten (Stand Oktober 2026, Microsoft Learn: Übersicht über Copilot Studio). Dass es den Schritt gibt, heißt nicht, dass er eingeschaltet und besetzt ist.
Die BSI-Kombination, bei der kein Agent allein laufen sollte
Das BSI beschreibt einen Sonderfall, den es „Lethal Trifecta“ nennt, und räumt ein, dass der Begriff zugespitzt ist. Gemeint ist ein Agent, der drei Dinge zugleich kann:
- Er hat Zugriff auf vertrauliche Daten.
- Er verarbeitet fremde oder unkontrollierte Inhalte, etwa Texte aus E-Mails oder dem Internet.
- Er kann mit externen Systemen kommunizieren.
Wer sich das Zusammenspiel mit der Prompt Injection oben ansieht, erkennt das Muster: Die fremde E-Mail liefert den Befehl, der Zugriff die Daten, die Kommunikation den Weg nach draußen. Das BSI schreibt in diesem Zusammenhang, kein Agent sollte etwa gleichzeitig Zugang zu E-Mails, Bankkonto und persönlichen Dateien haben. Die BSI-Seite wendet sich an Verbraucherinnen und Verbraucher. Als Prüffrage für ein Unternehmen lässt sich der Gedanke übernehmen: Trifft ein Vorschlag alle drei Punkte, braucht er eine Freigabe vor der Ausführung oder eine engere Rechtevergabe, bevor er läuft.
Rechtlich einordnen: KI-Verordnung und Entscheidungen über Personen
Ob für einen Agenten besondere Pflichten gelten, hängt vom Einsatz ab. Nach der Auskunft des AI Act Service Desk unterliegt ein Agent, der als Hochrisiko-KI-System eingestuft wird, zusätzlichen Anforderungen, und wenn er mit Personen interagiert oder Inhalte erzeugt, gelten Transparenzvorschriften nach Artikel 50 des KI-Gesetzes. Prüfen Sie, ob Ihr Einsatzfall in eine dieser Gruppen fällt; eine rechtliche Beratung ersetzt dieser Beitrag nicht.
Betrifft der Agent Entscheidungen über Menschen, etwa Zusagen, Absagen oder Konditionen, ist Art. 22 DSGVO zu prüfen. Er gibt betroffenen Personen das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie erheblich beeinträchtigt; Absatz 3 nennt für die Ausnahmefälle unter anderem das Recht auf Eingreifen einer Person (Art. 22 DSGVO). Für solche Einsätze ist die Freigabe durch einen Menschen kein Komfort, sondern die Voraussetzung. Ob und wie die Vorschrift Ihren Fall erfasst, klärt Ihr Datenschutzbeauftragter oder eine Rechtsberatung.
Einstieg in fünf Schritten
Das Vorgehen folgt der Empfehlung der Mittelstand-Digital-Zentren, mit einem konkreten Bedarf zu beginnen und einen überschaubaren Arbeitsschritt zu erproben:
- Einen Arbeitsschritt wählen, nicht ein Werkzeug. „Anfragen vorsortieren“ statt „Agenten einführen“. Ob der Einsatz sinnvoll ist, hängt laut Fraunhofer IPA von Daten, Systemen, Prozessreife und erwartetem Nutzen ab.
- Die Rechte festlegen. Was darf der Agent lesen, was vorschlagen, was ausführen? Trifft die BSI-Kombination zu, gilt die engere Stufe.
- Den Prüfschritt besetzen. Wer gibt frei, wer vertritt, wo steht das Protokoll? Das Mittelstand-Digital Zentrum fragt dazu, ob geklärt ist, auf welche Systeme der Agent zugreifen darf und wann ein Mensch übernehmen muss.
- Klein beginnen, mit messbaren Zielen. Ein Fall, ein Zeitraum, vorher festgelegte Kennzahlen wie kürzere Bearbeitungszeiten. Prüfen Sie, ob die benötigten Daten vollständig und aktuell sind.
- Nach vereinbarter Zeit entscheiden. Der Fall bleibt, wächst oder endet. Erst bei messbarem Nutzen weitere Aufgaben anschließen.
Wer so vorgeht, kann „nein“ sagen, ohne etwas zu verpassen, und „ja“, ohne einem System Rechte zu geben, die niemand überblickt. Was ein Einstieg kosten kann, steht in Was Prozessautomatisierung wirklich kostet.
Wenn niemand im Haus den Prüfschritt beurteilen kann
Meist fehlt nicht der gute Wille, sondern die Person, die gegenliest: Welche Rechte verlangt das Angebot? Was passiert, wenn der Agent falsch liegt? Wer im Haus nimmt den Fall zurück?
Liegt ein Angebot oder Konzept für einen KI-Agenten auf dem Tisch, ist die Architektur-Zweitmeinung der kürzere Weg: eine Woche, 1.400 € netto, ein Dokument mit klarer Aussage. Soll geklärt werden, welche Abläufe sich für Automatisierung mit oder ohne KI überhaupt eignen, beginnt die Prozessautomatisierung mit einer Aufnahme für 3.900 € netto. Sie endet auch mit dem Ergebnis, dass etwas bleibt, wie es ist, wenn sich der Einsatz nicht trägt.
Quellen
- BSI: KI-Agenten, wenn Künstliche Intelligenz selbstständig handelt
- AI Act Service Desk: Wie werden KI-Agenten im Rahmen des KI-Gesetzes behandelt?
- CISA: CISA and Partners Release Guidance on Adopting Agentic AI Services (1. Mai 2026)
- Canadian Centre for Cyber Security: Joint guidance on the careful adoption of agentic artificial intelligence services
- OWASP Gen AI Security Project: OWASP Top 10 for Agentic Applications for 2026
- Gesellschaft für Informatik: Was ist Agentische KI?
- Fraunhofer IPA: KI-Agent
- Mittelstand-Digital Zentrum Bremen-Oldenburg: KI-Agenten im Mittelstand, wo anfangen?
- IHK Regensburg: KI-Agenten und Agentic AI
- Art. 22 DSGVO: Automatisierte Entscheidungen im Einzelfall
- Microsoft Learn: Übersicht über Copilot Studio