Du hast einen digitalen Assistenten gebeten, dir Zeit zu sparen. Du hast ihm Zugriff auf deine E-Mails, deine Dateien und vielleicht sogar auf deinen Online-Shop gewährt. Wenn er eine falsche Entscheidung trifft – wie weit kann das gehen?
Microsoft hat am 19. Oktober 2026 ein Thema angesprochen, das den täglichen Einsatz künstlicher Intelligenz am Arbeitsplatz betrifft: die Gefahr durch KI-Agenten, die vom Unternehmen selbst installiert wurden.
Der Assistent, der mehr kann, als nötig ist
In der Mitteilung „Securing the agentic insider“ weist das Unternehmen darauf hin, dass Agenten häufig übermäßige Berechtigungen besitzen. Sie haben Zugriff auf Daten und Tools und sind an kritischen Prozessen beteiligt. Ihr Verhalten kann von der Absicht des Benutzers abweichen, ohne dass zuvor ein Hackerangriff stattgefunden hat.
Microsoft empfiehlt eine kontinuierliche Überwachung und Kontrolle ihrer Aktivitäten und stellt dabei die Rolle der sogenannten „Guardian Agents“ sowie des „Project Perception“ vor. Dabei handelt es sich um den eigenen Sicherheitsansatz des Unternehmens, nicht um eine Garantie dafür, dass ein Tool jedes Risiko beseitigt.
Vom „Schreib das für mich“ zum „Mach das für mich“
Um den Wandel zu verdeutlichen, stell dir zwei unterschiedliche Aufgaben vor. Bei der ersten bittest du die KI, eine Antwort an einen Kunden zu verfassen. Du liest den Text durch, korrigierst ihn bei Bedarf und versendest ihn. Bei der zweiten Aufgabe bittest du sie, die eingehenden E-Mails zu lesen, zu entscheiden, welche eine Antwort erfordern, und die Kommunikation zu übernehmen.
Die zweite Variante verspricht eine größere Zeitersparnis. Sie überträgt dem Assistenten jedoch eine Reihe von Entscheidungen: Welche Nachricht ist wichtig, welche Datei betrifft den jeweiligen Kunden, was kann er ihm versprechen und wann muss er innehalten, um dich zu fragen.
Hierin liegt der Reiz der Agenten, und hier ist Vorsicht geboten. Die Fähigkeit, eine Abfolge von Aufgaben zu erledigen, gewinnt erst dann wirklich an Wert, wenn jeder Schritt innerhalb der Grenzen des Auftrags bleibt.
Die E-Mail, die zum Auftrag werden will
Es gibt noch eine weniger offensichtliche Falle. OWASP, das internationale Projekt für Anwendungssicherheit, beschreibt die indirekte Prompt-Injektion: Anweisungen in externen Inhalten, wie beispielsweise einer Webseite oder einer Datei, können das Verhalten des Modells beeinflussen.
Einfach ausgedrückt: Ein Text, den der Assistent als Information lesen soll, versucht, ihm vorzuschreiben, was er tun soll. OWASP beschreibt zudem ein Szenario mit einem E-Mail-Assistenten, bei dem eine böswillige eingehende Nachricht ihn dazu verleitet, nach sensiblen Informationen zu suchen und diese weiterzuleiten. Es handelt sich hierbei um ein Beispiel für ein Risiko in der Dokumentation, nicht um einen Vorfall, den wir in einem griechischen Unternehmen festgestellt haben.
Das Ergebnis hängt von der Anwendung und den Berechtigungen ab. Ein Assistent, der nur lesen kann, hat einen anderen Handlungsspielraum als einer, der zusätzlich Daten versenden, löschen oder ändern kann.

Ein einfaches Beispiel aus einem Online-Shop
Nehmen wir an, du beauftragst einen Assistenten, überfällige Bestellungen aufzuspüren. Für diese Aufgabe muss er Daten auswerten und eine Liste erstellen. Wenn du ihm zusätzlich die Möglichkeit gegeben hast, Rückerstattungen vorzunehmen, Preise zu ändern oder Nachrichten zu versenden, hast du ihm damit viel mehr Möglichkeiten eröffnet.
Das Beispiel ist hypothetisch. Es zeigt jedoch, warum der Zugriff auf die jeweilige Aufgabe abgestimmt sein muss. „Finde das Problem“ und „Tu, was du für notwendig hältst“ sind unterschiedliche Anweisungen.
Die Falle des „Er hat es gestern doch richtig gemacht“
Bleiben wir bei dem hypothetischen Online-Shop. Am ersten Tag erstellt der Mitarbeiter eine einwandfreie Bestellliste. Am zweiten Tag verfasst er hilfreiche Antworten. Dann tritt ein Grenzfall auf: Der Kunde verlangt einen Umtausch, das Produkt ist nicht vorrätig und eine alte Notiz verweist auf eine andere Vereinbarung.
Der Erfolg bei den vorangegangenen Aufgaben gibt keine Antwort darauf, wer nun befugt ist, im Namen des Geschäfts zu handeln. Bevor dieser Schritt automatisiert wird, muss festgelegt werden, welche Entscheidung der Mitarbeiter treffen darf und welche einen Vorgesetzten erfordert.
Ein praktischer Test besteht darin, sich beschreiben zu lassen, was im Ausnahmefall geschieht. Jeder kann einen reibungslosen Ablauf schildern. Die Qualität einer Einrichtung zeigt sich auch darin, wie sie mit einer mehrdeutigen Bestellung, einem falschen Empfänger oder einer Arbeit umgeht, die nicht fortgesetzt werden darf.
Grenzen sind notwendig und müssen technisch umgesetzt werden
OWASP bringt übermäßige Autonomie mit drei Aspekten in Verbindung: mehr Funktionen, mehr Berechtigungen und mehr Handlungsfreiheit, als die Arbeit erfordert. Die Organisation empfiehlt eingeschränkte Berechtigungen, eine manuelle Genehmigung für Aktionen mit erheblichen Auswirkungen sowie Autorisierungskontrollen in den verbundenen Systemen.
Das bedeutet, dass der Grundsatz „Sende nichts ohne Genehmigung“ nicht nur eine gute Absicht im Gespräch bleiben darf. Wo eine Genehmigung erforderlich ist, muss der Arbeitsablauf selbst diese durchsetzen. Die Protokollierung von Aktionen hilft dabei, nachzuvollziehen, was geschehen ist, hebt jedoch eine bereits erfolgte Übermittlung nicht von sich aus auf.
Was du klären solltest, bevor du auf „Verbinden“ klickst
Für ein kleines Unternehmen sind vier konkrete Fragen ein nützlicher Ausgangspunkt:
- Was kann er einsehen? Nur die notwendigen Dateien oder den gesamten Kundenstamm?
- Was darf er ändern? Erstellt er Vorschläge oder greift er direkt ein?
- Wann muss er eine Genehmigung einholen? Der Versand an einen Kunden und Rückerstattungen erfordern klare Regeln.
- Wie lässt sich nachvollziehen, was geschehen ist? Man muss die Aktion überprüfen und den Zugriff sperren können.
Dies sind praktische Vorschläge von BEEGITAL zur Gestaltung eines Arbeitsablaufs. Sie stellen keine Beschreibung eines konkreten Vorfalls dar.
Wie wir bereits im Artikel darüber gesehen haben, wer eine Antwort auf Facebook verfassen darf, entwickelt sich die KI vom Verfassen von Texten hin zur Ausführung von Aktionen.
Bevor du ihr eine Aufgabe überträgst, leg fest, wo ihre Zuständigkeit endet. Das macht die Automatisierung nützlicher und besser kontrollierbar.
Beispielfoto: FlyD / Unsplash.
