Agenten-Bibliothek · Kann und darf
Was ein KI-Agent kann und was er darf
Zwei Teile, sachlich und ohne Bewertung: zuerst die Fähigkeiten, die Hersteller in ihrer eigenen Dokumentation beschreiben, danach die vier Fragen, die sich einem Unternehmen stellen, das einen Agenten einsetzt – Daten, Haftung, Pflichten aus der KI-Verordnung, Nachvollziehbarkeit.
Stand: September 2026. Dieser Text ist eine inhaltliche Einordnung und keine Rechtsberatung.
Was ein Agent kann – laut Herstellerdokumentation
Was folgt, sind Fähigkeiten, die Hersteller in ihrer eigenen Dokumentation beschreiben – nicht bewertet, nicht verglichen, ohne Angabe, welcher Anbieter etwas besser könnte als ein anderer. Belegt sind sie hier anhand der Dokumentation von zwei Herstellern; die Auswahl ist keine Empfehlung, andere Hersteller beschreiben vergleichbare Funktionen.
- Dateien lesen und schreiben. Ein Agent erhält über eigene Werkzeuge Zugriff auf Textdateien und Code, kann sie ansehen, bearbeiten und speichern (Anthropic, Claude-Plattform-Dokumentation „Tool use with Claude“, Werkzeuge „Text Editor Tool“ und „Memory Tool“, abgerufen 16.09.2026).
- Browser bedienen. Ein Agent steuert eine grafische Benutzeroberfläche über Klicks, Eingaben und Bildschirmfotos selbst, etwa um Formulare auszufüllen oder einen Arbeitsablauf in einer Webanwendung zu erledigen (OpenAI, Dokumentation „Computer use“, abgerufen 16.09.2026; Anthropic, Dokumentation „Computer use tool“, abgerufen 16.09.2026).
- E-Mails lesen und entwerfen. Ein Agent kann laut Hersteller ein Postfach zusammenfassen und Antwort- oder Kontaktentwürfe direkt im Posteingang vorbereiten (OpenAI, „Introducing ChatGPT agent“, 17.07.2025; OpenAI, „Introducing workspace agents in ChatGPT“, 22.04.2026).
- Code ausführen. Ein Agent führt Python- oder Shell-Befehle in einer abgeschotteten Umgebung aus, um Berechnungen, Auswertungen oder Tests durchzuführen (Anthropic, Dokumentation „Code Execution Tool“, abgerufen 16.09.2026).
- Über längere Zeit selbstständig arbeiten. Hersteller dokumentieren Agenten, die eine Aufgabe über einen längeren Zeitraum eigenständig bearbeiten, während der Nutzer anhalten, einen Zwischenstand erfragen oder abbrechen kann (OpenAI, „Introducing ChatGPT agent“, 17.07.2025; Anthropic, „Enabling Claude Code to work more autonomously“, 29.09.2025).
- Unteraufgaben delegieren. Ein Agent kann Teilaufgaben an spezialisierte Unteragenten weitergeben, die mit eigenem Werkzeugzugriff arbeiten und nur ihr Ergebnis an die Hauptaufgabe zurückmelden (Anthropic, Dokumentation „Subagents“, abgerufen 16.09.2026).
Datiertes Beispiel: Sicherheitseinstufung eines Modells
Am 1. September 2026 hat OpenAI das Modell Astra veröffentlicht und dazu erklärt, es erreiche als erstes Modell des Unternehmens die Schwelle „Critical“ für Cybersicherheitsfähigkeiten im eigenen Preparedness Framework, dem unternehmensinternen Verfahren zur Einstufung besonders risikoreicher Fähigkeiten. Die fortgeschrittenen Cybersicherheitsfunktionen wurden deshalb zunächst nur einer kleinen Gruppe von Testern zugänglich gemacht. Das ist ein Stand von September 2026 zu einem einzelnen Modell und lässt sich nicht auf andere Modelle oder spätere Versionen übertragen.
Quelle: OpenAI, „Path to Astra: critical capabilities and frontier safeguards“, 01.09.2026, abgerufen 16.09.2026.
Was ein Agent darf – die Fragen des Betreibers
Die vier Abschnitte übernehmen den Rechtsstand aus Regeln auf einen Blick (EU und Deutschland). Bei einer späteren Änderung dort gilt die Übersicht, nicht dieser Text.
Welche Daten darf ein Agent verarbeiten?
Die DSGVO gilt unverändert: eine Rechtsgrundlage für die Verarbeitung nach Art. 6, ein Auftragsverarbeitungsvertrag mit dem Anbieter des Agenten nach Art. 28, Regeln für eine Übermittlung in Drittstaaten nach Kapitel V, und keine ausschließlich automatisierte Entscheidung mit rechtlicher Wirkung ohne Ausnahme nach Art. 22. Die KI-Verordnung ändert daran nichts. Geschäftsgeheimnisse – etwa ob Eingaben zum Training verwendet, wo sie gespeichert und wann sie gelöscht werden – sind vertraglich mit dem Anbieter zu regeln. Vertiefend: KI und Datenschutz.
Wer haftet für Fehler?
Eine speziell auf KI zugeschnittene Haftungsrichtlinie gibt es in der EU nicht – ein entsprechender Vorschlag von 2022 wurde 2025 zurückgezogen. Nach der Produkthaftungsrichtlinie (EU) 2024/2853 gilt Software einschließlich Cloud- und KI-Systemen als Produkt, mit Beweiserleichterungen und Haftung auch für Updates und fehlende Updates; sie gilt für Produkte, die ab dem 9. Dezember 2026 in Verkehr gebracht werden. Das deutsche Umsetzungsgesetz lag am 16. September 2026 als Regierungsentwurf vor (BT-Drs. 21/4297, erste Lesung 4. März 2026, Anhörung 13. April 2026); eine Verabschiedung war zu diesem Zeitpunkt nicht ermittelt. Unabhängig davon bleibt das einsetzende Unternehmen nach Vertrags- und Deliktsrecht für das Ergebnis eines Agenten gegenüber Kunden und Behörden verantwortlich. Verstöße gegen die KI-Verordnung selbst können mit Bußgeldern bis 35 Mio. € oder 7 % des Jahresumsatzes (verbotene Praktiken) beziehungsweise bis 15 Mio. € oder 3 % (übrige Pflichten) belegt werden, für KMU jeweils der niedrigere Betrag (Art. 99).
Welche Pflichten aus der KI-Verordnung treffen einen KMU-Betreiber?
Seit dem 2. Februar 2025 gelten die in Art. 5 verbotenen Praktiken und die KI-Kompetenz nach Art. 4 – seit der Änderung durch die Verordnung (EU) 2026/1744 („Digital Omnibus KI“, in Kraft seit 27. Juli 2026) als Maßnahmen zur Förderung, ohne ein bestimmtes Kompetenzniveau je Person vorzuschreiben. Seit dem 2. August 2026 gilt Art. 50 zur Transparenz (siehe nächster Abschnitt). Ob ein Agent als Hochrisiko-System gilt, richtet sich nach Anhang III der Verordnung – dort steht unter anderem der Bereich Beschäftigung und Bewerberauswahl. Für Anhang-III-Systeme greifen die Betreiberpflichten aus Art. 26 (Nutzung nach Gebrauchsanweisung, menschliche Aufsicht, Aufbewahrung der Protokolle, Information der Beschäftigten) ab dem 2. Dezember 2027, für in Produkte eingebettete Systeme nach Anhang I ab dem 2. August 2028. Vertiefend: Hochrisiko-KI-System, KI-Kompetenz-Schulung.
Wie wird Nachvollziehbarkeit hergestellt?
Art. 50 der KI-Verordnung verlangt seit dem 2. August 2026 einen Hinweis, wenn jemand mit einem KI-System interagiert (Abs. 1), eine maschinenlesbare Markierung synthetischer Inhalte durch den Anbieter (Abs. 2; für vorher in Verkehr gebrachte Systeme ab dem 2. Dezember 2026) und die Kennzeichnung von Deepfakes und KI-Texten zu Themen öffentlichen Interesses durch den Betreiber (Abs. 4). Die DSGVO regelt daneben die Auftragsverarbeitung und die Löschung. Ein Protokoll jeder einzelnen Aktion des Agenten – wie es die Grundgrenzen der Aufgabenvorlagen für jede Vorlage vorsehen – ist die praktische Grundlage, um im Streitfall zu zeigen, was der Agent getan hat. Vertiefend: KI-Kennzeichnungspflicht.
Zuständige Stelle in Deutschland für die Marktüberwachung ist die Bundesnetzagentur nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG, in Kraft seit 29. Juli 2026), für den Finanzsektor die BaFin, für die DSGVO die Datenschutzaufsichtsbehörden.
Keine Rechtsberatung. Teil „Kann“: Stand der Herstellerdokumentation 16.09.2026, Einzelquellen unten. Teil „Darf“: Stand der Prüfung 16.09.2026, übernommen aus Regeln auf einen Blick. Bei Abweichungen gilt der amtliche Text beziehungsweise die zuletzt aktualisierte Herstellerseite.
Quellen Teil „Kann“: OpenAI, Path to Astra (01.09.2026) · OpenAI, Computer use · OpenAI, Introducing ChatGPT agent (17.07.2025) · OpenAI, Introducing workspace agents in ChatGPT (22.04.2026) · Anthropic, Tool use with Claude · Anthropic, Computer use tool · Anthropic, Enabling Claude Code to work more autonomously (29.09.2025) · Anthropic, Subagents. Alle abgerufen 16.09.2026.
Frage stellen
Sie haben eine Frage zu dieser Seite oder zum Einsatz von Agenten in Ihrem Unternehmen? Stellen Sie sie hier. Wir sehen sie uns an und antworten Ihnen per E-Mail; ausgewählte Fragen fließen anonymisiert in die Seiten der Agenten-Bibliothek ein. Das ist keine Rechtsberatung – für eine verbindliche Einschätzung zu Ihrem Fall wenden Sie sich an eine Kanzlei oder die zuständige Datenschutzaufsicht.
Vielen Dank für deine Antwort. ✨
Wer einen Dienstleister für die Einführung sucht, findet ihn im Anbieterverzeichnis. Wie wir mit Ihren Daten umgehen, steht in unserer Datenschutzerklärung.
Weitere Seiten der Bibliothek: Agenten-Bibliothek · Aufgabenvorlagen · Regeln auf einen Blick