Rechtsgrundlage

EU: Verordnung (EU) 2024/1689 (KI-Verordnung), in Kraft seit 1. August 2024, allgemeiner Geltungsbeginn 2. August 2026; geändert durch Verordnung (EU) 2026/1744 vom 8. Juli 2026 („Digital Omnibus KI“), in Kraft seit 27. Juli 2026. Daneben DSGVO. Deutschland: KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), BGBl. 2026 I Nr. 223, in Kraft seit 29. Juli 2026.

USA: Kein Bundesgesetz, das KI übergreifend regelt (Stand September 2026). Executive Order 14365 vom 11. Dezember 2025 richtet sich gegen Gesetze der Bundesstaaten und ändert Pflichten für Unternehmen nicht unmittelbar. Bundesstaaten: Kalifornien SB 53 (unterzeichnet 29. September 2025), Texas HB 149 „TRAIGA“ (seit 1. Januar 2026), Colorado SB 24-205 in der Fassung SB 26-189 (ab 1. Januar 2027), Utah SB 149 (seit 1. Mai 2024), New York RAISE Act (unterzeichnet Dezember 2025, geändert März 2026).

China: Kein übergreifendes KI-Gesetz (Entwurf, nicht verabschiedet). Einzelvorschriften: Empfehlungsalgorithmen (seit 1. März 2022), Deep Synthesis (seit 10. Januar 2023), Interim Measures für generative KI-Dienste (seit 15. August 2023), Kennzeichnungs-Maßnahmen mit Norm GB 45438-2025 (seit 1. September 2025), Novelle des Cybersicherheitsgesetzes mit KI-Artikel (seit 1. Januar 2026), Interim Measures für anthropomorphe KI-Interaktionsdienste (seit 15. Juli 2026). Daneben das Gesetz zum Schutz personenbezogener Informationen (PIPL, seit 1. November 2021).

Pflichten für Anbieter von Modellen

EU: Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) seit 2. August 2025: technische Dokumentation, Informationen für nachgelagerte Anbieter, Urheberrechts-Strategie, Zusammenfassung der Trainingsdaten (Art. 53); bei systemischem Risiko zusätzlich Bewertung, Risikominderung und Meldung schwerwiegender Vorfälle (Art. 55).

USA: Bundesebene: keine gesetzliche Pflicht. Kalifornien SB 53: Frontier-Entwickler (Training mit mehr als 10^26 Rechenoperationen) veröffentlichen vor Bereitstellung einen Transparenzbericht; ab 500 Mio. USD Jahresumsatz zusätzlich jährlich ein Frontier-KI-Rahmenwerk; kritische Sicherheitsvorfälle sind binnen 15 Tagen (bei unmittelbarer Gefahr 24 Stunden) an das Office of Emergency Services zu melden. Durchsetzung: Attorney General, bis 1 Mio. USD je Verstoß.

China: Anbieter generativer KI-Dienste für die Öffentlichkeit: Sicherheitsbewertung und Algorithmus-Registrierung bei der Cyberspace Administration of China (CAC) vor dem Start, Anzeige von Modellname und Registrierungsnummer, rechtmäßige und nachvollziehbare Trainingsdaten, Kennzeichnung der Inhalte. Anthropomorphe Dienste (seit 15. Juli 2026): Sicherheitsbewertung bei Start, wesentlichen Änderungen und ab 1 Mio. registrierten beziehungsweise 100.000 monatlich aktiven Nutzern.

Pflichten für Betreiber – das Unternehmen, das einen Agenten einsetzt

EU: Art. 5 verbotene Praktiken seit 2. Februar 2025. Art. 4 KI-Kompetenz seit 2. Februar 2025; seit dem Omnibus „Maßnahmen zur Förderung“, kein bestimmtes Niveau je Person. Art. 50 Transparenz seit 2. August 2026 (siehe Kennzeichnung). Hochrisiko-Betreiberpflichten (Art. 26: Nutzung nach Gebrauchsanweisung, menschliche Aufsicht, Aufbewahrung der Protokolle, Information der Beschäftigten) für Anhang III ab 2. Dezember 2027, für Anhang I ab 2. August 2028. Ob ein Agent Hochrisiko ist, richtet sich nach Anhang III – dort steht unter anderem Beschäftigung und Bewerberauswahl.

USA: Keine bundesweite Betreiberpflicht. Texas TRAIGA (seit 1. Januar 2026): Verbote bestimmter Einsatzzwecke (Anstiftung zu Schaden, rechtswidrige Diskriminierung, Social Scoring, Missbrauch biometrischer Daten, bestimmte sexuelle Inhalte), Offenlegung bei Behörden und im Gesundheitswesen; Durchsetzung nur durch den Attorney General. Colorado (ab 1. Januar 2027): Aufsicht über „erfasste automatisierte Entscheidungstechnik“, Auskunfts- und Korrekturrechte, menschliche Überprüfung nachteiliger Entscheidungen; die 2024 vorgesehenen Risikomanagement-Programme und Folgenabschätzungen wurden 2026 gestrichen. Utah: Offenlegung auf Nachfrage. Bundesweit: FTC Act § 5 gegen irreführende KI-Angaben (Anordnung CMG Media, 27. August 2026).

China: Wer einen KI-Dienst öffentlich anbietet – auch mit fremdem Modell – gilt als Dienstanbieter mit den Pflichten der Interim Measures (Registrierung, Kennzeichnung, Inhaltsverantwortung). Nutzer KI-generierter Inhalte müssen die Kennzeichnung erhalten. Betreiber tragen Verantwortung als „Produzent von Netzinformationsinhalten“ und als Verarbeiter personenbezogener Informationen (Interim Measures Art. 9).

Datenverarbeitung – was darf ein Agent mit Firmen- und Personendaten

EU: DSGVO unverändert: Rechtsgrundlage (Art. 6), Auftragsverarbeitungsvertrag mit dem KI-Anbieter (Art. 28), Drittlandübermittlung (Kapitel V), keine ausschließlich automatisierte Entscheidung mit rechtlicher Wirkung ohne Ausnahme (Art. 22). Die KI-Verordnung ändert daran nichts. Geschäftsgeheimnisse: vertraglich regeln (Training mit Eingaben, Speicherort, Löschung).

USA: Kein Bundesdatenschutzgesetz für den Privatsektor; Gesetze der Bundesstaaten (unter anderem Kalifornien CCPA/CPRA, Colorado, Texas) und Sektorgesetze (HIPAA, GLBA). Kalifornien AB 2013 (seit 1. Januar 2026): Entwickler generativer KI dokumentieren Trainingsdaten. Für Daten europäischer Kunden gilt die DSGVO auch gegenüber US-Anbietern (Art. 3 Abs. 2).

China: PIPL: Einwilligung und Zweckbindung; Datenexport nur nach Sicherheitsbewertung, Standardvertrag oder Zertifizierung. Datensicherheitsgesetz: Klassifizierung, Sonderregeln für „wichtige Daten“. Interim Measures: keine rechtswidrige Speicherung oder Weitergabe von Eingaben. Anthropomorphe Dienste (seit 15. Juli 2026): Training mit Interaktionsdaten nur mit Opt-in, Löschrecht.

Kennzeichnungs- und Transparenzpflichten

EU: Art. 50 KI-VO seit 2. August 2026: Hinweis bei Interaktion mit KI (Abs. 1); maschinenlesbare Markierung synthetischer Inhalte durch den Anbieter (Abs. 2; für vor dem 2. August 2026 in Verkehr gebrachte Systeme ab 2. Dezember 2026); Kennzeichnung von Deepfakes und KI-Texten zu Themen öffentlichen Interesses durch den Betreiber (Abs. 4). Bußgeld bis 15 Mio. € oder 3 % des Jahresumsatzes, für KMU der niedrigere Betrag (Art. 99).

USA: Keine Bundespflicht. Kalifornien SB 942 (seit 2. August 2026): Anbieter mit über 1 Mio. Nutzern pro Monat stellen Erkennungswerkzeug und Kennzeichnungsoption bereit; AB 853 erweitert ab 1. Januar 2027 auf Plattformen. Utah: Offenlegung auf Nachfrage. Texas: Offenlegung im Gesundheitswesen und bei Behörden. TAKE IT DOWN Act (Bundesgesetz, 19. Mai 2025): Löschpflicht für nicht einvernehmliche intime Darstellungen binnen 48 Stunden, FTC-Durchsetzung seit 19. Mai 2026.

China: Kennzeichnungs-Maßnahmen seit 1. September 2025: sichtbare Kennzeichnung und unsichtbare Markierung (Metadaten) aller KI-generierten Inhalte nach GB 45438-2025; Modellname und Registrierungsnummer auf der Produktseite. Anthropomorphe Dienste (seit 15. Juli 2026): KI-Identität durchgehend anzeigen, Hinweis nach zwei Stunden Sitzungsdauer, Jugendschutzmodus, keine virtuellen Begleiter für Minderjährige.

Haftung

EU: Keine KI-spezifische Haftungsrichtlinie (Vorschlag 2022, zurückgezogen 2025). Produkthaftungsrichtlinie (EU) 2024/2853: Software einschließlich Cloud- und KI-Systemen gilt als Produkt, Beweiserleichterungen, Haftung auch für Updates und fehlende Updates; gilt für Produkte, die ab 9. Dezember 2026 in Verkehr gebracht werden. Deutsches Umsetzungsgesetz: Regierungsentwurf BT-Drs. 21/4297 vom 25. Februar 2026, erste Lesung 4. März 2026, Anhörung 13. April 2026; Verabschiedung bei der Prüfung nicht ermittelt. Vertrags- und Deliktsrecht unverändert: Für das Ergebnis eines Agenten gegenüber Kunden und Behörden bleibt das einsetzende Unternehmen verantwortlich. Bußgelder Art. 99 KI-VO: bis 35 Mio. € oder 7 % (verbotene Praktiken), bis 15 Mio. € oder 3 % (übrige Pflichten), KMU jeweils der niedrigere Betrag.

USA: Kein KI-spezifisches Haftungsgesetz auf Bundesebene; Vertrags-, Delikts- und Produkthaftungsrecht der Bundesstaaten. Durchsetzung der Bundesstaatengesetze durch die Attorneys General (Texas, Kalifornien, Colorado); Texas TRAIGA und Kalifornien SB 53 ohne privates Klagerecht. New York RAISE Act: zivilrechtliche Strafen bis 3 Mio. USD. FTC: Unterlassungsanordnungen und Vergleiche bei irreführenden KI-Angaben.

China: Dienstanbieter haften als Produzent von Netzinformationsinhalten und als Verarbeiter personenbezogener Informationen (Interim Measures Art. 9). Verwaltungssanktionen nach der Novelle des Cybersicherheitsgesetzes (seit 1. Januar 2026): bis 10 Mio. RMB für Betreiber kritischer Informationsinfrastruktur, bis 500.000 RMB für sonstige Unternehmen, bis 1 Mio. RMB für verantwortliche Personen; Aussetzung oder Einstellung von Diensten. Zivilrechtliche Haftung nach allgemeinem Recht.

Zuständige Stellen

EU: KI-Büro der Europäischen Kommission (GPAI-Modelle; seit dem Omnibus ausschließlich zuständig für Systeme auf GPAI-Basis, Erwägungsgrund 31). Deutschland: Bundesnetzagentur als zentrale Marktüberwachungsbehörde (KI-MIG), BaFin für den Finanzsektor, bestehende Produktbehörden (zum Beispiel BfArM) für Anhang-I-Produkte, Datenschutzbehörden für die DSGVO. Österreich: KI-Servicestelle bei der RTR als Anlauf- und Informationsstelle (KI-Servicestelle-Gesetz 2024); die Marktüberwachungsbehörde ist bei der Prüfung nicht ermittelt.

USA: Keine zentrale KI-Behörde. FTC, Attorneys General der Bundesstaaten, kalifornisches Office of Emergency Services (Meldungen nach SB 53), NIST (freiwilliges AI Risk Management Framework), Justizministerium mit „AI Litigation Task Force“ gegen Bundesstaatengesetze (seit EO 14365).

China: Cyberspace Administration of China (CAC) federführend (Registrierung, Sicherheitsbewertung, Kennzeichnung). Bei anthropomorphen Diensten gemeinsam mit NDRC, MIIT, Ministerium für öffentliche Sicherheit und Marktaufsicht SAMR.

---

Schweiz und Vereinigtes Königreich in Kurzform

Schweiz: Kein KI-Gesetz. Bundesrat vom 12. Februar 2025: sektorieller Ansatz, Übernahme der KI-Konvention des Europarats ins Schweizer Recht, bindende Regeln nur wo nötig, ergänzt durch freiwillige Maßnahmen. Vernehmlassungsvorlage für Ende 2026 angekündigt. Geltend: Datenschutzgesetz (DSG). Prüfdatum 16.09.2026.

Vereinigtes Königreich: Kein KI-Gesetz, kein Gesetzentwurf im Parlament (Stand Juni 2026); Regulierung durch Fachbehörden (ICO, FCA, Ofcom, CMA, MHRA und andere). Data (Use and Access) Act 2025, in Kraft seit 5. Februar 2026: automatisierte Einzelentscheidungen zulässig, wenn Schutzmaßnahmen dokumentiert sind (Transparenz, menschliche Überprüfung, Widerspruchsrecht; Art. 22A–22D UK GDPR). Ofcom geht nach dem Online Safety Act 2023 gegen KI-Chatbots vor. Prüfdatum 16.09.2026.

---

Keine Rechtsberatung. Stand der Prüfung: 16.09.2026. Gesetzestexte und Behördenangaben sind die erste Quelle; Kanzlei- und Fachbeiträge nur dort, wo sie Daten und Fundstellen benennen. Bei Abweichungen gilt der amtliche Text.

Quellen EU: Verordnung (EU) 2026/1744, EUR-Lex · KI-MIG, gesetze-im-internet.de · Bundestag, 11.06.2026 · BMJV, Produkthaftungsrecht · BT-Drs. 21/4297 · RTR, KI-Servicestelle · regulatoryblog.eu zu den Fristen. Quellen USA: White & Case zu EO 14365 · Future of Privacy Forum zu SB 53 · Hunton zu Colorado SB 26-189 · Cooley, Bundesstaatenüberblick · Vorp Labs, Stand 09/2026. Quellen China: Reed Smith zur CSL-Novelle · Deep Lex, China AI Regulation Tracker · Bird & Bird zu anthropomorphen Diensten. Quellen Schweiz/UK: BAKOM · Scaffold Digital, UK AI Regulation 2026. Alle abgerufen 16.09.2026.

Weitere Seiten der Bibliothek: Agenten-Bibliothek · Aufgabenvorlagen · Was ein Agent kann und was er darf