Regulatorik-Stack DE

KI-VO ab 2. August: was die Bundesnetzagentur jetzt prüft

Der 2. August verschiebt die KI-VO von der Vorbereitungs- in die Vollzugsphase. Entscheidend ist nicht der Kalendertag, sondern die Frage, welche Unterlagen eine Marktüberwachungsbehörde im ersten Zugriff sehen will — und wer sie im Unternehmen überhaupt besitzt.

Fryderyk Pryjma12 Min. Lesezeit
Aktenordner und Prüfunterlagen als Sinnbild für die Marktüberwachung von KI-Systemen durch die Bundesnetzagentur

Das Wichtigste auf einen Blick

  • Der 2. August markiert die Anwendbarkeit der Governance-Regeln und der Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) — nicht das Ende der Übergangsfristen für Hochrisiko-Systeme.
  • In Deutschland bündelt die Bundesnetzagentur die Marktüberwachung; sektorale Aufsichten und die Datenschutzbehörden der Länder bleiben daneben zuständig.
  • Eine Prüfung beginnt selten mit dem Modell, sondern mit dem Nachweis: Wer ist Anbieter, wer Betreiber, welches System ist im Einsatz und mit welcher Risikoeinstufung.
  • Für GPAI-Modelle verlangt die KI-VO technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Urheberrechts-Policy und eine Zusammenfassung der Trainingsdaten.
  • Betreiber unterschätzen regelmäßig Art. 4: KI-Kompetenz des Personals ist keine Empfehlung, sondern eine seit Februar geltende Pflicht — und der am leichtesten prüfbare Punkt.

01Was seit dem 2. August tatsächlich gilt

Die KI-VO tritt nicht an einem Tag vollständig in Kraft, sondern in Stufen. Seit dem 2. Februar gelten das Verbot bestimmter Praktiken (Art. 5) und die Pflicht zur KI-Kompetenz (Art. 4). Seit dem 2. August greifen die Governance-Struktur, die Sanktionsvorschriften und die Pflichten für Modelle mit allgemeinem Verwendungszweck. Die Anforderungen an Hochrisiko-Systeme nach Anhang III folgen später — was in der Praxis dazu führt, dass Unternehmen ihre Vorbereitung an der falschen Frist ausrichten.

Stufenplan der KI-VO und die jeweils prüfbaren Pflichten
StichtagWas giltPrüfbarer Nachweis
2. Februar 2025Verbotene Praktiken (Art. 5), KI-Kompetenz (Art. 4)Schulungsnachweise, Rollenbeschreibungen, Negativabgrenzung eingesetzter Systeme
2. August 2025Governance, Sanktionen, Pflichten für GPAI-ModelleTechnische Dokumentation, Urheberrechts-Policy, Trainingsdaten-Zusammenfassung
2. August 2026Allgemeine Anwendbarkeit, Hochrisiko nach Anhang IIIRisikomanagement, Protokollierung, menschliche Aufsicht, Konformitätsbewertung
2. August 2027Hochrisiko-Systeme als Sicherheitsbauteil regulierter ProdukteIntegration in bestehende Produktkonformität (CE, Normen, benannte Stellen)

02Wer in Deutschland prüft — und was das praktisch bedeutet

Die Bundesnetzagentur übernimmt die Rolle der zentralen Marktüberwachungsbehörde und betreibt zugleich die nationale Anlaufstelle für Unternehmen. Daneben bleiben sektorale Aufsichten bestehen: die BaFin für Finanzdienstleistungen, das BSI für Fragen der Informationssicherheit, die Landesdatenschutzbehörden für personenbezogene Daten. Für Unternehmen heißt das, dass ein und derselbe KI-Einsatz aus mehreren Richtungen adressiert werden kann — mit unterschiedlichen Fragestellungen, aber demselben Dokumentationsbedarf.

Der praktische Unterschied zu einer Datenschutzprüfung liegt im Ausgangspunkt. Die Datenschutzaufsicht fragt nach Rechtsgrundlage und Betroffenenrechten, die Marktüberwachung nach Produkteigenschaften: Was ist das System, wer hat es in Verkehr gebracht, welche Angaben macht die Dokumentation, und stimmen diese Angaben mit dem tatsächlichen Verhalten überein.

Zuständigkeiten im Überblick
StelleBlickwinkelTypische erste Frage
BundesnetzagenturMarktüberwachung, KoordinationWelche KI-Systeme setzen Sie in welcher Rolle ein?
BSIInformationssicherheit, NIS2-KontextWie sind Betrieb, Protokollierung und Meldewege abgesichert?
LandesdatenschutzbehördenPersonenbezogene DatenAuf welcher Rechtsgrundlage verarbeiten Modell und Anwendung?
Sektoraufsicht (z. B. BaFin)FachrechtWie greift der KI-Einsatz in aufsichtsrechtliche Prozesse ein?

03GPAI-Modelle: die vier Unterlagen, die vorliegen müssen

Für Modelle mit allgemeinem Verwendungszweck verlangt die KI-VO ein klar umrissenes Paket: eine technische Dokumentation des Modells, Informationen für nachgelagerte Anbieter, eine Strategie zur Einhaltung des Urheberrechts und eine hinreichend detaillierte Zusammenfassung der für das Training genutzten Inhalte. Bei Modellen mit systemischem Risiko kommen Modellbewertung, Risikominderung und Vorfallmeldung hinzu.

Für Unternehmen, die Modelle einkaufen statt zu trainieren, ist die entscheidende Konsequenz weniger die eigene Pflicht als der Bezugsnachweis: Liefert der Anbieter diese Unterlagen, und zwar in einer Form, die im eigenen Audit verwertbar ist? Ein Verweis auf eine Marketingseite genügt nicht.

Checkliste: Unterlagen vom Modellanbieter einfordern

  • Technische Dokumentation des Modells mit Versionsstand und Datum
  • Informationspaket für nachgelagerte Anbieter (Fähigkeiten, Grenzen, vorgesehene Nutzung)
  • Erklärung zur Urheberrechts-Policy inklusive Umgang mit Text-und-Data-Mining-Vorbehalten
  • Öffentliche Zusammenfassung der Trainingsdatenquellen
  • Angaben zu systemischem Risiko: Bewertungsmethodik, Red-Teaming, Meldewege
  • Vertragliche Zusage, Aktualisierungen dieser Unterlagen bei Modellwechsel bereitzustellen

04Wie eine erste Prüfung abläuft

Marktüberwachung beginnt in aller Regel nicht mit einer Vor-Ort-Kontrolle, sondern mit einem Auskunftsersuchen. Gefragt wird nach dem Bestand: welche Systeme, welche Rolle, welche Einstufung, welche Dokumente. Wer darauf innerhalb weniger Tage antworten kann, verlagert das Gespräch auf die inhaltliche Ebene. Wer erst dann beginnt, ein Inventar zu erstellen, signalisiert das Gegenteil einer funktionierenden Governance.

Checkliste: Antwortfähigkeit in fünf Arbeitstagen

  • KI-Inventar mit System, Zweck, Rolle (Anbieter/Betreiber), Datenkategorien und Verantwortlichem
  • Risikoeinstufung je System mit dokumentierter Begründung, warum kein Hochrisiko vorliegt
  • Nachweis der Schulungen nach Art. 4 mit Datum und Teilnehmerkreis
  • Ablage der Anbieterunterlagen je eingesetztem Modell, versioniert
  • Protokollierungskonzept: was wird geloggt, wie lange aufbewahrt, wer hat Zugriff
  • Benannter Ansprechpartner mit Vertretung für Behördenkontakt

Häufige Fragen

Gilt die KI-VO seit dem 2. August vollständig?

Nein. Seit dem 2. August gelten die Governance-Regeln, die Sanktionsvorschriften und die Pflichten für Modelle mit allgemeinem Verwendungszweck. Die Anforderungen an Hochrisiko-Systeme nach Anhang III und die Regeln für KI als Sicherheitsbauteil regulierter Produkte greifen später.

Welche Behörde ist in Deutschland für die KI-VO zuständig?

Die Bundesnetzagentur übernimmt die zentrale Marktüberwachung und die nationale Anlaufstelle. Daneben bleiben sektorale Aufsichten sowie die Datenschutzbehörden der Länder für ihre jeweiligen Fragestellungen zuständig.

Sind wir Anbieter oder Betreiber?

Betreiber ist, wer ein KI-System unter eigener Verantwortung nutzt. Anbieter wird, wer ein System unter eigenem Namen oder eigener Marke bereitstellt oder ein bestehendes System wesentlich verändert — das kann auch bei rein internem Einsatz eintreten.

Was passiert bei einem Auskunftsersuchen der Marktüberwachung?

Regelmäßig wird zunächst schriftlich nach eingesetzten Systemen, Rollen, Risikoeinstufungen und vorhandener Dokumentation gefragt. Ein gepflegtes KI-Inventar mit begründeten Einstufungen ist deshalb die wichtigste Vorbereitung.

Reicht die Zusicherung des Modellanbieters als Nachweis?

Nur, wenn sie dokumentiert, datiert und versioniert vorliegt. Verweise auf allgemeine Produktseiten sind in einer Prüfung nicht verwertbar; verlangt werden konkrete Unterlagen zum eingesetzten Modellstand.

Primärquellen

Weiterführende Artikel