Seit dem 2. August 2026 gelten die zentralen Vorschriften der Verordnung (EU) 2024/1689 unmittelbar in allen Mitgliedstaaten, und wer ein Bewerbermanagement-Tool, ein Kreditscoring-System oder eine Personalisierungs-Engine einsetzt, muss inzwischen wissen, in welche Risikoklasse sein System fällt. Verstöße gegen die Pflichten für Hochrisiko-KI können mit bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes geahndet werden, verbotene Praktiken sogar mit bis zu 35 Millionen Euro oder 7 Prozent.
Wenn Ihr Unternehmen ein KI-System zur Vorauswahl von Bewerbungen nutzt, ein Tool zur Bonitätsprüfung einsetzt oder ein generatives KI-Modell in ein Kundenprodukt einbaut, reicht "wir haben das mal geprüft" nicht mehr aus. Sie brauchen eine belastbare Antwort auf drei Fragen: In welche Risikoklasse fällt das System, welche der sechs Kernpflichten aus Artikel 9 bis 15 sind bereits erfüllt, und wer im Unternehmen ist dafür verantwortlich, wenn eine Behörde nachfragt. Dieser Leitfaden beantwortet genau das, mit dem Stand von August 2026, einschließlich der Fristverschiebungen, die der Digital Omnibus ausgelöst hat.
Kurz zusammengefasst
- Die KI-Verordnung unterscheidet vier Risikoklassen: verbotene Praktiken (seit 2. Februar 2025 untersagt), Hochrisiko-Systeme nach Anhang III, Systeme mit begrenztem Risiko (Transparenzpflichten, seit 2. August 2026) und Systeme mit minimalem Risiko.
- Die eigentlichen Hochrisiko-Pflichten aus Anhang III wurden durch den Digital Omnibus vom 2. August 2026 auf den 2. Dezember 2027 verschoben, für in Produkte eingebettete Hochrisiko-KI gilt sogar erst der 2. August 2028 (TÜV Rheinland Consulting, Digital Omnibus); die Verschiebung betrifft ausschließlich diesen Pflichtenblock, nicht die Transparenzpflichten oder die GPAI-Regeln.
- General-Purpose-AI-Modelle (GPAI) unterliegen bereits seit dem 2. August 2025 eigenen Pflichten, Modelle mit "systemischem Risiko", vermutet ab einer Trainingsrechenleistung von 10 hoch 25 FLOPs, tragen zusätzliche Nachweispflichten.
- In Deutschland ist seit dem 29. Juli 2026 die Bundesnetzagentur die zentrale Marktüberwachungsbehörde für die KI-Verordnung, unabhängig von und zusätzlich zu den Landesdatenschutzbehörden, die weiterhin für die DSGVO-Rechtsgrundlage jeder KI-gestützten Verarbeitung zuständig bleiben.
Was die KI-Verordnung regelt und wen sie betrifft
KI-Verordnung (AI Act): die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates, die KI-Systeme risikobasiert reguliert und als EU-Verordnung unmittelbar in jedem Mitgliedstaat gilt, ohne nationales Umsetzungsgesetz.
Die Verordnung trat am 1. August 2024 in Kraft, ihre Pflichten greifen aber gestaffelt: verbotene Praktiken seit dem 2. Februar 2025, GPAI-Pflichten seit dem 2. August 2025, der Großteil der übrigen Vorschriften, darunter die Transparenzpflichten aus Artikel 50, seit dem 2. August 2026. Sie gilt für Anbieter (wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt), für Betreiber (wer ein KI-System im eigenen Geschäftsbetrieb einsetzt, unabhängig davon, wer es entwickelt hat) sowie, mit abgeschwächten Pflichten zur Marktüberwachung, für Importeure und Händler. Entscheidend ist der Marktort, nicht der Entwicklungsort: Ein in den USA entwickeltes KI-System, das in der EU eingesetzt wird oder dessen Ergebnisse in der EU verwendet werden, fällt unter die Verordnung.
Eine Pflicht wird dabei regelmäßig übersehen, weil sie keine eigene Bußgeldandrohung trägt: Artikel 4 verpflichtet Anbieter und Betreiber bereits seit dem 2. Februar 2025, ein hinreichendes Maß an KI-Kompetenz bei ihrem Personal und bei allen Personen sicherzustellen, die im Auftrag des Unternehmens mit KI-Systemen umgehen, ausdrücklich auch bei Dienstleistern und Vertragspartnern. Laut einer Bitkom-Umfrage unter 602 Unternehmen ab 20 Mitarbeitenden hatten sich zum Erhebungszeitpunkt nur 24 Prozent intensiv mit der KI-Verordnung befasst, 69 Prozent der betroffenen Unternehmen gaben an, bei der Umsetzung Unterstützung zu benötigen. Bitkom-Präsident Dr. Ralf Wintergerst kommentierte dazu, die Verordnung gelte universell, "und das gilt auch dann, wenn einzelne Mitarbeitende KI ohne Wissen des Unternehmens einsetzen" (Bitkom, Presseinformation). Genau dieser Schatten-KI-Einsatz, ohne dass die Unternehmensleitung davon weiß, ist der Punkt, an dem die Kompetenzpflicht in der Praxis zuerst reißt.
Für die Transparenzpflichten speziell rund um Chatbots, KI-generierte Inhalte und Deepfakes gilt eine eigene, tiefergehende Regel aus Artikel 50, die dieser Leitfaden hier bewusst nur zusammenfasst, da sie unser Beitrag zu Artikel 50 der KI-Verordnung bereits im Detail behandelt. Dieser Leitfaden konzentriert sich auf das größere Bild: wie Ihr Unternehmen ein KI-System überhaupt erst richtig einordnet und welche operativen Pflichten daraus folgen.
Die vier Risikoklassen der KI-Verordnung
Die Verordnung ordnet jedes KI-System einer von vier Klassen zu, nicht nach Technologie, sondern nach Verwendungszweck und Auswirkung auf Personen.
Unzulässige Praktiken (Artikel 5): vollständig verboten seit dem 2. Februar 2025. Dazu zählen Social Scoring durch Behörden, manipulative Techniken, die das Verhalten von Personen unterschwellig beeinflussen, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum durch Strafverfolgungsbehörden (mit engen Ausnahmen) und das ungezielte Auslesen von Gesichtsbildern aus dem Internet zum Aufbau von Gesichtserkennungsdatenbanken (Artikel 5 KI-VO).
Hochrisiko-Systeme (Anhang III): KI-Systeme in acht abschließend aufgezählten Bereichen, siehe Tabelle unten. Diese Klasse trägt die umfangreichsten Pflichten der Verordnung, siehe der nächste Abschnitt.
Begrenztes Risiko: Systeme mit direktem Personenkontakt oder öffentlich sichtbarem KI-Output, etwa Chatbots oder Bild- und Videogeneratoren, die lediglich Transparenzpflichten nach Artikel 50 erfüllen müssen, unabhängig von ihrer sonstigen Risikoeinstufung.
Minimales Risiko: die große Mehrheit aller KI-Anwendungen, etwa Spam-Filter oder interne Produktivitätstools ohne Personenbezug, für die die Verordnung keine spezifischen Pflichten vorsieht, freiwillige Verhaltenskodizes ausgenommen.
Eine einzelne KI-Anwendung kann dabei in mehr als eine Klasse gleichzeitig fallen. Ein Chatbot für die Vorauswahl von Bewerbungen etwa ist zugleich ein Hochrisiko-System nach Anhang III und unterliegt zusätzlich der Transparenzpflicht aus Artikel 50, weil er mit natürlichen Personen direkt interagiert.
Risikoklassen im Vergleich
| Risikoklasse | Beispiel | Zentrale Pflicht | Gilt seit |
|---|---|---|---|
| Unzulässige Praktiken | Social Scoring, manipulative KI-Techniken | Vollständiges Verbot | 2. Februar 2025 |
| Hochrisiko (Anhang III) | Bewerbermanagement, Kreditwürdigkeitsprüfung | Risikomanagement, Dokumentation, Konformitätsbewertung | 2. Dezember 2027 |
| Begrenztes Risiko | Chatbots, Bild-/Videogeneratoren | Transparenzpflicht nach Art. 50 | 2. August 2026 |
| Minimales Risiko | Interne Produktivitätstools ohne Personenbezug | Keine spezifische Pflicht | Nicht anwendbar |
Anhang III: Die acht Hochrisiko-Bereiche im Überblick
Anhang III listet abschließend die Einsatzbereiche auf, in denen ein KI-System automatisch als Hochrisiko-System gilt, sofern es die dort beschriebene Funktion tatsächlich ausübt (Anhang III KI-VO). Die Aufzählung ist eng zu lesen: Es kommt auf den konkreten Verwendungszweck an, nicht auf die eingesetzte Technologie als solche.
| Bereich | Typisches Beispiel |
|---|---|
| Biometrie | Fernidentifizierung, biometrische Kategorisierung |
| Kritische Infrastruktur | Sicherheitskomponenten in Energie- oder Wassernetzen |
| Bildung und Berufsausbildung | Bewertung von Prüfungsleistungen, Zulassungsverfahren |
| Beschäftigung und Personalmanagement | Bewerbervorauswahl, Leistungsbewertung, Kündigungsentscheidungen |
| Zugang zu wesentlichen Dienstleistungen | Kreditwürdigkeitsprüfung, Risikoeinschätzung bei Versicherungen |
| Strafverfolgung | Risikobewertung von Personen, Beweismittelanalyse |
| Migration, Asyl und Grenzkontrolle | Prüfung von Visa- und Asylanträgen |
| Rechtspflege und demokratische Prozesse | Unterstützung richterlicher Entscheidungen, Wahlbeeinflussung |
Was das praktisch bedeutet: Ein Bewerbermanagement-Tool, das Lebensläufe automatisch vorsortiert oder Kandidatinnen und Kandidaten anhand eines Scores rankt, ist ein klarer Hochrisiko-Fall, selbst wenn am Ende ein Mensch die Entscheidung trifft. Die Annahme, eine KI-Vorauswahl sei unkritisch, weil ein Mensch formal die letzte Entscheidung trifft, wird durch den Verordnungstext nicht gedeckt, sobald die KI-Bewertung die tatsächliche Entscheidung faktisch vorwegnimmt.
Die sechs Kernpflichten für Hochrisiko-KI-Systeme
Für Hochrisiko-Systeme sieht Kapitel III der Verordnung sechs zusammenhängende Pflichten vor, die vor allem Anbieter treffen, aber auch Betreiber in abgeschwächter Form. Diese Pflichten greifen ab dem 2. Dezember 2027, doch Systeme, die dann bereits im Einsatz sind, lassen sich nicht in wenigen Wochen konform machen. Wer erst 2027 beginnt, verliert genau die Zeit, die für eine saubere Konformitätsbewertung nötig ist.
Risikomanagementsystem (Artikel 9): ein kontinuierlicher, iterativer Prozess über den gesamten Lebenszyklus eines Systems, nicht eine einmalige Prüfung vor dem Rollout. Anbieter müssen Risiken systematisch identifizieren, bewerten, mit vorab festgelegten Metriken und Schwellenwerten dokumentieren und laufend aktualisieren, einschließlich Risiken aus Datenverzerrungen und fehlender Repräsentation geschützter Gruppen.
Daten-Governance (Artikel 10): Trainings-, Validierungs- und Testdatensätze müssen bestimmten Qualitätskriterien entsprechen, relevant, hinreichend repräsentativ und, soweit möglich, frei von Fehlern und Lücken sein. Ein Kreditscoring-Modell, das überwiegend mit historischen Daten einer bestimmten Region trainiert wurde, trägt dieses Risiko automatisch in jede spätere Entscheidung hinein, wenn die Datenbasis nicht systematisch auf Verzerrungen geprüft wird.
Technische Dokumentation (Artikel 11): vor Inverkehrbringen oder Inbetriebnahme zu erstellen und laufend aktuell zu halten, mit dem in Anhang IV festgelegten Mindestinhalt: Systembeschreibung, Entwicklungsprozess, Leistungskennzahlen und die Ergebnisse der Risikobewertung. Ohne diese Dokumentation lässt sich keine Konformitätsbewertung durchführen und keine CE-Kennzeichnung anbringen.
Aufzeichnungspflichten (Artikel 12): Hochrisiko-Systeme müssen automatisch Ereignisse protokollieren ("Logging"), die für die Nachvollziehbarkeit der Systemfunktion über den gesamten Lebenszyklus relevant sind. Diese Protokolle sind die Grundlage jeder späteren Untersuchung, wenn ein System im Einsatz zu einem fehlerhaften Ergebnis führt.
Menschliche Aufsicht (Artikel 14): Betreiber müssen sicherstellen, dass natürliche Personen die Ergebnisse des Systems tatsächlich überwachen und bei Bedarf eingreifen oder das System stoppen können. Eine Oberfläche, die zwar formal einen "Bestätigen"-Button für einen Menschen vorsieht, aber keine echte inhaltliche Prüfung ermöglicht, weil die Fallzahl das gar nicht zulässt, erfüllt diese Anforderung nicht.
Genauigkeit, Robustheit und Cybersicherheit (Artikel 15): Systeme müssen ein angemessenes Maß an Genauigkeit erreichen, gegen Fehlfunktionen und Manipulationsversuche widerstandsfähig sein und über technische Redundanzen verfügen, die einen Ausfall abfedern. Für ein System im Bereich kritischer Infrastruktur bedeutet das konkret: Ausfallsicherheit gegen gezielte Angriffe auf die Trainingsdaten oder das laufende Modell, nicht nur gegen zufällige Fehler.
Nach dem Markteintritt endet die Pflicht nicht: Artikel 72 verlangt von Anbietern ein System zur Beobachtung des Systems nach dem Inverkehrbringen ("Post-Market Monitoring"), das systematisch Daten über die Leistung im Realbetrieb sammelt und mit den ursprünglichen Konformitätsannahmen abgleicht. Weicht ein System im Feldeinsatz relevant von seiner ursprünglichen Bewertung ab, etwa weil sich die Nutzerbasis strukturell verändert hat, muss diese Abweichung dokumentiert und, bei einem ernsten Vorfall, den Behörden gemeldet werden.
Wer diese sechs Pflichten nur einmal bei der Einführung eines Systems prüft und danach nicht mehr aktualisiert, verliert genau in dem Moment die Nachweisfähigkeit, in dem ein System nach einem Software-Update oder einer neuen Datenquelle nicht mehr dem ursprünglich bewerteten Zustand entspricht. Ein AI-Governance-Modul, das jedes KI-System mit Risikoklasse, Verantwortlichem und den zugehörigen Nachweisen zentral führt, verhindert genau diese Lücke zwischen einer einmaligen Bewertung und einem laufend aktuellen Compliance-Status.
GPAI und Foundation Models: eigene Pflichten unabhängig von der Risikokaskade
General-Purpose AI (GPAI): ein KI-Modell, das eine breite Palette unterschiedlicher Aufgaben erfüllen kann und in andere Systeme integriert wird, etwa große Sprachmodelle, die als Basis für Chatbots, Schreibassistenten oder Bildgeneratoren dienen.
Anders als bei Hochrisiko-Systemen hängt die GPAI-Regulierung nicht vom konkreten Einsatzzweck ab, sondern an der Modellebene selbst, und sie gilt bereits seit dem 2. August 2025, unberührt von der Verschiebung der Hochrisiko-Pflichten. Jeder Anbieter eines GPAI-Modells muss technische Dokumentation nach Anhang XI führen, Informationen für nachgelagerte Anbieter bereitstellen, die das Modell in eigene Systeme integrieren, eine Urheberrechts-Compliance-Politik vorhalten und eine Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen.
Modelle mit systemischem Risiko tragen zusätzliche Pflichten: Modellbewertungen einschließlich adversarialer Tests, eine systematische Risikobewertung und -minderung, die Meldung schwerwiegender Vorfälle an das EU-KI-Büro und angemessene Cybersicherheitsmaßnahmen für das Modell und seine Infrastruktur. Ein Modell gilt als systemisches Risiko vermutend, wenn seine Trainingsrechenleistung 10 hoch 25 FLOPs überschreitet, ein Schwellenwert, den die Kommission per delegiertem Rechtsakt anpassen kann. Für ein Unternehmen, das lediglich ein fremdes GPAI-Modell über eine API integriert, verschiebt sich die Hauptverantwortung zum Modellanbieter, die eigene Betreiberpflicht bleibt aber bestehen, sobald das integrierte System selbst in einen Hochrisiko- oder Transparenzpflicht-Bereich fällt.
Governance im Unternehmen: Verantwortung, die nicht bei der IT-Abteilung allein liegt
Die häufigste organisatorische Fehlannahme lautet, KI-Compliance sei ein technisches IT-Thema. Die Verordnung verlangt jedoch Entscheidungen, die Rechtsabteilung, Compliance-Funktion, Fachbereich und Geschäftsführung gemeinsam treffen müssen, weil die Risikoklassifizierung eines Systems eine rechtliche Bewertung ist, keine rein technische.
Vorstandsverantwortung: Die Konformitätsbewertung eines Hochrisiko-Systems, die CE-Kennzeichnung und die Registrierung in der EU-Datenbank sind Anbieterpflichten, für die letztlich die Unternehmensleitung haftet, auch wenn operative Aufgaben delegiert werden. Ein Vorstand, der erst durch eine behördliche Anfrage erfährt, dass ein im Haus eingesetztes HR-Tool ein Hochrisiko-System ist, steht bei einer Sanktion nach Artikel 99 in der persönlichen Erklärungspflicht.
Integration in bestehende GRC-Strukturen: KI-Governance funktioniert am besten, wenn sie nicht als isoliertes Nebenprojekt neben dem Datenschutz-Managementsystem läuft, sondern in die bestehende Governance-, Risiko- und Compliance-Struktur (GRC) eingebettet wird, mit denselben Eskalationswegen, denselben Freigabeprozessen und derselben Dokumentationsdisziplin, die für andere regulatorische Pflichten bereits etabliert sind.
Klare Rollenzuweisung: Für jedes im Unternehmen eingesetzte KI-System sollte schriftlich feststehen, wer die Risikoklassifizierung verantwortet, wer die technische Dokumentation pflegt und wer im Ernstfall die Anfrage einer Marktüberwachungsbehörde beantwortet. Ohne diese Zuordnung landet eine Anfrage der Bundesnetzagentur im Zweifel bei der Datenschutzabteilung, die für die KI-VO-Frage gar nicht die richtige Ansprechstelle ist.
Behalten Sie im Blick, dass eine einmal erstellte Systemliste veraltet, sobald ein Fachbereich ein neues KI-Tool ohne Rücksprache einführt: Die Governance-Maturity-Funktion der Secure Privacy & AI Governance Platform liefert dafür board-taugliche Reifegradberichte, die genau diese Lücke zwischen dokumentiertem Anspruch und tatsächlichem Systembestand sichtbar machen.
Zusammenspiel mit der DSGVO: zwei Rechtsakte, eine Verarbeitung
Die KI-Verordnung ersetzt die DSGVO nicht, sie kommt zusätzlich hinzu, sobald ein KI-System personenbezogene Daten verarbeitet, was bei den meisten Hochrisiko-Anwendungen der Fall ist. Zwei Punkte sorgen in der Praxis am häufigsten für Verwechslungen.
Getrennte Rechtsgrundlage: Ein KI-System, das die Anforderungen der KI-Verordnung vollständig erfüllt, hat damit noch keine eigenständige Rechtsgrundlage nach Artikel 6 DSGVO für die Verarbeitung personenbezogener Daten. Diese Rechtsgrundlage muss weiterhin gesondert bestimmt und dokumentiert werden, unabhängig von der Risikoklassifizierung nach der KI-Verordnung.
DPIA und Grundrechte-Folgenabschätzung (FRIA): Für bestimmte Betreiber von Hochrisiko-Systemen, insbesondere Behörden, Betreiber öffentlicher Dienstleistungen sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risikobewertung bei Lebens- und Krankenversicherungen, schreibt Artikel 27 der KI-Verordnung eine Grundrechte-Folgenabschätzung (FRIA) vor. Wurde bereits eine Datenschutz-Folgenabschätzung (DPIA) nach Artikel 35 DSGVO für dieselbe Verarbeitung durchgeführt, ergänzt die FRIA diese DPIA, statt eine vollständig separate Bewertung zu erfordern. Für die meisten privaten Unternehmen ohne öffentlichen Auftrag greift zwar keine eigenständige FRIA-Pflicht, die DPIA-Pflicht nach der DSGVO besteht bei personenbezogenen Hochrisiko-Anwendungen aber ohnehin fast immer fort.
Für Unternehmen, die beide Prüfungen bislang in getrennten Prozessen mit unterschiedlichen Vorlagen führen, verdoppelt sich der Dokumentationsaufwand ohne echten Mehrwert. Ein Assessments-Modul, das DPIAs, TIAs, LIAs, AIAs und FRIAs aus einer gemeinsamen Vorlage heraus verwaltet, reduziert genau diese doppelte Pflege auf einen einzigen, konsistent dokumentierten Bewertungsprozess.
Bußgelder und Durchsetzung: die Zahlen und wer sie in Deutschland verhängt
Artikel 99 der KI-Verordnung staffelt die Bußgelder nach der Schwere des Verstoßes. Verbotene Praktiken nach Artikel 5 können mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher liegt. Verstöße gegen die Hochrisiko-Pflichten sowie gegen bestimmte GPAI-Vorgaben liegen bei bis zu 15 Millionen Euro oder 3 Prozent, falsche oder irreführende Angaben gegenüber Behörden bei bis zu 7,5 Millionen Euro oder 1 Prozent. Für kleine und mittlere Unternehmen gilt in jeder Stufe der niedrigere der beiden Beträge als Obergrenze, nicht der höhere.
In Deutschland trat am 29. Juli 2026 das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) in Kraft, das die Bundesnetzagentur zur zentralen deutschen Marktüberwachungsbehörde für die KI-Verordnung macht, mit einer eigenen KI-Marktüberwachungskammer für besonders sensible Hochrisikobereiche wie Strafverfolgung, Migration und Rechtspflege (Bundesnetzagentur, Marktüberwachung KI). Verstöße gegen Mitwirkungs- und Auskunftspflichten gegenüber der Bundesnetzagentur selbst, unabhängig vom eigentlichen KI-VO-Verstoß, können zusätzlich mit bis zu 50.000 Euro geahndet werden. Die Bundesnetzagentur ersetzt dabei die Datenschutzaufsicht nicht: Verarbeitet ein Hochrisiko-System personenbezogene Daten, bleibt parallel die zuständige Landesdatenschutzbehörde für die DSGVO-Seite zuständig. Wie sich diese doppelte Zuständigkeit konkret auf die deutsche Aufsichtspraxis 2026 auswirkt, ordnet unser Überblick zu den neuen Datenschutz-Fristen und -Prüfungen 2026 umfassender ein.
Neben Bußgeldern sieht die Verordnung Regulatory Sandboxes vor, von den Mitgliedstaaten einzurichtende Testumgebungen, in denen Anbieter, insbesondere kleine und mittlere Unternehmen, ihre KI-Systeme unter behördlicher Begleitung entwickeln und testen können, bevor sie in den regulären Markt gehen. Das mindert das regulatorische Risiko bei Innovationsprojekten, ersetzt aber keine Konformitätsbewertung für den späteren Markteintritt.
Der praktische Fahrplan: fünf Phasen bis zur Compliance
- KI-Inventar aufbauen. Erfassen Sie jedes im Unternehmen eingesetzte oder entwickelte KI-System, einschließlich solcher, die als Feature in Drittsoftware eingekauft wurden, etwa eine KI-Funktion innerhalb eines CRM- oder HR-Systems. Ohne vollständiges Inventar ist jede weitere Phase unvollständig.
- Rollen und Risikoklasse pro System bestimmen. Klären Sie für jedes System, ob Ihr Unternehmen Anbieter oder Betreiber ist, und ordnen Sie es einer der vier Risikoklassen zu, mit schriftlicher Begründung, nicht nur einer Einschätzung im Kopf einer einzelnen Person.
- Pflichten gegen den aktuellen Stand abgleichen. Prüfen Sie für jedes Hochrisiko- oder GPAI-System einzeln, welche der sechs Kernpflichten bereits erfüllt sind und welche fehlen, insbesondere Risikomanagement, Daten-Governance und technische Dokumentation, die typischerweise am längsten zur Nachrüstung brauchen.
- Verantwortlichkeiten schriftlich zuweisen. Legen Sie für jedes System fest, wer die laufende Aktualisierung der Dokumentation verantwortet und wer eine behördliche Anfrage der Bundesnetzagentur oder der zuständigen Datenschutzbehörde federführend bearbeitet, bevor eine solche Anfrage eintrifft.
- Governance-Reife regelmäßig neu bewerten. Ein KI-Inventar ist keine einmalige Übung. Jedes neu eingeführte KI-Tool verändert den Compliance-Status des Unternehmens, deshalb sollte die Bewertung mindestens halbjährlich wiederholt werden, nicht erst, wenn der Dezember 2027 näher rückt.
Wer diese fünf Phasen über verteilte Tabellen und E-Mail-Verläufe verfolgt, verliert exakt in dem Moment den Überblick, in dem ein System aktualisiert wird oder eine Behörde nachfragt, welche Risikoklasse und welcher Nachweisstand für welches System dokumentiert war. Die Secure Privacy & AI Governance Platform bündelt ein KI-Systeminventar mit automatischer Risikoeinstufung, Zuordnung zu über 60 Regulierungen einschließlich der KI-Verordnung, Verantwortlichenzuweisung und audit-fertiger Dokumentationsverwaltung in einem Dashboard. Vereinbaren Sie eine 45-minütige Demo, um zu sehen, wie sich Ihr eigenes KI-Inventar darin abbilden lässt.
Häufig gestellte Fragen
Ab wann müssen Unternehmen die Hochrisiko-Pflichten der KI-Verordnung tatsächlich erfüllen?
Seit dem Digital Omnibus gilt der 2. Dezember 2027 für eigenständige Hochrisiko-Systeme nach Anhang III und der 2. August 2028 für in Produkte eingebettete Hochrisiko-KI. Die Verschiebung betrifft ausschließlich diesen Pflichtenblock, nicht die Transparenzpflichten aus Artikel 50 und nicht die GPAI-Pflichten, die bereits gelten.
Was passiert, wenn wir ein KI-System einsetzen, aber nicht selbst entwickelt haben?
Sie sind dann in der Regel Betreiber, nicht Anbieter, tragen aber trotzdem eigene Pflichten, insbesondere zur menschlichen Aufsicht und, bei bestimmten Systemen, zu Transparenzhinweisen. Die Hauptverantwortung für Risikomanagement, Daten-Governance und technische Dokumentation liegt beim Anbieter, Betreiber sollten sich dessen Konformitätsnachweise vertraglich zusichern lassen.
Reicht eine bestehende DSGVO-Dokumentation aus, um die KI-Verordnung zu erfüllen?
Nein. Die DSGVO-Rechtsgrundlage einer Verarbeitung und die KI-VO-Risikoklassifizierung eines Systems sind zwei getrennte rechtliche Bewertungen, die beide vorliegen müssen. Eine bestehende DPIA kann bei der Grundrechte-Folgenabschätzung nach Artikel 27 der KI-Verordnung als Grundlage dienen, ersetzt die spezifischen KI-VO-Pflichten wie Risikomanagement oder technische Dokumentation aber nicht.
Wie unterscheidet sich ein Hochrisiko-System von einem System mit bloßer Transparenzpflicht?
Die Hochrisiko-Einstufung nach Anhang III knüpft an den konkreten Einsatzzweck an, etwa Bewerbermanagement oder Kreditwürdigkeitsprüfung, und löst umfangreiche Pflichten wie Risikomanagement und Konformitätsbewertung aus. Die Transparenzpflicht aus Artikel 50 gilt unabhängig davon für jedes System mit direktem Personenkontakt oder öffentlich sichtbarem KI-Output, auch wenn dieses System kein Hochrisiko-System ist.
Welche Behörde ist in Deutschland für unser Unternehmen zuständig, wenn wir ein Hochrisiko-KI-System einsetzen?
In der Regel die Bundesnetzagentur als zentrale Marktüberwachungsbehörde für die KI-Verordnung, für die sensibelsten Anhang-III-Bereiche wie Strafverfolgung oder Migration die dortige KI-Marktüberwachungskammer. Verarbeitet das System personenbezogene Daten, bleibt zusätzlich die zuständige Landesdatenschutzbehörde für die DSGVO-Seite zuständig.
Müssen wir für jedes GPAI-Modell, das wir per API einbinden, eine eigene Konformitätsbewertung durchführen?
Nein, die technische Dokumentation und Risikobewertung des zugrunde liegenden GPAI-Modells obliegt dessen Anbieter. Ihr Unternehmen bleibt aber für die eigene Betreiberpflicht verantwortlich, sobald das auf dem Modell aufgebaute System selbst in einen Hochrisiko- oder Transparenzpflicht-Bereich fällt, etwa weil es direkt mit Kundinnen und Kunden interagiert.
Gibt es Erleichterungen für kleine und mittlere Unternehmen?
Ja, in mehrfacher Hinsicht: Bei den Bußgeldstufen gilt für KMU jeweils der niedrigere der beiden möglichen Beträge als Obergrenze, und die Mitgliedstaaten müssen Regulatory Sandboxes einrichten, die insbesondere kleinen und mittleren Unternehmen eine begleitete Testumgebung vor dem Markteintritt bieten. Von den inhaltlichen Pflichten selbst, etwa Risikomanagement oder technischer Dokumentation, befreien diese Erleichterungen aber nicht.
Die eigentliche Frage für Ihr Unternehmen ist nicht, ob die KI-Verordnung irgendwann relevant wird, sondern ob Sie heute für jedes eingesetzte KI-System belegen könnten, welche Risikoklasse greift, welche der sechs Kernpflichten bereits erfüllt sind und wer im Ernstfall die Anfrage der Bundesnetzagentur oder der zuständigen Datenschutzbehörde beantwortet. Die Secure Privacy & AI Governance Platform ordnet jedes KI-System automatisch der passenden Risikoklasse und den zugehörigen Pflichten zu und hält den Nachweis über mehrere Rechtsträger und mehr als 60 Regulierungen hinweg aktuell. Vereinbaren Sie eine Demo, um zu sehen, wie sich Ihr eigenes KI-Inventar und Ihre Compliance-Fristen darin abbilden lassen.