Was bedeuten die Betreiberpflichten EU AI Act für Ihr Unternehmen?
Die Betreiberpflichten EU AI Act nach Artikel 26 sind das rechtliche Herzstück für jedes Unternehmen, das fremde KI-Systeme im geschäftlichen Kontext einsetzt. Betreiber im Sinne von Art. 3(4) der Verordnung (EU) 2024/1689 sind juristische oder natürliche Personen, die ein KI-System in eigener Verantwortung nutzen — und das trifft die überwiegende Mehrheit der deutschen KMU.
Wer ein zugekauftes HR-Tool zur Bewerbervorselektion nutzt, wer Kreditscoring-Software von einem Fintech einsetzt, wer Produktionssteuerung per KI automatisiert: All diese Unternehmen sind Betreiber. Und als Betreiber von Hochrisiko-KI-Systemen gilt Artikel 26 unmittelbar — ohne Übergangsfrist, ohne Ausnahme für KMU.
Dieser Leitfaden erklärt jede der acht Kernpflichten, nennt SME-relevante Beispiele und zeigt, wo in der Praxis die häufigsten Fehler passieren.
Anbieter oder Betreiber: Wer bin ich?
Bevor die Pflichten greifen, muss die Rolle klar sein. Die Unterscheidung ist schärfer, als viele KMU annehmen.
Anbieter (Art. 3(3)) ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen auf den Markt bringt — ob als Softwareanbieter, als Startup mit eigenem Modell oder als Unternehmen, das intern ein KI-System baut. Anbieter tragen die schwerste Last: technische Dokumentation, Risikomanagementsystem nach Art. 9, Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung bei Hochrisikosystemen. Das Art.-17-Qualitätsmanagementsystem ist eine Anbieterpflicht — KMU-Betreiber müssen es nicht aufbauen.
Betreiber (Art. 3(4)) ist, wer ein KI-System in eigener Verantwortung einsetzt — unabhängig davon, ob es zugekauft oder gemietet wurde. Die meisten deutschen Mittelständler sind Betreiber. Das ist die gute Nachricht: Betreiberpflichten sind schlanker als Anbieterpflichten. Aber sie sind real und vollstreckbar.
Definition Betreiber: Ein Betreiber nach Art. 3(4) EU AI Act ist eine natürliche oder juristische Person, die ein KI-System unter ihrer Aufsicht in eigener Verantwortung einsetzt — außer im Rahmen privater, nicht beruflicher Tätigkeiten.
Wann wird ein Betreiber zum Anbieter?
Artikel 25 enthält drei Auslöser, die den Status zum Anbieter verschieben — und damit die vollständige Anbieterlast auslösen:
- Wesentliche Änderung: Wer ein Hochrisiko-System so nachtrainiert oder modifiziert, dass es weiterhin als Hochrisikosystem gilt, übernimmt Anbieterpflichten.
- Zweckänderung: Wer ein nicht-hochriskantes System für Zwecke einsetzt, die es hochriskant machen (etwa ein allgemeines Analysetool für Personalentscheidungen), wird Anbieter des nun hochriskanten Systems.
- Rebranding: Wer ein Hochrisikosystem unter eigenem Namen vertreibt, ohne entsprechende Vereinbarung mit dem Originalanbieter.
Praxisregel: Vor jedem Fine-Tuning, Nachtraining oder Rebranding eines zugekauften KI-Systems rechtlichen Rat einholen.
Die acht Betreiberpflichten nach Artikel 26 im Detail
Artikel 26 der Verordnung (EU) 2024/1689 gilt für Betreiber von Hochrisiko-KI-Systemen (klassifiziert nach Anhang III). Die vollständige Hochrisiko-Pflichtenlast gilt ab dem 2. August 2026 — aber die Vorbereitung muss jetzt beginnen. Welche Systeme als Hochrisiko gelten, erklärt unser Artikel zu Hochrisiko-KI nach Annex III.
Pflicht 1: Nutzung gemäß Anbieteranweisung (Art. 26(1))
Das System darf ausschließlich so eingesetzt werden, wie der Anbieter es in der Gebrauchsanweisung vorgegeben hat. Kein eigenständiger Zweckwandel ohne rechtliche Prüfung. Wer den Verwendungszweck eigenmächtig erweitert, riskiert nicht nur den Statuswechsel zum Anbieter — er setzt das System möglicherweise in einem Kontext ein, für den es nicht validiert wurde.
KMU-Beispiel: Ein Unternehmen kauft ein KI-System zur Produktionssteuerung. Es beginnt, das System zusätzlich zur Leistungsbewertung einzelner Mitarbeiter zu nutzen — eine Zweckänderung, die das System möglicherweise in den Hochrisiko-Bereich „Beschäftigung" (Anhang III Nr. 4) katapultiert.
Pflicht 2: Menschliche Aufsicht sicherstellen (Art. 26(2))
Betreiber müssen kompetente Personen benennen, die das Hochrisikosystem wirksam überwachen können. Wirksam bedeutet: Diese Personen müssen in der Lage sein, die Systemausgaben zu verstehen, Entscheidungen zu hinterfragen, einzugreifen und das System zu stoppen.
Was nicht ausreicht: Reine "Rubber-Stamp"-Aufsicht — das formale Abnicken von KI-Empfehlungen, ohne sie inhaltlich zu prüfen. Artikel 14 EU AI Act stellt klar: Menschliche Aufsicht muss wirksam sein, nicht nur formell vorhanden.
KMU-Beispiel: Die Kreditabteilung einer Regionalbank setzt KI-gestütztes Scoring ein. Die zuständige Sachbearbeiterin hat 15 Minuten pro Fall — und drückt faktisch immer auf "bestätigen". Das ist keine wirksame Aufsicht im Sinne des Art. 14.
Pflicht 3: Qualität der Eingabedaten (Art. 26(4))
Soweit der Betreiber die Eingabedaten kontrolliert, muss er sicherstellen, dass diese relevant und ausreichend repräsentativ sind. Garbage in, garbage out — mit realen Entscheidungsfolgen für Personen.
Pflicht 4: Protokollaufbewahrung mindestens 6 Monate (Art. 26(5/6))
Automatisch erzeugte Protokolle (Logs) müssen mindestens 6 Monate aufbewahrt werden. Wenn sektorspezifisches Recht (etwa Finanzmarktrecht oder Medizinprodukterecht) längere Fristen vorschreibt, gilt die längere Frist.
Diese Pflicht ist keine Empfehlung — sie ist eine Compliance-Anforderung, die bei einer BNetzA-Kontrolle als Erstes abgefragt wird. Unternehmen ohne strukturierte Log-Archivierung stehen vor einem ernsthaften Compliance-Problem.
Praxis-Tipp: Klären Sie mit dem KI-Anbieter, welche Logs das System automatisch erzeugt und wie Sie darauf zugreifen können. Schaffen Sie einen dokumentierten Archivierungsprozess — idealerweise in Ihrem KI-Governance-Fahrplan.
Pflicht 5: Systemüberwachung und Vorfallmeldung (Art. 26(5))
Betreiber müssen das System im laufenden Betrieb beobachten. Bei schwerwiegenden Vorfällen oder unerwarteten Risiken ist:
- der Anbieter unverzüglich zu informieren,
- ggf. der Betrieb zu suspendieren,
- und soweit vorgesehen die BNetzA zu benachrichtigen.
Was gilt als schwerwiegender Vorfall? Ein Vorfall, der unmittelbar oder mittelbar zu einem Schaden für eine natürliche Person geführt hat oder hätte führen können — etwa eine fehlerhafte automatische Ablehnung einer Kreditbewerbung mit diskriminierendem Muster.
Pflicht 6: Datenschutz-Folgenabschätzung (Art. 26(9))
Wenn der Betreiber die vom Anbieter bereitgestellten Informationen für eine DSGVO-Datenschutz-Folgenabschätzung (DSFA/DPIA nach Art. 35 DSGVO) benötigt, muss er diese Informationen nutzen. Hochrisiko-KI-Systeme mit Personenbezug lösen häufig eine DSFA-Pflicht aus.
Pflicht 7: Behördenkooperation (Art. 26(10))
Auf Anfrage der Bundesnetzagentur (BNetzA) oder anderer zuständiger Behörden sind vollständige und korrekte Informationen zu liefern. Falsche oder unvollständige Angaben sind eine eigenständige Bußgeldkategorie (Art. 99(5): bis zu 7,5 Mio. € oder 1 % des Jahresumsatzes).
Pflicht 8: Arbeitnehmerinformation vor Einsatz (Art. 26(7))
Wortlaut Art. 26(7) EU AI Act: „Deployers who are employers shall inform workers' representatives and the affected workers that they will be subject to the use of the high-risk AI system, before putting into service or using a high-risk AI system at the workplace."
Auf Deutsch: Betreiber, die als Arbeitgeber handeln, müssen vor dem Einsatz eines Hochrisiko-KI-Systems am Arbeitsplatz Arbeitnehmervertretungen und betroffene Mitarbeitende informieren. Diese Information ist eine eigenständige Pflicht — unabhängig davon, ob ein Betriebsrat existiert.
Wichtig: Diese Pflicht greift zusätzlich zu den BetrVG-Mitbestimmungsrechten nach § 87(1) Nr. 6 (bei Systemen, die Verhalten oder Leistung der Arbeitnehmer erfassen können). Betriebsräte haben bei solchen Systemen ein echtes Mitbestimmungsrecht.
KMU-Beispiel: Eine Logistikfirma führt KI-gestützte Routenoptimierung ein, die auch Fahrerdaten auswertet. Vor dem ersten Einsatz müssen die Fahrer informiert werden — und der Betriebsrat, sofern vorhanden, ist einzubeziehen.
Was gilt nicht als Betreiberpflicht?
Ein häufiger Irrtum: Betreiber verwechseln Anbieter- mit Betreiberpflichten und versuchen, ein vollständiges Art.-17-Qualitätsmanagementsystem aufzubauen. Das ist für KMU-Betreiber nicht erforderlich.
Das Art.-17-QMS, die Konformitätsbewertung, die technische Dokumentation nach Anhang IV und die EU-Konformitätserklärung sind Anbieterpflichten. Als Betreiber haben Sie Anspruch darauf, die relevanten Informationen vom Anbieter zu erhalten — etwa die Gebrauchsanweisung, Risikoinformationen und DSGVO-relevante Daten.
Praktische Umsetzung: Checkliste für Betreiber
Für jedes eingesetzte Hochrisiko-KI-System sollten Sie folgendes dokumentiert haben:
| Pflicht | Umsetzung | Nachweisdokument |
|---|---|---|
| Nutzung nach Anleitung | Gebrauchsanweisung des Anbieters vorhanden und bekannt | Vertrag + Dokumentation |
| Menschliche Aufsicht | Verantwortliche Person benannt, geschult, mit Stoppbefugnis | Stellenbeschreibung, Schulungsnachweis |
| Eingabedaten-Qualität | Relevanz und Repräsentativität regelmäßig geprüft | Prüfprotokoll |
| Log-Archivierung | Automatische Logs werden ≥ 6 Monate gespeichert | Archivierungsprotokoll, IT-Dokumentation |
| Vorfallmeldung | Meldeweg zum Anbieter und ggf. BNetzA definiert | Internes Vorfallprotokoll |
| DSFA | Datenschutz-Folgenabschätzung bei Personenbezug | DSFA-Dokument |
| Behördenkooperation | Ansprechpartner für BNetzA-Anfragen benannt | Governance-Richtlinie |
| Mitarbeiterinfo | Betroffene Mitarbeiter vor Einsatz informiert | Informationsprotokoll + Datum |
Diese Checkliste deckt die Kernpflichten ab. Der strukturierte Aufbau eines KI-Governance-Rahmens — mit KI-Inventar, Risikoklassifizierungen und Schulungsnachweisen — ist der nächste logische Schritt: dazu mehr in unserem Artikel zum KI-Governance-Fahrplan.
Häufige Fehler bei der Umsetzung
Fehler 1: "Der Anbieter ist verantwortlich"
Der häufigste Irrtum. Der Anbieter trägt Entwicklungspflichten — aber Betreiber tragen eigene, nicht übertragbare Pflichten nach Art. 26. Ein wasserdichter Vertrag mit dem Anbieter ersetzt diese nicht.
Fehler 2: Log-Archivierung vergessen
Viele Unternehmen wissen gar nicht, welche Logs ihr KI-System automatisch erzeugt. Klären Sie das jetzt: Bei einem BNetzA-Auskunftsersuchen haben Sie typischerweise 30 Tage Zeit — ohne vorbereitetes Archivierungssystem ist das sportlich.
Fehler 3: Mitarbeiterinfo nach dem Einsatz
Art. 26(7) verlangt Information vor dem ersten Einsatz — nicht kurz danach. Eine rückwirkende Information erfüllt die Pflicht nicht.
Fehler 4: "Wir sind zu klein"
Art. 26 gilt für alle Betreiber, unabhängig von der Unternehmensgröße. Es gibt keine KMU-Ausnahme von den Betreiberpflichten — nur eine KMU-Sonderregelung bei der Bußgeldhöhe (Art. 99(6)).
Jetzt handeln — bevor die BNetzA klopft
Die Betreiberpflichten EU AI Act sind keine theoretische Rechtsmaterie mehr. Die Bundesnetzagentur ist als nationale Marktüberwachungsbehörde operativ und betreibt den KI-Service-Desk als direkte Anlaufstelle für Unternehmen. Wer vorbereitet ist, hat im Ernstfall nicht nur bessere Karten bei der Bußgeldbemessung — er verhindert Verstöße, bevor sie entstehen.
Der Aufbau Ihrer Art.-26-Compliance beginnt mit drei Schritten: Bestandsaufnahme aller KI-Systeme, Risikoklassifizierung nach dem 5-Stufen-Prozess, und Schulung aller Mitarbeitenden, die mit diesen Systemen arbeiten. Genau dafür hat Forefront AI den 5-Modul-Zertifizierungskurs entwickelt — mit szenariobasiertem Lernen, das Ihre Teams befähigt, die richtigen Fragen zu stellen, bevor ein Problem entsteht. Das verifizierbares Zertifikat mit QR-Code dokumentiert gleichzeitig Ihre Art.-4-Compliance.
Starten Sie jetzt: Zu unseren Leistungen und dem Zertifizierungskurs — oder nehmen Sie direkt Kontakt auf, wenn Sie wissen möchten, welche Schritte für Ihr Unternehmen als erstes sinnvoll sind.