Aktualisiert am 20. August 2026: Dieser Beitrag wurde nach dem Inkrafttreten der Verordnung (EU) 2026/1744 (Digital Omnibus, 27. Juli 2026) vollständig überarbeitet. Alle Fristen und Pflichten entsprechen dem konsolidierten Rechtsstand.
Was sind verbotene KI-Praktiken, und seit wann gelten sie?
Verbotene KI-Praktiken nach Artikel 5 der Verordnung (EU) 2024/1689 sind KI-Anwendungen, die der europäische Gesetzgeber als inakzeptabel einstuft: unabhängig vom wirtschaftlichen Nutzen, unabhängig von einer Einwilligung der betroffenen Person, unabhängig von der Unternehmensgröße.
Acht dieser Verbote gelten seit dem 2. Februar 2025, dem frühesten Anwendungszeitpunkt des EU AI Act. Es gibt dafür keine Übergangsfrist, keine Ausnahme für KMU und keinen Bestandsschutz. Ein Verstoß ist unmittelbar bußgeldbewehrt: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Art. 99(3)), für KMU nach Art. 99(6) jeweils der niedrigere der beiden Werte.
Neu seit Sommer 2026: Die Änderungsverordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat Artikel 5 um zwei weitere Verbotstatbestände ergänzt. Sie werden am 2. Dezember 2026 anwendbar. Damit umfasst Artikel 5 zehn Verbote. Wer noch von „den acht Verboten" spricht, beschreibt den Stand bis Ende November 2026.
Warum sind diese Praktiken absolut verboten und nicht nur reguliert? Weil der Gesetzgeber davon ausgeht, dass sie Menschenwürde, Selbstbestimmung und das Vertrauen in demokratische Gesellschaften so grundlegend bedrohen, dass keine sachliche Rechtfertigung ausreicht.
In unserem Artikel zur Risikoklassifizierung und Risikopyramide finden Sie den Gesamtüberblick über alle vier Risikostufen. Dieser Beitrag konzentriert sich auf die höchste Stufe: das absolute Verbot.
Verbot 1: Manipulative und subliminale KI (Art. 5(1)(a))
Das Verbot: KI-Systeme, die subliminale Techniken unterhalb der Bewusstseinsschwelle einsetzen oder absichtlich manipulative oder täuschende Techniken nutzen, um das Verhalten von Personen so zu beeinflussen, dass ein erheblicher Schaden entsteht oder entstehen kann.
In einfachem Deutsch: KI, die Menschen manipuliert, ohne dass sie es merken, sei es durch unterschwellige Reize, gezielte Ausnutzung psychologischer Schwachstellen oder Täuschung, ist verboten, wenn dadurch erhebliche Schäden entstehen.
KMU-Relevanz: E-Commerce-Anwendungen, die über KI-gesteuerte Dark Patterns zu Käufen drängen. Personalisierungsalgorithmen, die gezielt emotionale Schwachstellen ausnutzen, um Konversionen zu steigern. Sprachassistenten, die Kunden durch täuschende Formulierungen zu ungünstigen Entscheidungen lenken.
Abgrenzung: Nicht jede Personalisierung ist manipulativ. Relevante Produktempfehlungen und benutzerfreundliches Design sind zulässig. Die Verbotslinie liegt beim gezielten Einsatz unterschwelliger oder täuschender Mechanismen mit schädigender Wirkung.
Verbot 2: Ausnutzung von Schwachstellen (Art. 5(1)(b))
Das Verbot: KI-Systeme, die Schwachstellen bestimmter Personen oder Personengruppen ausnutzen, etwa wegen Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation, und dadurch das Verhalten dieser Personen so beeinflussen, dass ein erheblicher Schaden entsteht.
In einfachem Deutsch: KI, die gezielt vulnerable Gruppen ausnutzt, ist verboten. Wer weiß, dass bestimmte Nutzergruppen durch ihre Situation besonders beeinflussbar sind, und das systematisch ausbeutet, verstößt gegen dieses Verbot.
KMU-Relevanz: Kreditangebots-Algorithmen, die Personen in finanzieller Notlage überteuerte Produkte empfehlen. Anwendungen, die erkennen, welche Nutzer zu Suchtverhalten neigen, und diese gezielt ansprechen. Dienstleister, die KI nutzen, um älteren Personen mit kognitiven Einschränkungen nicht benötigte Leistungen zu verkaufen.
Verbot 3 (neu ab 2. Dezember 2026): Nicht einvernehmliche intime Darstellungen (Art. 5(1)(ba))
Das Verbot: Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt werden, ohne deren aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung.
Anwendbar ab: 2. Dezember 2026 (Art. 113(3)(a) in der Fassung der Verordnung (EU) 2026/1744).
Wichtige Einschränkungen (Art. 5(1a) und (1b)):
- Für Anbieter greift das Verbot nur, wenn diese Erzeugung entweder die Zweckbestimmung des Systems ist, oder wenn sie ein nach vernünftigem Ermessen absehbares und ohne erhebliche technische Änderungen reproduzierbares Ergebnis darstellt und das System keine zumutbaren und angemessenen technischen Schutzmaßnahmen dagegen besitzt.
- Für Betreiber greift es, wenn sie das System zu dem Zweck einsetzen, solche Inhalte zu erzeugen.
- Eine Bearbeitung, die weder die Sichtbarkeit intimer Körperteile erhöht noch den Charakter dargestellter sexueller Handlungen verändert, gilt nach Art. 5(1b) nicht als Manipulation im Sinne des Buchstabens ba.
KMU-Relevanz: Betroffen sind vor allem Anbieter generativer Bild- und Videosysteme. Für Betreiber ist die praktische Konsequenz: Wer generative Tools im Unternehmen bereitstellt, sollte die Nutzung in der internen KI-Richtlinie klar regeln und die Schutzmechanismen des eingesetzten Anbieters kennen.
Verbot 4 (neu ab 2. Dezember 2026): Missbrauchsdarstellungen von Kindern (Art. 5(1)(bb))
Das Verbot: Das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Material oder Darbietungen im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugt oder manipuliert. Ausgenommen sind nur Fälle, in denen das Verhalten nach nationalem Recht gerechtfertigt ist.
Anwendbar ab: 2. Dezember 2026. Die Einschränkungen des Artikels 5(1a) für Anbieter und Betreiber gelten entsprechend.
KMU-Relevanz: Unmittelbar betroffen sind Anbieter generativer Systeme. Für jedes Unternehmen, das solche Systeme einsetzt, gilt: Es handelt sich um den schärfsten Verbotstatbestand der Verordnung, und daneben greift ohnehin das nationale Strafrecht.
Verbot 5: Social Scoring (Art. 5(1)(c))
Das Verbot: KI-Systeme, die natürliche Personen über einen bestimmten Zeitraum hinweg auf Basis ihres Sozialverhaltens oder persönlicher Merkmale bewerten oder klassifizieren, wenn diese Bewertung zu ungerechtfertigten oder unverhältnismäßigen Nachteilen führt, insbesondere in sozialen Kontexten, die von dem Kontext der Datenerhebung unabhängig sind.
In einfachem Deutsch: Wer Personen einen Sozial-Score zuweist und diesen Score aus einem Kontext in einen anderen überträgt, um Nachteile zu erzeugen, betreibt verbotenes Social Scoring.
KMU-Relevanz: Dieses Verbot gilt nicht nur für staatliche Akteure. Ein Arbeitgeber, der das Online-Verhalten seiner Beschäftigten außerhalb der Arbeitszeit per KI auswertet und daraus Konsequenzen für das Arbeitsverhältnis zieht, kann darunter fallen. Ebenso Kreditgeber, die soziale Netzwerkdaten zum Scoring nutzen und dadurch ungerechtfertigte Nachteile erzeugen.
Abgrenzung: Ein sachlich begründetes Bewertungssystem im Kontext seiner Erhebung, etwa Kreditwürdigkeit auf Basis der tatsächlichen Zahlungshistorie innerhalb desselben Kreditverhältnisses, ist nicht automatisch Social Scoring.
Verbot 6: Prädiktive Kriminalitätsrisiko-Bewertung (Art. 5(1)(d))
Das Verbot: KI-Systeme zur Bewertung oder Vorhersage des Risikos, dass eine natürliche Person eine Straftat begeht, ausschließlich auf Basis von Profiling oder der Bewertung von Persönlichkeitsmerkmalen.
In einfachem Deutsch: Vorhersagen darüber, wer künftig straffällig wird, allein auf Basis von Persönlichkeitsprofilen, sind verboten.
KMU-Relevanz: Für die meisten privaten Unternehmen kaum direkt relevant. Aufmerksamkeit verdient das Verbot dort, wo Sicherheitsdienstleister, Versicherer oder Personalabteilungen Risiko-Scores für Beschäftigte oder Bewerbende entwickeln, die auf Persönlichkeitsprognosen statt auf konkretem Verhalten beruhen.
Verbot 7: Aufbau von Gesichtserkennungsdatenbanken durch Scraping (Art. 5(1)(e))
Das Verbot: KI-Systeme, die Gesichtserkennungsdatenbanken durch das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsmaterial erstellen oder erweitern.
In einfachem Deutsch: Das systematische Scraping öffentlich verfügbarer Bilder zum Aufbau einer Gesichtsdatenbank ist verboten, unabhängig davon, ob die Bilder frei zugänglich waren.
KMU-Relevanz: Direkt relevant für Unternehmen, die Sicherheits- oder Identifikationssoftware entwickeln oder vertreiben. Ebenso für HR-Werkzeuge, die öffentliche Plattformen nach Bildern von Bewerbenden durchsuchen und diese automatisiert verarbeiten.
Verbot 8: Emotionserkennung am Arbeitsplatz (Art. 5(1)(f))
Das Verbot: KI-Systeme, die Emotionen natürlicher Personen am Arbeitsplatz oder in Bildungseinrichtungen ableiten, mit Ausnahmen für medizinische Zwecke und Sicherheitszwecke.
Das ist die für KMU praktisch wichtigste Verbotsnorm, und gleichzeitig eine der am häufigsten übersehenen.
Konkrete verbotene Anwendungsfälle:
- Call-Center-Software, die Gesprächsmitschnitte analysiert und Stimmungslagen der Mitarbeitenden auswertet
- Videokonferenz-Werkzeuge mit automatischer Emotionsanalyse für Teilnehmende
- Personalmanagement-Software, die über Kamerasignale Konzentration oder Engagement bewertet
- Interne E-Learning-Plattformen, die Lernende per Kamera auf Aufmerksamkeit überwachen
Wichtige Abgrenzung: Die Leitlinien der Kommission zu den verbotenen Praktiken (Mitteilung C(2025) 5052 vom 29. Juli 2025) knüpfen das Verbot an die Definition biometrischer Daten in Artikel 3 Nr. 39. Erfasst sind also Rückschlüsse aus Gesicht, Stimme oder physiologischen Signalen. Eine Stimmungsauswertung aus reinem Text oder aus Ticket-Kennzahlen fällt nicht unter das Verbot, kann aber datenschutzrechtlich und mitbestimmungsrechtlich unzulässig sein und löst gegebenenfalls die Informationspflicht nach Artikel 50(3) aus.
Ausnahmen gelten nur für medizinische Zwecke und Sicherheitszwecke, nicht für Produktivitäts- oder Personalzwecke.
Wenn Ihr Unternehmen solche Werkzeuge einsetzt: Das ist kein künftiges Compliance-Thema, sondern ein bereits laufender Verstoß gegen Art. 5(1)(f) mit vollem Bußgeldrisiko.
Verbot 9: Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5(1)(g))
Das Verbot: Biometrische Kategorisierungssysteme, die natürliche Personen einzeln auf Basis ihrer biometrischen Daten kategorisieren, um Rückschlüsse auf Rasse, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung zu ziehen.
In einfachem Deutsch: KI, die aus Gesichtsbildern oder anderen biometrischen Daten auf ethnische Herkunft, Religion oder sexuelle Orientierung schließt, ist verboten.
KMU-Relevanz: Personalsysteme, die Bewerbungsfotos oder Kameraaufnahmen auswerten und dabei implizit oder ausdrücklich auf sensible Merkmale schließen. Sicherheitssysteme, die biometrische Merkmale zur Kategorisierung von Personengruppen nutzen. Marketingsysteme, die Kundensegmente auf Basis von Gesichtsmerkmalen bilden.
Verbot 10: Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum (Art. 5(1)(h))
Das Verbot: Der Einsatz biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, mit sehr engen Ausnahmen wie der Suche nach Vermissten, der Abwehr einer konkreten Terrorgefahr oder der Verfolgung bestimmter schwerer Straftaten.
In einfachem Deutsch: Live-Gesichtserkennung in der Öffentlichkeit durch Strafverfolgungsbehörden ist im Grundsatz verboten.
KMU-Relevanz: Artikel 5(1)(h) richtet sich an Strafverfolgungsbehörden. Für private Sicherheitsdienste und Einzelhändler, die Gesichtserkennung in ihren Räumlichkeiten einsetzen wollen, ergeben sich die Grenzen aus der DSGVO und aus den übrigen Verbotstatbeständen des Artikels 5. Praktisch bleibt biometrische Echtzeit-Identifizierung damit auch für private Betreiber ein Feld, das ohne belastbare Rechtsgrundlage nicht zu betreten ist.
Der entscheidende Grundsatz: Einwilligung heilt nicht
Ein verbreitetes Missverständnis lautet: „Wenn die Mitarbeitenden oder Kunden einwilligen, ist es erlaubt."
Das trifft nicht zu. Die Verbote des Artikels 5 sind absolute Verbote ohne Einwilligungs-, Vertrags- oder Interessenabwägungsvorbehalt. Die Einwilligung einer betroffenen Person kann eine verbotene Praktik nicht legalisieren. Das unterscheidet Artikel 5 grundlegend von vielen datenschutzrechtlichen Anforderungen.
Eine Ausnahme, die nur auf den ersten Blick eine ist: Beim neuen Verbot nach Artikel 5(1)(ba) gehört die ausdrückliche Zustimmung der dargestellten Person zum Tatbestand selbst. Fehlt sie, ist die Praktik verboten. Eine Einwilligung, die einen bereits erfüllten Verbotstatbestand nachträglich heilt, gibt es auch dort nicht.
Ebenso wenig gibt es Bestandsschutz. Artikel 111 der Verordnung, der die Übergangsregeln für Bestandssysteme enthält, beginnt ausdrücklich mit den Worten „unbeschadet der Anwendung des Artikels 5".
Merksatz: Eine Einwilligung heilt keinen Verstoß gegen Artikel 5, und ein Altsystem genießt keinen Bestandsschutz.
Die Bußgelder für Artikel-5-Verstöße
Verstöße gegen die verbotenen Praktiken bilden die schwerste Bußgeldkategorie des EU AI Act (Art. 99(3)):
| Kategorie | Bußgeldhöhe | Für KMU (Art. 99(6)) |
|---|---|---|
| Verstöße gegen Art. 5 | bis zu 35.000.000 € oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist | jeweils der niedrigere der beiden Werte |
Rechenbeispiel: Ein KMU mit 10 Mio. € Jahresumsatz, das ein Emotionserkennungs-Werkzeug für seine Call-Center-Mitarbeitenden einsetzt, riskiert nach der KMU-Regel maximal 700.000 €, also 7 % von 10 Mio. €. Das liegt weit unter den 35 Mio. € des absoluten Maximums und ist für die meisten Betriebe dennoch existenzbedrohend.
Diese Beträge gelten ausschließlich für Verstöße gegen Artikel 5. Sie lassen sich nicht auf andere Pflichten übertragen. Für den vollständigen Überblick über die Bußgeldstufen lesen Sie unseren Artikel zu den EU AI Act Bußgeldern.
Praktische Sofortmaßnahmen für KMU
1. KI-Inventar auf Art.-5-Tatbestände screenen Gehen Sie alle eingesetzten Systeme durch. Besondere Aufmerksamkeit verdienen Systeme mit:
- Stimmungs- oder Emotionsanalyse aus Stimme, Gesicht oder physiologischen Signalen (Verbot 8)
- Gesichtserkennung oder biometrischer Analyse (Verbote 7, 9, 10)
- Personen-Scoring über mehrere Kontexte hinweg (Verbot 5)
- Funktionen zur Verhaltensbeeinflussung (Verbote 1, 2)
- generativer Bild- und Videoerzeugung (Verbote 3 und 4, ab 2. Dezember 2026)
2. Anbieter schriftlich befragen Fragen Sie Ihre KI-Anbieter, ob ihre Produkte Funktionen enthalten, die unter Artikel 5 fallen können, und fordern Sie die entsprechende Dokumentation an. Bei generativen Systemen gehört seit Sommer 2026 auch die Frage dazu, welche technischen Schutzmaßnahmen gegen die neuen Tatbestände nach Buchstabe ba und bb bestehen.
3. Bei Verdacht: aussetzen, nicht abwarten Wenn ein eingesetztes System möglicherweise unter ein Art.-5-Verbot fällt, setzen Sie es aus, bis die rechtliche Klärung abgeschlossen ist. Ein laufender Verstoß wiegt schwerer als eine vorübergehende Unterbrechung.
Wer überwacht das in Deutschland?
Seit dem 29. Juli 2026 gilt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG). Es macht die Bundesnetzagentur zur zentralen Marktüberwachungsbehörde mit Auffangzuständigkeit. Für KI im direkten Zusammenhang mit regulierten Finanztätigkeiten ist die BaFin zuständig, für Anhang-I-Produkte die jeweiligen Produktbehörden. KI im Personalbereich bleibt auch in Banken und Versicherungen bei der Bundesnetzagentur.
Praktisch bedeutsam ist § 8 KI-MIG: Seit dem 2. August 2026 kann jede natürliche oder juristische Person über ein kostenloses Online-Formular der Bundesnetzagentur einen mutmaßlichen Verstoß melden. Die Behörde leitet die Meldung an die zuständige Marktüberwachungsbehörde weiter. Ein niedrigschwelliger Beschwerdeweg gegen jedes Unternehmen existiert damit.
Bekannt gewordene Bußgeldverfahren nach dem EU AI Act gibt es Stand August 2026 weder in Deutschland noch in einem anderen Mitgliedstaat. Das ist eine Momentaufnahme, kein Dauerzustand: Die Aufsichtsstrukturen sind seit Juli und August 2026 einsatzfähig, und die Meldewege sind offen.
Verbotene Praktiken erkennen, bevor es teuer wird
Die verbotenen KI-Praktiken nach Artikel 5 sind keine Randnormen, sondern die härteste Compliance-Linie des EU AI Act. Anders als bei den Hochrisiko-Pflichten hat der Digital Omnibus hier nichts entschärft, sondern zwei Tatbestände ergänzt.
Für deutsche KMU heißt das: Der erste Schritt ist die systematische Überprüfung des eigenen KI-Einsatzes. Und weil neue Werkzeuge im Arbeitsalltag oft an der Compliance-Abteilung vorbei eingeführt werden, hängt viel daran, ob die Mitarbeitenden selbst erkennen, wann ein Tool in verbotenes Gebiet läuft.
Der Kurs von Forefront AI widmet dem Erkennen verbotener Praktiken ein vollständiges Modul, szenariobasiert und mit Praxisfällen aus dem KMU-Alltag. Zum Abschluss gibt es ein verifizierbares Zertifikat, das Sie Ihrer internen Dokumentation nach Artikel 4 beilegen können.
Erfahren Sie mehr auf unserer Leistungsseite oder sprechen Sie mit uns über unser Kontaktformular.
