Was sind verbotene KI-Praktiken — und seit wann gelten sie?
Verbotene KI-Praktiken nach Artikel 5 der Verordnung (EU) 2024/1689 sind acht KI-Anwendungen, die der europäische Gesetzgeber als inakzeptabel einstuft — unabhängig vom wirtschaftlichen Nutzen, unabhängig von einer Einwilligung der betroffenen Person, unabhängig von der Unternehmensgröße.
Diese Verbote gelten seit dem 2. Februar 2025 — dem frühesten Anwendungszeitpunkt des EU AI Act. Es gibt keine Übergangsfrist, keine Ausnahme für KMU, keine Möglichkeit der Legalisierung durch Einwilligung. Ein Verstoß gegen Artikel 5 ist heute unmittelbar bußgeldbewehrt: bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Art. 99(3)), für KMU jeweils der niedrigere der beiden Werte.
Warum sind diese Praktiken absolut verboten und nicht nur reguliert? Weil der Gesetzgeber der Überzeugung ist, dass bestimmte KI-Anwendungen die Menschenwürde, die Selbstbestimmung und das Vertrauen in demokratische Gesellschaften so fundamental bedrohen, dass kein sachlicher Rechtfertigungsgrund ausreicht.
In unserem Artikel zur Risikoklassifizierung und Risikopyramide finden Sie den Gesamtüberblick über alle vier Risikostufen des EU AI Act. Dieser Artikel konzentriert sich auf die höchste Stufe: das absolute Verbot.
Verbot 1: Manipulative und subliminale KI (Art. 5(1)(a))
Das Verbot: KI-Systeme, die subliminale Techniken unterhalb der Bewusstseinsschwelle einsetzen oder absichtlich manipulative oder täuschende Techniken nutzen, um das Verhalten von Personen in einer Weise zu beeinflussen, die einen erheblichen Schaden verursacht oder verursachen kann.
In einfachem Deutsch: KI, die Menschen manipuliert, ohne dass sie es merken — durch unterschwellige Reize, durch gezielte Ausnutzung psychologischer Schwachstellen, durch Täuschung — ist verboten, wenn dadurch erhebliche Schäden entstehen.
KMU-Relevanz: E-Commerce-Anwendungen, die durch KI-gesteuerte "Dark Patterns" Nutzer zu Käufen drängen, die sie nicht wollen. Personalisierungs-Algorithmen, die gezielt emotionale Schwachstellen ausnutzen, um Konversionen zu steigern. Sprachassistenten, die Kunden durch täuschende Formulierungen zu ungünstigen Entscheidungen lenken.
Abgrenzung: Nicht jede Personalisierung ist manipulativ. Relevante Produktempfehlungen oder benutzerfreundliches Design sind zulässig. Die Verbotslinie liegt bei dem gezielten Einsatz unter die Bewusstseinsschwelle gehender oder täuschender Mechanismen mit schädigender Wirkung.
Verbot 2: Ausnutzung von Schwachstellen (Art. 5(1)(b))
Das Verbot: KI-Systeme, die Schwachstellen bestimmter Personengruppen ausnutzen — aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Situation — und dadurch das Verhalten dieser Personen in einer Weise beeinflussen, die einen erheblichen Schaden verursacht.
In einfachem Deutsch: KI, die gezielt vulnerble Gruppen ausnutzt, ist verboten. Wer weiß, dass bestimmte Nutzer durch ihre Situation besonders beeinflussbar sind, und das systematisch durch KI ausbeutet, verstößt gegen dieses Verbot.
KMU-Relevanz: Kreditangebots-Algorithmen, die verschuldeten Personen in finanzieller Notlage überteuerte Produkte empfehlen. Spieleanwendungen, die KI-gestützt erkennen, welche Nutzer zu Suchtverhalten neigen, und diese gezielt ansprechen. Pflegedienste, die KI nutzen, um älteren Personen mit kognitiven Einschränkungen nicht benötigte Leistungen zu verkaufen.
Verbot 3: Social Scoring (Art. 5(1)(c))
Das Verbot: KI-Systeme, die natürliche Personen über einen bestimmten Zeitraum hinweg auf Basis ihres Sozialverhaltens oder persönlicher Merkmale bewerten oder klassifizieren, wenn diese Bewertung zu ungerechtfertigten oder unverhältnismäßigen Nachteilen führt — in sozialen Kontexten, die unabhängig von dem sind, in dem die Daten erhoben wurden.
In einfachem Deutsch: Wer Personen ein "Sozial-Score" zuweist und diesen Score aus einem Kontext in einen anderen überträgt, um Nachteile zu erzeugen, betreibt verbotenes Social Scoring.
KMU-Relevanz: Dieses Verbot gilt nicht nur für staatliche Akteure — es erfasst auch private Unternehmen. Ein Arbeitgeber, der das Online-Verhalten seiner Mitarbeiter außerhalb der Arbeitszeit per KI auswertet und daraus Konsequenzen für das Arbeitsverhältnis zieht, kann unter dieses Verbot fallen. Ebenso Kreditgeber, die soziale Netzwerkdaten zum Kreditscoring nutzen und dabei ungerechtfertigte Nachteile erzeugen.
Abgrenzung: Sachlich begründetes Bewertungssystem im Kontext ihrer Erhebung — etwa Kreditwürdigkeit auf Basis tatsächlicher Zahlungshistorie innerhalb des Kreditverhältnisses — ist nicht automatisch Social Scoring.
Verbot 4: Prädiktive Kriminalitätsrisiko-Bewertung (Art. 5(1)(d))
Das Verbot: KI-Systeme zur Bewertung des Risikos, dass eine natürliche Person eine Straftat begeht, ausschließlich auf Basis von Profiling oder der Bewertung von Persönlichkeitsmerkmalen — ohne dass ein konkretes strafbares Verhalten vorliegt.
In einfachem Deutsch: Wer KI einsetzt, um vorherzusagen, wer in Zukunft straffällig wird, allein auf Basis von Persönlichkeitsprofilen, ist verboten.
KMU-Relevanz: Für die meisten privaten Unternehmen kaum direkt relevant. Relevant für Sicherheitsdienstleister, Versicherungsunternehmen und HR-Abteilungen, die "Risiko-Scores" für Mitarbeiter oder Bewerber entwickeln, die auf Persönlichkeitsprognosen statt auf konkretem Verhalten basieren.
Verbot 5: Massenhafte Gesichtserkennung durch Scraping (Art. 5(1)(e))
Das Verbot: KI-Systeme, die Gesichtserkennungsdatenbanken durch ungezielte Auswertung von Bildern aus dem Internet oder aus Videoüberwachungen erstellen oder erweitern.
In einfachem Deutsch: Das systematische Scraping öffentlicher Bilder zum Aufbau einer Gesichtsdatenbank ist verboten — unabhängig davon, ob die gescrapten Bilder öffentlich zugänglich waren.
KMU-Relevanz: Direkt relevant für Unternehmen, die Sicherheits- oder Identifikationssoftware entwickeln oder vertreiben. Auch relevant für HR-Tools, die öffentliche Plattformen wie LinkedIn oder XING nach Bildern von Bewerbern durchsuchen und diese automatisiert verarbeiten.
Verbot 6: Emotionserkennung am Arbeitsplatz (Art. 5(1)(f))
Das Verbot: KI-Systeme, die Emotionen von natürlichen Personen am Arbeitsplatz oder in Bildungseinrichtungen inferieren — mit Ausnahmen für Sicherheits- und medizinische Zwecke.
In einfachem Deutsch: KI-Systeme, die analysieren, wie Mitarbeiter oder Schüler sich fühlen, sind verboten. Das gilt für Sprach- und Gesichtsanalyse, für Stimmungsauswertung aus Text sowie für physiologische Signalauswertung.
Das ist die KMU-relevanteste Verbotsnorm — und gleichzeitig eine der am häufigsten übersehenen.
Konkrete verbotene Anwendungsfälle:
- Call-Center-Softare, die Gesprächsmitschnitte analysiert und Stimmungslagen der Mitarbeitenden auswertet
- Videokonferenz-Tools mit automatischer Emotional-Analytics-Funktion für Teilnehmende
- Personalmanagement-Software, die über Kamerasignale Konzentration oder Engagement von Mitarbeitenden bewertet
- E-Learning-Plattformen in Unternehmen, die Lernende durch Kamera auf Aufmerksamkeit überwachen
Wichtig: Ausnahmen gelten nur für medizinische Zwecke und Sicherheitsanwendungen — nicht für Produktivitäts- oder HR-Zwecke.
Wenn Ihr Unternehmen solche Tools aktuell einsetzt: Das ist nicht ein Compliance-Risiko für die Zukunft — das ist ein bereits bestehender Verstoß gegen Art. 5(1)(f) mit vollem Bußgeldrisiko.
Verbot 7: Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5(1)(g))
Das Verbot: Biometrische Kategorisierungssysteme, die natürliche Personen einzeln auf Basis ihrer biometrischen Daten kategorisieren, um Rückschlüsse auf Rasse, politische Meinungen, Gewerkschaftsmitgliedschaft, Religion, Sexualleben oder sexuelle Orientierung zu ziehen.
In einfachem Deutsch: KI, die aus Gesichtsbildern oder anderen biometrischen Daten auf Ethnizität, Religion oder sexuelle Orientierung schließt, ist verboten.
KMU-Relevanz: HR-Systeme, die Bewerbungsfotos oder Kameraaufnahmen auswerten und dabei implizit oder explizit Rückschlüsse auf die ethnische Zugehörigkeit ziehen. Sicherheitssysteme, die biometrische Merkmale zur Kategorisierung von Personengruppen nutzen. Marketingsysteme, die Kundensegmentierung auf Basis von Gesichtsmerkmalen vornehmen.
Verbot 8: Biometrische Echtzeit-Überwachung in öffentlichen Räumen (Art. 5(1)(h))
Das Verbot: Einsatz von KI-Systemen zur biometrischen Echtzeit-Fernidentifikation in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden — mit sehr engen Ausnahmen (unmittelbare Terrorbedrohung, Suche nach Vermissten, Verfolgung schwerer Straftaten mit richterlicher Genehmigung).
In einfachem Deutsch: Live-Gesichtserkennung in der Öffentlichkeit durch Polizei und Strafverfolgung ist grundsätzlich verboten.
KMU-Relevanz: Für private Unternehmen in öffentlichen Räumen ist biometrische Echtzeit-Identifikation ebenfalls hochproblematisch — zwar richtet sich Art. 5(1)(h) spezifisch an Strafverfolgungsbehörden, aber private Sicherheitsdienste und Einzelhandelsunternehmen, die Gesichtserkennung in ihren Räumlichkeiten einsetzen, stoßen auf parallele rechtliche Hindernisse durch DSGVO und andere Verbotstatbestände.
Der entscheidende Grundsatz: Einwilligung heilt nicht
Ein fundamentales Missverständnis in der Praxis: "Wenn die Mitarbeitenden oder Kunden einwilligen, ist es erlaubt."
Das ist falsch. Die Verbote des Artikel 5 sind absolute Verbote — kein Einwilligungs-, Vertrags- oder Interessenabwägungsvorbehalt. Die Einwilligung einer betroffenen Person kann eine verbotene Praktik nicht legalisieren. Das unterscheidet die Art.-5-Verbote fundamental von vielen anderen datenschutzrechtlichen Anforderungen.
Merksatz: Consent does not cure. Eine Einwilligung heilt keinen Art.-5-Verstoß.
Die Bußgelder für Artikel-5-Verstöße
Verstöße gegen die verbotenen Praktiken sind die schwerste Bußgeldkategorie des EU AI Act (Art. 99(3)):
| Kategorie | Bußgeldhöhe | Für KMU (Art. 99(6)) |
|---|---|---|
| Verstöße gegen Art. 5 | Bis zu 35.000.000 € oder 7 % des weltweiten Jahresumsatzes | Jeweils der niedrigere der beiden Werte |
Rechenbeispiel: Ein KMU mit 10 Mio. € Jahresumsatz, das ein Emotionserkennungs-Tool für seine Call-Center-Mitarbeiter einsetzt, riskiert maximal 700.000 € (7 % von 10 Mio. €) — weit unter den 35 Mio. € des absoluten Maximums, aber für die meisten KMU dennoch existenzbedrohend.
Für den vollständigen Überblick über alle Bußgeldkategorien und -stufen lesen Sie unseren Artikel zu den EU AI Act Bußgeldern.
Praktische Sofortmaßnahmen für KMU
Da die Verbote seit dem 2. Februar 2025 gelten, ist jetzt der richtige Zeitpunkt für eine Bestandsaufnahme:
1. Screening des KI-Inventars auf Art.-5-Tatbestände Gehen Sie alle eingesetzten KI-Systeme durch und prüfen Sie: Enthält eines der Systeme Funktionen, die unter eines der acht Verbote fallen? Besondere Aufmerksamkeit verdienen Systeme mit:
- Stimmungs- oder Emotionsanalyse (→ Verbot 6)
- Gesichtserkennung oder biometrischer Analyse (→ Verbote 5, 7, 8)
- Personen-Scoring über mehrere Kontexte hinweg (→ Verbot 3)
- Verhaltensbeeinflussungsfunktionen (→ Verbote 1, 2)
2. Anbieter befragen Fragen Sie Ihre KI-Anbieter schriftlich, ob ihre Produkte Funktionen enthalten, die unter Art. 5 fallen könnten. Fordern Sie die entsprechende Dokumentation an.
3. Bei Verdacht: sofort handeln Wenn ein eingesetztes System möglicherweise unter ein Art.-5-Verbot fällt: System suspendieren, bis die rechtliche Klärung abgeschlossen ist. Ein laufender Verstoß ist schlimmer als eine temporäre Unterbrechung.
Verbotene Praktiken erkennen — bevor es teuer wird
Die acht verbotenen KI-Praktiken nach Artikel 5 sind keine Randnormen — sie sind die härteste Compliance-Linie des EU AI Act. Ein Verstoß ist seit dem 2. Februar 2025 sofort bußgeldbewehrt, und das maximale Bußgeld übersteigt alle anderen Kategorien.
Für deutsche KMU gilt: Der erste Schritt ist die systematische Überprüfung des eigenen KI-Einsatzes. Wer seine Mitarbeiter dafür schult, die acht Verbote zu erkennen — im eigenen Arbeitskontext, bei neuen Tool-Anschaffungen, bei Vertragsverhandlungen mit KI-Anbietern — schafft den wirksamsten Schutz vor Art.-5-Verstößen.
Forefront AIs 5-Modul-Zertifizierungskurs widmet dem Erkennen verbotener Praktiken ein vollständiges Kursmodul — szenariobasiert, mit Praxisfällen aus dem KMU-Alltag, prüfbar mit verifizierbarem QR-Code-Zertifikat. Damit erfüllen Ihre Mitarbeitenden gleichzeitig die KI-Kompetenzpflicht nach Artikel 4.
Erfahren Sie mehr auf unserer Leistungsseite — oder sprechen Sie direkt mit uns über die Compliance-Situation Ihres Unternehmens über unser Kontaktformular.