KI Dark Patterns: Verbotene Praktiken nach Artikel 5 des EU AI Act
Manipulative KI-Techniken auf Websites sind ab sofort verboten. Erfahren Sie, welche Scripts und Tools unter Artikel 5 fallen – und warum Unwissenheit nicht vor Strafe schützt.
Christian Lechner
Während die Kennzeichnungspflicht (Art. 50) erst ab August 2026 greift, sind die Verbote nach Artikel 5 des EU AI Act bereits seit dem 2. Februar 2025 in Kraft. Das bedeutet: Wer heute verbotene KI-Praktiken auf seiner Website einsetzt, verstößt bereits gegen geltendes EU-Recht.
Das Problem: Viele Unternehmen nutzen Third-Party-Scripts, die genau solche verbotenen Techniken einsetzen – oft ohne es zu wissen.
Was verbietet Artikel 5 konkret?
Der EU AI Act definiert eine klare Liste von unannehmbaren KI-Risiken, die vollständig verboten sind:
1. Unterschwellige Manipulation KI-Systeme, die unterschwellige Techniken einsetzen, um das Verhalten von Personen unbewusst zu beeinflussen, sodass diese Entscheidungen treffen, die sie sonst nicht getroffen hätten. Beispiele auf Websites:
- Dynamische Preisgestaltung basierend auf emotionaler Verfassung
- KI-gesteuerte Urgency-Timer, die künstliche Knappheit erzeugen
- Personalisierte Manipulation der Darstellungsreihenfolge, um zum Kauf zu drängen
2. Ausnutzung von Schwächen KI-Systeme, die gezielt Schwächen bestimmter Personengruppen ausnutzen – sei es aufgrund von Alter, Behinderung oder wirtschaftlicher Situation. Beispiele:
- KI-Chatbots, die ältere Nutzer gezielt zu teuren Produkten lenken
- Algorithmen, die finanziell angeschlagene Nutzer mit Kreditangeboten bombardieren
3. Emotionserkennung am Arbeitsplatz KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sind verboten (mit wenigen medizinischen Ausnahmen). Das betrifft auch Web-Tools, die per Webcam die Stimmung von Mitarbeitern analysieren.
4. Social Scoring KI-Systeme, die Menschen auf Basis ihres sozialen Verhaltens bewerten und benachteiligen. Dies betrifft auch Kunden-Scoring-Systeme, die unverhältnismäßig diskriminieren.
Welche Third-Party-Scripts sind gefährlich?
Viele Website-Betreiber binden unwissentlich Scripts ein, die unter Artikel 5 fallen könnten:
- Emotion-Detection-APIs: Scripts, die per Webcam oder Mausbewegung die Stimmung des Nutzers analysieren
- Manipulative A/B-Testing-Tools: Wenn der Algorithmus gezielt Schwächen ausnutzt
- Dark-Pattern-Plugins: Fake-Countdown-Timer, gefälschte "Nur noch X verfügbar"-Anzeigen
- Persuasion-KI: Chatbots, die psychologische Manipulation einsetzen
Die Strafen: Bis zu 35 Millionen Euro
Verstöße gegen Artikel 5 werden am härtesten bestraft. Die EU sieht Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes vor – je nachdem, welcher Betrag höher ist.
So schützen Sie sich: AIActify Scanner
Der AIActify Risk Scanner analysiert Ihre Website auf potenzielle Verstöße:
- Erkennung von Emotion-Detection-Scripts
- Identifikation manipulativer KI-Patterns
- Prüfung eingebundener Third-Party-Scripts auf Artikel-5-Konformität
- Detaillierter Risikobericht mit konkreten Handlungsempfehlungen
Scannen Sie Ihre Website jetzt kostenlos und erfahren Sie, ob Sie bereits heute gegen den EU AI Act verstoßen.
