KI Dark Patterns: Verbotene Praktiken nach Artikel 5 des EU AI Act

Während die Kennzeichnungspflicht (Art. 50) erst ab August 2026 greift, sind die Verbote nach Artikel 5 des EU AI Act bereits seit dem 2. Februar 2025 in Kraft. Das bedeutet: Wer heute verbotene KI-Praktiken auf seiner Website einsetzt, verstößt bereits gegen geltendes EU-Recht.

Das Problem: Viele Unternehmen nutzen Third-Party-Scripts, die genau solche verbotenen Techniken einsetzen – oft ohne es zu wissen.

Was verbietet Artikel 5 konkret?

Der EU AI Act definiert eine klare Liste von unannehmbaren KI-Risiken, die vollständig verboten sind:

1. Unterschwellige Manipulation KI-Systeme, die unterschwellige Techniken einsetzen, um das Verhalten von Personen unbewusst zu beeinflussen, sodass diese Entscheidungen treffen, die sie sonst nicht getroffen hätten. Beispiele auf Websites:

• Dynamische Preisgestaltung basierend auf emotionaler Verfassung
• KI-gesteuerte Urgency-Timer, die künstliche Knappheit erzeugen
• Personalisierte Manipulation der Darstellungsreihenfolge, um zum Kauf zu drängen

2. Ausnutzung von Schwächen KI-Systeme, die gezielt Schwächen bestimmter Personengruppen ausnutzen – sei es aufgrund von Alter, Behinderung oder wirtschaftlicher Situation. Beispiele:

• KI-Chatbots, die ältere Nutzer gezielt zu teuren Produkten lenken
• Algorithmen, die finanziell angeschlagene Nutzer mit Kreditangeboten bombardieren

3. Emotionserkennung am Arbeitsplatz KI-Systeme zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen sind verboten (mit wenigen medizinischen Ausnahmen). Das betrifft auch Web-Tools, die per Webcam die Stimmung von Mitarbeitern analysieren.

4. Social Scoring KI-Systeme, die Menschen auf Basis ihres sozialen Verhaltens bewerten und benachteiligen. Dies betrifft auch Kunden-Scoring-Systeme, die unverhältnismäßig diskriminieren.

Welche Third-Party-Scripts sind gefährlich?

Viele Website-Betreiber binden unwissentlich Scripts ein, die unter Artikel 5 fallen könnten:

• Emotion-Detection-APIs: Scripts, die per Webcam oder Mausbewegung die Stimmung des Nutzers analysieren
• Manipulative A/B-Testing-Tools: Wenn der Algorithmus gezielt Schwächen ausnutzt
• Dark-Pattern-Plugins: Fake-Countdown-Timer, gefälschte "Nur noch X verfügbar"-Anzeigen
• Persuasion-KI: Chatbots, die psychologische Manipulation einsetzen

Die Strafen: Bis zu 35 Millionen Euro

Verstöße gegen Artikel 5 werden am härtesten bestraft. Die EU sieht Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes vor – je nachdem, welcher Betrag höher ist.

So schützen Sie sich: AIActify Scanner

Der AIActify Risk Scanner analysiert Ihre Website auf potenzielle Verstöße:

• Erkennung von Emotion-Detection-Scripts
• Identifikation manipulativer KI-Patterns
• Prüfung eingebundener Third-Party-Scripts auf Artikel-5-Konformität
• Detaillierter Risikobericht mit konkreten Handlungsempfehlungen

Scannen Sie Ihre Website jetzt kostenlos und erfahren Sie, ob Sie bereits heute gegen den EU AI Act verstoßen.

Kostenlosen Scan starten