Diese KI-SYSTEME sind ab dem 2. Februar VERBOTEN! (EU AI ACT)

Die EU hat den AI Act endlich verabschiedet – und ab dem 2. Februar 2025 stehen die ersten radikalen Maßnahmen an. Für dich als Unternehmer ist es entscheidend, jetzt zu wissen, welche KI-Praktiken verboten sind, welche Sanktionen drohen und wie du dein Unternehmen davor schützen kannst, teure Fehler zu begehen. In diesem Artikel erfährst du alles Wichtige rund um die neuen Vorschriften, Bußgelder und den Umgang mit verbotenen KI-Systemen.

Überblick: Der EU AI Act und seine Auswirkungen

Der EU AI Act, der Mitte letzten Jahres in Kraft getreten ist, markiert einen Wendepunkt in der Nutzung von Künstlicher Intelligenz. Bereits ab Februar 2025 werden erste KI-Systeme komplett verboten – und das fast ohne relevante Ausnahmen für die Praxis. Das Ziel dieser Verordnung ist klar: manipulative, ausbeuterische und soziale Kontrollpraktiken mit KI sollen verhindert werden, um potenziell große Schäden für Bürger und Unternehmen zu vermeiden.

Als Unternehmer musst du ab sofort genau wissen, ob und inwiefern du betroffen bist. Verstößt du gegen die neuen Regelungen, drohen nicht nur empfindliche Bußgelder, sondern auch zusätzliche Schadensersatzansprüche und strafrechtliche Konsequenzen.

Die 8 kritischen verbotenen KI-Praktiken im Überblick

Der AI Act definiert in Artikel 5 genau, welche KI-Anwendungen nicht zulässig sind. Hier die wichtigsten Punkte:

• Manipulative und täuschende KI-Systeme:
  Systeme, die Menschen unterbewusst zu Handlungen bewegen, die sie unter normalen Umständen nicht ausführen würden – beispielsweise in Werbung, Sales oder Chatbots.

• Ausbeuterische KI-Praktiken:
  KI-Anwendungen, die gezielt Schwächen aufgrund von Alter, Behinderung oder sozialer Lage ausnutzen.

• Social Scoring:
  Systeme, die das soziale Verhalten bewerten und dadurch zu Benachteiligungen führen – ein klarer Rückschlag an das bekannte Social Credit System.

• Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen:
  Das Erfassen und Auswerten von Emotionen mittels KI ist in diesen sensiblen Bereichen verboten.

• Biometrische Kategorisierung:
  Eine Klassifizierung von Personen anhand sensibler biometrischer Merkmale, die unter Artikel 9 der DSGVO fallen.

• Vorhersage von Straftaten:
  KI-Systeme, die zukünftige Straftaten prognostizieren, sind vor allem für Strafverfolgungsbehörden relevant – für Unternehmen in der Regel nicht anwendbar.

• Echtzeitfernidentifizierung:
  Live-Identifizierung von Menschen im öffentlichen Raum, ein Bereich, der ausschließlich für Strafverfolgungszwecke vorgesehen ist.

• Ungezielte Gesichtsdatenbanken:
  Die Erstellung oder Erweiterung von Datenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder Überwachungsaufnahmen widerspricht dem Grundgedanken des Datenschutzes.

Konkrete Sanktionen: Bußgelder und mehr

Wer gegen die neuen KI-Vorschriften verstößt, muss mit empfindlichen Strafen rechnen. Die Bußgelder reichen bis zu 40 Millionen Euro oder 7 % des weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist. Für Startups gibt es zwar leichte Ermäßigungen, aber auch hier gilt: Bei Verstößen drohen zusätzlich Schadensersatzansprüche und im schlimmsten Fall strafrechtliche Konsequenzen.

Besonders heikel wird es, wenn sich ein Unternehmen gleichzeitig auch mit Datenschutzverstößen (DSGVO) konfrontiert sieht. In solchen Fällen können sich die finanziellen Belastungen schnell auf bis zu 60 Millionen Euro summieren – eine Warnung, die niemanden kalt lassen sollte.

Besondere Verbote im Sozialbereich und in sensiblen Sektoren

Die EU will mit dem AI Act sicherstellen, dass KI nicht dazu genutzt wird, Menschen zu manipulieren oder auszubeuten. Besonders betroffen sind Bereiche wie:

• Werbung und Sales:
  Manipulative KI-Systeme, die Kunden zu unerwünschten Käufen verleiten oder in die Irre führen.

• Chatbots:
  Systeme, die durch täuschende Mechanismen Menschen zu Handlungen bewegen sollen.

• Soziale Kontrollsysteme:
  Jegliche Form von Social Scoring, die zu Benachteiligungen führt, ist strikt untersagt.

• Emotionserkennung in Arbeits- und Bildungseinrichtungen:
  Der Einsatz solcher Systeme kann gravierende Folgen haben, da sie auf unsicheren wissenschaftlichen Erkenntnissen basieren.

Diese Maßnahmen sollen verhindern, dass KI als Instrument der sozialen Kontrolle oder gar als Überwachungsmechanismus missbraucht wird.

Datenschutz und Überwachung: Ungezielte Gesichtsdatenbanken vermeiden

Ein weiterer zentraler Aspekt des AI Acts betrifft den Datenschutz. Die Erstellung ungezielter Gesichtsdatenbanken, die etwa durch das automatische Auslesen von Bildern aus dem Internet oder Überwachungsaufnahmen entstehen, wird verboten. Diese Regelung zielt darauf ab, den Gedanken des Überwachungsstaates zu unterbinden und deine Kundendaten sowie die Privatsphäre zu schützen.

Fazit: So schützt du dein Unternehmen vor empfindlichen Strafen

Der EU AI Act bringt weitreichende Änderungen mit sich, die insbesondere für Unternehmen, die KI-Systeme einsetzen, von großer Bedeutung sind. Es ist jetzt wichtiger denn je, genau zu prüfen, welche KI-Anwendungen du nutzt und ob sie den neuen regulatorischen Rahmenbedingungen entsprechen. Ein Versäumnis kann zu hohen Bußgeldern, Schadensersatzforderungen und im schlimmsten Fall sogar strafrechtlichen Konsequenzen führen.

Tipp: Lass dich frühzeitig beraten, passe deine Systeme an die neuen Anforderungen an und bleibe immer up-to-date mit den gesetzlichen Änderungen. So kannst du sicherstellen, dass dein Unternehmen auch in Zukunft rechtlich abgesichert ist und von den innovativen Möglichkeiten der KI profitiert – ohne unnötige Risiken einzugehen.