Die Europäische Union reguliert künstliche Intelligenz
Die Europäische Union hat am 21. Mai 2024 ein neues Gesetz zur Regulierung künstlicher Intelligenz verabschiedet: den sogenannten AI Act. Es handelt sich um das weltweit erste umfassende Regelwerk dieser Art und es gilt als möglicher globaler Maßstab für den Umgang mit KI‑Systemen.
Was beinhaltet der AI Act?
Der AI Act legt klare Vorgaben für den Einsatz von Künstlicher Intelligenz fest. Ziel ist es, Risiken zu minimieren und gleichzeitig Innovation zu ermöglichen. Das Gesetz unterscheidet verschiedene Risikoklassen und verbietet bestimmte KI‑Anwendungen vollständig, insbesondere solche, die als besonders risikoreich eingestuft werden.
Zu den verbotenen Anwendungen gehören unter anderem Systeme zur Bewertung sozialen Verhaltens („Social Scoring“) sowie KI‑Systeme zur Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen. Auch eine flächendeckende Gesichtserkennung im öffentlichen Raum ist grundsätzlich untersagt. Ausnahmen gelten lediglich für Sicherheits‑ und Strafverfolgungsbehörden unter strengen Voraussetzungen.
Darüber hinaus sieht der AI Act vor, dass KI‑Systeme transparent, nachvollziehbar, diskriminierungsfrei und umweltverträglich sein müssen. Zudem ist eine menschliche Überwachung der Systeme verpflichtend – KI darf Entscheidungen nicht vollständig autonom treffen.
Sanktionen bei Verstößen
Bei Verstößen gegen die Vorgaben des AI Act sind die Mitgliedstaaten verpflichtet, wirksame Sanktionen festzulegen. Diese können auch erhebliche Geldbußen umfassen. Darüber hinaus haben Privatpersonen die Möglichkeit, mutmaßliche Verstöße bei den zuständigen nationalen Behörden zu melden. Diese können Prüf‑ und Überwachungsverfahren einleiten und bei Bedarf Maßnahmen gegen betroffene Unternehmen ergreifen.
Inkrafttreten und Anwendbarkeit
Nach der Veröffentlichung des Gesetzes im Amtsblatt der Europäischen Union treten die Regelungen 20 Tage später in Kraft. Die praktische Anwendung des Gesetzes erfolgt dann zwei Jahre nach Inkrafttreten. Unternehmen erhalten somit eine Übergangszeit, um ihre KI‑Systeme an die neuen Vorgaben anzupassen.
Wer ist betroffen?
Der AI Act betrifft alle Akteure, die KI‑Systeme innerhalb der Europäischen Union entwickeln, anbieten oder einsetzen. Dies umfasst sowohl öffentliche als auch private Organisationen – unabhängig davon, ob sie ihren Sitz innerhalb oder außerhalb der EU haben, sofern ihre KI‑Systeme in der EU genutzt werden.
Was können Unternehmen jetzt tun?
Unternehmen, die KI einsetzen oder dies planen, sollten sich frühzeitig mit den neuen Anforderungen auseinandersetzen. Insbesondere sind folgende Punkte zu berücksichtigen:
- Durchführung einer Risikobewertung beim Einsatz von KI‑Systemen
- Sensibilisierung und Schulung der Mitarbeitenden im Umgang mit KI
- Erstellung interner Richtlinien zur Nutzung von KI
- Einsatz von KI‑Systemen im Einklang mit Datenschutz‑ und Compliance‑Vorgaben
Unterstützung bei der rechtssicheren Einordnung und Umsetzung neuer regulatorischer Anforderungen bieten unsere Compliance‑ & Datenschutz‑Lösungen für Unternehmen.
Um den verantwortungsvollen Umgang mit KI nachhaltig im Unternehmen zu verankern, empfehlen sich zudem Datenschutz‑ & Compliance‑Schulungen für Mitarbeitende.
Haben Sie Fragen zum AI Act, zum Einsatz von KI, Datenschutz, DSGVO oder Compliance‑Pflichten in Ihrem Unternehmen? Wir unterstützen Unternehmen mit praxisnaher Beratung, strukturierten Lösungen und klarer Orientierung. Nehmen Sie gerne unverbindlich Kontakt mit uns auf.