EU-Kommission präsentiert Entwurf von Richtlinien zu verbotenen KI-Praktiken im Rahmen des KI-Gesetzes

Diese Initiative ist Teil des umfassenderen Ziels der EU, technologische Innovationen mit dem Schutz von Grundrechten und europäischen Werten in Einklang zu bringen. Der Entwurf soll als Hilfsmittel für verschiedene Interessengruppen – von Technologieentwicklerinnen und Technologieentwicklern bis hin zu Rechtsexpertinnen und Rechtsexperten – dienen und bietet sowohl juristische Erklärungen als auch praktische Beispiele. Mit diesem dualen Ansatz sollen Organisationen die Anforderungen des KI-Gesetzes – des weltweit ersten umfassenden Rechtsrahmens für künstliche Intelligenz – besser verstehen und umsetzen können. Obwohl das Dokument Einblicke in die Interpretation der Verbote durch die Kommission gibt, ist es nicht rechtsverbindlich. Die endgültige rechtliche Auslegung obliegt letztlich dem Gerichtshof der Europäischen Union (EuGH).

Eine klare Haltung zu unzulässigen KI-Anwendungen

Der Entwurf liefert einen detaillierten Überblick über KI-Praktiken, die die Kommission aufgrund ihrer potenziellen Risiken als inakzeptabel einstuft. Zu den hervorgehobenen Praktiken zählen unter anderem schädliche Manipulation, soziales Scoring und biometrische Fernidentifizierung in Echtzeit. Diese Aktivitäten sind besonders bedenklich, da sie individuelle Freiheiten schwächen und erhebliche gesellschaftliche Risiken mit sich bringen können. Das KI-Gesetz teilt KI-Systeme in verschiedene Risikokategorien ein:

• Verbotene Praktiken: KI-Systeme, deren Einsatz fundamentale Rechte und das öffentliche Vertrauen gefährden könnte.

• Hochrisikosysteme: Anwendungen, die einer strengen behördlichen Kontrolle bedürfen.

• Transparenzpflichten: Systeme, die spezifische Offenlegungsanforderungen erfüllen müssen.

Der Schwerpunkt der Richtlinien liegt darauf, Klarheit darüber zu schaffen, welche Praktiken in die Kategorie der verbotenen Anwendungen fallen. Damit will die Kommission ein sichereres digitales Umfeld fördern, in dem Innovation nicht auf Kosten ethischer Standards geht. Die Richtlinien untersagen den Einsatz, das Inverkehrbringen oder die Bereitstellung von KI-Systemen, die in manipulativen, ausbeuterischen oder schädlichen Aktivitäten wie sozialer Kontrolle oder Überwachung involviert sind – Praktiken, die gegen Grundrechte und EU-Werte verstoßen. Solche Anwendungen untergraben zentrale Prinzipien wie Menschenwürde, Freiheit, Gleichheit, Demokratie und Rechtsstaatlichkeit, wie sie in der Charta der Grundrechte der Europäischen Union verankert sind, einschließlich des Rechts auf Nichtdiskriminierung, Datenschutz, Privatsphäre, Meinungsfreiheit und ein faires Verfahren.

Nächste Schritte 

Das KI-Gesetz ist seit dem 01. August 2024 in Kraft und wird ab dem 02. August 2026 vollständig anwendbar sein. Die Governance-Regeln und Verpflichtungen für allgemeine KI-Modelle treten bereits am 02. August 2025 in Kraft. Für hochriskante KI-Systeme, die in regulierten Produkten eingebettet sind, wurde zudem eine verlängerte Übergangsfrist bis zum 02. August 2027 eingeräumt. Obwohl der Entwurf der Richtlinien die Zustimmung der Kommission erhalten hat, ist er noch nicht formell verabschiedet worden. Interessengruppen werden aufgefordert, das Dokument zu prüfen und sich auf mögliche Auswirkungen vorzubereiten, während sich der regulatorische Rahmen weiterentwickelt. Da die EU weiterhin eine Vorreiterrolle in der KI-Regulierung einnimmt, könnten diese Richtlinien weltweit einen Maßstab dafür setzen, wie der Einsatz von KI-Technologien mit ethischen und menschenrechtlichen Überlegungen in Einklang gebracht wird.