Relevantes Detail im EU AI Act: KI-Kompetenz ist ab sofort Pflicht

EU AI Act: Die erste umfassende KI-Regulierung

Am 1. August 2024 trat der durch die Europäische Union im Juli 2024 verabschiedete AI Act in Kraft. Es handelt sich hierbei um die weltweit erste umfassende Regulierung für künstliche Intelligenz (KI) und bietet allen EU-Staaten einen Rahmen für die Einführung und die Nutzung von KI in Unternehmen und Organisationen.

Das übergeordnete Ziel: ein sicherer, ethischer und transparenter Einsatz von KI, der Grundrechte schützt. Dafür klassifiziert die Verordnung KI-Systeme zunächst in vier Risikokategorien:

Spätestens mit dem Inkrafttreten des AI Acts steht also fest: Unternehmen müssen sich auf Veränderungen im Umgang mit KI einstellen. Für Banken, deren KI-Systeme sich hauptsächlich der Kategorie niedriges Risiko zuordnen lassen, besteht zunächst einmal kein Grund, sich Sorgen zu machen. Wichtig ist jedoch, dass frühzeitig Klarheit über die zu ergreifenden Maßnahmen geschaffen wird.

Warum KI-Kompetenz jetzt so wichtig ist

Seit 2. Februar 2025 gelten neue Regelungen des EU AI Acts (KI-Verordnung [KI-VO]). Zu diesen zählt Artikel 4, der sowohl Anbieter als auch Betreiber von KI-Systemen dazu verpflichtet, eine ausreichende KI-Kompetenz im Umgang mit KI-Systemen sicherzustellen.

Konkret bedeutet das: Unternehmen müssen Maßnahmen in Form von Schulungen und Anleitungen ergreifen, um sicherzustellen, dass ihre Beschäftigten ausreichen- des Wissen und Verständnis für den sachkundigen Einsatz und das Einschätzen von Chancen und Risiken im Umgang mit KI-Systemen besitzen.

Zwar formuliert die KI-VO die konkreten Anforderungen nur abstrakt, doch die Richtung ist klar: Mitarbeiterinnen und Mitarbeiter sollen ein fundiertes technisches, ethisches und rechtliches Verständnis im Zusammenhang mit dem Einsatz von KI-Systemen besitzen. Diese Verpflichtung betrifft Unternehmen jeder Branche und Größe – von Entwicklern über Anbietern bis hin zu Anwendern von KI-Systemen.

Besonders für Betreiber von KI-Systemen ist eine fundierte Schulung der Mitarbeiter wichtig. Nur so kann sichergestellt werden, dass Compliance-Anforderungen erfüllt, Risiken wie Bias (Voreingenommenheit) oder Datenschutzverstöße minimiert und Verantwortung übernommen werden kann. Mit Artikel 4 der KI- VO wird KI-Kompetenz zur geschäftlichen Notwendigkeit – Unternehmen müssen jetzt handeln.

KI-Kompetenz steigern: Wie Unternehmen ihre Mitarbeiterinnen und Mitarbeiter effektiv schulen sollten

Um die KI-Kompetenz der eigenen Beschäftigten zu er- höhen, sollten Unternehmen zunächst eine Bestandsaufnahme der bereits eingesetzten und in Zukunft für den Einsatz vorgesehenen KI-Systeme durchführen und diese in Bezug auf ihre Risikokategorien bewerten.

Werden keine Hochrisikosysteme identifiziert, konzentrieren sich die Pflichten auf zwei wesentliche Maßnahmen: Transparenz schaffen und Mitarbeiterschulungen durchführen. Zunächst sollte dabei der Schulungsbedarf analysiert und die Beschäftigten oder Teams identifiziert werden, die Weiterbildungsbedarf haben. Die Schulungen selbst sollten drei zentrale Bereiche abdecken:

1. Technisches Wissen

Mitarbeiterinnen und Mitarbeiter sollten grundlegende Kenntnisse über die Funktionsweise und Bewertung von KI-Systemen sowie deren Einsatzmöglichkeiten und Risiken (zum Beispiel Bias, Halluzinationen) erlangen.

2. Rechtliches Wissen

Die Schulungen müssen den datenschutzrechtlichen Um- gang mit KI-Systemen vermitteln, sodass die Beschäftigten ihre Rechte und Pflichten im Umgang mit KI kennen.

3. Ethisches Wissen

Ein weiterer Fokus sollte auf den ethischen Standards und dem verantwortungsvollen Einsatz von KI liegen.

Zur Nachverfolgbarkeit der Schulungsmaßnahmen sollten Unternehmen Zertifikate oder dokumentierte Abschlüsse vergeben, um die Einhaltung der gesetzlichen Vorgaben zu belegen. Zur Sicherstellung eines nachhaltigen Umgangs mit den gesetzlichen Vorgaben sollten darüber hinaus kontinuierliche Schulungsprogramme entwickelt werden, die über die Erstschulung hinausgehen.

Folgen bei Nichteinhaltung: Haftungsrisiken durch fehlende KI-Kompetenz

Während es bei Verstößen gegen die Regelungen rund um verbotene KI-Praktiken und Hochrisikosysteme zu hohen Bußgeldern bis zu 35 Millionen Euro kommen kann, gibt es keine Hinweise auf Bußgelder bei Verstößen gegen Artikel 4 der KI-VO.

Sanktionen bei Nichtnachweisbarkeit von KI-Kompetenz werden in der Verordnung nicht konkret formuliert. Dennoch birgt das Nichtnachweisen von KI-Kompetenz potenzielle Haftungsrisiken für Unternehmen. Durch fehlerhafte Bedienung oder unzureichende Risikobewertung eines KI-Systems können Schäden entstehen, die als Verstoß gegen die Sorgfaltspflicht des Arbeitgebers ausgelegt werden können.

Das Bespiel zeigt: Auch wenn keine direkten Bußgelder drohen, kann eine unzureichende Umsetzung von KI-Kompetenz zu Haftungsrisiken führen. Daher sollten Unternehmen rechtzeitig Schulungsmaßnahmen ergreifen, diese dokumentieren und sicherstellen, dass ihre Mitarbeiterinnen und Mitarbeiter über die notwendigen Fähigkeiten verfügen, um gesetzlichen Anforderungen gerecht zu werden.

Fazit: Wie Unternehmen von der EU-Verordnung profitieren können

Die gesetzliche Verpflichtung zum Nachweis von KI-Kompetenzen sowie die engen Fristen zur Umsetzung stellen eine Herausforderung dar. Doch diese Anforderungen bieten auch eine wertvolle Chance: Wer frühzeitig in die Qualifikation seiner Beschäftigten investiert, kann Wettbewerbsvorteile sichern und Risiken minimieren.

Der EU AI Act impliziert zwar auf den ersten Blick bloße Regulierung und Einschränkung, bei genauerer Betrachtung lässt sich jedoch viel Positives abgewinnen. Durch den Aufbau von Vertrauen, Klarheit und Verständnis für den Umgang mit KI-Systemen wird nicht nur die Compliance sichergestellt, sondern auch die Produktivität und Zukunftsfähigkeit des Unternehmens gefördert.