Was verlangt Artikel 4 des AI Acts zur KI-Kompetenz?

Seit der Neufassung von Artikel 4 müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und weiterer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten. Ein bestimmtes Niveau an KI-Kompetenz müssen Unternehmen für einzelne Personen jedoch nicht garantieren.

Artikel 4 richtet sich an Anbieter und Betreiber von KI-Systemen. Die Pflicht zur Förderung der KI-Kompetenz ist damit nicht auf Hochrisiko-KI oder bestimmte Branchen beschränkt. Auch Unternehmen, die KI-Systeme lediglich im Arbeitsalltag einsetzen, können als Betreiber von Artikel 4 erfasst sein.

Entscheidend ist die konkrete Rolle des Unternehmens. Ein Unternehmen kann beispielsweise Betreiber sein, wenn Beschäftigte ein extern bereitgestelltes KI-System für betriebliche Aufgaben nutzen. Die Europäische Kommission nennt ausdrücklich auch den Einsatz von ChatGPT etwa zur Erstellung von Werbetexten oder für Übersetzungen als Fall, bei dem die Anforderungen an die KI-Kompetenz zu berücksichtigen sind.

Dabei betrifft Artikel 4 nicht nur eigene Mitarbeitende. Einbezogen sind auch andere Personen, die im Auftrag des Anbieters oder Betreibers mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Hierzu können je nach Konstellation beispielsweise Auftragnehmer oder Dienstleister gehören.

Artikel 4 erfasst grundsätzlich die Mitarbeitenden, die im Rahmen ihrer Tätigkeit mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Unternehmen müssen dabei nicht für alle Beschäftigten dieselben Maßnahmen vorsehen. Entscheidend sind die tatsächlich eingesetzten KI-Systeme, die jeweilige Tätigkeit sowie Kenntnisse, Erfahrung, Aus- und Fortbildung der beteiligten Personen.

Das kann sowohl Beschäftigte betreffen, die regelmäßig mit KI-Systemen arbeiten, als auch Personen, die KI nur für einzelne Aufgaben einsetzen. So bestätigt die Europäische Kommission beispielsweise, dass auch ein Unternehmen, dessen Beschäftigte ChatGPT zur Erstellung von Werbetexten oder für Übersetzungen nutzen, die Anforderungen aus Artikel 4 berücksichtigen muss.

Nicht jede Person benötigt deshalb dieselbe Form oder Tiefe der Qualifizierung. Für Beschäftigte, die lediglich ein freigegebenes KI-Tool für einfache Aufgaben verwenden, können andere Maßnahmen angemessen sein als etwa für Personen, die KI-Systeme auswählen, konfigurieren, Ergebnisse fachlich bewerten oder in risikoreicheren Einsatzbereichen verwenden. Die Kommission hält ausdrücklich unterschiedliche Lern- und Qualifizierungsniveaus je nach Vorwissen, Tätigkeit und eingesetztem System für sachgerecht.

Nein. Artikel 4 schreibt keine einheitliche KI-Schulung für alle Mitarbeitenden vor. Unternehmen müssen Maßnahmen zur Förderung der KI-Kompetenz ergreifen, diese aber an die jeweiligen Personen, deren Vorkenntnisse, Tätigkeiten und die eingesetzten KI-Systeme anpassen.

Eine klassische Schulung kann dabei ein geeignetes Mittel sein, ist aber nicht die einzige mögliche Maßnahme. Die Europäische Kommission nennt ausdrücklich auch andere Formen der Unterstützung und Orientierung. Welche Maßnahmen angemessen sind, hängt unter anderem vom eingesetzten KI-System, dessen Risiken und dem Kompetenzbedarf der jeweiligen Zielgruppe ab.

Auch ein rein formaler Ansatz reicht nicht zwangsläufig aus. Die Kommission weist darauf hin, dass es in vielen Fällen nicht genügen dürfte, Beschäftigte lediglich auf die Gebrauchsanweisung eines KI-Systems zu verweisen. Maßnahmen sollten vielmehr auf den konkreten Nutzungskontext und die jeweiligen Zielgruppen zugeschnitten sein.

Welche Inhalte erforderlich sind, hängt vom jeweiligen Unternehmen, den eingesetzten KI-Systemen und den Aufgaben der betroffenen Personen ab. Einen einheitlichen Lehrplan schreibt Artikel 4 nicht vor. Die Europäische Kommission nennt jedoch mehrere Punkte, die Unternehmen bei der Gestaltung ihrer Maßnahmen berücksichtigen sollten.

Dazu gehört zunächst ein grundlegendes Verständnis von KI: Mitarbeitende sollten insbesondere verstehen, was KI-Systeme sind, wie sie grundsätzlich funktionieren und welche Möglichkeiten und Grenzen mit ihrem Einsatz verbunden sind. Relevant ist außerdem, welche KI-Systeme im eigenen Unternehmen eingesetzt werden und ob das Unternehmen dabei beispielsweise als Anbieter oder Betreiber handelt.

Ein weiterer Schwerpunkt sind die Risiken der konkret eingesetzten KI-Systeme. Die betroffenen Personen sollten verstehen, welche Risiken im jeweiligen Nutzungskontext entstehen können und wie diese vermieden oder gemindert werden können.

Die Maßnahmen sollten außerdem an Kenntnisse, Erfahrung, Aus- und Fortbildung sowie den jeweiligen Einsatzkontext angepasst werden. Je nach Tätigkeit können auch rechtliche, ethische oder organisatorische Aspekte relevant sein.

Ein bestimmtes Zertifikat oder eine vorgegebene Form der Dokumentation schreibt Artikel 4 nicht vor. Unternehmen sollten jedoch nachvollziehbar festhalten können, welche Maßnahmen sie zur Förderung der KI-Kompetenz durchgeführt haben. Die Europäische Kommission nennt hierfür beispielsweise interne Aufzeichnungen über Schulungen oder andere Informations- und Unterstützungsmaßnahmen.

Auch eine formale Prüfung oder Messung des Kompetenzniveaus einzelner Mitarbeitender ist nach Artikel 4 nicht vorgeschrieben. Seit der Neufassung ist zudem ausdrücklich klargestellt, dass Anbieter und Betreiber kein bestimmtes Niveau an KI-Kompetenz für einzelne Personen garantieren müssen.

Für die Praxis kann es dennoch sinnvoll sein, zumindest festzuhalten, welche Personengruppen welche KI-Systeme nutzen, welcher Kompetenzbedarf festgestellt wurde und welche Maßnahmen daraufhin durchgeführt wurden. Damit lässt sich der gewählte Ansatz intern nachvollziehen und bei Änderungen von KI-Systemen oder Einsatzbereichen aktualisieren. Das ist eine praktische Ableitung aus dem risikobasierten Ansatz der Kommission, keine ausdrücklich vorgeschriebene Dokumentationsform.

Artikel 4 schreibt Unternehmen keinen festen Umsetzungsprozess vor. In der Praxis bietet sich jedoch ein risikoorientiertes Vorgehen an: Unternehmen sollten zunächst erfassen, wo KI-Systeme eingesetzt werden, welche Personen damit arbeiten und welcher Kompetenzbedarf sich aus den jeweiligen Aufgaben, eingesetzten KI-Systemen und Einsatzsituationen ergibt.

Mit dieser Checkliste können Unternehmen prüfen, ob die wesentlichen Punkte für die Umsetzung von Artikel 4 berücksichtigt wurden. Sie ist eine praktische Orientierung und kein gesetzlich vorgegebenes Prüfverfahren. Artikel 4 verlangt Maßnahmen zur Unterstützung der Entwicklung von KI-Kompetenz unter Berücksichtigung von Kenntnissen, Erfahrung, Aus- und Fortbildung sowie des jeweiligen Einsatzkontexts.

Weitere Informationen zum EU AI Act
Einen Überblick über weitere Pflichten, Fristen, KI-Kompetenz, Hochrisiko-KI und Governance finden Sie auf unserer Themenseite zum EU AI Act.
→ EU AI Act: Pflichten, Fristen und Checkliste für Unternehmen