KI-Kompetenz wird Pflicht: Was Unternehmen und Behörden jetzt beachten müssen

‍

Ab dem 2. Februar greift der AI Act – und mit ihm die Verpflichtung für Unternehmen und Behörden, sicherzustellen, dass ihr Personal über ausreichende KI-Kenntnisse verfügt. Was das bedeutet und welche Konsequenzen drohen.

Neue Vorschriften: KI-Kompetenz als regulatorische Anforderung

Der EU AI Act bringt tiefgreifende Änderungen für den Einsatz von KI in Unternehmen und Behörden. Eine zentrale Neuerung: Ab dem 2. Februar 2025 müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass ihr Personal über ein „ausreichendes Maß an KI-Kompetenz“ verfügt. Diese Anforderung betrifft nicht nur Technologieunternehmen, sondern nahezu jede Organisation, die KI in irgendeiner Form einsetzt.

Wer ist betroffen?

Die Regelung betrifft Anbieter und Betreiber von KI-Systemen gleichermaßen. Dazu zählen nicht nur Entwickler, sondern auch Unternehmen, die KI-Systeme einsetzen – sei es zur Automatisierung von Prozessen, im Kundenservice oder für datenbasierte Entscheidungen. Angesichts der weit gefassten Definition des Begriffs „Betreiber“ sind früher oder später nahezu alle Unternehmen und Behörden in der Pflicht.

Was umfasst „ausreichende KI-Kompetenz“?

Die Definition bleibt bewusst vage: Es geht darum, KI-Technologien kritisch hinterfragen zu können, ihre Auswirkungen zu verstehen und sie verantwortungsvoll einzusetzen. Unternehmen und Behörden müssen selbst definieren, welche Schulungen oder Qualifikationen in ihrem spezifischen Kontext erforderlich sind. Dabei gilt das Prinzip der „besten Kräfte“ – sie müssen nachweislich alle angemessenen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden sicherzustellen.

Hochrisiko-KI-Systeme: Strengere Anforderungen

Besonders hohe Anforderungen gelten für den Umgang mit Hochrisiko-KI-Systemen – also solchen, die erhebliche Auswirkungen auf Sicherheit, Gesundheit oder Grundrechte haben. Unternehmen, die solche Systeme betreiben, müssen speziell qualifizierte Mitarbeitende einsetzen, die in der Lage sind, wissensbasierte Entscheidungen zu treffen und KI-Systeme im Notfall abzuschalten.

Sanktionen bei Verstößen

Unzureichende KI-Kompetenz kann erhebliche Folgen haben: Neben möglichen Haftungsansprüchen drohen Bußgelder und Sanktionen. Geschäftsführende können persönlich haftbar gemacht werden, wenn sie ihren Verpflichtungen nicht nachkommen. Noch ist unklar, in welcher Höhe Sanktionen auf nationaler Ebene festgelegt werden – doch der AI Act sieht bereits klare Vorgaben für empfindliche Strafen vor.

Fazit: KI-Kompetenz als Compliance-Pflicht

Unternehmen und Behörden sollten sich dringend mit den neuen Anforderungen auseinandersetzen. Wer KI nutzt, muss nicht nur die Technologie verstehen, sondern auch nachweisen können, dass Mitarbeitende entsprechend geschult sind. Eine gut dokumentierte Strategie zur KI-Kompetenz wird damit zu einem zentralen Bestandteil der Compliance.

‍