EU AI Act verstehen und umsetzen: KI-Strategie für KMU

KI verändert die Personalarbeit und der EU AI Act setzt dafür klare Leitplanken. Wer KI in Recruiting, Auswahl, Weiterbildung oder HR-Prozessen verantwortungsvoll nutzt, stärkt nicht nur Rechtssicherheit und Vertrauen, sondern auch die eigene Wettbewerbsfähigkeit im Kampf um Fachkräfte. Dieser Beitrag zeigt praxisnah, was der EU AI Act für Fachkräftesicherung und Personalwesen bedeutet und wie Sie KI-Systeme und ihre Risiken einordnen, Mitarbeitende schulen sowie eine zukunftsfähige HR-Strategie aufbauen.

Das Wichtigste in Kürze

• Der EU AI Act betrifft Unternehmen jeder Größe und nimmt das Personalmanagement ausdrücklich in den Blick. 
• KI kann Sie in der Personalarbeit vor allem bei wiederkehrenden Routineaufgaben entlasten. 
• KI-Kompetenz wird zur Pflicht: Mitarbeitende müssen für einen sachkundigen und verantwortungsvollen Umgang mit KI geschult werden. 

Was ist der EU AI Act?

Der EU AI Act schafft erstmals einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz in Europa. Für Unternehmen bedeutet das: klare Regeln, aber auch mehr Orientierung im Umgang mit KI. Die Verordnung gilt seit August 2024 und wird schrittweise umgesetzt. Betroffen sind alle Unternehmen, die KI entwickeln oder einsetzen, also auch viele KMU. Ziel der Verordnung ist es, Vertrauen in KI zu stärken und gleichzeitig Innovation zu ermöglichen. Dabei steht der Schutz von Menschen und Grundrechten ebenso im Fokus wie die Wettbewerbsfähigkeit der Unternehmen. Gerade für KMU ist das relevant: Sie sollen durch gezielte Unterstützungsangebote verschiedener Stellen, vereinfachte Vorgaben und geringere bürokratische Hürden entlastet werden. Wer die neuen Regeln kennt, kann KI nicht nur rechtskonform einsetzen, sondern auch gezielt für die eigene Wettbewerbsfähigkeit nutzen.

KI in der Personalarbeit: Wo der AI Act greift

In der Verordnung sind konkrete Regelungen für den Einsatz von KI-Systemen und KI-Modellen definiert. Die berufliche Bildung, die Beschäftigung und das Personalmanagement sowie die Zusammenarbeit mit Freelancern werden im AI Act konkret thematisiert. Denn gerade im Personalwesen wird mit sensiblen, personenbezogenen Daten gearbeitet und dort eingesetzte KI-Systeme können einen erheblichen Einfluss auf die Karriereaussichten und die Lebensgrundlage von Mitarbeitenden sowie Bewerbenden haben. Aus diesem Grund sind in der KI-Verordnung in Anhang III unter Kategorie 3 und 4 KI-Systeme mit Anwendungsbereichen in der beruflichen Bildung und im Personalmanagement beschrieben, die ein großes Risiko bergen.

Potenzial beim KI-Einsatz im Personalwesen

Ein Blick in die Zahlen verrät, dass gerade einmal 6,3 Prozent der Unternehmen mit bis zu 49 Beschäftigten KI in der Personalarbeit nutzen. Bei den Unternehmen mit 50 bis 249 Beschäftigten sind es 15,7 Prozent. Im Vergleich dazu setzen 36,4 Prozent der kleinen und 43,9 Prozent der mittelständischen Unternehmen KI bereits in dem Unternehmensbereich der IT ein.

Aus wirtschaftlicher Sicht bietet der Einsatz von KI im Personalwesen ein noch nicht gehobenes Potenzial. Auch mit Blick auf den zunehmenden Fachkräftemangel verspricht die Technologie abfedernde Effekte. Das haben auch andere Unternehmen für sich erkannt, die KI bisher nicht nutzen.
 

Bei einer Befragung von Personalverantwortlichen durch das Institut der deutschen Wirtschaft zeigt sich, dass die Erwartungen hinsichtlich einer Entlastung durch KI bei Routineaufgaben besonders groß sind.  Lohnzahlungen, Urlaubsplanungen und die Erstellung von Schichtplänen fallen unter die wiederkehrenden Aufgaben im Personalwesen. Hierbei und auch bei anderen Tätigkeiten sehen die Befragten Potenzial für den KI-Einsatz.

 

EU AI Act im Personalwesen umsetzen: So können Sie vorgehen

Die Umsetzung des AI Acts gelingt am besten mit einer systematischen Vorgehensweise. Der praxisnahe Fahrplan dazu sieht folgende Schritte vor:

1. Betroffenheit prüfen  

2. KI-Systeme erfassen 

3. Risikoklassifizierung vornehmen 

4. Pflichten bei Hochrisiko-KI-Systemen nachkommen 

1. Prüfen Sie: Ist Ihre Personalarbeit vom EU AI Act betroffen?

In der Checkliste sind verschiedene Anwendungsfälle und -zwecke einer KI-Nutzung aufgeführt. Verschaffen Sie sich zunächst einen Überblick und prüfen Sie, welche der Fälle auf Ihre Personalabteilung zutreffen.

2. KI-Systeme in der Personalabteilung erfassen

Die Entwicklung von KI und neuen Tools ist sehr dynamisch. In den vergangenen Jahren strömten immer mehr Anbieter mit KI-Systemen auf den Markt. So ist es möglich, dass in einer Abteilung mit unterschiedlichen Tools gearbeitet wird. Deswegen geht es zunächst darum, sich einen Gesamtüberblick über die im Einsatz befindlichen KI-Systeme zu verschaffen. Neben einem Chatbot auf der Karriereseite können das beispielsweise auch KI-generierte Onboarding-Videos oder ein KI-Assistent, der zielgruppenspezifische Social-Media-Posts für offene Stellen generiert, sein.  

Über eine digitale Abfrage können Sie erste Rückmeldungen zu den KI-Aktivitäten in Ihrem Bereich sammeln. Folgende Fragen sind dabei hilfreich: 

1. Wer nutzt bereits KI bei der Personalarbeit? 

2. Welche KI-Systeme (inkl. Name des Anbieters sowie der Version des Systems) kommen zum Einsatz? 

3. Welche Aufgabe und welchen Zweck sollen diese KI-Systeme erfüllen? 

4. Welche Personen und welche Daten sind von dem KI-Einsatz betroffen? 

Dokumentieren Sie diese Informationen sorgfältig und aktualisieren Sie die Auflistung regelmäßig, sobald neue Anwendungsfälle hinzukommen.  

Praxistipp:

Zwei Fliegen mit nur einer Klappe: Nutzen Sie die Ergebnisse der Abfrage auch, um Best-Practice-Beispiele einer erfolgreichen KI-Nutzung in der Personalabteilung im Unternehmen sichtbar zu machen. Dies kann auch andere Mitarbeitende ermutigen. Für die Darstellung eines Best-Practice-Beispiels bietet es sich an, die folgenden Aspekte zu beleuchten:  

• Was ist der Mehrwert der KI-Nutzung? Wobei hat Ihnen der KI-Einsatz geholfen?  

• Wie viel Arbeitszeit konnte durch den Einsatz gespart werden?  

• Wie viel Zeit wurde aufgewendet, bis das gewünschte Ergebnis herauskam? 

• Was wurde durch den KI-Einsatz gelernt? 

• Was wurde weiterhin von Ihnen geprüft?  

• Welche Stolperfallen sollten andere vermeiden? 

Ergänzen Sie die Fragen nach Bedarf und passen Sie sie an die Bedürfnisse Ihres Unternehmens an. Mit der Sichtbarmachung Ihrer Best-Practices tragen Sie zum Wissenstransfer und damit zur Integration von KI in Ihr Unternehmen bei.  

3. Risikoklassifizierung der KI-Systeme vornehmen

Im nächsten Schritt ordnen Sie das KI-System einer Risikoklasse zu. In der Verordnung werden vier Risikoklassen definiert. Ausschlaggebend ist die Höhe des Risikos für den Menschen. Der Schutz des Menschen, seiner Gesundheit, Sicherheit und Grundrechte hat oberste Priorität. Mit zunehmendem Risiko steigen die rechtlichen Anforderungen und Pflichten, die Unternehmen erfüllen müssen. Mit diesem risikobasierten Ansatz sollen mögliche Schäden durch den Einsatz von KI minimiert werden.
 

Unzulässiges Risiko  
Seit Februar 2025 sind KI-Systeme, die ein unzulässiges Risiko darstellen, verboten und dürfen nicht mehr eingesetzt werden. Dies ist etwa der Fall, wenn Sie ein KI-System bei Videointerviews zur Echtzeit Sprach- oder Emotionserkennung bei Bewerbenden nutzen.   

Hohes Risiko 
Für KI-Systeme, die mit ihrem Verwendungszweck ein hohes Risiko für die Betroffenen darstellen, gibt es enge Regulierungsanforderungen. Diese sind ab August 2026 vollständig zu erfüllen. Darunter fällt auch die Schaltung gezielter Stellenanzeigen bei bestimmten Personengruppen. 

Begrenztes Risiko 
Ab August 2026 ist es erforderlich, Menschen über den Einsatz von KI zu informieren. Es gelten die Transparenzpflichten. Dadurch können die Betroffenen einordnen, wann sie mit einem KI-System interagieren oder KI-generierte Inhalte konsumieren. Dies ist auch dann der Fall, wenn Sie ein Onboarding-Video an eine neue Mitarbeiterin schicken, in dem ein KI-Avatar einer Kollegin die wichtigsten Informationen zu Ihren internen Abläufen vorstellt (Art. 50 KI-VO). 

Minimales Risiko 
An den Einsatz von KI-Systemen mit minimalem Risiko sind keine spezifischen Anforderungen geknüpft. Dies kann beispielhaft ein KI-System für eine intelligente Rechtschreib- und Grammatikprüfung sein.  
 

Was bedeutet „Hochrisiko-Bereich“ für die Personalarbeit?

Hochrisiko-KI-Systeme sind in der Personalarbeit grundsätzlich nicht verboten. Sie stellen jedoch ein hohes Risiko für die Beschäftigten und Bewerbenden dar und sind deshalb streng reguliert. Denn überall dort, wo mit sensiblen und personenbezogenen Daten gearbeitet wird und wo Personalentscheidungen getroffen werden, hat eine Fehleinschätzung oder Diskriminierung durch KI gravierende Folgen für die Beteiligten. Deswegen gehören viele der KI-Anwendungen im Personalwesen auch zum Hochrisikobereich. Unter Kategorie 3 und 4 in Anhang III der KI-VO finden Sie die Anwendungsbereiche dieser Hochrisiko-KI‑Systeme.

Anwendungsbeispiel: 
Eine Personalerin verwendet MS Copilot, um Lebensläufe und Anschreiben von Bewerbenden miteinander zu vergleichen und vorsortieren zu lassen. Ist es ausreichend, wenn sie die Bewerbenden darüber informiert, dass sie KI bei der Vorauswahl genutzt hat?

MS Copilot ist ein Chatbot, der beispielsweise zur Text- und Bilderstellung genutzt werden kann. Dieses KI-System, basiert auf einem KI-Modell mit allgemeinem Verwendungszweck und kann für die Erledigung eines breiten Spektrums an Aufgaben eingesetzt werden. Zunächst stellen solche KI-Systeme nur ein begrenztes Risiko dar.

In dem beschriebenen Fall trifft jedoch das KI-System bei der Vorsortierung die Entscheidung über das Weiterkommen einzelner Bewerbenden. Der Einsatz des KI-Systems hat somit weitreichende Folgen für die Bewerbenden und liegt im Hochrisiko-Bereich. Mit einer einfachen Information an die Bewerbenden ist es also nicht getan. Die Personalerin muss die Anforderungen von Hochrisiko-KI-Systemen erfüllen und zusätzlich dazu die Transparenzpflichten einhalten.  

Merke: Der Anwendungsfall eines KI-Systems ist entscheidend für die Risikoklassifizierung. 

Ausnahmen der Hochrisiko-Klassifizierung

Unter die in Anhang III genannten KI-Systeme und deren Anwendungszwecke können auch KI-Systeme fallen, die kein hohes Risiko für Mitarbeitende oder Bewerbende darstellen. Aus diesem Grund sieht die Verordnung Ausnahmen von der Hochrisiko-Klassifizierung vor. Eine Einschätzungen zur Risikoklassifizierung können Sie mit dem KI-Compliance Kompass der Bundesnetzagentur vornehmen. 

4. Ihren Pflichten bei Hochrisiko-KI-Systemen nachkommen

Im AI Act sind die Anforderungen und Pflichten an die eingenommene Rolle des Unternehmens in der KI-Wertschöpfungskette geknüpft. Unternehmen treten am häufigsten als Anbieter oder Betreiber von KI-Systemen auf. In der Rolle als Anbieter stellt das Unternehmen ein KI-System bereit und bringt dieses unter eigenem Namen in den Umlauf. Als Betreiber hingegen wird ein vorhandenes KI-System für die eigenen Zwecke in Eigenverantwortung genutzt.

Mit Blick auf die Tätigkeiten in der Personalarbeit werden Sie in den meisten Fällen die Rolle als Betreiber übernehmen. Damit tragen Sie die Verantwortung für den Einsatz des KI-Systems im Unternehmen. Die folgenden Pflichten und Anforderungen müssen Sie als Betreiber gemäß Artikel 26 KI-VO erfüllen: 

• Nutzung gemäß Betriebsanleitung (bestimmungsgemäßer Einsatz) 

• Menschliche Aufsicht durch qualifizierte Personen 

• Fortlaufende Überwachung der Eingaben und Meldung an Anbieter und Behörden 

• Aufbewahrung von automatisch generierten Protokollen für mind. 6 Monate 

• Informationspflichten bei Arbeitnehmervertretern sowie Beschäftigten und anderen betroffenen natürlichen Personen* 

*Neben diesen Pflichten gelten auch das Betriebsverfassungsgesetz sowie die datenschutz- und urheberrechtlichen Regelungen weiterhin.  

Aber Achtung! Die Rolle kann sich vom Betreiber zum Anbieter wandeln. Das ist dann der Fall, wenn ein fremdentwickeltes Hochrisiko-KI-System unter Ihrem Unternehmensnamen oder Logo zur eigenen Verwendung in Betrieb genommen wird. Beachten Sie, dass sich damit auch die Anforderungen und die zu erfüllenden Pflichten verändern.

Weitere nützliche Informationen zu den Anforderungen und Pflichten, aber auch zu Unterstützungsangeboten finden Sie bei den Mittelstand-Digital-Zentren. Diese bieten niedrigschwellige Formate, Hilfe bei der Identifikation und Risikoklassifizierung von KI-Systemen sowie Workshops zu verschiedenen Themen rund um den AI Act.

KI-Kompetenzen bei Ihren Beschäftigten schulen 

Einen weiteren wesentlichen Bestandteil der KI-Verordnung stellt Artikel 4 dar. Seit Anfang Februar 2025 müssen Unternehmen sicherstellen, dass alle mit KI agierenden Mitarbeitenden über KI-Kompetenzen verfügen. Als KI-Kompetenzen werden Fähigkeiten, Kenntnisse und das Verständnis bezeichnet, die einen sachkundigen und verantwortungsvollen Einsatz von KI ermöglichen. Dies soll die Risiken beim Einsatz dieser Technologie reduzieren, das Personal befähigen, fundierte Entscheidungen zu treffen, und damit zur Verbesserung der Arbeitsbedingungen sowie zur Innovationsförderung beitragen.

Damit wird deutlich: Der AI Act macht KI-Kompetenz nicht nur zur rechtlichen Anforderung, sondern auch zu einer konkreten Aufgabe von HR. Wenn Beschäftigte KI einsetzen, braucht es gezielte Qualifizierungen, Sensibilisierung und kontinuierliche Weiterentwicklung.

Mitarbeitenden nicht ausreichend in der Nutzung geschult, kann dies als Verletzung der Sorgfaltspflicht angesehen werden und im Schadensfall eine Schadensersatzpflicht nach sich ziehen.
 

Anforderungen an die Schulung

Welche konkreten KI-Kompetenzen zu vermitteln sind, ist in der Verordnung nicht geregelt. Dies hängt meist von mehreren unternehmensindividuellen Faktoren ab, die den Schulungsbedarf beeinflussen: 

• Art des eingesetzten KI-Systems  

• Risikoklassifizierung  

• Vorwissen und Erfahrungen der Mitarbeitenden  

Die Verordnung gibt auch nicht vor, wie die Kompetenzen vermittelt werden müssen. Ob sich Ihre Beschäftigten die Kompetenzen über Selbstlernmedien oder in einem Präsenz-Workshop mit einer externen Trainerin erschließen, das bleibt Ihnen bei der Planung der Schulungsmaßnahme überlassen. Eine Zertifizierung der Schulung ist nicht erforderlich.

Die Bundesnetzagentur empfiehlt in jedem Fall, die unternommenen Qualifizierungsmaßnahmen mit der Art, dem inhaltlichen sowie zeitlichen Umfang und den teilnehmenden Personen zu dokumentieren.

KI-Kompetenzen aufbauen: So können Sie es angehen 

KI-Kompetenzen entstehen nicht von allein. Bauen Sie diese gezielt bei Ihren Mitarbeitenden auf. Dazu empfiehlt sich die folgende Herangehensweise:

1. Führen Sie eine unternehmensweite Befragung mit den nachfolgenden Fragen bei Ihren Beschäftigten durch. So erhalten Sie einen Überblick über die aktuelle Lage in Ihrem Betrieb: 

• Wer arbeitet bereits mit welchem KI-System? 

• Zu welchem Zweck werden die KI-Systeme genutzt? 

• Welcher Wissensstand ist vorhanden?

Umsetzung: Digitale Umfrage mit Microsoft Forms oder Mentimeter 

2. Bauen Sie ein Grundverständnis bei Ihren Mitarbeitenden auf und sensibilisieren Sie für den Umgang mit KI. Das Ziel sollte ein sicherer und bewusster Umgang mit KI sein. Folgende Inhalte können dabei thematisiert werden: 

• Funktionsweise und Grenzen von KI 

• Chancen und Risiken beim Einsatz im Unternehmen und praxisnahe Anwendungsbeispiele 

• Gestaltung von Anweisungen (Prompts) für Chatbots 

• Wichtige Regeln im Umgang mit KI, z. B. hinsichtlich personenbezogener oder betriebsinterner Daten, Urheberrecht, AI Act in einfacher Form 

• Reflektieren des KI-Einsatzes 

 Umsetzung: Kurzschulung oder Webinar als Kick-off-Veranstaltung (1,5 Std) sowie ein E-Learning zur Vertiefung (30 Min.) 

3. Bleiben Sie bei der Kompetenzentwicklung Ihrer Beschäftigten am Ball und nehmen Sie gezielte Schulungen entsprechend der individuellen Bedarfe vor. Das KI-Umfeld ist sehr dynamisch und daher ist eine kontinuierliche Weiterentwicklung unerlässlich. Die nachfolgenden Inhalte können Bestandteil einer aufbauenden Schulung sein: 

• Besondere Anforderungen bei Hochrisiko-KI-Systemen 

• Umgang mit Risiken im Arbeitsalltag 

• Gezielt Arbeitsprozesse identifizieren, die Potenzial für einen KI-Einsatz bieten 

• Eigene KI-Assistenten bauen, die bestimmte Aufgaben erledigen 

Umsetzung: Moderierter Workshop mit interaktiven Elementen und hands-on Training (5 Std.)

 

KI im Personalmanagement – 3 Tipps zur Integration

KI wird nicht mehr verschwinden; sie wird zum festen Bestandteil von Unternehmen. Darum ist es wichtig, dass Sie sich jetzt mit dieser Technologie auseinandersetzen. Beginnen Sie mit kleinen Schritten – wichtig ist, dass Sie anfangen. So können Sie starten: 

1. Benennen Sie eine KI-verantwortliche Person in Ihrer Abteilung. Diese Person sollte den Gesamtüberblick über alle KI-Aktivitäten und eingesetzten KI-Systeme im Personalwesen haben. 

2. Machen Sie KI zu einem festen Bestandteil Ihrer Meetings. Besprechen Sie gemeinsam mit anderen Personalverantwortlichen, welche Erfahrungen sie beim Einsatz von KI gewonnen haben.  

3. Organisieren Sie gemeinsam mit der IT-Abteilung einen regelmäßigen Austauschtermin in Ihrem Unternehmen. Hier können alle KI-Verantwortlichen anderer Abteilungen, aber auch die Geschäftsführung sowie Vertreterinnen und Vertreter aus dem Datenschutz und Recht zusammenkommen. Sie können gemeinsam an einer unternehmensweiten KI-Strategie arbeiten und die ersten Schritte in Richtung einer Governance-Struktur machen. 

Fazit

Für Personalverantwortliche ist der EU AI Act mehr als eine regulatorische Pflicht. Er bietet die Chance den Einsatz von Künstlicher Intelligenz in der Personalarbeit strategisch, transparent und verantwortungsvoll anzugehen. Wer sich frühzeitig mit der rechtskonformen Umsetzung auseinandersetzt, kann nicht nur Mitarbeitende entlasten sowie die eigenen Arbeitsprozesse effizienter gestalten, sondern sich auch als moderner und verantwortungsbewusster Arbeitgeber positionieren.