KI unter Kontrolle? Was der EU AI Act für Arbeitgeber bedeutet

00:00:09: Hallo und herzlich willkommen zu unserer neuen Podcastfolge.

00:00:30: Ich bin Celina Herzog.

00:00:31: Ich bin für die Öffentlichkeitsarbeit bei der VBU verantwortlich und bin hier mit einem Juristen der VBU mit dem Stefan Hinz.

00:00:38: Hallo und herzlich willkommen.

00:00:39: Vielen Dank, dass Sie da sind.

00:00:40: Ja, hallo, guten Tag.

00:00:42: Künstliche Intelligenz hält längst einzugit unseren Arbeitsalltag, ob in Bewerbungsverfahren, beim Schreiben von Texten oder im Projektmanagement.

00:00:49: Doch was bedeutet das rechtlich eigentlich?

00:00:52: Seit Jahrzehnte ist der EU-AI-Akt, also die Europäische Verordnung über Künstliche Intelligenz, in Kraft.

00:00:59: Sie gilt als das erste umfassende KI-Gesetz der Welt und bringt neue Pflichten auch für Arbeitgeber.

00:01:04: Darüber sprechen wir heute.

00:01:06: Herr Hinz, der EU-AI-Akt wird oft als Meilenstein bezeichnet.

00:01:10: Was ist das zentrale Ziel dieser Verordnung?

00:01:12: Soll sie vor allem regulieren, Vertrauen schaffen oder KI stärker kontrollieren?

00:01:17: Ja, also ich bin ja heute zu diesem Thema eingeladen worden.

00:01:20: KI, KI-Verordnung.

00:01:23: Vielleicht nochmal direkt die Frage an unsere Zuhörer.

00:01:26: Können Sie sich eigentlich sicher sein, dass Sie heute natürlichen Personen zuhören oder ist das vielleicht eine KI?

00:01:36: Da kann man sich heutzutage ja gar nicht mehr sicher sein.

00:01:38: Vielleicht ist das alles hier schon Computer generiert.

00:01:41: Wir lassen das mal dahin stehen.

00:01:43: Sie können selbst ihre Schlüsse daraus ziehen, ob hier noch natürliche Personen hinter den Mikrofonen stehen.

00:01:50: Ja, also Thema heute KI-Verordnung.

00:01:52: Die KI-Verordnung ist eine Besonderheit, ein Novum innerhalb der EU.

00:01:58: Das gibt es weltweit in der Art, in der Tat so nicht.

00:02:02: Offensichtlich hat die EU so ein bisschen das schreckgespenst China vor Augen gehabt, wo ja doch KI schon massenhaft verbreitet ist.

00:02:11: Und das ja auch dazu führt, dass Menschen dort, Stichwort Social Scoring, analysiert werden auf Schritt und Tritt und dementsprechend zum Beispiel kreditwürdig oder die unwürdig sind, je nachdem, was sie für Verstöße begehen.

00:02:25: Vor dem Hintergrund hat man sich in der EU überlegt, bezüglich KI-Regelungen zu schaffen.

00:02:34: Das heißt ein wesentliches Ziel der KI-Verordnung ist es, KI-Produkte in der EU durchaus zu regulieren.

00:02:42: Das betrifft natürlich in erster Linie Anbieter von KI-Produkten.

00:02:47: Anbieter von KI-Produkten, das ist wohl nicht allzu stark vertreten in unserer Mitgliedschaft.

00:02:53: Wer ist Anbieter eines KI-Produktes?

00:02:56: Anbieter ist, wer eben ein KI-Produkt herstellt, programmiert und entsprechend in den Geschäftsverkehr bringt.

00:03:03: Die allermeisten Mitgliedsfirmen von uns werden sogenannte Betreiber von KI-Produkten sein.

00:03:09: Betreiber von KI-Produkten sind eben Menschen, sind Firmen, die KI-Produkte letztlich anwenden.

00:03:17: Und in dem Fall eben, wenn sie als Arbeitgeber.

00:03:20: Eine KI nutzen für ihre betrieblichen unternehmerischen Interessen.

00:03:25: Dann sind sie im Regelfall Betreiber.

00:03:27: Betreiber werden aber auch von der KI-Verordnung erfasst.

00:03:30: Die haben auch entsprechende Pflichten zu beachten, auf die wir sicherlich im Laufe unseres Gesprächs noch eingehen werden.

00:03:36: Die Verordnung teilt KI-Systeme in verschiedene Risikokategorien ein.

00:03:40: Können Sie uns vielleicht ganz kurz erklären, wann eine KI als Hochrisikosystem gilt?

00:03:45: Und warum das gerade für Arbeitgeber relevant ist?

00:03:47: Ja, bevor ich das konkret... Anspreche müssen wir noch mal uns vor Augen halten.

00:03:53: Die KI-Verordnung hat eine gewisse Systematik.

00:03:56: Die KI-Verordnung nimmt eine Risikoklassifizierung vor und unterteilt die KI-Produkte in entsprechende Risikoklassen.

00:04:06: Wenn wir die ganz kurz ansprechen wollen, die unterschiedlichen Risikoklassen, es gibt eine sogenannte verbotene KI, verbotene KI-Systeme.

00:04:15: Das betrifft Produkte, die zum Beispiel und jetzt komme ich auf mögliche Interessen für Arbeitgeber zu sprechen, wenn Sie zum Beispiel darüber nachdenken würden.

00:04:25: Ich möchte mal gerne wissen, ob meine Angestellten, wenn sie vor dem Rechner sitzen, gut oder schlecht gelaunt sind und würden jetzt eine KI anwenden wollen zur sogenannten Emotionserkennung am Arbeitsplatz.

00:04:37: Das wäre ein sogenanntes verbotenes KI-System nach der KI-Verordnung.

00:04:42: Das Ganze dürften Sie nicht anbieten und auch nicht betreiben.

00:04:48: Dann gibt es etwas schwächer als dieses verbotene KI-System, eben dieses, was Sie gerade gefragt haben, das Hochrisiko-KI-System.

00:04:58: Das Hochrisiko-KI-System.

00:05:00: Und jetzt brechen wir das wieder runter für unsere Mitgliedsfirmen, für die Arbeitgeber.

00:05:04: Da können wir Beispiele bilden.

00:05:06: Alles, was sich auch um KI im Bereich Personalmanagement rangt.

00:05:12: Wenn Sie also KI-Systeme einsetzen im Personalmanagement, Stichwort zum Beispiel Bewerbauswahl, wenn Sie im Bewerbungsverfahren KI-Systeme einsetzen wollen, wenn Entscheidungen getroffen werden sollen über Qualifizierungsmaßnahmen, über Versetzungen, vielleicht sogar über Kündigungen, generell der ganze Bereich Überwachung von Mitarbeitern und Leistungsbewertungen.

00:05:37: Das wäre alles ein Bereich, wenn Sie dort KI-Systeme einsetzen wollen, der sogenannte Hochrisiko.

00:05:46: Bereich.

00:05:47: Diese Regelungen, die die KI-Verordnung dazu bereithält, werden scharfgeschaltet, werden im August.

00:05:58: Dann gibt es noch etwas schwächer wiederum.

00:06:01: KI-Systeme mit einem begrenzten Risiko.

00:06:05: Begrenzte Risiko-KI-Systeme, das sind zum Beispiel Chat GPT und Microsoft Co-Pilot.

00:06:13: Die werden sicherlich auch schon in vielen Mitgliedsunternehmen eingesetzt in der alltäglichen Arbeit.

00:06:19: Da gibt es in der KI-Verordnung auch einige Regelungen zu, aber eben nicht derart streng reguliert wie die sogenannten Hochrisiko-KI-Systeme.

00:06:29: Sie haben es gerade schon erwähnt, viele Unternehmen nutzen bereits Tools wie ChatGPT oder Microsoft Co-Pilot.

00:06:35: Wo verläuft denn da juristisch die Grenze zwischen unbedenklicher Nutzung und einem potentiell riskanten Einsatz, etwa wenn die KI über Bewerbungen oder Beförderungen mitentscheidet?

00:06:44: Die Mitgliedsfirmen von uns, wir kriegen das ab und an auch mit in der Beratung nutzen, wie ich das gerade gesagt habe, ja durchaus schon ChatGPT oder Microsoft Co-Pilot.

00:06:53: Letztlich muss man bei diesen Systemen sagen, das ist ja im Wesentlichen KI, die entsprechend Spracheingaben verwertet und dann entsprechend selbst lernen, dann natürlich auch Antworten generiert.

00:07:09: Gerade Chat GPT wird natürlich auch im Personalbereich schon eingesetzt, um Texte zu erzeugen, Muster schreiben und dergleichen.

00:07:17: Diese Nutzung ist grundsätzlich unbedenklich und unterliegt auch nur wenigen Vorschriften in der KI-Verordnung.

00:07:28: Ausnahmen, wenn Sie diese wie zum Beispiel Chat GPT oder Microsoft Copilot dann bewusst einsetzen wollen für eben Personal Maßnahmen.

00:07:41: Wenn Sie also darüber nachdenken, dann zum Beispiel damit Lebensläufe und Bewerbungsschreiben, Vergleichen und Vorsortieren zu wollen, da sind wir wieder im Bereich des Bewerbungsverfahrens.

00:07:53: Wenn das also gezielt dazu auch eingesetzt werden soll, um eben auch bestimmte Auswertungen vorzunehmen, dann begeben wir uns in den Hochrisikobereich und dann können natürlich auch diese Programme dann strengeren Regularien unterliegen.

00:08:08: Aber ganz allgemein gesprochen, solange sie die als entsprechende Programme einsetzen, um bestimmte Fragen zu stellen, um Antworten zu generieren quasi für die interne Recherche, es ist das Ganze unbedenklich.

00:08:20: Artikel vier der Verordnung verpflichtet Arbeitgeber, Beschäftigte im Umgang mit der KI zu Schulen.

00:08:26: Ist das tatsächlich eine verbindliche Pflicht oder eher ein Appell?

00:08:29: Und wie können Unternehmen das sinnvoll umsetzen?

00:08:32: Ja, da kommen Sie auf einen Bereich zu sprechen, der auch schon scharf geschaltet ist.

00:08:37: Ich hatte ja gerade erwähnt, die KI-Verordnung sieht gewisse Übergangsfristen vor, ab wann welche Regelungen gelten.

00:08:44: Diese sogenannte Schulungspflicht, die in Artikel vier der KI-Verordnung geregelt ist, ist dies seit Februar, zweitausendfünfundzwanzig schon scharf geschaltet.

00:08:55: Was verbirgt sich hinter dieser Vorschrift?

00:08:57: Es heißt dort generell, dass Anbieter und Betreiber, und da sind wir wieder bei dem Begriff des Betreibers eines KI-Systems, also auch für unsere Mitgliedsfirmen jetzt von Interesse, Maßnahmen ergreifen müssen, um, so heißt es dort, nach besten Kräften sicherzustellen, dass alle Beschäftigten, die mit der Nutzung von KI-Anwendungen befasst sind, dann auch über die notwendigen Kompetenzen verfügen.

00:09:22: Das heißt also übersetzt ins Deutsche.

00:09:24: Nicht alle Mitarbeiter müssen geschult werden in Sachen KI, sondern explizit erstmal die Mitarbeiter, die auch in ihrer alltäglichen Arbeit KI Anwendungen nutzen und damit in Berührung kommen.

00:09:39: Diese Mitarbeiter, die müssten geschult werden, den müsste man KI-Kompetenzen antrainieren.

00:09:46: Was heißt das?

00:09:46: Was kann man da für Maßnahmen ergreifen?

00:09:49: Die KI-Verordnung selbst regelt das nicht weiter.

00:09:54: Denkbar sind natürlich klassische Schulungsmaßnahmen, sei es Hausinterne-Schulungen oder auch externe Schulungen, kleiner Exkurs.

00:10:03: Auch da bieten wir als VBU auch Schulungen an zum Thema KI, die sicherlich auch ergänzend genutzt werden können.

00:10:11: Dann kann man natürlich darüber nachdenken, sogenannte KI-Guidelines zu erlassen, dass man ähnlich wie Verhaltensrichtlinien, Ethikrichtlinien dann auch in diesem Bereich Regelungen aufstellt im Unternehmen.

00:10:25: Und was auch bei diesem ganzen Thema wichtig ist, dass KI-Kompetenzen antrainiert werden sollen.

00:10:31: Das reicht sicherlich nicht, wenn man sich mal eine Stunde irgendwo mit den Mitarbeitern hinsetzt, sondern das Ganze soll natürlich fortlaufend geschehen.

00:10:39: Gerade KI wird natürlich zu immensen Umwälzungen führen und das Ganze ist ja ein andauernder Prozess, wo man dann entsprechend dann auch regelmäßig dann wieder sich know how.

00:10:51: aneignen muss.

00:10:52: Man merkt ein sehr komplexes Thema.

00:10:54: Was raten Sie jetzt konkret?

00:10:55: Welche Schritte sollte der Arbeitgeber gehen, um rechtssicher aufgestellt zu sein?

00:10:59: Also da wir ja eben das Problem haben, dass ja die KI-Verordnung noch diese gestaffelten Fristen vorsieht, wann welche Regelungen in Kraft treten, können wir natürlich jetzt stand heute nicht generell sagen, eins, zwei, drei, vier, fünf, was Sie alles jetzt schon Unternehmen einleiten müssen.

00:11:17: Wir können also noch mal ganz allgemein festhalten.

00:11:20: Seit dem zweiten Februar, zweitausendfünfundzwanzig ist scharf geschaltet worden, dass eben verbotene KI-Systeme nicht mehr genutzt werden dürfen.

00:11:29: Das heißt, also sollten Sie wieder erwarten, im Betrieb ein KI-System nutzen, was zum Beispiel, ich hatte das Beispiel gebracht, Emotionserkennung bietet von Mitarbeitern.

00:11:42: Also wirklich eine Analyse, die auch in den psychischen Bereich reingeht.

00:11:47: Dann bitte ganz dringend.

00:11:49: abschalten und nicht mehr nutzen.

00:11:51: Genauso scharfgeschaltet ist die Schulungspflicht, was ich gerade angesprochen habe, seit Februar, zu dem Sie den Mitarbeitern, die mit KI-System vertraut sind, diese Kompetenzen dann auch entsprechend aneignen.

00:12:03: Für alle weiteren relevanten Regelungen der KI-Verordnung, die für Betreiber auch gelten, haben Sie noch etwas Luft.

00:12:12: Das Ganze wird scharf geschaltet am zweiten, achtend, zweitausend, sechsundzwanzig.

00:12:18: Zweite, achter, sechsundzwanzig und für die sogenannten Hochrisiko-KI-Systeme, die wir heute schon örtet haben.

00:12:23: Also alles, was sich auch im Bereich KI Personalmanagement, Personalarbeit rangt.

00:12:29: Da haben sie sogar noch Zeit bis zum zweiten, achten, zweitausend, siebenundzwanzig.

00:12:33: Das heißt, da noch eine etwas längere Übergangsfrist.

00:12:38: Gleichwohl ist natürlich die Empfehlung, die Zeit bis dahin zu nutzen.

00:12:44: Was kann man machen?

00:12:46: Generell sollten Sie analysieren, welche KI-Systeme haben Sie überhaupt schon im Einsatz?

00:12:54: Auch da noch mal kleiner Exkurs.

00:12:57: Nicht jede IT-Anwendung ist ein KI-System, damit man da auch nichts vertauscht.

00:13:03: Ein normales Personalabrechnungsprogramm, zum Beispiel Excel-Programme und dergleichen, sind keine KI-Systeme.

00:13:10: KI-System nach KI-Verordnung ist nur ein System, was quasi selbst lernen, komplex Daten verarbeitet und selbst hinzulernend und daraus Anwendungen ableitet.

00:13:24: Das ist mal ganz generell gesprochen ein KI-System.

00:13:27: Wenn Sie solche Systeme dann im Unternehmen haben, dann sollten Sie die natürlich entsprechend analysieren, dahingehend, welches Risikopotenzial steht dahinter.

00:13:39: Ist es wie ChatGPT, ein geringes Risikopotenzial?

00:13:43: Ist es ein Hochrisiko-KI-System, was Sie schon im Personalbereich einsetzen?

00:13:49: Das Ganze sollten Sie also von der Risikoklassifizierung her einordnen.

00:13:54: und dementsprechend dann Maßnahmen ableiten.

00:13:56: Das heißt also, Sie müssten dann Vorkehrungen treffen, wenn denn dann am zweiten, acht und sieben zwanzig, dann die Regularien scharfgeschaltet werden für Hochrisikokai-Systeme, dass sie dann entsprechend auch rechtzeitig vorbereitet sind.

00:14:13: Herr Hinz, vielen Dank für die Einblicke.

00:14:16: Zum Abschluss noch, nutzen Sie privat auch KI und wenn ja, wofür?

00:14:19: Also privat zu Hause nutze ich kein KI-System.

00:14:25: Mein dreizehnjähriger Sohnemann, der nutzt recht fleißig schon ChatGPT und erstellt über ChatGPT zum Beispiel auch irgendwelche albernen Lieder über den alten Vater.

00:14:38: Und das ist also durchaus bei uns zu Hause schon im Einsatz, aber ich persönlich halte es immer so, wenn ich abends spät nach der Arbeit nach Hause komme, versuche ich möglichst den Rechner auszulassen.

00:14:51: Ja, finde ich gut.

00:14:51: Die Lieder hören wir uns dann vielleicht in der nächsten Aufnahme mal an.

00:14:55: Vielen Dank, dass Sie da waren.

00:14:56: Alles Gute und wir sagen immer viel Erfolg bei der Umsetzung des Gehörten.

00:15:03: Sie sind neugierig geworden

00:15:04: und möchten mehr über die

00:15:05: Leistungen der VBU

00:15:07: erfahren?

00:15:07: Dann besuchen Sie uns einfach

00:15:09: auf www.vbu-net.de.

00:15:13: Hier finden Sie alle Informationen zu unseren umfangreichen Angeboten und die richtigen Ansprechpartner für Sie.

00:15:20: Vielen Dank

00:15:20: fürs Zuhören und bis zur nächsten Folge.