KI-Verordnung Zusammenfassung: Die wichtigsten Fragen zur KI-Verordnung auf einen Blick
Nach der KI-Verordnung müssen seit Anfang Februar 2025 die Anbieter und Betreiber von KI-Systemen über ein ausreichendes Maß an KI-Kompetenz verfügen.
Hier finden Sie kompakt die wichtigsten Fragen und Antworten und Zusammenfassung zur EU KI‑Verordnung und zur Schulungspflicht.
Nutzen Sie unser KI Kompetenz Training, um gezielt zu handeln, Compliance sicherzustellen und dabei Wettbewerbsvorteile zu sichern.
So behalten Sie den Überblick und erkennen frühzeitig mögliche Risiken.
KI-Kompetenz Nachweis ab Februar 2025 verpflichtend – Erfüllt Ihr Unternehmen schon die Anforderungen des European AI Act?
Ab 2. Februar müssen Unternehmen in der EU nachweisen, dass ihre Mitarbeiter in der Lage sind, verantwortungsvoll mit Künstlicher Intelligenz (KI) umzugehen – dies ist eine direkte Anforderung der neuen KI-Verordnung (European AI Act).
Das betrifft uns nicht, mögen Sie sagen, mein Unternehmen hat nicht viel mit KI zu tun, wir haben ja allerhöchstens einen Chatbot für die Kunden implementiert. Achtung, so einfach ist das leider nicht!
Denn die KI-Verordnung regelt im Artikel 4 ausdrücklich, dass nicht nur Anbieter (jemand, der eine KI entwickelt oder in Betrieb nimmt) von KI-Systemen die Kompetenz nachweisen müssen, sondern auch Betreiber. Betreiber sind alle, die KI-Systeme zu beruflichen Zwecken verwenden (sprich Anwender).
Nutzen Sie ChatGPT oder Copilot, um emails zu formulieren?
Nutzen Ihre Marketingmitarbeiter Dall-E oder andere bildgenerierende Software, um Flyer oder Social Media Posts zu erstellen?
Haben Sie eine KI-gestützte Dokumentensuche im Archiv?
Nutzen Sie KI-gestützte Produktionsplanungen oder Wartungsvorhersagen, greifen Sie auf Preisvorhersagen im Einkauf zurück?
Benutzen Sie KI-gestützte Übersetzer, um mit Kunden und Lieferanten besser kommunizieren zu können, oder einfach um Ihre Dokumente auf Grammatik in der Fremdsprache zu prüfen?
Und sind Sie sicher, dass Ihre IT-Entwickler nicht ChatGPT konsultieren, um ihren Code zu optimieren?
Wie Sie wahrscheinlich feststellen werden, ist KI inzwischen allgegenwärtig, und wird (offen oder versteckt) für Effizienz- und Kreativitätssteigerungen in vielen Bereichen genutzt – so werden sich auch vermutlich entsprechend viele Anwendungsfälle in Ihrem Unternehmen finden lassen, selbst wenn KI nicht direkt Teil Ihres Produkts oder Produktionsprozesse ist.
All die oben benannten Beispiele klassifizieren Sie bzw. Ihre Mitarbeiter als Betreiber von KI-Systemen, sofern diese beruflich genutzt werden – und damit ist Ihre Organisation verpflichtet, diese in KI-Kompetenz zu schulen.
Ab wann gilt das KI-Recht?
Die KI-VO ist seit dem 2. August 2024 bereits geltendes Recht (und muss nicht in nationales Recht umgesetzt werden). Die KI-VO wird in Stufen wirksam.
Ab 2. Februar 2025 ist der Nachweis der KI-Kompetenz (Art. 4) vorgeschrieben. Außerdem treffen Regelungen zu verbotenen KI-Systemen in Kraft (Kapitel 5).
Ab 2. August 2025 gelten weitere Regulierungen zu Hochrisiko-KI und KI-Governance.
Die meisten Regelungen der KI-Verordnung treten dann endgültig ab dem 2. August 2026
Was bedeutet das für mein Unternehmen?
Die KI-VO reguliert den Einsatz von KI in der EU, unter anderem sieht sie Transparenzpflichten und risikobasierte Regelungen vor.
Als Unternehmen müssen Sie aktuell sicherstellen, dass Mitarbeiter, die mit KI arbeiten, entsprechend geschult sind und über die notwendigen Kompetenzen verfügen, um diese verantwortungsvoll zu nutzen.
Das ist laut der Definition in der EU KI Verordnung auch schon notwendig, wenn Ihre Mitarbeiter bspw. im Rahmen von der Microsoft Lizenz die Copilot App nutzen oder Mitarbeiter – egal ob mit Ihren Führungskräften abgesprochen oder nicht – KI Systeme im Arbeitskontext nutzen (bspw. um mit ChatGPT E-Mails zu formulieren).
Weiterhin dürfen Sie verbotene KI nicht einsetzen. (Stand Mai 2025)
Was ist KI?
Die Definition von Künstlicher Intelligenz (KI) nach der KI-VO ist nicht in einem einfachen Satz zusammengefasst, sondern basiert auf einer breiteren Beschreibung von Systemen, die künstliche Intelligenz nutzen.
Generell kann zusammenfassend gesagt werden, dass mit KI eine autonome Technologie gemeint ist, die Daten oder Informationen verarbeitet und analysiert, und Vorhersagen, Empfehlungen etc. ableitet. Sie kann lernfähig sein, d.h. sich ohne menschliches Zutun verändern, und ist daher für den Menschen, der sie einsetzt schwer zu verstehen und zu kontrollieren.
Sind diese drei Punkte erfüllt, handelt es sich in der Regel um eine KI, allerdings gibt es zahlreiche Grenzfälle, die unter die Definition der KI-VO fallen könnten, auch wenn die Punkte nicht eindeutig erfüllt sind (zum Beispiel stellt sich die Frage nach dem Automatisierungsgrad).
Ist mein Unternehmen betroffen?
Die KI-VO gilt für jeden, der KI im beruflichen Kontext einsetzt.
Die Schulungspflicht umfasst auch die Betreiber, also diejenigen, die KI verwenden – und sei es auch nur um eine email mit Hilfe von ChatGPT oder Copilot zu schreiben. Auch wer Chatbots (Sprach-KI) für Kunden oder bildergenerierende KI für die Herstellung von Werbeflyern verwendet, ist ein Betreiber und verwendet ein KI-System für berufliche Zwecke.
Wer KI für rein private Zwecke betreibt, ist nicht Betreiber von KI, hier gilt die KI-VO nicht.
Sind nur Unternehmen in der EU betroffen?
Für die Pflichten der KI-VO für Anbieter gilt das Marktortprinzip, d.h. nicht der Sitz des Unternehmens ist entscheidend, sondern ob die KI bzw. die Ergebnisse in der EU verwendet werden.
Die Pflichten an Betreiber richten sich nur an diejenigen mit Sitz in EU.
Was ist ein KI-Kompetenztraining?
KI-Kompetenztraining (EU KI Verordnung Artikel 4) beinhaltet die Vermittlung von Wissen und Fähigkeiten, die notwendig sind, um KI verantwortungsvoll und effektiv zu nutzen.
Dies umfasst technisches Wissen über die Funktionsweise von KI, rechtliche Rahmenbedingungen, ethische Überlegungen und das Management von Risiken, die mit dem Einsatz von KI verbunden sind.
Wer muss an einem KI-Kompetenztraining teilnehmen?
Jeder, der direkt mit dem Betrieb, der Implementierung, oder der Überwachung von KI-Systemen in einem Unternehmen betraut ist, sollte geschult werden.
Dies kann von technischem Personal, das KI-Systeme entwickelt oder wartet, bis hin zu Führungskräften reichen, die strategische Entscheidungen über den Einsatz von KI treffen.
Reicht eine Online-Klickschulung für meine Mitarbeiter?
Die KI-VO setzt voraus, dass die Schulung an die Bedürfnisse der Beschäftigten angepasst sind und ihre technischen Kenntnisse, ihre Erfahrungen, ihre Ausbildung und Schulung, den Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.
Diese Anforderungen kann ein standardisiertes online Seminar nicht erfüllen.
Auch die Bundesnetzagentur ist der Meinung: “Ein einfaches Selbststudium der betroffenen Personen erscheint zur Sicherstellung einer ausreichenden KI-Kompetenz zum jetzigen Zeitpunkt als nicht geeignet” (siehe mdr-Artikel)
Wie oft sollten KI-Kompetenztrainings wiederholt werden?
Aufgrund der schnellen Entwicklung im Bereich der KI-Technologien und der ständigen Änderungen der rechtlichen Rahmenbedingungen empfiehlt die Bundesnetzagentur regelmäßige Schulungen (siehe Hinweispapier).
Die Frequenz kann je nach Rolle der Mitarbeiter und der Dynamik des KI-Einsatzes im Unternehmen variieren.
Gibt es Zertifikate oder Nachweise, die durch das KI-Kompetenztraining erworben werden können?
Laut Hinweispapier der Bundesnetzagentur müssen KI Kompetenztrainings dokumentiert werden. Aktuell gibt es aber keine speziellen Anforderungen an die Dokumentation des Kompetenztrainings. Eine Zertifikatspflicht soll es ebenfalls nicht geben.
Wir stellen eine Teilnahmebescheinigung aus, die die Teilnahme und den erfolgreichen Abschluss der Schulung bestätigt.
Dieses dient als Nachweis der Einhaltung der Anforderungen der KI-VO und ist hilfreich für die Dokumentation der Unternehmens-Compliance.
Welche Inhalte soll ein Kompetenztraining haben?
Bisher ist dies nicht weiter geregelt, außer dass Organisationen sicherstellen müssen, dass die Personen, die KI-Systeme entwickeln, verwalten oder überwachen, angemessen geschult sind, um deren sichere und verantwortungsvolle Nutzung zu gewährleisten.
“Seitens der Europäischen Union (EU) wird aktuell an Leitlinien zur Umsetzung des AI Acts gearbeitet, die dann auch konkretere Hinweise enthalten sollten, an denen sich Unternehmen orientieren können”, sagt Jonas Wöll, Referatsleiter Digitaler Binnenmarkt, EU-Verkehrspolitik und Regionale Wirtschaftspolitik der DIHK.
Die Schulung ist eine abgestimmte Mischung aus Theorie und Praxis, mit der wir basierend aus einem Vorgespräch mit Ihnen den Kontext, in dem Sie KI einsetzen, einordnen sowie die betroffenen Personen(-gruppen) mit einbeziehen.
Dadurch werden Sie nicht nur besser in die Lage versetzt, die Potentiale zu erkennen und für Ihr Unternehmen wertschöpfend zu nutzen, sondern auch ethische Implikationen im Rahmen eines verantwortungsvollen Umgangs mit KI vor dem Hintergrund des European AI Acts zu bewerten.
Was passiert, wenn ich der Schulungspflicht nicht nachkomme?
Aktuell werden Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können durch die Mitgliedsstaaten erarbeitet. Daher kann man aufgrund der mangelnden konkreten Vorgaben nur Annahmen treffen.
Grundsätzlich geht es vorrangig um Sorgfaltspflichten, in möglichen Fällen, bei denen durch die KI ein Schaden entsteht. “Hätte dieser Schaden durch eine angemessene Schulung der Mitarbeiter verhindert werden können, könnten die Unternehmen dafür verantwortlich gemacht werden, wenn sie der Pflicht zur Schaffung von KI-Kompetenz nicht nachgekommen sind”, erklärt die DIHK.
Sanktionen gem. Artikel 99 der KI-VO betreffen aktuell Missachtung der Regelungen zu verbotenen KI (Kapitel 5), zu Hochrisiko-KI (Kapitel 3) und Transparenzpflichten (Artikel 50).
Wer ist für die Prüfung und Kontrolle verantwortlich?
Die KI-Verordnung befindet sich noch in der Umsetzung. Aktuell ist noch nicht definiert, wer die Prüfung für die rechtmäßige Anwendung der KI-Verordnung zuständig ist. Laut Hinweispapier der Bundesnetzagentur sollen keine regelmäßigen Vorabüberprüfungen der Maßnahmen zur Sicherstellung der KI-Kompetenz
durch Aufsichtsbehörden erfolgen.
Brauche ich einen KI Beauftragten?
Aktuell sieht die KI-Verordnung dies nicht im Zusammenhang mit KI Kompetenz nach Art. 4 vor (siehe Hinweispapier).
