KI-Kompetenz in Ihrem Unternehmen ab 2. Februar 2025 – das müssen Sie wissen

Who we areNewsPress & MediaNewslettersNewsletter „Healthcare“Newsletter „Healthcare“ 1/2025

KI-Kompetenz in Unternehmen

Seit dem 2. Februar 2025 gelten die ersten Regelungen der Verordnung über künstliche Intelligenz (KI-Verordnung – KI-VO) – und das sechs Monate nach deren Inkrafttreten. Im Fokus steht dabei insbesondere Artikel 4 KI-VO, der die Anforderungen an die KI-Kompetenz definiert. Das Ziel dieser Vorschrift ist gem. Erwägungsgrund 20, neben dem Schutz der Grundrechte, der Gesundheit und der Sicherheit auch eine demokratische Kontrolle der KI-Systeme zu ermöglichen, sodass fundierte Entscheidungen über den Einsatz von KI-Systemen durch die involvierten Akteure getroffen werden können. Der Schwerpunkt liegt dabei eindeutig auf einem verantwortungsvollen und sachkundigen Umgang mit KI – und nicht, wie gelegentlich missverstanden, auf der Einführung eines unternehmensinternen KI-Priorisierungsregimes.

Gemäß Art. 4 KI-VO sind Anbieter und Betreiber von KI-Systemen verpflichtet, sicherzustellen, dass ihre Mitarbeiter*innen sowie beauftragte Dritte über ein ausreichendes Maß an KI-Kompetenz sowie ein kontextbezogenes Verständnis im Umgang mit künstlicher Intelligenz verfügen.

Was umfasst die KI-Kompetenz gemäß Art. 4 KI-VO?

Die KI-Kompetenz wird im Art. 3 Nr. 56 KI-VO definiert und beinhaltet nicht nur technische Fertigkeiten, sondern auch Kenntnisse und Urteilsvermögen, die es ermöglichen, KI-Systeme verantwortungsvoll zu nutzen. Hierzu zählen folgende Maßnahmen:

  • Implementierung eines internen „Responsible AI Frameworks“

Unternehmen sollten klare Leitlinien entwickeln, die den verantwortungsvollen Einsatz und die Weiterentwicklung von KI-Systemen regeln. Diese Richtlinien definieren, wie KI im Unternehmen genutzt wird, welche Sicherheitsstandards einzuhalten sind und wie Risiken gemindert werden können. Sie schaffen zudem eine einheitliche Basis, an der sich alle Mitarbeiter*innen orientieren können.

  • Interne Schulungen und Trainings

Es ist essenziell, dass alle Mitarbeiter*innen, die direkt oder indirekt mit KI-Systemen arbeiten, regelmäßig fortgebildet werden. Diese Schulungen sollten nicht nur die technischen Grundlagen und Funktionsweisen von KI abdecken, sondern auch ethische Fragestellungen, Datenschutz, Transparenz, KI-Bias und -Fairness thematisieren. So wird sichergestellt, dass die Mitarbeiter*innen nicht nur wissen, wie KI funktioniert, sondern auch, welche Chancen und Risiken damit verbunden sind.

  • Externe Expertise und Zertifizierungen

Neben internen Maßnahmen kann es sinnvoll sein, je nach Größe des Unternehmens externe Berater einzubinden. Diese Experten bringen aktuelles Branchenwissen ein und helfen dabei, den Stand der Technik sowie regulatorische Anforderungen kontinuierlich zu überprüfen. Formelle Zertifizierungen bieten darüber hinaus einen Nachweis über die erworbenen Kompetenzen und stärken das Vertrauen von Kunden und Partnern in den sachkundigen Umgang mit KI.

  • Benennung eines interdisziplinären KI-Gremiums

Die Gründung einer internen Anlaufstelle signalisiert, wie ernst das Unternehmen den verantwortungsvollen Einsatz von KI nimmt. Dieses Gremium sollte möglichst interdisziplinär aufgestellt werden und ggf. Vertreter*innen aus den Bereichen Technik, Recht und Compliance umfassen. Es koordiniert die Umsetzung der KI-Kompetenz-Maßnahmen, überwacht deren Einhaltung und fördert den internen Austausch, um kontinuierlich Verbesserungen vorzunehmen.

  • Living Repository des EU AI Offices

Das EU AI Office unterstützt den Austausch und die Weiterbildung im Bereich KI-Kompetenz durch ein sogenanntes „Living Repository“. Dieses lebende Verzeichnis sammelt und veröffentlicht Best Practices von Akteuren, die bereits Maßnahmen zur Förderung von KI-Kompetenz umgesetzt haben – geordnet nach dem Umsetzungsgrad (voll implementiert, teilweise ausgerollt, geplant). Ziel des Repositorys ist es, Anbieter und Betreiber von KI-Systemen zum Lernen und Austausch anzuregen. Dabei ist jedoch zu beachten, dass die Übernahme der im Repository dargestellten Maßnahmen nicht automatisch die vollständige Einhaltung der gesetzlichen Vorgaben gemäß Artikel 4 der KI-Verordnung garantiert und eine unternehmensbezogene Ad-hoc-Bewertung erforderlich ist.

Services von Forvis Mazars

Wir unterstützen Sie dabei, die Anforderungen der KI-VO, der Verordnung (EU) 2017/745 über Medizinprodukte (Medical Device Regulation – MDR) und der DSGVO effizient umzusetzen. Dabei verfolgen wir einen interdisziplinären Ansatz, bei dem Rechtsberatung, IT-Audit & Process Advisory sowie Prävention aus einer Hand kommen. Wir unterstützen bei der Entwicklung von Qualitätsmanagementsystemen bis zur Zertifizierungsreife und begleiten während des Zertifizierungsprozesses. Darüber hinaus übernehmen wir auch die Funktion des externen Datenschutz- sowie KI-Beauftragten und können Ihre Mitarbeiter*innen hinsichtlich der Identifizierung und des Umgangs mit Risiken im Zusammenhang mit KI (z. B. Phishing-E-Mails, Deepfakes und KI-gestützter Malware) bei externen Angriffen schulen.

Autor*innen: Sebastian Retter, Kurt Kuckelmanns und Argyro Tsapakidou

Dies ist ein Beitrag aus unserem Healthcare-Newsletter 1-2025. Die gesamte Ausgabe finden Sie hier. Sie können diesen Newsletter auch abonnieren und erhalten die aktuelle Ausgabe direkt zum Erscheinungstermin.

Want to know more?