RECHT kompakt: KI-Verordnung (AI Act der EU) – kein Grund zur Panik, kein Grund zum Zurücklehnen!

in

Wir freuen uns, dass Frau Dr.in Ingrid Jez ab sofort als Gastautorin einen rechtlichen Abriss wichtiger Themen für Medizinprodukte und In-vitro-Diagnostika beisteuert! Sie ist langjährige Juristin im Gesundheitsbereich und hat sich diesbezüglich zuletzt auf rechtliche Aspekte von Digitalisierung und KI spezialisiert.

Heute starten wir mit Hintergrundinformationen zum EU-AI-Act:

Seit 2.2.2025 – Verbot oder Kompetenz

Nachdem das In-Kraft-Treten der KI-Verordnung (EU-AI-Act) am 1. 8. 2024 für einige Aufregung gesorgt hatte, kehrte bald Ruhe ein – „Wir können uns noch Zeit lassen“, so das Motto. Und tatsächlich setzt die Geltung der Bestimmungen zu unterschiedlichen Zeitpunkten in den Jahren 2025 bis 2027 ein; für manche Anpassung bleibt noch Zeit.

Wesentliche Neuerungen gelten jedoch bereits seit 2.2.2025. Das Verbot gewisser KI-Praktiken im Sinne von Artikel 5 KI-VO entfaltet seine Wirkung.

Bezüglich aller übrigen KI-Systeme ist seit 2.2.2025 eine sogenannte „KI-Kompetenz“ von Unternehmen sicher zu stellen.

Medizinprodukte können in den Anwendungsbereich der KI-VO fallen und entsprechende Verpflichtungen nach sich ziehen. Intelligente Medizinprodukte mit KI-Funktionalität sind im Regelfall sogar Hochrisiko-KI-Systeme im Sinne der KI-VO und erfordern langfristig zusätzliche Schutzmaßnahmen (bspw „menschliche Aufsicht“) und zusätzliche KI-Kompetenz.

Was bedeutet KI-Kompetenz?

KI-Kompetenz sind die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbieter*innen, Betreiber*innen und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser VO ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Sie beinhaltet: erforderliche Kompetenz, Ausbildung und Befugnis.

Ein Grundwissen ist notwendig. Wie funktioniert KI und wie ist eine sinnvolle Nutzung möglich? Welche Risiken bestehen und wie ist eine Minimierung möglich? Wie lässt sich Diskriminierung und Datenschutzproblemen begegnen? …

Wer ist verpflichtet?

Anbieter*innen und Betreiber*innen müssen Maßnahmen ergreifen, um „nach besten Kräften“ sicherzustellen, dass gewisse Personen über ein „ausreichendes Maß an KI-Kompetenz“ verfügen.

Hochrisiko-KI-Systeme erfordern gemäß Artikel 14 KI-VO langfristig zusätzliche KI-Kompetenz.

Welche Personen müssen über KI-Kompetenz verfügen?

Personal, dh auch freie Dienstnehmer*innen der Anbieter*innen und Betreiber*innen und „andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“, dh Werkvertragsnehmer*innen und Personen, die bei Dienstleister*innen beschäftigt sind, müssen über KI-Kompetenz verfügen.

Erfahren Sie mehr beim Kurz-Seminar am 27.5.2025: RECHT kompakt: KI-Kompetenz lt. KI-Verordnung (AI Act der EU)

Dr.in Ingrid Jez ist langjährige Juristin mit Schwerpunkt im Medizin- und Gesundheitsrecht (inkl Datenschutzrecht) und hat sich diesbezüglich zuletzt auf rechtliche Aspekte von Digitalisierung und KI spezialisiert. Zum LinkedIn-Profil: https://www.linkedin.com/in/ingrid-jez-755069178/

Weiterführende Infos: