Zum Inhalt springen

EU-KI-Verordnung

Definition
EU-KI-Verordnung – Erster umfassender Rechtsrahmen für KI, der risikobasierte Vorschriften für KI-Systeme auf dem EU-Markt festlegt, mit Auswirkungen auf Edge-AI-Hardware.

EU-KI-Verordnung

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist der weltweit erste umfassende Rechtsrahmen für künstliche Intelligenz. Sie etabliert ein risikobasiertes Klassifizierungssystem für KI-Systeme und legt je nach Risikostufe Anforderungen fest, die von Transparenzpflichten bis hin zu vollständigen Verboten reichen. Für Hardwarehersteller, die KI-fähige Produkte entwickeln, hat die Verordnung direkte Auswirkungen auf das Design, die Dokumentation und die Konformitätsbewertung von Edge AI.

Wichtige Fakten

DetailInformation
Vollständiger NameVerordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz
Inkrafttreten1. August 2024
Verbotene KI-Praktiken2. Februar 2025
Weitere verbotene Praktiken2. Dezember 2026 – KI-Systeme zur Erzeugung von nicht einvernehmlich erstelltem intimem Material oder von Darstellungen von sexuellem Missbrauch von Kindern (Artikel 5 Absätze 1a und 1b, eingefügt durch die Verordnung (EU) 2026/1744)
Pflichten für Allzweck-KI2. August 2025
Allgemeine Anwendung2. August 2026
Pflichten für Hochrisiko-KI2. Dezember 2027 (Systeme nach Anhang III); 2. August 2028 (KI in Produkten nach Anhang I) – in der durch die Verordnung (EU) 2026/1744 geänderten Fassung
GeltungsbereichKI-Systeme, die in der EU in Verkehr gebracht, in Betrieb genommen oder verwendet werden, unabhängig vom Sitz des Anbieters; Artikel 2 nimmt unter anderem die militärische Nutzung und die reine Forschung aus
SanktionenBis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (für verbotene Praktiken)

Risikokategorien

Die KI-Verordnung stuft KI-Systeme in vier Kategorien ein:

RisikostufeBeispielePflichten
InakzeptabelSoziales Scoring, biometrische Echtzeit-Identifizierung im öffentlichen Raum (mit Ausnahmen), manipulative KIVerboten – dürfen nicht auf dem EU-Markt in Verkehr gebracht werden
HochrisikoMedizinprodukte mit KI, Sicherheitskomponenten in Fahrzeugen, Überwachung kritischer Infrastrukturen, biometrische Identifizierung, PersonalauswahlVollständige Konformitätsbewertung, Risikomanagement, Data Governance, menschliche Aufsicht, technische Dokumentation
Begrenztes RisikoChatbots, Emotionserkennung, DeepfakesTransparenzpflichten – Nutzer müssen darüber informiert werden, dass sie mit einer KI interagieren
Minimales RisikoKI-gestützte Spamfilter, KI in Videospielen, BestandsmanagementKeine spezifischen Pflichten (freiwillige Verhaltenskodizes werden gefördert)

Auswirkungen auf Hardwareprodukte

Edge-AI-Geräte

Für Hersteller, die Produkte mit geräteinterner KI-Inferenz (Edge AI) entwickeln, wirkt sich die KI-Verordnung auf folgende Bereiche aus; abgesehen von der Einstufung selbst handelt es sich um Pflichten für Hochrisiko-KI-Systeme:

AnforderungBedeutung für die Hardware
RisikoklassifizierungDer Produkthersteller muss die Risikostufe des KI-Systems klassifizieren
Technische DokumentationVollständige Dokumentation des KI-Modells, der Trainingsdaten und der Leistungsmetriken
KonformitätsbewertungIn Hardware eingebettete Hochrisiko-KI kann eine Bewertung durch Dritte erfordern
Menschliche AufsichtHardware muss Schnittstellen zur Überprüfung/Außerkraftsetzung von KI-Entscheidungen durch Menschen bereitstellen
Aufzeichnungspflichten (Protokolle)Das System muss Ereignisse während seiner Lebensdauer automatisch aufzeichnen, damit sein Betrieb rückverfolgbar ist (Artikel 12)
Data GovernanceTrainingsdaten müssen dokumentiert werden, einschließlich Maßnahmen zur Minderung von Verzerrungen
Überwachung nach dem InverkehrbringenLaufende Leistungsüberwachung der bereitgestellten KI-Systeme

Edge AI und DSGVO

Die Verarbeitung von Daten direkt auf dem Gerät mittels Edge AI kann den Aufwand beim Datenschutz im Vergleich zu Cloud-KI reduzieren:

AspektCloud-KIEdge AI
DatenübertragungenDaten werden an Server von Drittanbietern gesendet – DSGVO-BedenkenDaten verbleiben auf dem Gerät – vereinfachte Compliance
DrittverarbeitungCloud-Anbieter ist ein Auftragsverarbeiter – Auftragsverarbeitungsvertrag (AVV) erforderlichKeine Drittverarbeitung – direkte Kontrolle
Audit-TrailKI-Systeme des Cloud-Anbieters müssen auditiert werdenEigenständiges, auf dem Gerät auditierbares System
LatenzAbhängig von der NetzverbindungLokale Inferenz ohne Netzwerklatenz

Strategischer Vorteil: Edge AI auf einer dedizierten NPU verringert Datenübertragungen und kann die DSGVO-Compliance vereinfachen. Die Risikokategorie nach der KI-Verordnung ändert sie nicht: Diese richtet sich nach der Zweckbestimmung des Systems, nicht nach dem Ort der Inferenz. Aus diesem Grund legen unsere Edge-AI-Designs den Schwerpunkt auf die geräteinterne Inferenz.

KI-Verordnung im Vergleich zu anderen EU-Vorschriften

VerordnungSchwerpunktVerbindung zur KI-Verordnung
KI-VerordnungKI-Systeme (Software + Hardware)Die primäre Regulierung für KI
CRACybersicherheit von ProduktenKI-fähige Produkte müssen sowohl die KI-Verordnung als auch den CRA erfüllen
DSGVOSchutz personenbezogener DatenKI, die personenbezogene Daten verarbeitet, muss die DSGVO und die KI-Verordnung einhalten
NIS2Organisatorische SicherheitGilt unabhängig davon: Eine Organisation fällt aufgrund von Sektor und Größe in den Anwendungsbereich von NIS2, nicht weil sie KI einsetzt
MedizinprodukteverordnungMedizinprodukteKI-basierte Medizinprodukte, die eine Bewertung durch eine notifizierte Stelle erfordern, sind Hochrisiko-Systeme (Art. 6 Abs. 1)
MaschinenverordnungIndustriemaschinenKI-Sicherheitskomponenten in Maschinen können Hochrisiko-Systeme sein (Art. 6 Abs. 1); die Anforderungen werden derzeit in die Maschinenverordnung integriert

Allzweck-KI-Modelle (GPAI)

Die KI-Verordnung regelt auch Basismodelle und Allzweck-KI (GPAI) (z. B. große Sprachmodelle):

  • Alle GPAI: Müssen technische Dokumentation bereitstellen, das EU-Urheberrecht einhalten und Zusammenfassungen der Trainingsdaten veröffentlichen.
  • GPAI mit systemischem Risiko (vermutet bei einer kumulierten Trainingsrechenleistung von mehr als 10^25 Gleitkommaoperationen oder von der Kommission als solches eingestuft): Zusätzliche Anforderungen an die Modellevaluierung, Adversarial Testing, die Minderung systemischer Risiken, die Meldung schwerwiegender Vorfälle und die Cybersicherheit.

Verwandte Begriffe

  • Edge AI – Geräteinterne KI-Inferenz; die lokale Datenverarbeitung kann die DSGVO-Compliance vereinfachen, die Pflichten nach der KI-Verordnung bleiben gleich.
  • CRA – Die Verordnung zur Cybersicherheit von Produkten, die neben der KI-Verordnung für vernetzte KI-Geräte gilt.
  • NIS2 – Die Richtlinie zur organisatorischen Cybersicherheit; sie gilt parallel, wenn der Betreiber eine wesentliche oder wichtige Einrichtung ist.

Offizielle Referenzen

Zurück zum Glossar