Dieses Glossar bietet eine strukturierte Übersicht der zentralen Begriffe des EU AI Acts, mit besonderem Fokus auf die Rollen und Verantwortlichkeiten. Begriffe sind alphabetisch und in Kategorien geordnet, basierend auf den rechtlichen Vorgaben der Verordnung.

Akteure in der KI-Wertschöpfungskette

• Anbieter
  Eine natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem Namen oder ihrer Handelsmarke in Verkehr bringt oder in Betrieb nimmt. Anbieter tragen die Hauptverantwortung für die Konformität des Systems.
• Anwender
  Natürliche oder juristische Personen, die KI-Systeme einsetzen, um Produkte, Dienstleistungen oder interne Prozesse zu verbessern. Anwender müssen sicherstellen, dass das KI-System entsprechend den Anweisungen des Anbieters verwendet wird.
• Betreiber
  Eine natürliche oder juristische Person, die ein KI-System unter ihrer Verantwortung verwendet. Betreiber tragen die Verantwortung für die sichere und zweckgemäße Nutzung des Systems und sind verpflichtet, Grundrechte-Folgenabschätzungen für Hochrisiko-KI-Systeme durchzuführen.
• Bevollmächtigter
  Eine in der EU ansässige Person oder Organisation, die vom Anbieter bevollmächtigt wurde, bestimmte Aufgaben im Namen des Anbieters zu übernehmen, z. B. die Einhaltung der EU AI Act-Vorgaben sicherzustellen.
• Einführer
  Eine in der EU ansässige Person, die ein KI-System aus einem Drittland importiert und in Verkehr bringt. Der Einführer muss sicherstellen, dass das System den EU-Vorschriften entspricht.
• Händler
  Ein Akteur in der Lieferkette, der KI-Systeme bereitstellt, jedoch nicht der Anbieter oder Einführer ist. Händler tragen Mitverantwortung für die Konformität der Systeme.

Kernkonzepte und rechtliche Anforderungen

• Grundrechte-Folgenabschätzung
  Eine Analyse, die vor der Einführung eines Hochrisiko-KI-Systems durchgeführt werden muss, um potenzielle Auswirkungen auf die Rechte natürlicher Personen zu bewerten und geeignete Maßnahmen zu definieren.
• Hochrisiko-KI-System
  Ein System, das in sensiblen Bereichen wie kritischen Infrastrukturen, Strafverfolgung, Beschäftigung oder Gesundheitsversorgung eingesetzt wird und erhebliche Risiken für Menschenrechte oder Sicherheit birgt.
• Inverkehrbringen
  Die erstmalige Bereitstellung eines KI-Systems auf dem EU-Markt. Anbieter und Einführer tragen Verantwortung dafür, dass alle regulatorischen Anforderungen erfüllt werden.
• Transparenzpflichten
  Verpflichtungen, Nutzer:innen klar zu informieren, wenn sie mit einem KI-System interagieren, oder wenn Inhalte von KI-Systemen generiert wurden. Diese Pflicht dient der Förderung von Vertrauen und der Vermeidung von Missbrauch.
• Risikobewertung
  Eine Analyse, die potenzielle Gefahren eines KI-Systems bewertet und dokumentiert. Ziel ist es, Risiken frühzeitig zu erkennen und geeignete Maßnahmen zur Minimierung umzusetzen.
• Dokumentationspflichten
  Die Verpflichtung, technische Informationen, Betriebsanleitungen und Bewertungen schriftlich festzuhalten und bereitzustellen. Diese Unterlagen dienen als Nachweis der Konformität.

Technische und regulatorische Begriffe

• KI-System
  Ein maschinelles System, das in der Lage ist, Aufgaben autonom auszuführen oder Entscheidungen zu treffen. Die Systeme können physisch eingebettet oder softwarebasiert sein.
• Biometrische Identifizierung
  Die automatische Erkennung von Personen anhand physischer oder verhaltensbezogener Merkmale, wie Gesicht oder Stimme. Der EU AI Act regelt den Einsatz solcher Technologien streng, insbesondere bei Hochrisiko-Anwendungen.
• EU-Datenbank für Hochrisiko-KI-Systeme
  Eine von der EU-Kommission verwaltete Plattform, auf der Anbieter und Betreiber Hochrisiko-KI-Systeme registrieren müssen. Diese Datenbank stellt sicher, dass die Systeme überwacht und nachvollziehbar sind.
• Compliance
  Die Einhaltung aller rechtlichen Anforderungen, die im EU AI Act festgelegt sind. Dies betrifft vorwiegend Anbieter, Betreiber und Einführer von KI-Systemen.
• Automatisierung
  Der Einsatz von KI-Technologien, um Prozesse ohne menschliches Eingreifen durchzuführen. Der EU AI Act fordert sicherzustellen, dass solche Systeme sicher und nachvollziehbar funktionieren.

Regulatorische Begriffe

• Hochrisiko-KI-System
  Ein KI-System, das in sensiblen Bereichen wie Strafverfolgung, Gesundheit, kritischer Infrastruktur oder Bildung eingesetzt wird und potenziell erhebliche Auswirkungen auf die Rechte und Freiheiten von Personen hat.
• Transparenzpflicht
  Die Anforderung, Nutzer:innen klar zu informieren, wenn sie mit KI-Systemen interagieren oder wenn Inhalte von KI-Systemen generiert wurden. Dies umfasst auch die Kennzeichnung von Deepfakes oder synthetischen Inhalten.
• Risikobewertung
  Ein systematischer Prozess zur Identifizierung, Analyse und Dokumentation potenzieller Gefahren durch ein KI-System. Ziel ist die Minimierung dieser Risiken durch geeignete Maßnahmen.
• Konformitätsbewertung
  Eine Prüfung, ob ein KI-System den Anforderungen des EU AI Acts entspricht, durchgeführt vom Anbieter oder einer externen Stelle.
• Grundrechte-Folgenabschätzung
  Eine spezielle Bewertung, die durchgeführt wird, um sicherzustellen, dass ein Hochrisiko-KI-System keine negativen Auswirkungen auf die Grundrechte hat.
• Inverkehrbringen
  Die erstmalige Bereitstellung eines KI-Systems auf dem EU-Markt, unabhängig davon, ob es verkauft oder kostenlos zur Verfügung gestellt wird.

Technische Begriffe

• Deepfake
  KI-generierte oder manipulierte Inhalte (z. B. Bilder, Videos), die echt wirken, aber künstlich erzeugt wurden. Der EU AI Act verlangt eine klare Kennzeichnung solcher Inhalte.
• EU-Datenbank für Hochrisiko-KI-Systeme
  Eine zentrale Plattform zur Registrierung von Hochrisiko-KI-Systemen, die die Überwachung und Kontrolle dieser Systeme erleichtert.
• Sicherheitsbauteil
  Ein Bestandteil eines KI-Systems, der eine Sicherheitsfunktion erfüllt und dessen Ausfall potenziell die Gesundheit und Sicherheit von Personen gefährden kann.

Zusammengefasste Pflichten und Prozesse

• Pflichten der Anbieter
  • Durchführung der Konformitätsbewertung.
  • Bereitstellung vollständiger Dokumentationen und Anleitungen.
  • Registrierung von Hochrisiko-KI-Systemen in der EU-Datenbank.
• Pflichten der Betreiber
  • Überwachung des KI-Systems gemäß Betriebsanleitung.
  • Durchführung einer Grundrechte-Folgenabschätzung vor der Einführung.
  • Meldung schwerwiegender Vorfälle an Behörden.
• Pflichten der Anwender
  • Sicherstellung des sicheren und zweckgemäßen Einsatzes des KI-Systems.
  • Befolgung der Anweisungen des Anbieters.