KI-Verordnung der EU

Konformitätsbewertung ist ein Verfahren, um festzustellen, ob man ein Hochrisiko-KI-System betreibt.

KI-Kompetenz muss geschult werden, Konsequenzen und Risiken bewusstmachen.

Unterschied Anbieter und Betreiber

• Anbieter: Entwicklung und Veränderung von KI-Modellen
• Betreiber: Anwendung von KI-Modellen

Zentrale Anforderungen an Anbieter und Betreiber

• Verbotene Praktiken im KI-Bereich (Art. 5)
• Qualitätsmanagementsystem (Art. 17)
• Aufbewahrung der Dokumentation (Art. 18)
• Automatisch erzeugte Protokolle (Art. 19)
• Korrekturmaßnahmen und Informationspflicht (Art. 20)
• EU-Konformitätserklärung (Art. 47)
• Transparenzpflichten (Art. 50)
• Beobachtung nach dem Verkehr und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme (Art. 72)
• Meldung schwerwiegender Vorfälle
• Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme (Art. 27)

Hochrisikosysteme

• Daten und Daten-Governance (Art. 10)
• Technische Dokumentation (Art. 11)
• Aufzeichnungspflichten (Art. 12) iSv. Logging
• Transparenz und Bereitstellung von Informationen für die Betreiber (Art. 13)
• Menschliche Aufsicht (Art. 14)
• Genauigkeit, Robustheit und Cybersicherheit (Art. 15)

Probleme

• Widerspruch zur Datensparsamkeit und Datenschutz