Der verantwortungsvolle Einsatz von KI ist essenziell, insbesondere für den öffentlichen Sektor. Hier haben Entscheidungen weitreichende Auswirkungen auf Bürger. Um diesen Anforderungen gerecht zu werden, hat die Europäische Kommission aktualisierte Modellvertragsklauseln für die Beschaffung von Hochrisiko-KI-Systemen veröffentlicht. Diese Vertragsklauseln, die auf den EU AI Act abgestimmt sind, sollen öffentlichen Auftraggebern helfen, beim Einkauf solcher Technologien rechtliche und ethische Standards einzuhalten. Sie gewährleisten, dass KI-Systeme transparent, sicher und rechtskonform entwickelt, geliefert und betrieben werden.
Ziel der Modellvertragsklauseln
Die Modellvertragsklauseln sollen öffentliche Einrichtungen bei der sicheren und rechtskonformen Integration von Hochrisiko-KI-Systemen unterstützen. Sie basieren auf den Anforderungen des EU AI Act und sollen sicherstellen, dass Anbieter von Hochrisiko-KI-Systemen bestimmte Standards einhalten. Dazu gehören unter anderem ein effektives Risikomanagement, die Sicherstellung von Transparenz und Erklärbarkeit, sowie robuste Sicherheitsmassnahmen.
Kerninhalte der Modellvertragsklausen
Die Modellvertragsklauseln beinhalten detaillierte Vorgaben für verschiedene Aspekte der KI-Beschaffung. Dabei stehen insbesondere folgende Themen im Fokus:
- Risikomanagement und Compliance: KI-Anbieter müssen eine Risikoanalyse ihrer Systeme durchführen, um potenzielle Gefahren für Grundrechte, Sicherheit und Datenschutz zu identifizieren. Zudem müssen sie nachweisen, dass angemessene Massnahmen ergriffen wurden, um diese Risiken zu minimieren.
- Datenqualität und Fairness: Die Modellvertragsklauseln fordern, dass Trainings- und Testdatensätze hohe Qualitätsstandards erfüllen, keine diskriminierenden Verzerrungen enthalten und den Datenschutzbestimmungen entsprechen. Öffentliche Auftraggeber haben das Recht, Einsicht in die verwendeten Datenquellen zu nehmen und deren Herkunft sowie die Verarbeitungsmethoden zu überprüfen.
- Transparenz und Erklärbarkeit: Die mangelnde Nachvollziehbarkeit von Entscheidungen von KI-Systemen wird häufig kritisiert. Die Klauseln schreiben vor, dass Anbieter von Hochrisiko-KI detaillierte technische Dokumentationen bereitstellen und erklären müssen, wie ihre Systeme Entscheidungen treffen. Zudem müssen Nutzer durch die technischen und organisatorischen Massnahmen des KI-Anbieters die Möglichkeit haben, die Ergebnisse kritisch zu hinterfragen.
- Menschliche Aufsicht und Eingriffsmöglichkeiten: Die neuen Klauseln verpflichten Anbieter dazu, jederzeit menschliche Eingriffe in die Entscheidungsprozesse von KI-Systemen zu ermöglichen. Dies umfasst Mechanismen zur Echtzeitüberwachung, Schulungen für Nutzer sowie Massnahmen zur Vermeidung von «Automatisierungsbias», also der blinden Übernahme von KI-generierten Ergebnissen.
- Cybersecurity: Da KI-Systeme zunehmend Angriffsziele für Cyberkriminalität werden, enthalten die Vertragsklauseln strenge Vorgaben für Sicherheitsmassnahmen: Anbieter müssen regelmässige Sicherheitstests durchführen, Schutzmechanismen gegen Datenmanipulation implementieren und eine robuste IT-Infrastruktur bereitstellen.
Praktische Auswirkungen und Empfehlungen
Für öffentliche Auftraggeber bedeuten diese Modellvertragsklauseln eine erhöhte Rechtssicherheit bei der Beschaffung von KI-Systemen. Durch die Implementierung dieser Standards können sie sicherstellen, dass die eingesetzten Technologien den gesetzlichen Anforderungen entsprechen und ethische Standards einhalten. Es wird empfohlen, diese Klauseln bereits in der Ausschreibungsphase zu berücksichtigen und potenzielle Anbieter auf ihre Einhaltung zu verpflichten.
Für Unternehmen, die KI-Systeme anbieten, stellen die Klauseln klare Anforderungen dar, die es zu erfüllen gilt. Dies erfordert möglicherweise Anpassungen in der Entwicklung und Implementierung ihrer Systeme sowie die Etablierung interner Compliance-Strukturen. Langfristig könnten diese Massnahmen das Vertrauen in KI-Produkte stärken und Wettbewerbsvorteile bieten.
Fazit und Ausblick
Die Einführung der Modellvertragsklauseln durch die Europäische Kommission ist ein bedeutender Schritt hin zu einer verantwortungsvollen und sicheren Integration von KI im öffentlichen Sektor. Sie bieten einen klaren Rahmen für die Beschaffung und Nutzung von Hochrisiko-KI-Systemen und tragen dazu bei, ethische und rechtliche Standards zu wahren. Es bleibt abzuwarten, ob diese Klauseln in der Praxis auf breite Akzeptanz stossen oder ob sie im Zuge technischer und regulatorischer Entwicklungen angepasst werden müssen.
Quellen