Künstliche Intelligenz verändert die Arzneimittelentwicklung grundlegend – schneller, effizienter, datengetriebener. Doch je leistungsfähiger die Systeme, desto grösser die regulatorischen Herausforderungen. Neue Leitlinien von Swissmedic, WHO und internationalen Organisationen zeigen: Ohne klare Governance drohen Risiken für Patientensicherheit und Marktintegrität. Unternehmen stehen vor der Frage, wie sie Innovation und Compliance gleichzeitig sicherstellen.
Der Einsatz von Künstlicher Intelligenz (KI) und Machine Learning (ML) in der Arzneimittelentwicklung hat in den letzten Jahren erheblich an Bedeutung gewonnen. Anwendungen reichen von der Identifizierung neuer Wirkstoffe über die Optimierung klinischer Studien bis hin zur Qualitätskontrolle in der Produktion. Parallel dazu intensivieren Regulierungsbehörden weltweit – darunter Swissmedic, die WHO sowie internationale Gremien wie ICH und IMDRF – ihre Bemühungen, den Einsatz von KI rechtlich und ethisch zu strukturieren.
Bereits in einem früheren Beitrag hat HÄRTING Rechtsanwälte die transformative Rolle von KI in der medizinischen Forschung beleuchtet und am Beispiel der Antibiotikaentwicklung aufgezeigt, welches disruptive Potenzial in datengetriebenen Modellen liegt. Der Beitrag verdeutlicht insbesondere, wie KI nicht nur Effizienzgewinne ermöglicht, sondern auch grundlegende Fragen zur Rolle menschlicher Forschung, zur Verantwortung und zur regulatorischen Einordnung aufwirft. Diese Überlegungen knüpfen unmittelbar an die hier diskutierten regulatorischen Herausforderungen an und unterstreichen die Notwendigkeit eines kohärenten Rechtsrahmens für den Einsatz von KI im Life-Sciences-Bereich.
KI und generative Modelle im Gesundheitswesen
KI-Systeme bezeichnet Systeme, die aus Daten lernen und eigenständig Aufgaben ausführen können. Eine besondere Rolle spielen derzeit generative KI-Modelle, insbesondere sogenannte Large Multi-Modal Models (LMMs). Diese können verschiedene Datentypen verarbeiten und neue Inhalte generieren – etwa klinische Hypothesen, Studienprotokolle oder molekulare Strukturen.
Die WHO hebt hervor, dass solche Modelle ein erhebliches Transformationspotenzial für Gesundheitswesen, Forschung und Arzneimittelentwicklung besitzen. Gleichzeitig bergen sie Risiken, etwa durch intransparente Entscheidungsprozesse oder systematische Verzerrungen in Trainingsdaten.
Regulatorische Grundlagen: Swissmedic und internationale Harmonisierung
Swissmedic verlangt, dass Zulassungsgesuche dem aktuellen Stand von Wissenschaft und Technik entsprechen, was ausdrücklich auch KI-basierte Elemente einschliesst. Voraussetzung für eine erfolgreiche regulatorische Bewertung ist dabei eine vollständige, transparente und nachvollziehbare Dokumentation. Diese muss insbesondere die Herkunft und Qualität der verwendeten Daten offenlegen, die Modellarchitektur sowie die angewandten Trainingsmethoden beschreiben, die durchgeführten Validierungs- und Testverfahren darlegen und eine fundierte Risikobewertung einschliesslich möglicher Verzerrungen (Bias) enthalten.
Bei der Beurteilung solcher KI-Komponenten orientiert sich Swissmedic nicht isoliert, sondern explizit an internationalen Standards und Leitlinien. Dazu zählen insbesondere die ethischen und governancebezogenen Vorgaben der Weltgesundheitsorganisation (WHO), die Richtlinien des International Council for Harmonisation (ICH) etwa zur Datenintegrität und Qualität, die Vorgaben des International Medical Device Regulators Forum (IMDRF) für Software als Medizinprodukt sowie einschlägige Leitlinien der Europäischen Arzneimittel-Agentur (EMA) und der US-amerikanischen Food and Drug Administration (FDA) zu KI- und Machine-Learning-Anwendungen. Diese internationale Harmonisierung ist vor dem Hintergrund globaler Lieferketten und zunehmend grenzüberschreitender Zulassungsverfahren von zentraler Bedeutung, um sowohl die Vergleichbarkeit regulatorischer Entscheidungen als auch die Sicherheit und Wirksamkeit von KI-gestützten Arzneimitteln weltweit zu gewährleisten.
WHO-Prinzipien als ethischer Kompass
Die WHO formuliert sechs zentrale Prinzipien für den Einsatz von KI im Gesundheitswesen:
- Schutz der Autonomie
- Förderung von Sicherheit und öffentlichem Interesse
- Transparenz und Nachvollziehbarkeit („Explainability“)
- Verantwortung und Rechenschaftspflicht
- Inklusion und Fairness
- Nachhaltigkeit und Anpassungsfähigkeit
Diese Prinzipien haben unmittelbare Auswirkungen auf regulatorische Anforderungen. Insbesondere die Forderung nach „Explainability“ stellt Unternehmen vor erhebliche technische und rechtliche Herausforderungen.
Zentrale Herausforderungen in der Praxis
- Datenqualität und Bias
KI-Systeme sind nur so gut wie die Daten, auf denen sie basieren. Verzerrte oder unvollständige Datensätze können zu fehlerhaften Ergebnissen führen – mit potenziell gravierenden Auswirkungen auf Patientensicherheit.
- Intransparenz („Black Box“-Problematik)
Viele Machine-Learning-Modelle sind in ihrer Funktionsweise nur schwer nachvollziehbar, was häufig als sogenannte „Black Box“-Problematik bezeichnet wird. Diese Intransparenz führt dazu, dass regulatorische Prüfungen erheblich erschwert werden, da Entscheidungsprozesse innerhalb der Modelle nicht ohne Weiteres offengelegt oder überprüft werden können. Gleichzeitig stellt sich die Frage der Haftungszuordnung, wenn Entscheidungen auf Basis solcher Systeme getroffen werden und es zu Fehlentwicklungen oder Schäden kommt. Schliesslich beeinträchtigt die mangelnde Nachvollziehbarkeit auch das Vertrauen von Behörden, Fachpersonen und Anwendern in die eingesetzten Technologien, was deren breitere Akzeptanz und Implementierung zusätzlich hemmen kann.
- Dynamische Systeme und Lebenszyklusbetrachtung
KI-Modelle entwickeln sich kontinuierlich weiter („adaptive learning“). Dies stellt klassische Zulassungsverfahren infrage, die auf statischen Produkten basieren.
- Qualitätskontrolle und Validierung
Die Validierung von KI-Systemen stellt Unternehmen und Behörden vor neue Herausforderungen, da klassische Prüfmethoden häufig nicht ausreichen, um die Komplexität und Dynamik solcher Systeme angemessen zu erfassen. Stattdessen bedarf es eines erweiterten methodischen Ansatzes, der insbesondere ein kontinuierliches Monitoring der Systeme im laufenden Betrieb umfasst, um Veränderungen im Modellverhalten frühzeitig zu erkennen. Darüber hinaus sind regelmässige Re-Training-Prozesse erforderlich, um die Modelle an neue Daten und veränderte Rahmenbedingungen anzupassen und ihre Leistungsfähigkeit aufrechtzuerhalten. Ein weiterer zentraler Aspekt ist die Sicherstellung der Auditierbarkeit von Algorithmen, sodass deren Funktionsweise, Entscheidungslogik und Entwicklungsschritte nachvollziehbar und überprüfbar bleiben, insbesondere im Hinblick auf regulatorische Anforderungen und mögliche Haftungsfragen.
Praktische Auswirkungen und Handlungsempfehlungen
Für Unternehmen
- Frühzeitige Integration regulatorischer Anforderungen: KI-Projekte sollten von Beginn an unter Compliance-Gesichtspunkten konzipiert werden.
- Dokumentation und Transparenz: Lückenlose Dokumentation ist zentral für Zulassungsverfahren.
- Bias-Management: Implementierung systematischer Verfahren zur Identifikation und Reduktion von Verzerrungen.
- Interdisziplinäre Teams: Kombination von IT-, Rechts- und Fachkompetenz.
Für Rechtsabteilungen und Legal Counsel
- Monitoring regulatorischer Entwicklungen: Insbesondere auf Ebene von WHO, EMA, FDA etc.
- Vertragsgestaltung: Berücksichtigung von Haftungsfragen bei KI-Systemen.
- Data Governance: Sicherstellung rechtskonformer Datenverarbeitung.
Für DPO und AI Officer
- Risikoassesement nach anwendbaren Datenschutz-, Data Act und AI Act-Vorgaben.
Für Behörden
- Flexible Regulierungsansätze: Anpassung klassischer Verfahren an dynamische KI-Systeme.
- Internationale Zusammenarbeit: Vermeidung regulatorischer Fragmentierung.
Fazit und Ausblick
Die Integration von KI in die Arzneimittelentwicklung bietet erhebliche Chancen für Innovation und Effizienzsteigerung. Gleichzeitig steigen die Anforderungen an Regulierung, Transparenz und ethische Verantwortung.
Swissmedic und internationale Organisationen wie die WHO arbeiten intensiv an einem kohärenten Rahmen, der Innovation ermöglicht, ohne die Patientensicherheit zu gefährden. Für Unternehmen bedeutet dies: Wer KI erfolgreich einsetzen will, muss regulatorische Anforderungen nicht als Hindernis, sondern als integralen Bestandteil der Entwicklungsstrategie verstehen.
In Zukunft ist mit einer weiteren Konkretisierung regulatorischer Leitlinien zu rechnen – insbesondere im Hinblick auf generative KI und adaptive Systeme. Unternehmen, die frühzeitig auf Compliance, Transparenz und internationale Standards setzen, werden langfristig Wettbewerbsvorteile erzielen.
Quellen
- Swissmedic: Rahmenbedingungen für KI in Arzneimittelentwicklung und regulatorischem Prozess
- WHO: Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models
- Wenn KI die Antibiotikarevolution startet – ersetzt KI bald den Menschen in der Forschung?