Das EU-KI-Gesetz (EU AI Act), das im August 2024 in Kraft trat, sieht strenge Regeln für "risikoreiche" KI im Gesundheitswesen vor - etwa für Notfalleinstufungstools und Diagnosesysteme -, wobei die wichtigsten Anforderungen im August 2026 in Kraft treten. In einem gerade veröffentlichten Paper wurden die zentralen Punkte für den Digital Health-Sektor zusammengefasst:
Take-aways:
- Zu den verbotenen KI-Anwendungen gehören die biometrische Kategorisierung, die Erkennung von Emotionen am Arbeitsplatz und die biometrische Identifizierung in Echtzeit in öffentlichen Räumen, außer in seltenen, begründeten Fällen.
- Die Einhaltung der Vorschriften erfordert ein risikobasiertes Zertifizierungssystem, das Transparenz, Datenverwaltung, menschliche Aufsicht und Auswirkungen auf die Gesundheitsergebnisse berücksichtigt.
- Das Papier warnt vor einer passiven oder “Checkbox”-Compliance und drängt auf einen werteorientierten Ansatz, der auf Autonomie, Fairness und Nachhaltigkeit beruht.
- Ethische Bewertungen, wie die Z-Inspection®-Methode, helfen dabei, versteckte Risiken zu erkennen und die Vertrauenswürdigkeit zu stärken, indem sie verschiedene Interessengruppen einbeziehen und sich auf reale Auswirkungen konzentrieren.
- Der von der Europäischen Kommission ins Leben gerufene KI-Pakt unterstützt die frühzeitige Einhaltung von Vorschriften durch Wissensaustausch und freiwillige Verpflichtungen, an denen sich bereits über 200 Organisationen beteiligen.
- Entwickler sollten einschätzen, ob ihre KI-Tools unter "hohes Risiko" fallen, mit ethischen Bewertungen beginnen, rechtliche Überschneidungen abbilden (z. B. GDPR, MDR, EHDS) und jetzt interne Governance-Strukturen vorbereiten.
- Nach 2026 müssen Unternehmen KI-Tools kontinuierlich überwachen, Nutzer in das Feedback einbeziehen und sich an die strengeren Compliance-Vorgaben für Anwendungen im öffentlichen Sektor 2030 anpassen.
Für Start-ups und junge Unternehmen allgemein empfiehlt sich übrigens auch das Studium des Small Businesses’ Guide to the AI Act.
Quelle: DOI: arXiv:2505.07875
ssey/bvdd