Ob Medikationssoftware oder Tumordiagnostik – künstlich intelligente Software ist in der heutigen Medizin unverzichtbar. Unterbreitet die Software Diagnose- und/oder Therapievorschläge, wird es sich dabei regelmäßig um ein Medizinprodukt handeln. Der Hersteller eines Medizinprodukts unterliegt einem umfangreichen Pflichtenprogramm nach der Verordnung (EU) 2017/745 (Medical Devices Regulation – „MDR“). Bei Software, die regelmäßig mindestens der Risikoklasse IIa angehört, wird für die Konformitätsbewertung eine Benannte Stelle hinzuzuziehen sein. Wenn das Medizinprodukt künstlich intelligent ist, kann die Konformitätsbewertung zur Herausforderung werden.
Eine gesetzliche Definition, was künstliche Intelligenz ist, gibt es (noch) nicht. Die in dem Entwurf einer unionsrechtlichen KI-Verordnung (Artificial Intelligence Act – „AIA“) enthaltene Legaldefinition ist so sperrig, dass damit wenig Erkenntnisgewinn verbunden ist. Darin wird KI als „eine Software, die mit einer oder mehreren der in Anhang I aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“ definiert. In der Praxis wird weiterhin zwischen statischer KI, die gelernt hat und in einem gelernten Zustand arbeitet, dynamischer KI, die auch im Feld weiterlernt, und Blackbox-KI, die nicht erklärt, wie sie zu einem Ergebnis kommt, unterschieden.
Die Interessengemeinschaft der Benannten Stellen für Medizinprodukte vertritt momentan die Auffassung, dass dynamische KI grundsätzlich nicht zertifizierbar ist. Eine Zertifizierung komme in der Regel nur bei statischer KI in Betracht, da der gelernte Zustand sich nicht verändere. Bei der statischen Blackbox-KI müsse eine Einzelfallentscheidung getroffen werden.
Hintergrund ist, dass der Hersteller bei wesentlichen nachträglichen Änderungen nach der Konformitätsbewertung seines Produkts verpflichtet ist, die Benannte Stelle zu informieren, die dann entscheidet, ob eine erneute Konformitätsbewertung erforderlich ist oder die Änderung lediglich genehmigt und ein Nachtrag zur jeweiligen EU-Bescheinigung ausgestellt wird.
Bei dynamischer KI, die im Feld (also nach der Konformitätsbewertung) weiterlernt, führt dies ersichtlich zu dem Problem theoretisch ständig erforderlicher Änderungsanzeigen und ggf. Neuzertifizierungen. Es liegt auf der Hand, dass das nicht praktikabel ist. Auf der anderen Seite haben die Felddaten ein enormes Potenzial, die Software zu verbessern. Damit Innovation nicht durch Unklarheit gehemmt wird, wird man um eine Anpassung der MDR und bessere Abstimmung mit dem AIA nicht herumkommen.
