Wie man KI/ML in Medizinprodukte und -systeme integriert und in regulierten Märkten gewinnt

Man findet KI überall: Von den EKG-Messwerten auf der Smartwatch bis hin zu Algorithmen, die Ärzten dabei helfen, Lungenknoten zu erkennen – künstliche Intelligenz und maschinelles Lernen transformieren moderne medizinische Geräte.

Aber hier ist die Wahrheit: Die gleiche Technologie, die Innovationen vorantreibt, führt auch neue regulatorische Anforderungen mit sich.

Wenn Sie KI/ML in ein Medizinprodukt integrieren, müssen Sie außerdem sicherstellen, dass es Erfüllt alle regulatorischen Anforderungen und gewinnt die Vertrauenswürdigkeit der Kliniker, die darauf vertrauen. Und das ist oft die schwierigste Aufgabe. Denn sobald Ihr Algorithmus eine Diagnose beeinflusst oder eine Dosis anpasst, wird dies als Regulierte Software. Für Sie bedeutet dieser Wechsel neue Verantwortung.

Sie benötigen Präzision und Transparenz. Und Sie brauchen eine Klare, dokumentierte Verfahren Das entspricht den Erwartungen der FDA und der ISO.

Und genau hier geraten Teams in Schwierigkeiten.

Hier geht es um Folgendes:

• Was die Integration von KI/ML für regulierte Medizinprodukte tatsächlich bedeutet
• Welche FDA- und ISO-Regeln gelten für Ihre KI-Algorithmen?
• Ein Schritt-für-Schritt-Prozess zur Konstruktion auditgerechte Software
• Tipps nach dem Launch, um weiterhin konform zu bleiben
• Plus: kostenlose PDF-Anleitung Um die Anforderungen der Normen ISO 13485 und FDA zu erfüllen
• ...und weitere Einblicke, die Ihnen helfen, immer einen Schritt voraus zu sein

Die Integration von KI bedeutet, Verantwortung dafür zu übernehmen, wie Ihr Modell in realen klinischen Umgebungen funktioniert. Nicht jede KI-Funktion im Gesundheitswesen ist automatisch ein Medizinprodukt, da sie die jeweilige Anwendung bestimmt. Wenn Ihr Modell jedoch diagnostische Entscheidungen beeinflusst, beginnt es unter die Regeln für Medizinprodukte zu fallen. Wenn Ihr Algorithmus klinische Ergebnisse beeinflusst, wird es Teil eines regulierten Systems.

In der Praxis erstreckt sich dieses System oft über ein einzelnes Gerät hinaus und umfasst verbundene Software, Cloud-Services oder klinische Plattformen das zusammen Einfluss auf klinische Entscheidungen hat.

Mit anderen Worten: Sie bewegen sich von der Entwicklung eines intelligenten Tools zur Entwicklung einer intelligenten Anwendung. Regulierte Software.

Nun wollen wir uns die Regeln ansehen. Denn ganz gleich, wie fortschrittlich Ihr Algorithmus auch ist, er wird den Markt nicht erreichen, ohne einige hohe Kriterien zu erfüllen.

Wenn Ihr Produkt als KI-/ML-fähiges Medizinprodukt gilt, haben die FDA und die ISO bereits Erwartungen hinsichtlich der Entwicklung, Prüfung, Dokumentation und des Instandhalterschutzes festgelegt. Diese Elemente bilden die Grundlage: Anforderungen an die Einhaltung von AI-Richtlinien. Deshalb sollten sie Sie anleiten. Entwicklung von KI-Software Prozess von Anfang an.

Hier ist, was im Radar im Auge behalten wird.

Richtlinien der FDA zur Verwendung von KI/ML in Medizinprodukten

Die FDA betrachtet KI eher als potenzielle Gefahr, die kontrolliert werden muss, als als technologische Verbesserung. In den letzten Jahren hat die Behörde einen fokussierten Aktionsplan für KI und maschinelles Lernen für Gesundheitstechnologien veröffentlicht. Er betont die Notwendigkeit von Transparenz, Wiederholbarkeit und einer soliden Dokumentationskette. Eine der Kernprinzipien ist die Good Machine Learning Practice (GMLP) – ein Rahmenwerk, das Best Practices für die Entwicklung und Validierung von maschinellen Lernmodellen in medizinischen Softwaren beschreibt.

ISO und IEC: Die technischen Grundlagen

Die ISO legt die Rahmenbedingungen für die Entwicklung und den Betrieb von regulierten Software-Produkten fest.

Gemeinsam prägen diese Standards die Art und Weise, wie Sie alles verwalten, von Cybersicherheit über die Softwareverfolgbarkeit bis hin zu anderen Aspekten. Und obwohl keiner von ihnen “KI” direkt sagt, Sie gelten absolut für Geräte mit KI-/ML-Funktionalität., Dies gilt auch für Fälle, in denen KI als Teil eines umfassenderen medizinischen Systems eingesetzt wird, anstatt als eigenständiges Gerät.

Warum? Weil die Regulierungsbehörden nicht daran interessiert sind, welche Technologie man verwendet. Stattdessen ist es wichtig, dass diese sicher, dokumentiert und nachprüfbar ist.

Warum KI die Risikomanagementarbeit erschwert

Beim Einsatz von maschinellen Lernmodellen ändert sich das Risiko nicht statisch. Die Leistung kann sich ändern, und auch die Datenbestände können sich verändern. Zudem können die Erwartungen der Ärzte variieren.

Je adaptabler Ihr System ist, desto schwieriger ist es, zu beweisen, dass es weiterhin sicher ist.

Dieser Schritt erschwert die Arbeit für viele Teams. Sie erstellen Risikodokumentation, weil sie dazu verpflichtet sind, und nicht, weil sie dadurch reale Designentscheidungen beeinflussen können. In der Praxis bedeutet dies, dass Ihre ISO 14971-Risikodokumentation nicht als statisches PDF sein kann; sie muss sich mit jedem wichtigen Modellupdate und jeder tatsächlichen Leistungsindikation weiterentwickeln.

Die Integration von KI klingt spannend, bis man die Details betrachtet.

Hier ist ein Überblick darüber, was Sie normalerweise verlangsamt, und was Sie tun müssen, bevor Sie über Einsendungen oder Skalierung nachdenken.

Herausforderung #1: Datenqualität und Repräsentativität

Maschinelles Lernen beginnt mit Daten. Wenn Ihr Trainingsdataset die Vielfalt der Patienten in der realen Welt nicht widerspiegelt, wird Ihr Modell in der Praxis Schwierigkeiten haben. Was noch schlimmer ist: Es könnte irreführend sein.

Datenverzerrungen Dies ist ein Hauptgrund dafür, warum sonst so vielversprechende KI-Tools in klinischen Umgebungen nicht erfolgreich sind. Die Unterrepräsentation bestimmter Altersgruppen, Geschlechter oder Komorbiditäten kann zu unzusammenhängenden Ergebnissen und einer negativen klinischen Validierung führen.

Herausforderung #2: Transparenz und Verständlichkeit des Algorithmus

Regulierungsbehörden mögen schwarze Boxen nicht, und das Gleiche gilt für Ärzte.

Wenn Ihr Modell eine Empfehlung abgibt, müssen die Kliniker verstehen, woher sie stammt. Ohne Modell der Transparenz, Vertrauen bricht zusammen. Und das Gleiche gilt für Ihre Genehmigungszeitlinie.

Das bedeutet nicht, dass Ihr Algorithmus einfach sein muss. Aber Sie brauchen einen Weg, zu erklären, was er tut, selbst wenn es sich um ein komplexes neuronales Netzwerk handelt.

Herausforderung #3: kontinuierliches Lernen und Modellaktualisierungen

Die Wahrheit ist, dass KI-Modelle nicht immer gleich bleiben. Einige entwickeln sich mit neuen Daten weiter. Wenn dies geschieht, gilt die ursprüngliche Validierung möglicherweise nicht mehr.

Die FDA entwickelt weiterhin Richtlinien bezüglich adaptiver Algorithmen. Momentan wird jedoch erwartet, dass Sie, falls Ihr Modell sich ändert, dieses erneut testen und klare Nachweise dafür vorlegen.

Dies gilt sowohl für kontinuierliche Lernprozesse als auch für manuell ausgelöste Lernprozesse durch den Entwickler. Aus Sicht eines Qualitätsmanagementsystems sollte jede bedeutsame Modellaktualisierung denselben disziplinierten Änderungskontrollprozess wie jede herkömmliche Softwareaktualisierung durchlaufen. Das bedeutet, eine Folgenanalyse durchzuführen, Risiken zu prüfen, einen Regressionplan zu erstellen und klar zu dokumentieren, ob man fortfahren soll oder nicht.

Herausforderung #4: Validierung, Verifizierung und klinische Evidenz

Viele Teams glauben, dass technische Genauigkeit sie durchbringen wird. Aber das reicht selten aus.

Validierung von KI/ML Auch für Medizinprodukte ist klinische Relevanz erforderlich. Die Regulierungsbehörden erwarten sowohl die Leistung des Algorithmus (wie Sensitivität oder AUC) als auch die Bestätigung dessen Wirksamkeit in der klinischen Anwendung, in der er eingesetzt werden soll.

Das bedeutet klinische Tests, Usability-Studien und Beweise dafür, dass Ihre KI bessere Ergebnisse erzielt (oder zumindest keine Schäden verursacht).

Und all dies muss Teil Ihrer umfassenderen Strategie sein. Regulierungskonformitätsplan. Wenn es nicht dokumentiert ist, ist es nicht passiert. Wenn es nicht reproduzierbar ist, zählt es nicht.

Nun wollen wir einen praktischen Leitfaden vorstellen, der sowohl die technische Umsetzung als auch die regulatorischen Anforderungen für KI-basierte Medizinprodukte berücksichtigt.

Es zeigt den tatsächlichen KI-/ML-Lebenszyklus, den Sie befolgen müssen, um sichere, konforme und effektive KI-/ML-fähige Medizintechnik zu entwickeln.

Schritt 1. Definieren der vorgesehenen Verwendung und des Risikograden

Beginnen Sie mit Klarheit. Was soll Ihr Modell tun? Diagnose, Erkennen, Priorisierung oder Behandlungsgrundlage liefern?

Definieren Sie die beabsichtigte Verwendung im Voraus. Anschließend bewerten Sie das Risikoniveau anhand der Auswirkungen des Modells auf klinische Entscheidungen. Dieser risikobasierte Ansatz bestimmt Ihren regulatorischen Weg und die erforderlichen Nachweise.

Schritt 2. Erheben und verwalten von qualitativ hochwertigen Daten

Man kann keinen vertrauenswürdigen Algorithmus ohne zuverlässige Daten entwickeln.

Vergewissern Sie sich, dass Ihr Datensatz die Endnutzer und den klinischen Kontext widerspiegelt. Fügen Sie bei Bedarf vielfältige Populationen, mehrere Geräte und Datenquellen hinzu. Achten Sie auf die Qualität der Annotationen. Sie bilden die Grundlage für das Lernen des Modells.

Schritt 3. Modelle entsprechend GMLP trainieren und validieren

In dieser Phase wird Ihre KI zur SaMD.

Führen Sie beim Training Ihres Modells die Good Machine Learning Practices (GMLP) befolgen. Verteilen Sie Ihre Daten ordnungsgemäß. Verhindern Sie Datenverlust und nutzen Sie einen Validierungsprozess, der sowohl technische Leistungsfähigkeit als auch klinische Relevanz berücksichtigt.

Checkliste:

• Train-Test-Aufteilung dokumentiert?
• Leistungsindikatoren, die für Kliniker von Bedeutung sind?
• Das Modell wurde vor der klinischen Prüfung gesperrt?

Schritt 4. Dokumentieren Sie den Entwicklungsprozess (gemäß IEC 62304)

KI/ML ist Software und wie jede andere Software, die in Medizinprodukten eingesetzt wird, benötigt sie auch Dokumentation.

Das bedeutet, dass Sie eine Rückverfolgbarkeit von Anforderungen über Code, Versionskontrolle, Risikobewertung und Testnachweise benötigen. Der Goldstandard hierbei ist die IEC 62304. Beginnen Sie früh mit der Dokumentation, damit Sie später nicht darum kämpfen müssen, den Verfall einzudämmen.

Schritt 5. Erstellen von Regulierungsanträgen und Beweispaketen

Ihr Algorithmus mag hervorragend sein. Aber ohne ein solides Beweispaket wird er nicht genehmigt.

Sie müssen nachweisen, wie Sie einen risikobasierten Ansatz im gesamten KI-/ML-Lebenszyklus verfolgt haben. Dazu gehören die beabsichtigte Verwendung, die klinische Validierung, die Einhaltung der GMLP-Richtlinien sowie die Pläne nach Markteinführung.

Organisieren Sie Ihre Beweismittel entsprechend den Anforderungen der FDA oder der MDR, je nach Ihrem Markt.

KI/ML ist keine ferne Idee. Sie ist bereits in regulierten medizinischen Geräten integriert, von Herzgeräten über vernetzte Atemwege bis hin zu intelligenten Instrumenten. Viele Hersteller nutzen sie, um klinische Entscheidungen zu unterstützen oder Probleme frühzeitig zu erkennen.

Schauen wir uns an, wie die führenden Hersteller dies umsetzen.

1. Bildgebungstechnologie mit KI zur Unterstützung der Diagnostik

Einige KI-Tools werden heute dazu verwendet, Anzeichen von Erkrankungen wie Lungenknoten oder Frakturen in medizinischen Bildern zu erkennen. Sie ersetzen nicht Radiologen, sondern helfen dabei, Dinge aufzuspüren, die sonst vielleicht übersehen würden. Um zuverlässig zu bleiben, setzen diese Systeme auf einen gut definierten Softwarewartungszyklus, der die Genauigkeit der Daten bei der Aufnahme neuer Daten gewährleistet.

2. Predictive Analytics für chronische Erkrankungen

Viele vernetzte Geräte verfügen heute über Modelle, die versuchen, zu erkennen, wann die Gesundheit eines Patienten sich verschlechtern könnte. Zum Beispiel frühe Anzeichen einer Herzinsuffizienz oder einer Diabeteskomplikation. Aber eine Prognose reicht nicht aus. Sie benötigen einen klaren Prozess zur Problemlösung. Dazu gehört auch, wie Sie falsche Warnmeldungen behandeln, welche Maßnahmen ergriffen werden und wie all dies für eine Überprüfung aufgezeichnet wird.

3. Systeme zur klinischen Entscheidungsunterstützung (CDSS)

Einige Softwarelösungen unterstützen mittlerweile auch echte Entscheidungen, wie z. B. die Anpassung einer Dosis oder die Einweisung eines Patienten in eine Nachbehandlung. Für Geräte der Klassen II und III kommt dies mit einer höheren Verantwortung einher. Sie müssen erklären, wie die Software Entscheidungen trifft. Alle Änderungen müssen dokumentiert werden. Außerdem müssen Sie nachweisen können, dass das System nützlich ist, ohne neue Risiken zu schaffen.

Nach der ersten Entwicklung und der Zulassungsantragstellung hören Ihre Verantwortlichkeiten nicht auf. Die fünf Schritte, die wir zuvor beschrieben haben, sind entscheidend, um Ihr medizinisches Gerät mit KI/ML auf den Markt zu bringen. Aber die Einhaltung der Vorschriften erfordert ebenso viel Engagement.

Sobald Ihr Gerät in Gebrauch ist, benötigen Sie einen klaren Plan für Nachmarkttest. Diese Systeme bleiben nicht in der Zeit stagnieren, da sie sich ändern können, wenn weitere Daten eingehen. Und wenn dies geschieht, könnte auch ihr Verhalten sich ändern. Deshalb ist die Überwachung des Modellverhaltens ein großes Problem. Wenn das beginnt, andere Ergebnisse zu liefern als erwartet, muss man einen Weg finden, das frühzeitig festzustellen und vorzubeugen, bevor es zu Problemen führt. Das bedeutet in der Regel eine formelle interne Überprüfung, zusätzliche Tests und eine klare Entscheidung darüber, ob die Änderung nur intern genehmigt werden muss oder auch eine neue regulatorische Einreichung erforderlich macht.

Manchmal ist es ein Aktualisierung des KI-Modells Das ist notwendig. Vielleicht haben Sie neue Daten erhalten oder die Leistung ist nicht mehr wie früher. Das ist völlig normal. Aber selbst kleine Änderungen müssen noch bearbeitet werden. dauerhaft Validierung. Sie müssen überprüfen, wie das Modell funktioniert, und sicherstellen, dass nichts Neues über die Ränder hinausgeschmuggelt wurde.

Und vergiss nicht, zu sammeln Klinische Daten aus der realen Welt. Es bietet Ihnen Erkenntnisse, die nicht nur die Aktualisierungen steuern, sondern auch dabei helfen, die Qualität zu erhalten. Überwachung durch die FDA Erfüllen Sie die Anforderungen und halten Sie Ihren Problemlösungsprozess stets auf dem neuesten Stand.

Einer unserer Kunden, ein US-amerikanischer Hersteller von medizinischen Geräten, hatte bereits qualitativ hochwertige EKG- und Pulsoximeter-Tracker entwickelt. Ihre bestehende mobile App war jedoch nicht leistungsstark genug. Sie war nicht mit den Systemen des Krankenhauses integriert, erfüllte die FDA- oder HIPAA-Standards nicht und lieferte keine Erkenntnisse, auf die Ärzte reagieren konnten.

Das Problem:

Die Patienten bekamen nur Rohdaten angezeigt. Ärzte hatten keinen Zugang zu Echtzeit-Gesundheitsinformationen. Und das Unternehmen konnte nicht auf neue B2B-Kanäle zugreifen, da die App nicht den klinischen oder regulatorischen Anforderungen entsprach.

Was Yalantis tat:

• Wir haben eine brandneue mobile App entwickelt, die vollständig HIPAA- und FDA-konform ist.
• Ein kompatibles ML-Modell wurde integriert, um gesundheitliche Anomalien zu erkennen und vorausschauende Erkenntnisse zu liefern.
• Die App wurde mithilfe der HL7-Standards mit den wichtigsten US-amerikanischen Krankenhausepisystemen (EHRs) verbunden.
• Geräte wurden mit Echtzeit-Benachrichtigungen ausgestattet und die Softwarewartungsprozesse wurden optimiert, um die kontinuierliche Einhaltung der Vorschriften zu gewährleisten.

Was der Kunde erreicht hat:

• 55 Prozent mehr Engagement der Patienten.
• 30% Umsatzwachstum durch neue B2B-Verträge mit Kliniken.
• Fest Zunahme der App-Nutzung.

Dieser Fall zeigt, wie durchdenkliche Entwicklung und die Einhaltung der Software-Compliance für Medizinprodukte künstliche Intelligenz/Maschinelles Lernen in Medizinprodukten in eine Anwendung verwandeln können, die in echten Kliniken funktioniert.

Wenn man KI in eine regulierte Medizinprodukt einzubinden versucht, wird schnell klar: Es reicht nicht aus, einen cleveren Algorithmus zu haben. Was zählt, ist, wie man ihn entwickelt und verwaltet.

Selbst mit einem soliden Team und großartiger Technologie ist es nicht genug, die FDA- oder MDR-Zielvorgaben zu erreichen. Es braucht mehr als nur saubere Codequalität. Man braucht Struktur und eine solide Dokumentation. Und man braucht einen Prozess, der auf die Art und Weise abgestimmt ist, wie reale Geräte gebaut, aktualisiert und in der klinischen Versorgung eingesetzt werden.

Und wenn Ihr Roadmap auch RPM, Echtzeit-Analysen oder OTA-Updates umfasst? Dann benötigen Sie Partner, die sowohl den technologischen Rahmen als auch den regulatorischen Druck, der mit dieser Technologie einhergeht, verstehen.