Der Blätterkatalog benötigt Javascript.
Bitte aktivieren Sie Javascript in Ihren Browser-Einstellungen.
The Blätterkatalog requires Javascript.
Please activate Javascript in your browser settings.
11 EmbEddEd HalblEitEr Elektronik medical lassen sich diese also wieder aufrufen um Probleme zu analysieren und künftige Fehler zu vermeiden Dies ist nicht nur für eventuelle Entschädigungsfragen wichtig sondern vor allem um systematisch aus Fehlern zu lernen und die Sicherheit der Systeme kontinuierlich zu verbessern Für den medizinischen Einsatz bedeutet das Je enger der Anwendungsbereich definiert ist und je besser die Nachverfolgbarkeit gewährleistet wird desto sicherer und zuverlässiger können KI-Systeme in der Gesundheitsversorgung eingesetzt werden Wie unterstützt und beeinflusst die Arbeit des EKFZ für Digitale Gesundheit die aktuelle Entwicklung von KI für die Medizin? Unsere Forschung konzentriert sich auf zwei Hauptthemen die technischen Herausforderungen bei der Zulassung von KI-Modellen und die politischen Rahmenbedingungen In einer kürzlich veröffentlichten Studie haben wir besonders problematische Smartphone-Apps untersucht Dabei sind wir auf Programme wie »AI Doctor« verfügbar im Google Play Store gestoßen die sich als virtuelle Ärzte ausgeben aber gefährliche Fehleinschätzungen treffen – etwa bei Suizidgefährdung oder lebensbedrohlichen Erkrankungen Diese Apps sind nicht nur medizinisch bedenklich sondern auch illegal auf dem Markt da sie keine CE-Kennzeichnung haben Allerdings wäre es falsch mit einem »Herrder-Ringe«-Ansatz à la »Gandalf du kommst hier nicht rein« zu reagieren Stattdessen müssen wir die Regulierungsprozesse an die neue Technologie anpassen Ein vielversprechender Ansatz ist die Einführung eines verbesserten Feedback-Systems In Großbritannien gibt es das »Yellow-Card«-System mit dem Ärzte und Patienten Probleme mit Medikamenten melden können Wir arbeiten an einem ähnlichen System für KIgestützte medizinische Anwendungen Die Idee ist dass Nutzende Probleme direkt aus der App heraus melden können – ähnlich wie bei App-Bewertungen aber mit direkter Anbindung an die Aufsichtsbehörden Parallel dazu entwickeln wir neue Konzepte für die Vorab-Prüfung solcher Systeme etwa durch »Sandboxes« und »Living Labs« wo Entwickler Regulierungsbehörden und Forschende gemeinsam an sicheren Lösungen arbeiten können Diese Ansätze sind auch Teil der europäischen KI-Regulierung für die ich als Experte die EU-Kommission berate Mit all diesen Herausforderungen wo sehen Sie die LLMs in der Zukunft der Medizin? Ich bin grundsätzlich optimistisch was das Potenzial der großen Sprachmodelle – auch in der Medizin – angeht Die Entwicklung von KI im Gesundheitssektor verläuft in den USA und Europa allerdings unterschiedlich schnell In den USA kommen bereits zahlreiche Produkte und jetzt auch vermehrt KI-Agenten auf den Markt besonders im Bereich der Dokumentation und Umgebungserfassung Europa folgt diesem Trend allerdings deutlich langsamer und bisher mit konservativeren Ansätzen und Technologien Die Entwicklung wird sich aber auch hier in Richtung medizinischer Entscheidungsfindung bewegen Allerdings müssen alle Hersteller die identifizierten Probleme systematisch angehen Der Erfolg wird Firmen gehören die Sicherheit und Zuverlässigkeit in den Mittelpunkt stellen Das mag bedeuten dass wir bewährte Technologien mit neuen KI-Systemen kombinieren müssen – auch wenn das manchen KI-Enthusiasten als Rückschritt erscheinen mag In der Medizin geht es jedoch nicht darum die modernste oder aufregendste Technologie einzusetzen sondern die sicherste für die Patientinnen und Patienten Ich bin überzeugt dass dieser europäische Ansatz sich letztlich weltweit durchsetzen wird Denn weder die Öffentlichkeit noch Regulierungsbehörden – sei es die EU-Kommission oder die FDA – werden fehlerhafte medizinische Informationen tolerieren Ein »manchmal stimmt es« reicht eben nicht wenn Patientinnen und Patienten extreme Gefahren drohen Wir können es uns in der Medizin nicht leisten die Grenze zwischen Wahrheit und Unwahrheit zu verwischen uh Prof Dr Stephen Gilbert ist Professor für Medical Device Regulatory Science am Else Kröner Fresenius Zentrum EKFZ für Digitale Gesundheit der TU Dresden Nach seiner Promotion an der University of Leeds UK war er mehrere Jahre in der Forschung tätig Zwischen 2017 und 2022 arbeitete er bei Biotronik und dem Digital Health Startup Ada Health auf Industrieseite bevor er 2022 in die akademische Forschung zurückkehrte Bi ld W FM Software mit CodeMeter in Umsatz verwandeln Flexible Monetarisierung Robuster IP-Schutz Volle Kompatibilität Zukunftssichere Lösungen CodeMeter – Vom Code zum Erfolg sales@wibu com www wibu com Starten Sie jetzt und fordern Sie Ihr CodeMeter SDK an wibu com de sdk