Einleitung
Mit den wachsenden Problemen im Gesundheitswesen – wie beispielsweise einer Burnout-Rate von 90 % unter Ärztinnen und Ärzten – scheint es ein naheliegender Schritt zu sein, auf Technologie als Lösung zu setzen.
Der vielversprechendste Ansatz in den letzten Jahren ist natürlich die künstliche Intelligenz. Richtig implementiert kann KI Ärztinnen und Ärzte von einigen Aufgaben entlasten, sodass sie mehr Zeit mit Patientinnen und Patienten verbringen oder sich ausruhen können, was letztlich das Ziel verfolgt, die medizinischen Ergebnisse zu verbessern.
Die zentrale Frage ist jedoch: Was halten die Ärztinnen und Ärzte vom Einsatz künstlicher Intelligenz im Gesundheitswesen?
Zwei deutsche Forscherinnen, Sophie Isabelle Lambert und Murielle Madi, haben sich vorgenommen, die entstehende Beziehung der medizinischen Gemeinschaft zur künstlichen Intelligenz zu verstehen und die Faktoren zu identifizieren, die am meisten die Akzeptanz von KI-Tools durch Ärztinnen und Ärzte beeinflussen.
In einem umfassenden Überblick, der in der renommierten Zeitschrift Nature, veröffentlicht wurde, analysierten sie mehr als 21.000 Publikationen und wählten letztlich 42 Studien aus, die ihren strengen Kriterien entsprachen. Durch die Analyse dieser Studien konnten sie die entscheidenden Faktoren für eine erfolgreiche Implementierung von KI in der Medizin bestimmen.
In unserem Blogbeitrag betrachten wir die wichtigsten Erkenntnisse aus der Arbeit von Lambert und Madi und konzentrieren uns dabei auf drei zentrale Fragen zur Integration von KI in Gesundheitsorganisationen:
- Welche Meinung haben Ärztinnen und Ärzte zur Nutzung von KI in ihrer Praxis?
- Welche Bedenken haben Ärztinnen und Ärzte bezüglich KI in der Medizin?
- Welche Merkmale wünschen sich Ärztinnen und Ärzte in KI-Tools?
Lassen Sie uns eintauchen!
Welche Meinung haben Ärztinnen und Ärzte zur Nutzung von KI in ihrer Praxis?
Ob Ärztinnen, Ärzte und Pflegekräfte der Überzeugung sind, dass KI ihre Arbeit erleichtern wird, ist nicht eindeutig.
Einige Studien deuten darauf hin, dass Ärztinnen und Ärzte KI-Tools als hilfreich empfinden. Andere Studien hingegen legen nahe, dass solche Tools in bestimmten Situationen eher hinderlich sein können.
Eine Umfrage der American Medical Association zeigt, dass 65 % der befragten Ärztinnen und Ärzte den Einsatz von Künstlicher Intelligenz im Gesundheitswesen als vorteilhaft bewerten.
Konkret glauben 56% der Befragten, dass KI Folgendes verbessern kann:
- Koordination der Versorgung,
- Patientenkomfort,
- Patientensicherheit.
Die obige Umfrage zeigt also, dass die Mehrheit der Ärztinnen und Ärzte den Möglichkeiten, die künstliche Intelligenz bietet, positiv gegenübersteht. Dies spiegelt sich auch in den Meinungen der Ärztinnen und Ärzte nach Pilotimplementierungen wider:
- Mehrere Studien legen nahe, dass Ärztinnen und Ärzte der Überzeugung sind, dass klinische Entscheidungsunterstützungssysteme (CDSS) durch Warnungen und Empfehlungen die Häufigkeit von Behandlungsfehlern verringern können.
- In einer Studie gaben 85% von 100 befragten Chirurginnen, Chirurgen, Anästhesistinnen, Anästhesisten sowie Pflegekräften an, dass sie Warnungen als hilfreich bei der frühzeitigen Erkennung von Komplikationen empfinden.
- Eine weitere Analyse zur Einstellung von Radiologinnen und Radiologen gegenüber Künstlicher Intelligenz (KI) ergab, dass 51,9% der Befragten glauben, dass KI-gestützte Diagnosetools ihre Arbeitszeit deutlich verkürzen könnten.
Forschungsprojekte, die sich auf die Einführung von KI in der Radiologie und die Integration von maschinellem Lernen in klinische Abläufe konzentrierten, ergaben, dass Ärztinnen, Ärzte und Pflegepersonal KI in Bezug auf Diagnosen, Unvoreingenommenheit und Informationsqualität als präzise und auf umfangreichen wissenschaftlichen Beweisen basierend betrachteten.
Allerdings deutet Forschung darauf hin, dass die Implementierung dieser Systeme in Notaufnahmen zu einer Zunahme von Fehlern führen könnte. Eine separate Studie identifizierte Nutzbarkeitsprobleme, wobei die Befragten von einer Müdigkeit durch die hohe Anzahl von Warnungen berichteten und einige Ärzte dazu neigten, diese zu ignorieren.
Welche Bedenken haben Ärztinnen und Ärzte bezüglich KI in der Medizin?
Laut den zitierten Studien gibt es fünf zentrale Punkte, bei denen Ärztinnen und Ärzte Bedenken im Hinblick auf den Einsatz von KI-Tools haben:
- Zuverlässigkeit,
- Transparenz,
- Rechtliche Klarheit,
- Effizienz in Bezug auf Zeit und Arbeitsbelastung,
- Die Ersetzung von Ärztinnen und Ärzten durch KI-Technologie.
Bedenken hinsichtlich der Zuverlässigkeit von KI-Systemen
Mehrere Studien zeigten ein wiederkehrendes Thema in Bezug auf Zuverlässigkeit: die Sorge um die Qualität der erhaltenen Informationen.
- In drei Umfragen fanden die Teilnehmerinnen und Teilnehmer diese Informationen nicht ausreichend, um eine korrekte Diagnose zu stellen, was zu einem allgemeinen Zweifel an der Genauigkeit von Diagnosesystemen führte.
- In einer weiteren Studie äußerten die Befragten, dass klinische Entscheidungsunterstützungssysteme zwar hilfreich, aber in ihrer Wirkung begrenzt seien.
- 49,3% der Ärztinnen und Ärzte in einer Umfrage zur Bewertung des Einsatzes von künstlicher Intelligenz in der Augenheilkunde gaben an, dass die Qualität des Systems schwer zu garantieren sei.
Quelle: https://link.springer.com/article/10.1186/s12913-021-07044-5/tables/7
Die Annahme, dass KI-Systeme den Arbeitsaufwand erhöhen werden
Die Wahrnehmung, dass diese Tools eher eine zusätzliche Arbeitsbelastung erzeugen, anstatt die Arbeit zu erleichtern, stellt ebenfalls ein Hindernis für ihre Akzeptanz dar.
- Eine Studie, die die Implementierung eines KI-Tools zur Unterstützung von Neurochirurginnen und Neurochirurgen untersuchte, zeigte, dass 33 % der Befragten “zusätzliche Schulungen” als Hindernis für die Einführung eines solchen Tools nannten. Der gleiche Anteil der Befragten gab “umstrittene Software-Zuverlässigkeit” als weiteres Hindernis an.
- In einer Studie zur Nutzung von klinischen Entscheidungsunterstützungssystemen (CDSS) berichteten Ärztinnen und Ärzte, dass sie diese Systeme als zu zeitaufwendig empfinden.
- Teilnehmende einer Studie zur robotergestützten Chirurgie, insbesondere Ärztinnen und Ärzte, äußerten die Befürchtung, dass diese Verfahren mehr Zeit in Anspruch nehmen könnten. Pflegekräfte und anderes OP-Personal teilten diese Sorge jedoch nicht.
Eingeschränktes Verständnis, wie das Tool funktioniert
Eine in der Studie von Kiseleva, Kotzinos und De Hert (2022), veröffentlicht in Frontiers in Artificial Intelligence, durchgeführte multidisziplinäre Analyse untersuchte die Transparenz von KI im Gesundheitswesen aus rechtlichen nd technischen Perspektiven. Die Forscherinnen und Forscher überprüften EU-Gesetzgebung, politische Dokumente sowie Fachliteratur aus der Informatik, um ein umfassendes Bild der Transparenzprobleme zu entwickeln.
Basierend auf dieser Analyse gehören zu den Hauptanliegen von Ärztinnen und Ärzten bezüglich der Transparenz und Anpassungsfähigkeit von KI im Gesundheitswesen:
- Die Fähigkeit, KI-Entscheidungen gegenüber Patientinnen und Patienten zu verstehen und zu erklären, wie es für die informierte Einwilligung erforderlich ist.
- Der Bedarf an maßgeschneiderten, verständlichen Erklärungen über die Funktionsweise und Ergebnisse von KI.
- Die Herausforderung, die Genauigkeit und Sicherheit von KI-Systemen für spezifische Patientinnen und Patienten zu überprüfen.
Quelle: Kiseleva, A., Kotzinos, D., & De Hert, P. (2022). Transparency of AI in healthcare as a multilayered system of accountabilities: Between legal requirements and technical limitations. Frontiers in Artificial Intelligence, 5, Article 879603. https://doi.org/10.3389/frai.2022.879603.
Diese Bedenken stimmen mit einer anderen Studie überein, bei der die Teilnehmer, die ein neues prädiktives maschinelles Lernsystem in Betracht zogen, die Notwendigkeit klarer und fundierter Leitlinien für dessen Entwicklung betonten.
Schließlich ergab eine separate Studie zur Implementierung eines CDSS in der Pädiatrie, dass die Unbekanntheit mit dem System zu Widerstand bei den Ärztinnen und Ärzten führte.
Mangelndes rechtliches Wissen über die Haftung im Falle von Systemfehlern
Über die Transparenz der Funktionsweise des Systems hinaus haben Ärztinnen und Ärzte auch Bedenken darüber, wer verantwortlich ist, wenn die KI versagt.
Diese Unsicherheit kann zu Besorgnis führen und die Akzeptanz behindern.
Allerdings haben Studien einen positiven Aspekt der KI-Implementierung gezeigt: die Wahrung der Privatsphäre der Patientinnen und Patienten. Teilnehmerinnen und Teilnehmer in zwei Studien hoben die Bedeutung der Vertraulichkeit hervor und betonten, dass KI-Systeme dieses Prinzip wirksam aufrechterhalten sollten.
Jedoch haben Studien auch einen positiven Aspekt der KI-Implementierung gezeigt: den Schutz der Privatsphäre von Patientinnen und Patienten. Teilnehmende in zwei Studien betonten die Bedeutung der Vertraulichkeit und wiesen darauf hin, dass KI-Systeme dieses Prinzip effektiv wahren sollten.
Bedenken, dass KI Arbeitsplätze im Gesundheitswesen übernehmen wird
Ein zentrales Anliegen unter Gesundheitsexpertinnen und Gesundheitsexperten ist die potenzielle Gefahr, durch KI ersetzt zu werden.
Die Befürchtung, dass KI Ärztinnen und Ärzte ersetzen könnte, ist weit verbreitet und variiert je nach Fachrichtung und Karrierestufe. Es lässt sich jedoch nicht pauschal sagen, dass alle Angst vor KI haben.
Ein umfassender systematischer Review zur Akzeptanz, zum Verständnis und zu den Einstellungen von Ärztinnen und Ärzten und Medizinstudierenden gegenüber klinischer KI zeigt, dass die Mehrheit keine große Angst davor hat, vollständig durch KI ersetzt zu werden:
- In den meisten Studien (31 von 40), die dieses Thema untersuchten, glaubte weniger als die Hälfte der Befragten, dass KI menschliche Ärztinnen und Ärzte ersetzen könnte.
- In der eigenen Umfrage der Autorinnen lehnten 68% der Befragten die Vorstellung ab, dass KI Ärztinnen und Ärzte in Zukunft vollständig ersetzen wird.
Es ist jedoch bemerkenswert, dass einige Fachbereiche nach wie vor Bedenken gegenüber KI hegen. In der Radiologie äußerten beispielsweise etwa 40% der Befragten die Sorge, zukünftig durch KI ersetzt zu werden. Eine weitere Studie von Zheng et al. fand heraus, dass die meisten Augenärztinnen, Augenärzte (77%) und Techniker, Technikerinnen (57,9%) an die Rolle von KI in ihrem Fachgebiet glauben, während 24% davon ausgehen, dass KI Ärztinnen und Ärzte vollständig ersetzen könnte.
Diese Ängste können zu Widerständen gegen die Einführung von KI-Tools führen. Deshalb sollten diese Bedenken aktiv adressiert werden, um die erfolgreiche Implementierung von KI im Gesundheitswesen zu gewährleisten.
Welche Merkmale wünschen sich Ärztinnen und Ärzte in KI-Tools?
Die Forschung hebt mehrere Faktoren hervor, die die Einführung von künstlichen Intelligenzlösungen fördern. Diese sind:
- Sicherheit,
- Intuitivität des Systems,
- Integration in den Arbeitsablauf,
- Zuverlässiger Support,
- Fortgeschrittenes Training.
Weniger Fehler erhöhen das Vertrauen
Diagnoseunterstützungssysteme können Fehler haben, aber diejenigen, die von künstlicher Intelligenz (KI) angetrieben werden, haben im Allgemeinen weniger Fehler im Vergleich zu traditionellen Programmen (link). Diese Fehlerreduktion ist besonders ausgeprägt in Systemen, die für einfache Aufgaben konzipiert sind, was zu einem gesteigerten Vertrauen in die Fähigkeiten des Tools führt.
Daher ist es ratsam, bei der Gestaltung eines KI-Systems eine weniger komplexe Lösung zu entwickeln, die sich auf die Unterstützung bei einfacheren Aufgaben konzentriert.
Einfach zu bedienende Systeme haben höhere Akzeptanzraten
Die Ergebnisse einer Studie zur Verbreitung einer Innovation – Klinische Wahrnehmung der kontinuierlichen prädiktiven Analyseüberwachung auf der Intensivstation – zeigen, dass Benutzerfreundlichkeit, nahtlose Integration in bestehende Arbeitsabläufe und Einfachheit entscheidende Faktoren für die langfristige Akzeptanz und Wertschätzung des Systems durch Ärztinnen und Ärzte sind.
Die Studie hebt hervor, dass die Reduzierung von Komplexität und die Kompatibilität mit bestehenden Praktiken maßgeblich zum Erfolg der Implementierung beigetragen haben. Laut der Umfrage wird KI im Gesundheitswesen überwiegend als benutzerfreundlich wahrgenommen – 77% der befragten Fachkräfte gaben an, dass sie KI als leicht zu bedienen empfinden.
Dies betrifft auch die Interaktion mit den Nutzerinnen, insbesondere den Ärztinnen und Ärzten. Mehrere Studien haben das Phänomen der „Alarmmüdigkeit“ festgestellt. Eine übermäßige Empfindlichkeit bei Benachrichtigungen kann den Zufriedenheitsindex beeinträchtigen und zugleich ein Sicherheitsrisiko darstellen, da zu viele Meldungen das System schnell überfordern können. In kritischen Situationen wurden Warnungen des Systems oftmals ignoriert, wie Untersuchungen gezeigt haben.
Das System sollte in den Arbeitsablauf integriert werden
Auch die reibungslose Integration des Systems in den vorhandenen Arbeitsablauf ist von großer Bedeutung. Teilnehmerinnen und Teilnehmer der Studie beschrieben „erforderliche zusätzliche Aufgaben“ als „unerwünscht“ bei der Verwendung von KI-Systemen.
Das Problem ist bedeutsam, da in einer anderen Studie fast 40% der Anästhesistinnen und Anästhesisten angaben, dass sie das System nicht nahtlos in ihre klinische Routine integrieren konnten. Radiologinnen und Radiologen, die ein KI-System nutzten, das weder automatisiert noch mit gängigen Standards übereinstimmte, bewerteten ein solches System als unzuverlässig (Link).
Im Gegensatz dazu wird ein System, das mit gängigen Standards konsistent ist und auf die Aufgaben von medizinischen Fachkräften zugeschnitten ist, positiv aufgenommen (Link).
Quelle: Technology Acceptance of a Machine Learning Algorithm Predicting Delirium in a Clinical Setting: a Mixed-Methods Study
Wenn das System wirklich hilft, ist es leichter zu akzeptieren
Die Forschung ergab, dass fast 90% der Teilnehmerinnen und Teilnehmer erwarten, dass ihre Arbeitsbelastung nach der Integration von KI-Technologien zunehmen würde. Zeitmangel, Dokumentations-Überlastung und Patientenvolumen sind häufige Probleme in der Intensivpflege. Die zusätzliche Belastung durch die Nutzung eines „weiteren Programms“ kann ein großes Hindernis für die Implementierung von KI-Systemen sein.
Wenn das System jedoch in der Lage ist, die Arbeitsbelastung einer Ärztin oder eines Arztes zu reduzieren und ihnen wirklich zu helfen, besteht eine größere Chance auf Akzeptanz (Link).
Training beeinflusst die Akzeptanz
Ebenso wichtig für die erfolgreiche Implementierung von KI im Gesundheitswesen ist die vorherige Schulung des Personals. In Studien zu maschinellen Lernsystemen fühlten sich Benutzerinnen und Benutzer ohne vorherige Erfahrung mit solchen Tools überwältigt.
Mit zunehmendem Training steigt auch der Prozentsatz der Personen, die KI-Tools verwenden.
- Eine Schulungssitzung: Während dies für einige effektiv war, nutzte nur die Hälfte der Pflegekräfte, die eine Schulungssitzung erhalten hatten, das KI-System.
- Zwei Schulungssitzungen: Es wurde eine signifikante Verbesserung beobachtet, da 83% der Pflegekräfte das KI-System nach zwei Schulungssitzungen verwendeten.
- Drei Schulungssitzungen: Die höchste Wirksamkeit wurde erreicht, da nach drei Schulungssitzungen alle Pflegekräfte (100%) das KI-System nutzten (link).
Wer sind wir?
Bei NubiSoft entwickeln wir Software für die Gesundheitsbranche. Wir sind ein vertrauenswürdiger Technologiepartner für medizinische Einrichtungen sowie für Unternehmen, deren Endnutzerinnen und Endnutzer medizinische Fachkräfte sind.
Wir sind überzeugt, dass gut gestaltete Lösungen einen echten Unterschied in der Arbeit von medizinischen Fachkräften machen können.
Wir sind bereit, Ihrem Unternehmen zu helfen, sich der KI-Revolution sicher und nachhaltig anzuschließen. Kontaktieren Sie uns, wenn auch Sie bereit dafür sind.
