Einsatz von künstlicher Intelligenz

Digitale Technologien sind ein nicht mehr wegzudenkender Faktor unseres täglichen Lebens. Künstliche Intelligenz (KI), als eine dieser Technologien, ist zentral für den sozialen und ökonomischen Wandel unserer Gesellschaft. Derzeit ist das Thema in aller Munde, auch in der Medizin: Hier wirft die Anwendung von KI gleichzeitig rechtliche und ethische Fragen auf.

In der Medizin finden KI-unterstützte Tools z.B. bei bildgebender Diagnostik, in Bereichen der Genomik, der personalisierten Medizin oder bei Patientenüberwachung und -management etc. breite Anwendung. Hand in Hand mit der bahnbrechenden Entwicklung gehen aber Risiken und Herausforderungen einher, die ebenfalls „mitzudenken“ sind. Die KI-Regulierung der EU ist gerade im Entstehen. Doch auch die Datenschutz-Grundverordnung hat das Recht einer betroffenen Person verankert, nicht einer ausschließlich auf einer automatisierten Verarbeitung (einschließlich Profiling) beruhenden Entscheidung unterworfen zu werden.

Grundsatz: Recht auf Überprüfung durch den Menschen

Artikel 22 der Datenschutz-Grundverordnung (DSGVO) regelt das automatisierte Einzelentscheidungsverfahren, einschließlich Profiling.

Gemäß Artikel 22 Absatz 1 DSGVO hat jede Person das Recht, nicht einer ausschließlich auf einer automatisierten Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.

Dies bedeutet, dass automatisierte Entscheidungen, die erhebliche Auswirkungen auf eine Person haben, nicht ausschließlich auf KI-Algorithmen basieren sollten. Dies gilt insbesondere für medizinische Entscheidungen, bei denen automatisierte Verarbeitungstechniken wie maschinelles Lernen und KI zur Diagnosestellung oder für Behandlungsentscheidungen eingesetzt werden. Die DSGVO schützt die betroffene Person vor rein algorithmischen Entscheidungen und fordert eine menschliche Überprüfung oder Einbeziehung in den Entscheidungsprozess. Dahinter steht der Grundgedanke, dass menschliche Überlegungen und ethische Prinzipien in der Regel in den Entscheidungsprozess einbezogen werden, insbesondere in Bezug auf medizinische Diagnosen und Behandlungsentscheidungen.

Ausnahmen und Mindestrechte

Artikel 22 Absatz 2 DSGVO bietet Ausnahmen von diesem Grundsatz, wenn die automatisierte Entscheidung für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Verantwortlichen erforderlich ist, aufgrund von Rechtsvorschriften zulässig ist oder auf der ausdrücklichen Einwilligung der betroffenen Person beruht.

Dies bedeutet, dass in einigen Fällen automatisierte Entscheidungen in der medizinischen Praxis zulässig sein können, wenn bestimmte Voraussetzungen erfüllt sind. Nach Absatz 3 des Artikels 22 DSGVO stehen den betroffenen Personen bei einer zulässigen automatisierten Entscheidung im Einzelfall zumindest bestimmte Mindestrechte zu, wie u.a. das Recht auf Erwirkung des Eingreifens einer Person seitens des Verantwortlichen etc.

Letztlich verbietet Absatz 4 automatisierte Entscheidungen im Einzelfall, die auf sensiblen Daten beruhen, außer es liegt eine ausdrückliche Einwilligung vor oder die Verarbeitung stützt sich auf Artikel 9 Absatz 2 lit.g – das öffentliche Interesse im Bereich der öffentlichen Gesundheit.

Fazit

Obwohl künstliche Intelligenz Entscheidungsprozesse unterstützen kann, sollten letztendlich Ärzte und medizinisches Fachpersonal die Verantwortung tragen. KI sollte als Werkzeug zur Unterstützung und Ergänzung der menschlichen Expertise dienen.

Die Anwendung von KI in der Medizin wirft ethische und gleichzeitig rechtliche Fragen auf, wie beispielsweise den Umgang mit Fehlern, die Haftung im Falle von Schäden und die Gleichbehandlung von Patienten. Es ist wichtig, Richtlinien und Rahmenbedingungen zu entwickeln, um sicherzustellen, dass KI verantwortungsvoll und zum Wohl der Patienten eingesetzt wird.