"Wir arbeiten an einer Art Hippo­kra­ti­schem Eid für KI-Entwick­ler" 

TK spezial: Nehmen Sie uns mit in die Zukunft: Wie wird das Gesundheitswesen in 15 Jahren aussehen - wenn KI bereits zu so mancher Revolution geführt haben dürfte?

Prof. Martin Hirsch: Ich glaube, dass wir vor einer der größten Veränderungen der Medizin stehen. In 15 Jahren wird künstliche Intelligenz vermutlich fast überall dort präsent sein, wo medizinische Entscheidungen getroffen werden.

Das wird bei einem einfachen Gedankenexperiment deutlich: Stellen Sie sich vor, jeder Arzt hätte einen digitalen Kollegen an seiner Seite, der praktisch das gesamte medizinische Wissen kennt, die Krankengeschichte des Patienten überblickt, aktuelle Forschungsergebnisse berücksichtigt und auf mögliche Fehler oder übersehene Zusammenhänge hinweist. Ein solcher Kollege würde niemals müde, hätte keine schlechten Tage und könnte sein Wissen kontinuierlich aktualisieren. Man ahnt, dass ein solcher Kollege die Welt der ärztlichen Praxis signifikant verändern würde. Und genau solche Kollegen sind in Zukunft mit KI realisierbar.

Aber die vielleicht größte Revolution könnte darin bestehen, dass sich die Medizin grundlegend verändert: von einer Medizin, die überwiegend Krankheiten behandelt, hin zu einer Medizin, die Krankheiten verhindert, bevor sie entstehen.

Prof. Dr. Martin Hirsch

Das Bild ist noch nicht vollständig geladen. Falls Sie dieses Bild drucken möchten, brechen Sie den Prozess ab und warten Sie, bis das Bild komplett geladen ist. Starten Sie dann den Druckprozess erneut.

Bislang ist Prävention häufig relativ unspezifisch. Wir empfehlen Menschen, sich gesund zu ernähren, ausreichend zu bewegen und bestimmte Vorsorgeuntersuchungen wahrzunehmen. Künftig könnten KI-Systeme aus genetischen Informationen, Lebensgewohnheiten, Umwelteinflüssen und individuellen Gesundheitsdaten sehr viel genauer ableiten, welche Erkrankungen einem bestimmten Menschen drohen und wie er ihnen vorbeugen kann.

Eine KI-gestützte personalisierte Primärprävention könnte unzähligen Menschen Leid ersparen.
Prof. Dr. Martin Hirsch

Eine solche personalisierte Primärprävention könnte nicht nur unzähligen Menschen Leid ersparen, sondern auch die stetig steigenden Kosten unseres Gesundheitswesens begrenzen. Allerdings muss sich erst zeigen, welche dieser Ansätze tatsächlich wirksam und wirtschaftlich sind. Zudem hätte eine solche Entwicklung eine Kehrseite: Um Krankheiten möglichst früh zu erkennen oder zu verhindern, müssten KI-Systeme sehr viel über uns wissen. Über unseren Körper, unsere Gewohnheiten, unsere Schwächen und möglicherweise sogar über unsere Ängste.

Damit stellt sich eine gesellschaftspolitische Frage von enormer Tragweite: Wem vertrauen wir dieses Wissen über uns an? Dabei geht es nicht allein um den Schutz unserer Gesundheitsdaten. Mindestens ebenso wichtig ist die Frage, wem die Erkenntnisse gehören, die KI aus diesen Daten gewinnt. Ein KI-System könnte beispielsweise aus scheinbar harmlosen Informationen ableiten, dass ein Mensch mit hoher Wahrscheinlichkeit später an einer Demenz oder einer psychischen Erkrankung leiden wird. Wer darf solche Erkenntnisse nutzen oder weitergeben? Und hat der betroffene Mensch nicht auch das Recht, bestimmte Dinge über seine gesundheitliche Zukunft gar nicht wissen zu wollen?

Wir müssen deshalb nicht nur unsere Daten schützen, sondern auch unsere Souveränität über das Wissen bewahren, das aus diesen Daten über uns entsteht. Heute wird die Entwicklung besonders leistungsfähiger KI-Systeme von wenigen, überwiegend amerikanischen Unternehmen dominiert. Gleichzeitig erleben wir weltweit eine Zunahme autoritärer politischer Tendenzen. Die Vorstellung, dass hochsensible Gesundheitsdaten europäischer Bürger und die daraus gewonnenen Erkenntnisse in eine technologische Infrastruktur geraten könnten, die sich demokratischer Kontrolle weitgehend entzieht, muss uns beunruhigen.

Europa steht deshalb vor einer doppelten Herausforderung: Wir müssen die medizinischen Möglichkeiten der KI entschlossen nutzen und zugleich sicherstellen, dass die Kontrolle über unsere Gesundheitsdaten und die damit verbundenen Entscheidungen nicht verloren geht. Dafür brauchen wir eigene technologische Kompetenzen, verlässliche europäische Infrastrukturen und klare demokratische Regeln. 

Es darf niemals ein Fehler sein, einer KI begründet zu widersprechen.
Prof. Dr. Martin Hirsch

Die entscheidende Frage wird deshalb nicht nur sein, was KI in der Medizin alles kann, sondern auch, wer darüber bestimmt, was sie darf. Meine Hoffnung ist eine Medizin, in der Maschinen den Menschen wieder mehr Raum geben: mehr Zeit für Gespräche, für Zuwendung und für das, was Medizin im Kern ausmacht. Denn bei allem technologischen Fortschritt sollte unser Ziel unverändert bleiben: So viel Mensch wie möglich, so viel KI wie nötig.

TK spezial: Können Sie uns aus Ihrer Arbeit am Institut für künstliche Intelligenz in der Medizin ein Projekt nennen, das auch Ihrer Sicht besonders gut zeigt, welches Potenzial KI im Gesundheitswesen hat?

Hirsch: Ein eindrückliches Beispiel ist unsere Arbeit zur Früherkennung seltener Erkrankungen, die wir mit Unterstützung des Fördervereins für unerkannte und seltene Erkrankungen (FUSE e.V.) durchführen.
Es gibt mehrere Tausend solcher Erkrankungen. Jede einzelne ist selten, aber zusammengenommen betreffen sie Millionen Menschen. Viele Betroffene durchlaufen eine jahrelange Odyssee von Arzt zu Arzt, bevor endlich die richtige Diagnose gestellt wird. Das bedeutet oft jahrelanges Leiden, unnötige Untersuchungen und manchmal auch unwiederbringlich verlorene Behandlungsmöglichkeiten. Wir arbeiten deshalb an KI-Systemen, die medizinische Informationen aus der Krankenakte - beispielsweise Symptome, Laborwerte, Entwicklungsauffälligkeiten oder charakteristische Gesichtsmerkmale - miteinander verknüpfen und frühzeitig Hinweise auf eine möglicherweise übersehene seltene Erkrankung geben können.

Das Faszinierende daran ist, dass die KI nicht unbedingt etwas entdecken muss, was die Medizin noch gar nicht weiß. Sie muss vielmehr vorhandenes Wissen im richtigen Moment verfügbar machen. Wir arbeiten in einem angrenzenden Projekt auch daran, mithilfe von KI in der Kinderarztpraxis im Rahmen der routinemäßigen Vorsorgeuntersuchung U7a bestimmte seltene Erkrankungen zu erkennen. Dazu muss der Kinderarzt nicht Tausende seltener Erkrankungen kennen. Aber eine KI kann ihn darauf aufmerksam machen, dass die Kombination bestimmter Auffälligkeiten auf eine dieser Erkrankungen hindeuten könnte.
Wenn wir durch KI die Zeit bis zur richtigen Diagnose von Jahren auf Wochen oder Monate verkürzen könnten, wäre das für die betroffenen Familien ein gewaltiger Fortschritt.

TK spezial: Wird es Ihrer Meinung nach auf absehbare Zeit ein Kunstfehler sein, wenn ein Arzt oder eine Ärztin vor der Diagnosestellung kein KI-Tool konsultiert hat?

Hirsch: Ich halte das durchaus für möglich. Allerdings nicht generell, sondern in bestimmten medizinischen Situationen. Wenn wissenschaftlich nachgewiesen ist, dass ein KI-System bestimmte gefährliche Erkrankungen zuverlässiger erkennt als ein Arzt allein, dann wird sich irgendwann die Frage stellen, ob es noch vertretbar ist, auf diese zusätzliche Sicherheit zu verzichten. Wir kennen das Prinzip bereits aus anderen Bereichen der Medizin: Wer auf eine verfügbare, etablierte und medizinisch gebotene Untersuchungsmethode verzichtet, muss dafür gute Gründe haben. 
Allerdings darf daraus kein Zwang entstehen, jeder Empfehlung einer KI zu folgen. Im Gegenteil: Die ärztliche Aufgabe wird zunehmend darin bestehen, solche Empfehlungen kritisch einzuordnen. Denn auch KI kann Fehler machen. Und möglicherweise ist eine ihrer größten Gefahren, dass sie selbst dann überzeugend klingt, wenn sie falsch liegt.
Ich könnte mir deshalb vorstellen, dass es irgendwann ein Fehler sein kann, eine KI nicht zu konsultieren. Es darf aber niemals ein Fehler sein, einer KI begründet zu widersprechen.

TK spezial: Wer trägt aus Ihrer Sicht die Verantwortung, wenn KI-Empfehlungen Teil von medizinischen Entscheidungen werden - die Ärztin/der Arzt oder die Personen, die den Algorithmus entwickelt haben?

Hirsch: Ich halte es für einen grundlegenden Fehler, diese Frage als ein "Entweder-Oder" zu betrachten. Die Verantwortung für die konkrete medizinische Entscheidung muss grundsätzlich beim behandelnden Arzt bleiben. Denn nur er kann die Empfehlung der KI in den gesamten Kontext einordnen: die individuelle Situation des Patienten, seine Wünsche, seine Ängste und seine Lebensumstände.

So viel Mensch wie möglich, so viel KI wie nötig.
Prof. Dr. Martin Hirsch

Aber daraus folgt keineswegs, dass die Entwickler medizinischer KI-Systeme weniger Verantwortung tragen. Im Gegenteil: Wer Maschinen entwickelt, die an medizinischen Entscheidungen mitwirken, kann sich nicht darauf zurückziehen, lediglich Software zu produzieren. Er übernimmt damit auch einen Teil der moralischen Verantwortung der Medizin.

Wir beschäftigen uns deshalb an unserem Institut intensiv mit der Frage, ob Entwickler medizinischer KI nicht Teil einer erweiterten medizinischen Verantwortungsgemeinschaft werden müssen. Daraus ist eine Initiative entstanden, an der wir derzeit arbeiten: eine Art Hippokratischer Eid für Entwickler medizinischer KI-Systeme. Wir haben das ärztliche Gelöbnis, das auf die jahrtausendealte Tradition des Hippokratischen Eides zurückgeht, auf die Entwicklung medizinischer KI übertragen. Dabei geht es um grundlegende Verpflichtungen: das Wohl der Patienten über wirtschaftliche Interessen zu stellen, ihre Würde und Selbstbestimmung zu achten, Schaden zu vermeiden und die Grenzen der eigenen Systeme offenzulegen.

Unser Ziel ist es, dass sich Entwickler und Hersteller medizinischer KI ausdrücklich zu diesen Prinzipien bekennen und dass sich daraus überprüfbare Anforderungen an ihre Produkte ableiten lassen. Denn wir dürfen nicht zulassen, dass sich die Medizin durch den Einsatz von KI in zwei Welten aufspaltet: Hier die Ärzte, die einem jahrhundertealten Berufsethos verpflichtet sind, und dort die Technologieunternehmen, die zunehmend Einfluss auf medizinische Entscheidungen nehmen, ohne sich denselben ethischen Verpflichtungen zu unterwerfen. Wenn KI ein Teil der Medizin wird, dann muss auch die Entwicklung dieser KI ein Teil der medizinischen Verantwortungskultur werden. 

Dabei geht es nicht darum, die rechtlichen Verantwortlichkeiten von Ärzten, Herstellern und Betreibern zu verwischen. Im Gegenteil: Wir brauchen klare Zuständigkeiten und eine Verantwortung, die sich über den gesamten Lebenszyklus eines KI-Systems erstreckt. Und vielleicht ist das der entscheidende Gedanke: Verantwortung beginnt nicht erst, wenn ein Patient zu Schaden gekommen ist. Sie beginnt bereits in dem Moment, in dem jemand beschließt, eine KI zu entwickeln, die über das Leben und die Gesundheit anderer Menschen mitentscheiden soll.

TK spezial: An welchen Stellen kann KI besser sein als der Arzt oder die Ärztin und wo kommt die KI vermutlich niemals an die Fähigkeiten des Menschen heran? 

Hirsch: KI ist uns Menschen bereits heute in einigen Bereichen überlegen. Sie kann riesige Informationsmengen verarbeiten, komplexe Muster erkennen und medizinisches Wissen in einem Umfang verfügbar halten, der für einen einzelnen Menschen unerreichbar ist. Sie wird beispielsweise immer besser darin, Auffälligkeiten in medizinischen Bildern zu erkennen, Risiken abzuschätzen oder seltene Zusammenhänge zwischen Symptomen herzustellen.

Aber Medizin ist mehr als die Verarbeitung von Informationen. Ein Mensch, der eine schwere Diagnose erhält, braucht nicht nur eine korrekte medizinische Auskunft. Er braucht jemanden, der versteht, was diese Diagnose für sein Leben bedeutet. Jemanden, der Unsicherheit mit ihm aushält, seine Sorgen ernst nimmt und ihm hilft, Entscheidungen zu treffen. Eine KI kann solche Gespräche möglicherweise irgendwann verblüffend gut simulieren. Aber ob sie tatsächlich versteht, was es bedeutet, krank, verletzlich oder sterblich zu sein, wage ich zu bezweifeln. 

Und es gibt noch einen entscheidenden Unterschied: Ein Arzt ist nicht nur jemand, der etwas weiß. Er ist jemand, der für sein Handeln persönlich und moralisch einsteht. Deshalb lautet mein Leitgedanke: So viel Mensch wie möglich, so viel KI wie nötig. Die beste Medizin der Zukunft wird nicht die sein, in der die KI möglichst viele Aufgaben übernimmt, sondern die, in der Mensch und Maschine ihre jeweiligen Stärken am besten miteinander verbinden.

TK spezial: Welches verbreitete Missverständnis über KI in der Medizin würden Sie am liebsten ausräumen?

Hirsch: Dass eine KI, die eine richtige Antwort gibt, damit auch schon eine gute medizinische Entscheidung getroffen hat. Das ist ein fundamentaler Unterschied. Medizinische Entscheidungen beruhen nicht allein auf wissenschaftlichen Erkenntnissen. Sie müssen auch berücksichtigen, was für den jeweiligen Menschen wichtig ist.

Nehmen wir einen schwerkranken Patienten: Eine KI könnte vielleicht sehr präzise berechnen, welche Therapie seine statistische Lebenserwartung am stärksten verlängert. Aber damit ist noch lange nicht entschieden, ob diese Therapie für ihn die richtige ist. Vielleicht möchte dieser Mensch lieber weniger Lebenszeit, dafür aber mehr Lebensqualität. Vielleicht sind ihm bestimmte Nebenwirkungen nicht zumutbar. Vielleicht hat er ganz andere Vorstellungen davon, was ein gutes Leben ausmacht. Das sind keine Fragen, die sich allein durch mehr Daten oder bessere Algorithmen beantworten lassen. KI kann uns helfen, besser zu erkennen, was medizinisch möglich ist. Aber sie kann uns nicht die Entscheidung darüber abnehmen, was menschlich richtig ist. 

TK spezial: Im Laufe Ihrer Karriere haben Sie selbst mehrere Unternehmen gegründet. Welche Tipps würden Sie vor diesem Hintergrund jungen Menschen geben, die mit ihrer (KI-gestützten) Idee im Gesundheitswesen durchstarten wollen?

Hirsch: Mein wichtigster Rat wäre: Verlieben Sie sich nicht in Ihre Technologie, sondern in das Problem, das Sie lösen wollen. Gerade im Bereich der künstlichen Intelligenz erleben wir derzeit eine enorme Begeisterung für das technisch Machbare. Aber nur weil etwas mit KI funktioniert, bedeutet das noch lange nicht, dass es medizinisch-menschlich sinnvoll ist.
Gehen Sie deshalb dorthin, wo Medizin tatsächlich stattfindet: Sprechen Sie mit Ärzten, Pflegekräften und vor allem mit Patienten. Versuchen Sie zu verstehen, wo Menschen leiden, wo Versorgung nicht funktioniert und wo vorhandenes Wissen nicht bei denen ankommt, die es benötigen. Und dann fragen Sie sich, ob Ihre Idee dieses Problem wirklich besser lösen kann.

Ein zweiter Rat: Unterschätzen Sie nicht die Verantwortung, die Sie übernehmen. Wer eine App für Urlaubsfotos entwickelt, kann Fehler machen, ohne dass Menschen ernsthaft zu Schaden kommen. Bei medizinischer KI ist das anders. Deshalb gehören wissenschaftliche Sorgfalt, klinische Validierung und ethische Reflexion von Anfang an zur Produktentwicklung - nicht erst dann, wenn die Zulassung ansteht.

Und schließlich: Haben Sie Mut. Gerade die Medizin braucht Menschen, die Bestehendes infrage stellen und neue Wege gehen. Aber behalten Sie dabei immer im Blick, für wen Sie das alles tun. Nicht für die Technologie. Nicht für die Investoren. Sondern für die Menschen, deren Leben Sie verbessern wollen.