Medizin: "Objektive Algorithmen sind eine Illusion"

Eric T. Meyer ist Informatik-Professor am Oxford Internet Institute. Er beschäftigt sich mit den Auswirkungen von Technologie auf Gesellschaft, Wissenschaft und Kunst. Mit der futurezone sprach er im Interview über Big Data und den Medizin- und Gesundheitsbereich.

futurezone: Wie wird sich Big Data im Gesundheitsbereich in den nächsten Jahren entwickeln?
Eric T. Meyer: Es gibt sehr viel Wirbel um Nichts, also ohne viel Substanz. Watson oder Googles Künstliche Intelligenz sollen das „nächste große Ding“ im Medizin-Bereich sein, aber es ist noch nicht ganz klar, was wirklich damit passieren wird. Natürlich gibt es im Bereich der Medizin-Forschung damit neue Möglichkeiten. Etwa, wenn dadurch festgestellt werden kann, was Drogen im Gehirn machen. Aber viele Fragen bleiben dennoch unbeantwortet.

Ist es nicht gut, wenn Watson etwa dabei helfen kann, Krebs besser zu diagnostizieren, weil es auf Bildern Dinge sieht, die Menschen gerne übersehen?
Die Krebs-Vorhersagen haben große Fortschritte gemacht. Es ist sehr schwierig, Mammogramme und Knochen-Scans korrekt zu lesen und da tut sich ein Computer wesentlich leichter. Natürlich ist das gut, wenn man sich bei einem schnellen Screening darauf verlassen kann, dass der Computer Details sieht, die der Mensch sonst übersieht. Aber es ist genauso wichtig, dass im Anschluss ein Mensch die richtige Diagnose daraus ableitet.

Also ganz ohne Ärzte geht es Ihrer Meinung nach nicht?
Wir sollten keineswegs Künstliche Intelligenzen trainieren, wie Menschen zu agieren. Wir brauchen z.B. auch keine Computer, die Symphonien schreiben. Stattdessen sollten wir uns mehr damit beschäftigen, rauszufinden, worin Computer gut sind. Sie sind etwa gut darin, große, repetitive Tätigkeiten auszuführen – oder im Fall der Krebs-Diagnose – versteckte Daten zu finden, die Menschen nicht so einfach entdecken können. Wir sollten daher daran arbeiten, derartige Dinge zu verbessern und den Ärzten dadurch wieder mehr Raum für ihre eigentliche Arbeit zu geben. Im Gesundheitswesen besteht eine große Unsicherheit, was den Einsatz von Big Data betrifft.

Wie genau meinen Sie das?
Nehmen wir ein Beispiel: Demenz. Es gibt keine verlässliche Diagnose, bevor es zu spät ist und die Krankheit ausgebrochen ist. Natürlich gibt es einige vielversprechende Behandlungen, aber stellen wir uns mal vor, wir könnten anhand von Daten vorhersagen, ob jemand ein erhöhtes Risiko hat, daran zu erkranken. Was tut man mit diesen Daten? Wir haben uns als Gesellschaft noch nicht ausreichend damit befasst. Soll man Individuen Vorschreibungen machen, wie sie mit so einem potentiellen Risiko umzugehen haben? Wir können Menschen nicht zwingen, aufgrund derartiger Prognosen ihr Verhalten zu ändern. Ich weiß auch nicht, ob ich in so einer Gesellschaft leben wollen würde.

Ich verstehe das Dilemma. Sie als Wissenschaftler wollen aber wahrscheinlich möglichst viele Daten sammeln für Ihre Forschung?
Da ist aber ein Unterschied. Natürlich wollen wir als Wissenschaftler möglichst viele Daten, um Vorhersagen erstellen zu können. Solange der Personenbezug dabei entfernt wird, gibt es auch kein Problem. Dazu werden Vorkehrungen gemacht, damit es nicht möglich ist, dass aufgrund der Daten Menschen diskriminiert werden. Aber wenn man unser Wissen nutzen würde, um Risiken von einzelnen Krankheiten Personen zuordnen zu können, wäre das fatal.

Inwiefern?
Man erinnere sich bloß an Microsofts Künstliche Intelligenz, die sehr rassistisch und sexistisch geworden ist, weil der Algorithmus die Vorurteile mitgelernt hat. Wenn wir also rausfinden würden, dass bestimmte Menschen anfälliger für bestimmte Krankheiten wären, würde ein Algorithmus beginnen, dieses Wissen zu nutzen und diese Menschen automatisch diskriminieren. Was würde das für die Gesellschaft bedeuten? Algorithmen erwecken die Illusion, objektiv zu sein. Das ist ein Grund mehr, warum wir uns in dem Bereich lieber auf menschliche Entscheidungen verlassen sollten. Es ist was anderes, wenn es beispielsweise nur um einen Gutschein in einem Geschäft geht – den kann man nehmen oder ablehnen. Aber im Gesundheitsbereich könnte dann am Ende des Tages davon abhängen, ob jemand eine bestimmte Operation bekommt, oder ob ihm diese verweigert wird.

In Österreich gibt es bei der SVA bereits die Möglichkeit, sich einer Vorsorgeuntersuchung zu unterziehen, um dann weniger Selbstbehalt beim Arzt zu zahlen.
Das ist sehr interessant, dass es auf diese Art und Weise verkauft wird. Wenn man den Menschen, die das nicht tun, mehr verrechnen würde, wäre es dasselbe, nur die Menschen würden anders darauf reagieren. Das ist einfach nur gutes Marketing.

Werden wir künftig mehr Entwicklungen in diese Richtung sehen?
Ich glaube schon. Die Gesundheitssysteme in Europa sind unter großem Druck. Es gibt immer weniger Ärzte, während die Kosten explodieren. Die Bevölkerung wird immer älter und hat andere Ansprüche. Natürlich wird man sich da einmal ansehen, wie man Kosten reduzieren kann. Etwa, in dem man Übergewichtige zum Abnehmen zwingt und in ein Programm steckt, um weniger Kalorien pro Tag zu verbrauchen. Es wird sicherlich eines Tages auch berechnet werden, wie lang eine Person leben wird.

Werden solche Vorhersagen dann auch in die Behandlung integriert werden?
Das sehe ich als Gefahr. Sehen wir uns etwa die Forschung in der Gentechnik an. Es hat mehr als 30 Jahre gedauert, bis man drauf kam, wie komplex Gen-Defekte sind. Und man kann dann meistens nur sagen, wenn jemand ein erhöhtes Risiko hat, zu erkranken, aber nicht vorhersagen, dass jemand fix erkranken wird. Ein Zwilling kann es kriegen, der andere nicht. Deshalb muss unbedingt ein Mensch entscheiden, was passieren soll, ansonsten werden wir zu Sklaven der von uns entwickelten Maschinen. Wir können mit komplexen Faktoren ganz anders umgehen als ein Computer, der nur ein vordefiniertes System kennt. Es wird zu unserer Lebenszeit nicht mehr passieren, dass sich das ändert.

Was empfehlen Sie daher? Wie soll Big Data im Bereich der Gesundheitsvorsorge eingesetzt werden?
Wir müssen den Patienten mehr Möglichkeiten geben, sich zu informieren und Dinge selbst in die Hand zu nehmen. Wir sollten Technologien entwickeln, die sie zu mündigen Bürgern machen, damit sie Entscheidungen selbst treffen können. Mein Arzt in Oxford teilt die Daten der Blutuntersuchung elektronisch mit mir. Patienten können dann selbst nachsehen, wie ihre Werte sind und nur die kritischen mit dem Arzt besprechen. So kann Technologie helfen und wir können selbst bestimmen, was wir bereit sind, in unsere Gesundheit zu investieren.

futurezone Magazin
Mehr zum Thema eHealth lesen Sie im futurezone Magazin. Die Coverstory befasst sich mit der Selbstoptimierung durch Tracking. Mitglieder des KURIER Clubs können die Ausgabe um 5,50 Euro statt 7,50 Euro bestellen.