Fähig bleiben!

Maschinenlernen ist in vielen Gebieten unseres Alltags bereits Realität geworden, ohne dass wir es merken. Es gibt keine gesetzlichen Regelungen, die uns ein Recht darauf geben, zu wissen, ob wir es gerade mit einem Menschen oder einer Maschine zu tun haben. Oft verschwimmen die Grenzen sogar. Wenn zum Beispiel ein Mensch, mit dem wir kommunizieren, seine Informationen aus Systemen bezieht, die auf Maschinenlernen beruhen. Müssen wir dann darüber informiert werden? Haben wir ein Recht, zu erfahren, auf welchen Quellen die Aussagen beruhen, die man uns gegenüber macht? Maschinelles Lernen, davon können wir ausgehen, hat unseren Alltag schon viel stärker durchdrungen, als es uns bewusst ist. Und eigentlich stört es uns auch nicht. Noch nicht.

Erfreulich ist, dass viele Gesprächskreise, Denkfabriken, Arbeitsgruppen und gesellschaftliche Gruppierungen sich mittlerweile mit den Chancen und Folgen des Maschinellen Lernens befassen. Sie durchdenken, in welchen Bereichen es Anwendung finden wird. Sie diskutieren die Frage der Verantwortung, etwa für Fälle, in denen der Mensch nicht oder nur relativ spät die Kontrolle über ein von Maschinen gesteuertes Geschehen an sich zieht. Und sie streiten darüber, wie das menschliche Recht auf Selbstbestimmung und Würde angesichts der enormen Datenmengen und ihrer allgegenwärtigen Verfügbarkeit gewahrt werden kann. Erste Lösungsansätze werden bereits sichtbar.

Was im bisherigen Diskurs allerdings zu kurz kommt, ist die Frage, wie es uns gelingen kann, in Zeiten des Maschinenlernens die Kompetenzen des Menschen zu erhalten. Denn das ist dringend nötig. Ein Beispiel aus der Medizin: Heute ist es möglich, eine Diagnose, die mithilfe bildgebender Verfahren gestellt wurde, mit Maschinellem Lernen so zu optimieren, dass sie zuverlässiger sein kann als die Diagnose einer Gruppe ausgewiesener Expert*innen. Das ist ein enormer Fortschritt, insbesondere für Krankenhäuser und ärztliche Praxen, denen spezialisierte Fachleute fehlen. Es ermöglicht zielgerichtetere Therapien und kann die Anzahl der Fehl- oder Falschdiagnosen verringern.

Doch aus diesem Fortschritt ergeben sich viele Fragen: Wie etwa sorgen wir dafür, dass Abweichungen beim Maschinellen Lernen nicht zu fehlerhaften Diagnosen führen? Wie überwachen wir die Algorithmen und stellen sicher, dass deren Selbstoptimierung den richtigen Kriterien und Mustern folgt? Wie schaffen wir es, dass behandelnde Ärzt*innen maschinell erstellte Diagnosen nicht kritiklos übernehmen, sich vielmehr der Möglichkeit von Fehlern bewusst sind und versuchen, die Ergebnisse mit dem klinischen Zustand in Einklang zu bringen? Und noch wichtiger: Wie bewahren sie sich ihre Diagnostik-Kompetenzen, wenn sie sich im Routinefall auf die Diagnosestellung von Algorithmen verlassen können? Schließlich müssen sie die Regie spätestens dann übernehmen, wenn das System seinen Dienst versagt. Dieses Dilemma betrifft nicht zuletzt die Ausbildung zukünftiger Ärzt*innen: Wie viel Kraft verwenden wir überhaupt noch auf die eigenständige Diagnostikausbildung? Wie halten wir sie lebendig und frisch?

Ähnliche Fragen ergeben sich auch beim autonomen Fahren. Wenn wir uns in Zukunft entspannt zurücklehnen und das Fahren und Führen des Wagens Sensoren und Algorithmen überlassen werden, dann kann dies Unfälle vermeiden und unbeherrschtes, aggressives Fahrverhalten reduzieren. Was aber passiert in schwierigen Situationen, wenn der oder die Fahrende doch einmal eingreifen muss (wovon alle Vertreter*innen des autonomen Fahrens ausgehen)? Woher nimmt er/sie plötzlich die Fahrpraxis, um besser zu sein als die Algorithmen? Wie soll er/sie überhaupt rechtzeitig merken, dass die Algorithmen fehlerhafte Situationen herbeiführen? Auch hier stellt sich die dringliche Frage nach dem Kompetenzerhalt.