Expertin: "KI versteht nicht, was richtig und falsch ist"

Sie sagen, KI sei „urkonservativ“. Warum? – Sandra Wachter: Das hat mit der Funk­tionsweise zu tun. KI schaut sich die Vergangenheit an und versucht, aufgrund dieser Vergangenheit die Zukunft vorherzusagen. Sie erkennt Muster in historischen Daten. Nehmen wir an, ich möchte an einer juristischen Fakultät einen neuen Professor einstellen. Dann füttere ich die KI mit Lebensläufen, Referenzschreiben und Noten der Menschen, die in der Vergangenheit dort Professoren waren.

Und was schließt KI daraus? – Ein KI-Modell erstellt daraus ein Profil und fragt bei einem neuen Bewerber im Grunde: Schaust du aus wie dieses historisch kreierte Modell? Wenn man sich aber überlegt, wer in den vergangenen Jahrzehnten oder Jahrhunderten Professor für Rechtswissenschaften war, war das meistens ein weißer Mann mittleren Alters. Jemand wie ich hätte diesen Job wahrscheinlich nicht bekommen.

KI reproduziert also Vorurteile? – Ja, weil sie erkennt nicht von selbst: Hoppla, in meinen Trainingsdaten kommen keine Frauen vor. Das sollten wir nicht so machen! Dafür müsste sie verstehen, dass es in der Vergangenheit strukturelle Ungerechtigkeit gegeben hat. Das kann sie aber nicht. Nur Menschen können erkennen, dass Frauen aus bestimmten Gründen lange aus bestimmten Berufsfeldern ausgeschlossen waren. Wir können anschließend darüber diskutieren, wie wir damit umgehen wollen. Die KI kann diesen moralischen Schritt nicht für uns machen.

Kann man einer KI denn Moral oder Werte beibringen? – Diese Vorstellung ist problematisch. Sie suggeriert, die KI könnte selbst eine Entscheidung treffen im Sinne von: Das ist gut, das ist schlecht, und das macht man, und das macht man nicht. Aber dafür braucht man ein moralisches Gefüge. Die KI kann nicht kritisch denken, sie versteht keine sozialen Gefüge und keine Geschichte. Man kann Technologie aber einsetzen, um Ungerechtigkeiten sichtbar zu machen. Die Entscheidung darüber, was anschließend zu tun ist, muss beim Menschen bleiben.

Also sollte uns eine KI nicht sagen, was richtig ist, sondern eher zeigen, wo etwas falsch läuft? – Genau. Wenn wir bei dem Beispiel bleiben, dass keine Frauen zum Vorstellungsgespräch eingeladen werden, ist mir völlig egal, was die KI davon denkt. Was soll sie schon sagen? Sie versteht es ja gar nicht. Aber die Technologie kann mir zeigen, dass diese Ungleichbehandlung stattfindet. Dann müssen wir Menschen entscheiden, was wir damit tun. Man kann KI in diesem Sinn als einen Spiegel sehen, der einem eine unangenehme Wahrheit zeigt. Diese Erkenntnis können wir anschließend nutzen, um rechtlich, technisch oder sozialpolitisch dagegen vorzugehen.

Was ist die größte Gefahr? – Das Halluzinieren ist das größte Problem. KI-Systeme geben Antworten, die plausibel klingen, aber schlicht falsch sein können. Und besonders gefährlich sind die subtilen Fehler, die man nicht sofort erkennt. Das wird kritisch, wenn es um wichtige Entscheidungen geht: Soll ich diesen Menschen einstellen? Soll ich in diesen Fonds investieren? Wie wird sich ein Preis oder ein Markt entwickeln? Wenn die KI dabei einfach etwas erfindet und wir es nicht bemerken, können daraus Entscheidungen entstehen, die persönlich, sozial oder wirtschaftlich eine Katastrophe sind.

Könnte uns KI einmal beseitigen wollen wie im ersten „Terminator“-Film? – Ich liebe Science-Fiction, aber die gehört ins Kino. Es gibt keine Hinweise darauf, dass KI irgendwann „aufwacht“. Wir sollten uns lieber mit den realen Risiken beschäftigen, die heute schon da sind.

Kritiker behaupten, der europäische AI Act sei ein Innovationskiller. – Ich höre sehr oft: Europa schießt sich damit ins Knie. Dann frage ich immer: Was genau ist denn so schlecht daran? Wenn man sich anschaut, was der AI Act erreichen möchte, stehen dort Dinge wie: Wir wollen KI, die transparent ist. Wir wollen KI, die Datenschutz und geistiges Eigentum schützt. Wir wollen KI, die die Umwelt schützt und nicht rassistisch oder sexistisch ist. Wenn jemand sagt: „Um Gottes willen, das wollen wir nicht“, dann frage ich mich schon, mit wem ich da rede. Das Framework will ja nichts Gutes zurückhalten, sondern das Schlechte. Der Grundgedanke des AI Act ist ein guter.

Der Vorwurf ist, dass die Wettbewerbsfähigkeit gehemmt wird. – Grund- und Menschenrechtsverletzungen können manchmal sehr profitabel sein. Aber als Gesellschaft müssen wir darüberstehen und sagen: Nicht jede Art von Profit und nicht jede Technologie ist gut, wenn dadurch die Grundwerte einer Gesellschaft verletzt werden. Das bedeutet aber nicht, dass ein Produkt, das Grund- und Menschenrechte schützt, nicht profitabel sein kann. Fairtrade oder Bioprodukte sind dafür gute Beispiele. Man kann ein Produkt auf den Markt bringen, bei dem einem wichtig ist, unter welchen Bedingungen es hergestellt wird, und gerade damit Geld verdienen.

Könnte Europas vermeintliche Regulierungswut damit sogar ein Wettbewerbsvorteil werden? – Durchaus. Irgendwann könnten die Menschen merken: Wilder Westen ohne Regulierung sieht vielleicht doch nicht so gut aus. Für ein Unternehmen kann es einen Wert haben, ein System zu verwenden, das durchschaubar ist, Menschenrechte schützt, erklärbar ist, Haftung vorsieht und zertifiziert ist. Dann bin ich möglicherweise viel eher bereit, diese Technologie in meinem eigenen Betrieb einzusetzen, weil ich darauf vertrauen kann, dass sie so funktioniert, wie sie soll.

Europa würde also nicht trotz seiner Werte wettbewerbsfähig, sondern möglicherweise gerade deretwegen? – Ja. Der AI Act versucht einen Mittelweg zu finden: Technologie ermöglichen, Profite und neue Unternehmen ermöglichen und gleichzeitig Grund- und Menschenrechte schützen. Man kann tatsächlich beides haben. Und ich finde es richtig zu sagen: Wer auf unseren Markt kommen will, muss diesen Werten folgen, und wer hier Technologien entwickeln will, ebenfalls. Gleichzeitig sollten wir europäische Unternehmen stärker unterstützen, gute KI auf den Markt zu bringen. Das müssen nicht immer die größten Frontier-Modelle sein. Vielleicht sind kleinere, spezialisierte Modelle für Wissenschaft, Medizin oder die Finanzwelt sogar besser.

Sandra Wachter

Die Professorin für Technology and Regulation an der University of Oxford sowie am Hasso-Plattner-Institut gilt als eine der international führenden Forscherinnen für KI-Ethik, Daten- und Technologieregulierung. Sie berät Regierungen, internationale Organisa­tionen und politische Entscheidungsträger bei der Entwicklung verantwortungsvoller KI-Systeme.

Viele behaupten, Europa habe den KI-Wettlauf längst verloren. – Da stelle ich immer dieselbe Frage: Wer sagt das und warum? Das ist wie bei einem Boxkampf: Für meinen Gegner ist es natürlich besser, wenn ich gar nicht erst in den Ring steige, weil ich glaube, ohnehin keine Chance zu haben. Der Zug ist aber nicht abgefahren. Europa muss deshalb nicht einfach den bestehenden Modellen hinterherlaufen, sondern kann eigene Richtungen einschlagen. KI ist kein Naturgesetz, sondern gestaltbar! Wir wissen gar nicht, welche technologischen Wege sich noch eröffnen. Das Aufgeben wäre der größte Fehler.

Wer sollte solche Systeme eigentlich entwickeln? Reichen Techniker dafür aus? – Das ist immer ein bisschen eine traurige Geschichte: Man baut Sozialwissenschaftler und Humanisten ab, dann schafft Technologie Probleme. Dann braucht man diese Leute wieder, um die Pro­bleme wieder zu lösen. Man würde eine bessere Technologie bekommen und sich viel Zeit und Kosten sparen, wenn diese Menschen von Anfang an eingebunden wären. Deshalb arbeiten in meinem Team bewusst Techniker gemeinsam mit Ethikern, Soziologen, Politologen und Psychologen. Es ist wesentlich besser, Lösungen aus einer 360-Grad-Perspektive zu entwickeln als ausschließlich aus technischer Sicht.