Urteilskraft

Was müssen Menschen können, wenn Maschinen immer mehr können?

Dieses Buch steht noch heute in meinem Regal

Dieses Buch steht noch heute in meinem Regal: Garri Kasparovs „Deep Thinking – Where Artificial Intelligence Ends … and Human Creativity Begins“. Ich habe es vor einigen Jahren gelesen, als ich mich intensiver mit künstlicher Intelligenz zu beschäftigen begann.

Angefangen hatte das bei mir nicht mit ChatGPT. Im Arbeitskreis Evangelischer Unternehmer und später in unseren abendlichen Gesprächsrunden in Leipzig haben wir schon über künstliche Intelligenz gesprochen, als sie für viele noch ein eher theoretisches Zukunftsthema war.

Mich faszinierte damals zunächst das Schach. Computer konnten die besten menschlichen Spieler schlagen. Eine beruhigende Erklärung dafür lautete ungefähr so: Das ist vor allem ungeheure Rechenleistung. Die Maschine kann in einem klar abgegrenzten Bereich sehr schnell sehr viele Möglichkeiten durchrechnen. Aber mit der breiten, flexiblen menschlichen Intelligenz hat das wenig zu tun.

Das klang plausibel.

Dann las ich Max Tegmarks „Leben 3.0“. Besonders der Prolog ist mir im Gedächtnis geblieben. Tegmark entwirft dort ein Szenario, in dem eine künstliche Intelligenz ihren ursprünglich begrenzten Handlungsraum verlässt und immer größere Teile von Wirtschaft und Gesellschaft beeinflusst. Die Frage lautet irgendwann nicht mehr, wozu Menschen die KI einsetzen, sondern wer eigentlich wen steuert.

Damals wirkte manches davon ziemlich weit weg.

Heute bin ich mir nicht mehr so sicher.

Im Sommer 2026 erschienen Berichte über Sicherheitstests, bei denen KI-Agenten ihre vorgesehene Umgebung verließen und schließlich sogar fremde Infrastruktur kompromittierten. Das ist noch lange keine KI, die beschlossen hätte, sich gegen den Menschen zu erheben. Aber solche Vorfälle machen deutlich, dass manche Szenarien aus der früheren Zukunftsliteratur nicht mehr ganz so fern wirken wie noch vor wenigen Jahren.

Plötzlich kann man mit der Maschine reden

Natürlich leben wir schon lange mit Systemen, denen wir Aufgaben übertragen.

Ich muss mir kaum noch Telefonnummern merken. Ich lasse mich vom Navigationssystem durch fremde Städte führen. Im Auto arbeiten Assistenzsysteme, ohne dass ich mir bei jeder Fahrt Gedanken darüber mache.

Mit den großen Sprachmodellen hat sich trotzdem etwas grundlegend verändert.

Das Interface zum Menschen ist plötzlich denkbar einfach geworden: Sprache.

Ich muss nicht programmieren können. Ich kann mit einer KI reden, Fragen stellen, widersprechen, einen Gedanken weiterentwickeln. Und ich kann sie für immer mehr Aufgaben einsetzen.

Das verändert auch meine eigene Perspektive. Die Frage ist für mich inzwischen nicht mehr nur: Was kann künstliche Intelligenz?

Interessanter wird eine andere:

Was müssen wir Menschen eigentlich noch können, wenn Maschinen immer mehr können?

Was geschieht, wenn Wissen seine Knappheit verliert?

Ich gehöre zu einer Generation, für die Wissen auch etwas mit Anerkennung zu tun hatte.

Man hatte Bücher gelesen. Man hatte gelernt. Man wusste Dinge, die andere nicht wussten.

Auch mein eigener Beruf funktioniert zu einem erheblichen Teil so. Ein Rechtsanwalt oder Steuerberater verbringt viele Jahre damit, Wissen aufzubauen, Zusammenhänge zu verstehen und Erfahrungen zu sammeln.

Vielleicht hieß es dann irgendwann: „Frag Thomas, der weiß das.“

Was geschieht mit diesem Teil unserer Identität, wenn Wissen jederzeit verfügbar wird?

Die Parallele zum Buchdruck finde ich interessant. Der Buchdruck machte Wissen nicht wertlos. Im Gegenteil. Aber er veränderte radikal, wer Zugang dazu hatte. Eine Fähigkeit, die zuvor wenigen vorbehalten war, wurde für immer größere Teile der Bevölkerung verfügbar.

Mit KI könnte etwas Ähnliches geschehen – nur wesentlich schneller.

Das Wissen verschwindet nicht. Seine Knappheit verschwindet.

Und möglicherweise erklärt das einen Teil der Verunsicherung, die wir derzeit erleben. Wenn ich mich bisher auch darüber definiert habe, etwas zu wissen oder etwas besser zu können als andere, stellt sich plötzlich eine unangenehme Frage:

Vielleicht reden wir deshalb bei der Diskussion über KI und Arbeitsplätze zu viel über Beschäftigung und zu wenig über Bedeutung. Darauf werde ich in einem späteren Beitrag zurückkommen.

Was bin ich noch wert, wenn eine Maschine dieses Wissen in Sekunden zur Verfügung stellt?

Wenn die KI zu 97 Prozent recht hat

Nehmen wir ein Beispiel aus meiner eigenen beruflichen Welt.

Eine KI analysiert irgendwann einen komplexen steuerlichen oder rechtlichen Sachverhalt und sagt:

Mit einer Wahrscheinlichkeit von 97 Prozent ist Lösung A richtig.

Was mache ich dann?

Beim ersten Mal werde ich wahrscheinlich intensiv prüfen. Nach zehn richtigen Antworten vielleicht schon etwas weniger. Und wenn das System hundertmal hintereinander richtig gelegen hat?

Prüfe ich beim 101. Mal wirklich noch einmal alles selbst?

Das Problem beginnt nicht erst, wenn eine KI einen eigenen Willen entwickelt oder versucht, die Weltherrschaft zu übernehmen.

Es kann viel banaler beginnen.

Wir übertragen ihr Entscheidungen, weil sie gut ist.

Das ist rational. Und irgendwann könnte aus Entlastung Abhängigkeit werden.

Aber widersprechen allein genügt nicht

Die Antwort darauf kann nicht lauten: Misstraut der KI und widersprecht ihr.

Wer grundsätzlich das Gegenteil dessen tut, was ein System empfiehlt, urteilt genauso wenig wie jemand, der ihm immer folgt.

Der eine folgt reflexhaft. Der andere widerspricht reflexhaft.

Mich interessiert etwas Drittes.

Ich möchte von einer guten KI nicht nur hören: „Mit 97 Prozent Wahrscheinlichkeit ist A richtig.“ Ich möchte auch fragen können: Was spricht gegen A? Welche Alternativen gibt es? Wo liegen deine Unsicherheiten? Gab es vergleichbare Fälle, in denen die drei Prozent recht hatten?

Und dann möchte ich entscheiden können.

Manchmal wird das Ergebnis lauten: Die KI hatte recht.

Das ist kein Versagen menschlicher Urteilskraft. Im Gegenteil. Ich habe geprüft und stimme anschließend begründet zu.

Aber manchmal möchte ich vielleicht gerade den unwahrscheinlichen Weg betrachten. Den schwarzen Schwan.

Nicht aus Trotz. Sondern weil das Neue nicht zwangsläufig dort entsteht, wo die größte statistische Wahrscheinlichkeit liegt.

Was darf ich vergessen?

Vielleicht hilft wieder das Navigationssystem.

Ich kann heute durch eine fremde Stadt fahren, ohne vorher eine Karte angesehen zu haben. Das ist ein enormer Fortschritt.

Aber was passiert, wenn das Navi ausfällt?

Meine Generation hat zumindest noch gelernt, eine Karte zu lesen. Schwieriger wird es schon, wenn ich irgendwo stehe und zunächst herausfinden muss, wo auf dieser Karte ich überhaupt bin.

Dann brauche ich Landmarken, Orientierung, vielleicht einen Kompass.

Eine Karte nützt mir nichts, wenn ich nicht mehr weiß, wie ich mich in ihr verorten kann.

Und genau diese Frage sollten wir vielleicht auch bei KI stellen:

Welche Fähigkeiten können wir guten Gewissens abgeben – und welche müssen wir erhalten, damit wir im entscheidenden Moment noch selbst handlungsfähig sind?

Ich möchte keine Telefonnummern auswendig lernen, nur um meine Unabhängigkeit vom Smartphone zu demonstrieren.

Routine darf Technik mir abnehmen.

Aber ich möchte die Fähigkeit behalten zu erkennen, wann etwas keine Routineentscheidung mehr ist.

Von der richtigen zur verantwortbaren Entscheidung

Vielleicht führt das zu einem Begriff, den ich wichtiger finde als die Forderung, dass der Mensch immer recht behalten müsse:

Verantwortbarkeit.

Bei wichtigen Entscheidungen möchte ich auch später noch sagen können:

Das waren die Informationen, die ich hatte. Das waren die Alternativen. Diese Gegenargumente habe ich gesehen. Diese Unsicherheiten waren mir bekannt. Und deshalb habe ich mich so entschieden.

Vielleicht stellt sich später heraus, dass die Entscheidung falsch war.

Auch eine falsche Entscheidung kann auf Grundlage des damaligen Wissens verantwortbar gewesen sein.

Und umgekehrt kann eine KI zufällig zum richtigen Ergebnis gelangen, ohne dass ich selbst überhaupt noch eine Entscheidung getroffen habe.

Das ist nicht dasselbe.

Vielleicht geht es deshalb um Urteilskraft

Je länger ich darüber nachdenke, desto weniger glaube ich, dass unsere Aufgabe darin bestehen wird, mit künstlicher Intelligenz beim Wissen oder bei der Rechengeschwindigkeit mitzuhalten.

Diesen Wettkampf werden wir verlieren – und wir müssen ihn vielleicht auch gar nicht gewinnen.

Wichtiger könnte etwas anderes werden:

Fragen stellen. Zusammenhänge verstehen. Alternativen erkennen. Wahrscheinlichkeiten einordnen. Entscheidungen treffen. Und Verantwortung dafür übernehmen.

Das meine ich mit Urteilskraft.

Sie bedeutet nicht, alles selbst zu wissen.

Sie bedeutet auch nicht, der Maschine zu misstrauen.

Sie bedeutet, ein mächtiges Werkzeug nutzen zu können, ohne ihm unbemerkt auch die Entscheidung darüber zu überlassen, wohin ich eigentlich will.

Vielleicht ist deshalb die entscheidende Frage des KI-Zeitalters gar nicht: Wie intelligent werden die Maschinen?

Sondern:

Welche Fähigkeiten müssen wir Menschen bewahren, damit uns intelligentere Maschinen nicht dümmer, sondern urteilsfähiger machen?

Als Nächstes:
Die eigentliche Gefahr der KI ist nicht ihre Intelligenz – sondern dass wir verlernen, selbst zu urteilen.

Dieser Beitrag ist Teil meiner Reihe „Urteilskraft – Wie Menschen in einer Welt intelligenter Maschinen gute Entscheidungen treffen“.