Wie aus Hilfe Abhängigkeit werden kann
Wenn wir darüber sprechen, ob künstliche Intelligenz irgendwann die Macht übernimmt, entstehen schnell ziemlich dramatische Bilder.
Vielleicht liegt das auch an den Büchern und Filmen, mit denen viele von uns groß geworden sind. Eine Maschine entwickelt einen eigenen Willen, verlässt den Raum, den Menschen ihr zugedacht haben, verschafft sich Zugriff auf andere Systeme – und irgendwann stellt sich die Frage, wer eigentlich noch wen kontrolliert.
Auch mich haben solche Szenarien beschäftigt. In Max Tegmarks Leben 3.0, über das ich im ersten Teil dieser Reihe geschrieben habe, wird eine solche Entwicklung ziemlich eindrucksvoll durchgespielt.
Aber je mehr ich selbst mit künstlicher Intelligenz arbeite, desto mehr frage ich mich:
Ein Werkzeug – aber was für eines?
Ich halte künstliche Intelligenz zunächst einmal für ein Werkzeug.
Allerdings fällt mir diese Beschreibung zunehmend schwerer.
Ein Hammer wartet darauf, dass ich ihn in die Hand nehme. Auch das Internet war zunächst vor allem eine Infrastruktur. Später kam Google dazu. Ich konnte eine Frage eingeben und bekam eine Liste von Fundstellen.
Aber die eigentliche Arbeit blieb bei mir.
Ich musste überlegen, wonach ich suche. Ich musste die Ergebnisse öffnen, lesen, vergleichen und daraus meine Schlüsse ziehen.
Bei den heutigen Sprachmodellen ist das schon anders.
Ich kann ein Ziel formulieren und mit der KI darüber sprechen. Sie kann nachfragen, Informationen sammeln, strukturieren, Vorschläge machen und mit mir eine Lösung entwickeln.
Und mit den sogenannten KI-Agenten geht die Entwicklung noch einen Schritt weiter. Sie können zunehmend selbst Programme und Werkzeuge benutzen, auf Daten zugreifen und ganze Arbeitsabläufe ausführen.
Ist das noch ein Werkzeug?
Ich denke schon.
Aber es ist ein Werkzeug neuer Qualität. Denn es kann nicht nur Informationen bereitstellen. Es kann innerhalb eines vorgegebenen Rahmens zunehmend handeln.
Dafür braucht es keinen eigenen Willen.
Das Ziel kann sogar vollständig von mir stammen.
Und trotzdem gebe ich einem solchen System damit Handlungsmacht.
Vielleicht beginnt es ganz harmlos
Nehmen wir diesen Artikel.
Die Gedanken darin stammen aus einem längeren Dialog, den ich mit einer KI führe. Ich spreche meine Überlegungen ein, bekomme Widerspruch, neue Fragen und Formulierungsvorschläge. Manches verwerfe ich, anderes bringt mich auf einen neuen Gedanken.
Am Ende hilft mir die KI dabei, aus meinen gesprochenen Gedanken einen lesbaren Text zu machen.
Das finde ich ausgesprochen hilfreich.
Und natürlich ist es wirtschaftlich.
Ich könnte diesen Artikel auch allein schreiben. Ich müsste mich hinsetzen, meine Gedanken sortieren, einen ersten Entwurf tippen, ihn korrigieren und noch einmal überarbeiten.
Mit KI geht das schneller.
Warum sollte ich darauf verzichten?
Genau hier wird es für mich interessant.
Heute lese ich den fertigen Text noch einmal kritisch. Ich ändere etwas, wenn es nicht nach mir klingt. Manchmal sage ich: Nein, das sehe ich anders. Dann diskutieren wir weiter.
Aber was passiert nach dem zehnten Artikel?
Oder nach dem hundertsten?
Vielleicht lese ich irgendwann nur noch darüber und denke:
Passt schon.
Und noch etwas später merke ich womöglich gar nicht mehr, warum eine Formulierung gut oder schlecht ist.
Hilfe, Bequemlichkeit, Wirtschaftlichkeit – und dann?
Vielleicht läuft die Entwicklung in mehreren Schritten.
Zuerst nutze ich KI als Hilfe.
Dann wird daraus Bequemlichkeit.
Danach kommt die Wirtschaftlichkeit. Wenn eine Maschine eine Aufgabe in dreißig Sekunden erledigt, für die ein Mensch eine Stunde benötigt, wird es irgendwann schwer zu begründen, warum man weiterhin die Stunde bezahlen soll.
Und schließlich könnte etwas passieren, das mir wesentlich mehr Sorgen macht:
Kompetenzverlust.
Ich gebe eine Tätigkeit zunächst ab, obwohl ich sie selbst noch beherrsche.
Irgendwann gebe ich sie ab, weil ich sie selbst nicht mehr beherrsche.
Vielleicht ist das die viel unspektakulärere Form der Machtübernahme.
Kein Kampf zwischen Mensch und Maschine.
Kein böser Wille.
Wir haben nur irgendwann verlernt, die Aufgabe ohne sie zu erledigen.
Das Paradox der Kontrolle
Vor einiger Zeit las ich Unterlagen zu einem KI-Seminar für Wirtschaftsprüfer. Ein Gedanke daraus ist bei mir hängen geblieben:
Das klingt zunächst banal.
Aber je länger ich darüber nachdenke, desto grundsätzlicher wird die Frage.
Bei einem erfahrenen Wirtschaftsprüfer, Steuerberater oder Rechtsanwalt mag das noch funktionieren. Er hat viele Fälle selbst bearbeitet. Er kennt typische Fehler. Vielleicht merkt er schon beim Lesen eines Ergebnisses, dass etwas nicht stimmen kann.
Aber wie ist das bei der nächsten Generation?
Was geschieht, wenn ein junger Steuerberater schon während seines gesamten Studiums und seiner Ausbildung mit einer hervorragenden KI gearbeitet hat?
Vielleicht hat sie Gesetze recherchiert, Urteile zusammengefasst, Schriftsätze vorbereitet und Gestaltungen vorgeschlagen.
Die Ergebnisse können hervorragend sein.
Aber woher entsteht dann die Fähigkeit, einen Fehler zu erkennen?
Die übliche Antwort auf diese Frage lautet häufig:
Am Ende muss eben ein Mensch kontrollieren.
Ich bin mir inzwischen nicht mehr sicher, ob mir das genügt.
Ein Mensch im Prozess ist noch keine menschliche Kontrolle.
Wenn dieser Mensch das Ergebnis fachlich gar nicht mehr beurteilen kann, wird aus „Human in the Loop“ möglicherweise nur noch ein Mensch, der am Ende auf OK klickt.
Können wir die KI mit KI kontrollieren?
Darüber habe ich in unseren Gesprächen länger nachgedacht.
Vielleicht brauchen wir neben den Systemen, die Probleme lösen, andere Systeme, deren eigentliche Aufgabe gar nicht darin besteht, die nächste Antwort zu produzieren.
Eine Art Prüf-KI.
Sie müsste weniger darauf trainiert sein, Steuerrecht, Medizin oder Ingenieurwissenschaften besser zu beherrschen als andere Systeme.
Ihre Spezialität wären Methoden des Zweifelns.
Sie könnte fragen:
Sind die Quellen wirklich unabhängig voneinander?
Welche Annahmen liegen dieser Antwort zugrunde?
Welche Gegenposition gibt es?
Was müsste falsch sein, damit die Schlussfolgerung nicht mehr trägt?
Gibt es Fälle, die der Mehrheitsmeinung widersprechen?
Wie könnte man das Ergebnis an der Wirklichkeit überprüfen?
Ich finde diesen Gedanken reizvoll.
Aber natürlich taucht sofort die nächste Frage auf:
Wir haben das Problem also nicht beseitigt. Wir haben es nur eine Ebene nach hinten verschoben.
Wer prüft eigentlich wen?
Vielleicht brauchen wir deshalb gar nicht die eine KI, der wir endlich vollständig vertrauen können.
Vielleicht brauchen wir etwas anderes:
eine Architektur des Zweifelns.
Das klingt komplizierter, als es gemeint ist.
Nehmen wir einen steuerlichen Fall.
Eine KI kommt nach Auswertung der Gesetze, Rechtsprechung und Literatur zu dem Ergebnis, dass eine bestimmte Rechtsauffassung mit 97 Prozent Wahrscheinlichkeit richtig ist.
Ich kann eine zweite KI bitten, die Gegenposition zu vertreten.
Ich kann Primärquellen heranziehen.
Ich kann fragen, welche Annahmen besonders unsicher sind.
Und irgendwann gibt es einen Kontakt mit der Wirklichkeit.
Zum Beispiel entscheidet das Finanzgericht.
Damit, so könnte man meinen, hätten wir einen unabhängigen Realitätstest.
Bis man die nächste Frage stellt:
Dann könnte etwas entstehen, das ich problematischer finde als einen einzelnen Fehler.
Die Empfehlung wird mit KI erstellt.
Sie wird mit KI überprüft.
Die Gegenposition wird mit KI formuliert.
Und schließlich wird auch die Entscheidung mit KI vorbereitet.
Formal haben viele Menschen mitgewirkt.
Aber haben wir tatsächlich noch unabhängige Kontrolle?
Oder bewegt sich alles innerhalb derselben Schleife?
Wir können nicht alles selbst machen
Die Antwort darauf kann allerdings auch nicht sein, dass wir zurück in eine Welt vor der Digitalisierung gehen.
Ich möchte nicht wieder Telefonnummern auswendig lernen.
Ich möchte nicht auf Navigationssysteme verzichten.
Und ich möchte auch nicht jeden Schriftsatz, jede Berechnung und jede Recherche wieder vollständig selbst erledigen, nur um zu beweisen, dass ich es noch kann.
Das wäre keine Urteilskraft.
Das wäre Nostalgie.
Außerdem wird die Welt dafür zu komplex.
Kein Mensch kann alle Informationen selbst kennen, alle Quellen prüfen und jeden einzelnen Prozess überwachen.
Wir werden also delegieren müssen.
Die entscheidende Frage lautet für mich deshalb nicht mehr:
Wie verhindere ich, dass KI für mich entscheidet?
Sondern:
Vielleicht verändert sich damit auch das, was wir unter Fachkompetenz verstehen.
Sie besteht künftig möglicherweise weniger darin, jede Aufgabe selbst besser erledigen zu können als die Maschine.
Sie könnte stärker darin bestehen, gute Fragen zu stellen, Unsicherheit zu erkennen, Gegenpositionen einzufordern, unabhängige Quellen zu suchen und zu wissen, wann ein Ergebnis wichtig genug ist, um genauer hinzusehen.
Und vielleicht kann uns ausgerechnet KI dabei wieder helfen.
Wir haben das selbst beim Lernen ausprobiert. Eine KI kann nicht nur Antworten geben. Sie kann erklären, Fragen stellen, mich testen und mir Gegenargumente liefern.
Die Technologie, die unsere Urteilskraft verkümmern lassen könnte, könnte also zugleich ein ziemlich gutes Werkzeug sein, um sie zu trainieren.
Das ist ein merkwürdiger Widerspruch.
Aber vielleicht liegt genau darin die Chance.
Und wenn die Maschine wirklich besser ist?
An dieser Stelle wollte ich ursprünglich die Frage stellen, was ein Steuerberater im Jahr 2035 noch selbst können muss.
Dann ist mir aufgefallen, dass diese Frage vielleicht schon eine Annahme enthält, die wir erst einmal überprüfen sollten.
Wenn die KI des Mandanten seine Daten kennt und mit einer hoch spezialisierten Steuer-KI kommuniziert, warum sollte dazwischen zwingend noch ein Mensch sitzen?
Ich weiß darauf keine abschließende Antwort.
Und vielleicht sollten wir sie uns auch nicht zu schnell geben.
Denn dann verlassen wir die Frage nach Kontrolle und kommen zu etwas noch Grundsätzlicherem:
Was passiert eigentlich mit uns, wenn Maschinen nicht nur einzelne Tätigkeiten übernehmen, sondern Dinge besser können, aus denen wir bisher einen Teil unserer beruflichen und gesellschaftlichen Bedeutung bezogen haben?
Wenn Wissen nicht mehr knapp ist.
Wenn meine Arbeitsleistung nicht mehr unbedingt gebraucht wird.
Wenn eine Gesellschaft mit immer weniger menschlicher Arbeit immer produktiver werden kann.
Dann geht es irgendwann nicht mehr darum, was KI kann.
Dann geht es darum, wofür der Mensch noch gebraucht werden muss – und ob sein Wert überhaupt davon abhängen sollte, gebraucht zu werden.
Das ist eine andere Frage.
Und ihr möchte ich im nächsten Teil nachgehen.
Was bin ich wert, wenn die Maschine mich nicht mehr braucht?
Dieser Beitrag ist Teil meiner Reihe „Urteilskraft – Wie Menschen in einer Welt intelligenter Maschinen gute Entscheidungen treffen“.