Künstliche Intelligenz und der Sinn des Lebens

Künstliche Intelligenz und der Sinn des Lebens, so der Titel des neuen Buchs von Richard David Precht. Der Essay erschien am 15. Juni 2020 im Goldmann Verlag, mit einem Vorwort vom April dieses Jahres – und ist damit so aktuell, dass auch die Corona-Krise zur Sprache kommt. Darin, wie fast alle Lebensbereiche von ihnen betroffen sind, ähneln sich das Virus und die KI gewissermaßen, was sich in der breiten Palette an Fragen widerspiegelt, die Precht aufwirft und zum Teil beantwortet. In diesem Beitrag will ich das Buch unter die Lupe nehmen, mit Fokus auf dem ersten Themenbereich, der KI, und dazu auch externe Einsichten zur KI miteinbeziehen. | Lesezeit: 29 Min.

Kurzkritik

Precht hat ein weiteres, leicht verdauliches, gut verständliches, meinungsstarkes Buch verfasst, das gekonnt mit der Sprache spielt und Spitzen setzt. Er macht auf wichtige große Themen und kleine Details aufmerksam, bezieht Position, stellt aktuelle Probleme zur Diskussion und nimmt (wie in Warum gibt es alles und nicht nichts?) mal wieder Bezug auf die Mumins, womit mein Herz immer noch leicht zu gewinnen ist. Der Fokus des Buchs wird ausdrücklich abgesteckt:

Es geht, mit einem Wort, um die Frage eines künftigen Menschseins in einer immer technisierteren Welt.

S. 6

Hier gibt’s die Buchkritik übrigens in Bild und Ton:

Die zentrale These aus Künstliche Intelligenz und der Sinn des Lebens hat Precht in einem Beitrag für DIE ZEIT prägnant zusammengefasst: Roboter können keine Moral. Moral lasse sich prinzipiell nicht programmieren und daher werde KI den Menschen nie in den Schatten stellen. (Der Mensch kann sich nur selbst in den Schatten stellen, wie das Bild zum Beitrag zeigt.) Bei einem solchen Buch, das in knapper Form klare Ansagen zu solch kontroversen Themen macht, da wundert’s nicht, dass es auch Angriffsfläche bietet und auf Kritik stößt. Mich selbst hat die Lektüre stellenweise sehr geärgert.

Was das Buch nicht bietet

Banale Sache vorweg: Trotz der Kürze des Essays Künstliche Intelligenz und der Sinn des Lebens fällt das Fehlen von Kapitelübersicht, Sach- und Personenregister bei der näheren Auseinandersetzung mit dem Inhalt als nervig auf.

Das suchende Blättern im Buch ist ohne eigene Lesemarken nicht gerade effizient. Aber Effizienz ist ja eh so eine Sache, die der Autor eher kritisch betrachtet.

Effizienz kann nämlich nicht nur als Vorteil gesehen werden. […] Wir wollen nicht effizient Wein trinken.

S. 53f.

In der Digitalausgabe wird dieser formale Makel durch die Suchfunktion kompensiert, die E-Book-Reader oder die Blick-ins-Buch-Option bei Amazon zuweilen bereitstellen – ob dabei schon KI zum Einsatz kommt? Was ist KI überhaupt? Mit einer Definition seines Kernbegriffs hält sich Prechts Essay nicht lange auf. Der Autor stellt klar:

[Dieses Buch] sagt Ihnen nicht, wie künstliche Intelligenz technisch funktioniert oder welche vielfältigen Einsatzmöglichkeiten sie in der Gegenwart und Zukunft bietet.

S. 6

Das würde natürlich zu weit führen, auch hier. Den Begriff kurz zu definieren kann trotzdem nicht schaden, damit wir immerhin alle im Bilde sind, wovon wir im Folgenden reden. Wen das nicht interessiert, einfach ins übernächste Kapitel springen – denn wir nehmen die Definition in zwei Schritten vor. Zunächst wollen wir wissen:

Was ist Intelligenz? · Definition (PDF)

Eine allgemeingültige Definition, was Intelligenz ist, die gibt es nicht. Das macht die Definition von künstlicher Intelligenz nicht einfacher. Doch wenn auch keine allgemeingültige, so gibt’s immerhin ein paar, wie ich finde, gute Definitionen. 2007 erschien ein Artikel (PDF) mit einer Sammlung von rund 70 Erklärungen zu Intelligenz. Die Quintessenz davon, in der die Merkmale des Begriffs zusammengefasst sind, ergibt folgende weit gefasste Definition.

Intelligence measures an agent’s ability to achieve goals in a wide range of environments.

Der englische Begriff agent hat im philosophischen Kontext zwei Bedeutungen, womit wir die Definition ins Deutsche übersetzt so wiedergeben können:

Intelligenz ist das Maß für die Fähigkeit einer handelnden Person oder wirkenden Kraft, in einem breiten Spektrum von Umgebungen Ziele zu erreichen.

Ziele können alles Mögliche sein, von Zeitvertreib (ein Spiel spielen, ’nen Ball ins Tor schießen), über sozialen Austausch (einen Kontakt pflegen, einen Artgenossen entlausen) bis hin zum nackten Überleben (Nahrung finden oder vor Gefahr fliehen). Das Fundament für eine Welt, in der Ziele verfolgt werden können, ist Information. Die Geschichte der Intelligenz beginnt mit der Fähigkeit, Informationen zu verschlüsseln. Eine weitere, enger gefasste Definition stammt von Fatmi und Young (PDF) und lautet wie folgt.

Intelligenz ist die Fähigkeit des Geistes, in eine vormals als ungeordnet betrachtete Situation gedanklich Ordnung hineinzubringen.

H. A. Fatmi, R. W. Young

Soviel zur Intelligenz allgemein. Mit der weit gefassten Definition dürfte Precht gemäß der Argumentation in seinem Buch nicht übereinstimmen. Auf den Grund dazu gehe ich im Abschnitt über Die Intelligenz der Evolution ein. Kommen wir zunächst zum zweiten Schritt.

Was ist Künstliche Intelligenz?

Künstliche Intelligenz ist, wenn Maschinen besagte Fähigkeiten beherrschen, wobei ein Unterschied zwischen schwacher und starker KI gemacht wird. Alexa, was ist schwache KI?

Hier ist etwas, das ich in dem Artikel Total War: Rome II auf Wikipedia gefunden habe: Tester kritisierten, dass das Spiel noch nicht fertig sei und an größeren Mängeln, etwa einer schwachen künstlichen Intelligenz und sehr hohen Systemanforderungen leide.

Alexa

Das ist schwache KI: Eine künstliche Intelligenz, die auf einen bestimmten Aufgabenbereich beschränkt ist und (heute noch) schnell an dessen Grenzen gerät. Was ist da gerade passiert? Meine menschliche Intelligenz hat sich das Ziel gefasst, eine Antwort auf eine Frage zu bekommen. Dabei habe ich von meiner Fähigkeit Gebrauch gemacht, die nötigen Informationen zum Erreichen dieses Ziels zu verschlüsseln. Als Code diente mir die natürliche Sprache. Das Ding in der Ecke ist mit Mikrofonen ausgestattet und ans Internet angeschlossen, so dass es mein Gelaber aufzeichnen und an die Cloud schicken kann. Darin verfolgt eine KI das Ziel, den Sprachcode zu entschlüsseln, enthaltene Infos daraufhin auszulesen, welche Befehle oder Fragen sie liefern und ihrerseits neue Informationen zu verschlüsseln, die bestenfalls eine richtige Reaktion oder Antwort darstellen. Klappt mal besser, mal schlechter, wie gerade gehört. Alexa steht deshalb in der Ecke, weil sie sich schämen soll, diese schwache KI.

Schwache künstliche Intelligenz

Schwache KI ließe sich auch so definieren: Jede KI, an die wir uns gewöhnt haben – ob Schachcomputer oder Navi – ist schwache KI. Anders gesagt: Schwache KI ist jede Art von künstlicher Intelligenz, die es bereits gibt.

Man könnte auch sagen, dass es [bei schwacher KI] um die Simulation von intelligentem Verhalten geht.

Neuronale Netze programmieren mit Python, S. 35

Bisher kann KI froh sein, keine Gefühle zu haben. Sonst würde sie wohl wie die Maulende Myrte ein trauriges Dasein fristen, nur halt eher im PC, statt im WC. Als Ende der 90er Jahre zum Beispiel erstmals eine KI gegen den menschlichen Weltmeister im Schach gewann, da stieg nicht etwa unser Respekt vor der KI, sondern es sank unser Ansehen fürs Schach: Scheint wohl doch kein Spiel für schlaue Leute zu sein, wenn so’n dummer Computer das hinkriegt – und dieser Computer ist natürlich allenfalls schwache KI. Noch’n Beispiel!

Alpha Go, das Computerprogramm von Google DeepMind, das 2016 den südkoreanischen Go-Großmeister Lee Sedol schlug, verstand nicht entfernt, was es tat, und es konnte es auch nicht erklären.

Precht, S. 26

Precht weist in Künstliche Intelligenz und der Sinn des Lebens sehr entschieden darauf hin, wer was »nicht entfernt« versteht. Aber hat er denn verstanden, was Go ist?

Das Brettspiel Go

Bei dem asiatischen Brettspiel gibt es mehr Zugmöglichkeiten als Atome im Universum. […] Beim Go ist deshalb eine Mischung aus Logik und Intuition gefragt. Begabte und erfahrene Spieler spüren, welcher Zug in einer bestimmten Situation der richtige ist. […] Die Intuition ist dann die Abkürzung zu ihrem Erfahrungswissen, das nicht explizit, sondern implizit in den Synapsen des Hirns gespeichert ist. Die Spieler können dann nicht erklären, warum der Zug aussichtsreich ist.

Ramge, S. 40

Nicht nur der Computer, sondern auch die Menschen können sich nicht erklären, was sie da tun. An anderer Stelle schreibt Precht, dass auch »die Qualität von Liebe« ohne Gefühle nicht erklärbar sei (S. 31) – als wenn sie’s mit Gefühlen wäre. Heißt das nun, ein Computer spürt, welcher Zug der richtige ist? Nein. Doch er kann Millionen Male gegen sich selbst spielen.

AlphaGo baute so Erfahrungswissen auf, erkannte Muster und welche Spielstrategie zu ihnen passen könnte. Für Experten wirkten AlphaGos Züge mitunter besonders kreativ, hervorgebracht durch eine genialische Mischung aus Mustererkennung, Statistik und Zufallsgenerator. Seitdem ist klar: Intuition und vielleicht auch Kreativität sind (je nach Definition) auch keine Domäne des Menschen mehr.

Ramge, S. 40f.

Na ja, wie gesagt: schwache KI. Als starke KI würden wir ein System bezeichnen, dessen intellektuelle Fähigkeiten an die des Menschen heranreichen oder sie gar überflügeln. Ist das Aufkommen einer solchen KI in absehbarer Zeit zu erwarten? Precht meint, die Wahrscheinlichkeit sei »verschwindend gering«. (S. 113) Aber schauen wir doch in sein Buch erstmal rein.

Künstliche Intelligenz und der Sinn des Lebens

Zum Auftakt von Künstliche Intelligenz und der Sinn des Lebens stellt Precht zwei Linien oder Bewegungen gegenüber. Die eine Bewegung wolle den Kapitalismus überwinden und zurück zur belebten Natur. Die andere Bewegung wolle den Menschen überwinden, mit technischen Mitteln, und im Zuge dessen die Natur hinter sich lassen. Die philosophischen Denkrichtungen dazu sind der Transhumanismus und der Posthumanismus, an denen Precht harsche Kritik übt.

Eine Analyse der Gegenwart

Precht erzählt, parallel zueinander, die Geschichten besagter Bewegungen – also die des Umweltbewusstseins in den westlichen Industriestaaten und die des informationstechnischen Fortschritts durch künstliche Intelligenz. Den Ausgangspunkt bildet der Dartmouth-Workshop im Jahr 1956. Das war ein Forschungsprojekt zum Thema Künstliche Intelligenz, im Rahmen dessen dieser Begriff überhaupt erstmals im akademischen Kontext verwendet wurde.

Die Vermutung, ob Computer in der Lage sein könnten, menschliche Intelligenz nachzuahmen, die wurde wohlgemerkt schon viel früher gehegt, etwa im 19. Jahrhundert von der Mathematikerin Ada Lovelace. Ziel des Projekts im Jahr 1956 war es jedenfalls, »herauszufinden, wie Maschinen dazu gebracht werden können, Sprache zu benutzen, […] Konzepte für Problemlösungen zu bilden, die heute noch den Menschen vorbehalten sind und sich selbst zu verbessern« – unter anderem. Für ein paar Sommerwochen erscheint dieses Ziel aus heutiger Sicht, gelinde gesagt, etwas überheblich formuliert:

Wir denken, dass bei einem oder mehreren dieser Probleme ein bedeutender Fortschritt erzielt werden kann, wenn eine sorgfältig ausgewählte Gruppe von Fachleuten einen Sommer lang gemeinsam daran arbeitet.

Förderantrag, 31. August 1955

Und was war? Viel mehr als Brainstorming kam nicht dabei rum. Seitdem sind über sechs Jahrzehnte vergangen, »in denen Maschinen lang und mühevoll« dazulernten, schreibt Precht. Klingt nach viel Zeit und wenig Fortschritt, doch wenn wir im Vergleich betrachten würden, wie die Menschen lang und mühevoll dazulernten, kämen wir auf einen Zeitraum von nicht sechs Jahrzehnten, sondern mehr als sechzig Jahrtausende, Ende offen, insofern: ja, Maschinen lernen langsam – aber mit dem Menschen als Maßstab und Vorbild ein Wunder, dass sie überhaupt lernen.

Die Kluft unserer Zeit

Precht stellt in Künstliche Intelligenz und der Sinn des Lebens jedenfalls fest, dass es zu wenige Menschen gebe, die sich sowohl um die Umweltfrage als auch um den technischen Fortschritt durch KI scherten, weshalb zwischen diesen beiden Bewegungen »die Kluft […] unserer Zeit« verlaufe. (S. 21) Da spricht Precht einen relevanten Punkt an, der auch bei einer Fachtagung zum Thema Transhumanismus im Jahr 2018 schon auf der Tagesordnung stand. Damals war es Andre Banning, der zu dem Schluss kam:

Angesichts [der ökologischen] Entwicklungen und Gefahren wäre die Diskussion um den Transhumanismus gut beraten, wenn sie sich in Zukunft nicht nur der Frage nach der technologischen Veränderung des Menschen selbst widmen, sondern der Diskussion zur Erhaltung seines Lebensraumes weitaus mehr Raum geben würde.

Designobjekt Mensch, S. 425

Der ganze Beitrag ist nachzulesen im Sammelband Designobjekt Mensch, der sich deutlich sachlicher, aber – klar – auch trockener liest, als Prechts gerne mal polemisierender Essay über »IT-Gurus und Techno-Utopisten« in einer »Vernunftkrise« (S. 21).

Eine Analyse der Endnoten

Untergraben wird das ernste Pochen auf die Problematik in dem Buch Künstliche Intelligenz und der Sinn des Lebens vom konfusen Umgang mit Zahlen und Verweisen. Dadurch droht die Öko-Dystopie genauso zur Glaubensfrage zu geraten, wie die von den Gurus beschworene Techno-Utopie. Um diesen Aspekt zu erläutern, gehe ich im Blogbeitrag zum Video exemplarisch auf einen problematischen Absatz bei Precht mal genauer ein.

Beispielhaft für die konfuse und teils inkorrekte Angabe von Zahlen und Verweisen ist ein Absatz auf Seite 19. Darin werden Fragen zu den CO₂-Emissionen digitaler Technik gestellt und einige Antworten mit einer verwirrenden Auswahl an Links hinterlegt.

»Glaubt man den Forschern der TU Dresden«, heißt es da etwa, »dann verbrauche das World Wide Web im Jahr 2030 so viel Strom wie die gesamte Weltbevölkerung 2011.« Die entsprechende Endnote verlinkt zu einem Beitrag der Frankfurter Rundschau. In dem geht es weder um die TU Dresden noch konkret um besagte Prognose, sondern um die Risiken, aber auch die Chancen der Digitalisierung, insbesondere mit Blick auf die Umwelt. Dieselbe Endnote verweist auf eine Studie aus dem Journal of Cleaner Production von zwei Autoren, die auch nichts mit der TU Dresden zu tun haben. Vielleicht sind diese Links einfach als weiterführende Lektüre gedacht.

Zur Produktion von Smartphones

Zwei Sätze später dient die Endnote dann jedoch als Quelle, da die Prognose im verlinkten Artikel zweier Physiker von der kanadischen McMaster-Universität dieses Mal mit Prechts Angaben übereinstimmen: »[S]chon im Jahr 2040 […] wird die Digitaltechnik etwa halb so viel Treibhausgase entstehen lassen wie der gesamte globale Verkehr.« Darauf folgt bei Precht der Satz: »Allein die Produktion von Smartphones könnte dann 125 Megatonnen CO₂ pro Jahr in die Luft blasen.« Dann, im Jahr 2040, suggeriert die Satzfolge.

Die Endnote zu diesen Angaben verlinkt auf einen neun Jahre alten Beitrag von Welt Online über den »Klimakiller Internet« und einen 2018 aktualisierten Beitrag der »Kompetenzplattform« nachhaltig.digital. In keinem dieser Beiträge ist vom Jahr 2040 oder Smartphone-Produktion die Rede. Aber hey, in beiden findet sich jene Prognose der TU Dresden, womit der Hinweis zu dieser Angabe bloß in die falsche Endnote gerutscht zu sein scheint. Allerdings verweist der Beitrag von nachhaltig.digital als Quelle für die TU-Dresden-Angabe wiederum auf den Welt-Online-Artikel – und woher der diese Angabe bezieht ist nicht ersichtlich.

Die Prognose zur Smartphone-Produktion taucht stattdessen im Beitrag der McMaster-Physiker auf, jedoch beziehen die sich nicht aufs Jahr 2040, sondern 2020.

Wir fanden heraus, dass der relative Emissionsanteil von Smartphones voraussichtlich von vier Prozent im Jahr 2010 auf 11 Prozent im Jahr 2020 ansteigen wird […]. In absoluten Werten werden die von Smartphones verursachten Emissionen in dieser Zeitspanne von 17 auf 125 Megatonnen CO₂-Äquivalent pro Jahr steigen […].

L. Belkhir: How smartphones are heating up the planet

Die Lage ist noch schlimmer

Der Autor bezieht sich auf seine eigene, im Peer-Review geprüfte Studie aus dem Journal of Cleaner Production. Genau die Studie, auf die zwei Endnoten zuvor im Kontext mit der TU-Dresden-Prognose hingewiesen wurde. Im Abstract ist auch klar von 2020 die Rede.

Unsere Studie hebt auch den Beitrag von Smartphones hervor und zeigt, dass bis 2020 allein der [ökologische] Fußabdruck von Smartphones den individuellen Beitrag von Desktops, Laptops und Displays übertreffen würde.

Demnach ist die Lage viel schlimmer, als Precht sie vermittelt. Doch das ist nicht, was von diesem Zahlenzirkus bei mir hängenbleibt. Sich einerseits daran zu stören, dass es »in der KI-Debatte [mangels Interesse] fast nie um Energieverbrauch, Ressourcenausbeutung und CO₂-Emissionen« gehe (S. 21), und andererseits so wirr belegte und teils falsche Angaben zu genau diesem vernachlässigten Thema zu machen, das läuft dem noblen Anliegen zugegen und trägt nicht zur Überzeugungskraft bei.

Prechtige Bilanz

Klar, Fehler passieren, kein Ding. Doch mich hat diese Passage aus dem ersten Kapitel schon früh skeptisch und wachsam gestimmt, was Prechts weitere Angaben und Argumentation angeht. Und so sehr mir das Buch insgesamt eine interessante Lektüre war, so wenig hat mich Precht letztlich für seinen Standpunkt gewonnen. Nicht nur, aber auch wegen solcher formalen Unstimmigkeiten, die nun mal nicht Herzblut und Sorgfalt vermuten lassen, sondern eher ’ne Blitzrecherche fürs x-te Buch, passt schon.

Wahrscheinlich ist, dass ich nach diesem Buch ein weiteres Buch schreibe, weil ich schon fünfzehn Bücher geschrieben habe.

S. 208

Prechtige Bilanz! Nun ist es für seine Bücher nicht ungewöhnlich, dass die Endnoten ein Sammelsurium von Belegen und Links ganz unterschiedlicher Qualität und Relevanz sind. Ähnlich etwa in Jäger, Hirten, Kritiker, Prechts »Utopie für die digitale Gesellschaft« aus 2018. Auch in meiner Buchkritik zu seinem Bestseller Wer bin ich und wenn ja, wie viele? hatte ich ja am Umgang mit Fakten und Verweisen rumgekrittelt.

Drum sei dran erinnert, dass auch Prechts neues Buch Künstliche Intelligenz und der Sinn des Lebens ja keine wissenschaftliche Abhandlung sein will, sondern ein Essay – und ein Essay ist, dem Begriff nach, eben ein kurzer Versuch, die eigenen Gedanken zu einem Thema darzulegen – so, wie es Precht schon seit Jahrzehnten unternimmt.

Im Jahrestakt widmet er sich Fragen, über die Philosophen, die es in der Wissenschaft zu etwas bringen wollen, ein Leben lang grübeln. Das ist nicht Prechts Anspruch, er liefert Debattenbeiträge. Bemerkenswert ist sein feines Gespür für Themen, die das Bildungsbürgertum bewegen.

Johannes Pennekamp (FAZ)

Ein Thema, das immer zieht und spürbar immer dringender wird, ist das, was uns Menschen menschlich macht – und ob uns diese Merkmale bald streitig gemacht werden könnten.

Mensch, Maschine und Moral bei Precht

Es ist die alte Frage der philosophischen Anthropologie: Was ist der Mensch? 2500 Jahre lang habe, so fasst Precht grob vereinfacht zusammen, die Antwort der westlichen Kultur gelautet, der Mensch sei »das Andere der Natur«. Doch Precht erklärt den Menschen (immer noch, wie schon in Jäger, Hirten, Kritiker) zum »Anderen der künstlichen Intelligenz«. Und während zuvor die Rationalität des Menschen als Alleinstellungsmerkmal hervorgehoben und idealisiert worden war, macht Precht dasselbe nun mit der Emotionalität des Menschen.

Die menschliche Intelligenz ist durchzogen von Emotionalität und Intuition, Spontaneität und Assoziation. Der »gesunde Menschenverstand« (common sense) ist kein Synonym für Rationalität, sondern im gleichen Maße Einfühlung in die Situation unter dem Einfluss von Werten.

S. 25

Künstliche Intelligenz hingegen empfinde keine Werte. Was KI alles nicht kann und nicht ist, darüber wird in diesem Kapitel ausführlich sinniert – im Präsenz, wohlgemerkt.

Kurzweils Homo s@piens

Daß Computer mit der menschlichen Intelligenz ernsthaft konkurrieren werden, halten viele unter der Berufung auf den momentan Stand der Technik für ein Hirngespinst. […] Aber die Computertechnik macht eine rasante Entwicklung durch. Fähigkeiten, die vor zwei Jahrzehnten nicht für möglich gehalten wurden, werden heute technisch umgesetzt […].

Homo s@piens, S. 21

Dieses Zitat ist selbst zwei Jahrzehnte alt und stammt aus einem Buch von Ray Kurzweil. Precht kennt es und zitiert auch daraus – jedoch nur, um den Inhalt als Hokuspokus abzutun und den »Propheten« Kurzweil mit dem Zauberer Merlin zu vergleichen. Es stimmt, dass Kurzweil viele falsche Vorhersagen gemacht hat. Doch mit Vorhersagen ist Precht selbst nicht gerade zurückhaltend. Dass etwa seine Gegenwartsbetrachtung trotz besagter Entwicklungen in der Computertechnik auch noch in 20 Jahren gültig bleiben sollte, da scheint er sich sicher zu sein.

So viele großartige Fähigkeiten unterscheiden Menschen nicht nur graduell, sondern prinzipiell von ihren Maschinen.

S. 26

Einen biologischen Grund dafür sieht Precht darin, dass unsere emotionale Seite nicht nur von Affekten im Gehirn ausginge, sondern auch von unseren Darmbakterien zum Beispiel – dem ganzen komplexen Organismus, den unser menschlicher Körper bildet. Hinzukämen unsere Erziehung und viele andere Faktoren, während KI weder Gemeinschaft noch soziale Kultur kenne.

Menschliche Moral

»Was den Menschen zum Menschen macht«, so Precht, sei »die besondere Art und Weise, wie wir mit unserer Umwelt kommunizieren. Wir reagieren nicht einfach auf sie, sondern wir konstruieren sie uns, von einem Selbst ausgehend, als unsere Welt.« Für unsere Moral heißt das, wie Precht mit Bezug auf Hume, Haidt und Mead schreibt:

Die menschliche Moral ist irrational, von nicht generalisierbaren sozialen Intuitionen durchzogen, hochgradig situativ, abhängig vom Kontext und aufs Engste verbunden mit unserem Selbstwertgefühl […].

S. 156

So kommt Precht zu seiner These, dass Moral nicht programmierbar sei. Wenn wir nun von den vielen »großartigen Fähigkeiten« der Menschen so einige schon den Maschinen beigebracht haben – Lesen, Schreiben, Rechnen, Muster erkennen und Musik komponieren zum Beispiel – dann bleibt die Frage, welche Fähigkeiten denn wirklich prinzipiell nicht von Maschinen übernommen werden können. Für Precht sind es die »stummen« Fähigkeiten, »die uns im Alltag zumeist gar nicht deutlich werden.«

Stumme Fähigkeiten

Und doch machen sie uns mindestens ebenso sehr zum Menschen wie die bewussten Operationen unseres Verstandes. Wir rechnen, sehen und hören sehr viel schlechter als Computer, aber wir orientieren uns auf grandiose Weise in oft unendlich komplexen Kontexten. Die Datenwelt der künstlichen Intelligenz hingegen nimmt nur wahr, was sie wahrnehmen soll. Diese Welt ist sehr viel kleiner als die menschliche. Ihr fehlt, wie Donald Knuth sagt, alles »Gedankenlose«.

S. 37

Wieder: Präsenz. Abgesehen davon, dass die Aussage von Donald Knuth über die Gedankenlosigkeit künstlicher Intelligenz, aus – im KI-Kontext – ferner Vergangenheit stammt, nämlich dem Jahr 1981. Allerdings: Rund 40 Jahre später sagte Knuth im KI-Podcast mit Lex Fridman vor ein paar Monaten noch, dass er nach wie vor nichts sehe, das sich dem annähere, was er als »Intelligenz« bezeichnen würde. Im selben Interview räumt er aber die Möglichkeit ein, dass sich etwas kreieren lässt, ohne es exakt verstanden zu haben – er selbst als Experte für Informatik tue das andauernd.

Nun bin ich weder Experte für Informatik allgemein, noch fürs Teilgebiet KI – das lässt sich aber, nichts für ungut, vermutlich auch über Precht sagen. Mir jedenfalls leuchtet noch nicht ein, weshalb die vergleichsweise kleine »Datenwelt« der KI nicht irgendwann einen kritischen Punkt hin zur Komplexität unserer Welt überschreiten könnte, die doch auch gewissermaßen eine Datenwelt ist. Selbst, wenn wir gedankenlos in ihr herumtapsen.

Der Algorithmus des Todes

Precht unterscheidet zwischen der objektiven Realität, der subjektiven Realität unserer Sinneswahrnehmungen und der Realität, die wir digital rekonstruieren, damit KI sie auslesen kann. Bei letzterer handele es sich stets um eine »Welt aus dritter Hand«. Nichtsdestotrotz bewegt sich eine solche KI ja durchaus, wie wir, in der objektiven Realität, und nimmt sie, ähnlich wie wir, irgendwie wahr. Was sonst macht etwa eine KI, die einen Tesla im Autopilot-Modus steuert und mit GPS-System, hochauflösenden Kameras, Laser- und Radar-Sensoren die Umgebung scannt, statt mit ein paar Augen und Ohren? Dabei beherrschen »aus Daten lernende Software in Verbindung mit steuerungsfähiger Hardware den Dreischritt von Erkennen, Erkenntnis und Umsetzung in eine Handlung immer besser«, wie Thomas Ramge schreibt, im 2018 erschienen Reclam-Heftchen Mensch und Maschine.

[Die] Fähigkeit des Erkennens haben Computer erst vor wenigen Jahren erworben. Die besten von ihnen können heute unterscheiden, ob auf der Straße ein Papierknäuel liegt, den das Fahrzeug getrost überfahren kann, oder ein Steinbrocken, dem es ausweichen muss.

S. 14

Das ist beeindruckend, und es bringt uns zu einem beliebten Thema von Precht: dem autonomen Fahren. Ob im eingangs erwähnten ZEIT-Artikel, im Saartalk, bei titel thesen temperamente oder in seiner eigenen Sendung zum Thema KI schon im vergangenen Jahr – in der Vorbereitungsphase und auf den Promo-Stationen für sein neues Buch Künstliche Intelligenz und der Sinn des Lebens, da durfte das autonome Fahren mal als ausführliches Beispiel, aber doch wenigstens als Stichwort herhalten, zu der Grenze, die Precht ziehen möchte: Bis hierher und nicht weiter.

Precht über ethische Programmierung

Das dazugehörige Beispiel dürfte den meisten bekannt sein. Ein autonom fahrender Wagen gerät in eine brenzlige Lage, einen unvermeidbaren Unfall. Die KI im Cockpit muss binnen Sekunden entscheiden, ob sie in das jugendliche Pärchen lenkt, das gerade sein erstes Date hat, oder die drei nicht mehr ganz so jugendlichen Damen, die ihre Rollatoren zurück zum Altenheim schieben. Welche Leben sind nun mehr wert?

Ein Mensch würde diese Entscheidung im Falle eines Unfalls gar nicht treffen können, sondern instinktiv, impulsiv, irgendwie das Lenkrad rumreißen oder auf die Bremse treten. Eine KI könnte die einen Leben gegen die anderen verrechnen, nach welchen Faktoren auch immer, und ein rationales Urteil fällen – binnen Millisekunden. Die Befähigung zu einer solchen Hochrechnung von Lebenswert ist eine »ethische« Programmierung. Und genau hier sagt Precht: Stopp! Ein klares »Nein« zu jeder »ethischen« Programmierung sei »die nächstliegende und zugleich am meisten reflektierte Lösung« (S. 166).

[K]eine »ethische« Programmierung. Niemals! […] Entscheidungen über Leben und Tod sind keine, die an künstliche Intelligenzen abgetreten werden können […] – einen »Todesalgorithmus« darf es niemals geben.

S. 192

Prechts Grenze

Aber einen Lebensalgorithmus denn? Entscheidet KI, die medizinische Diagnosen vornimmt oder ein Flugzeug landet – was ja schon vorkommt – nicht auch über Leben und Tod?

Künstliche Intelligenz kann sich segensreich auswirken und künstliche Intelligenz kann zum Alptraum werden und die Grenze ist relativ einfach zu benennen: Immer da, wo künstliche Intelligenz über menschliche Lebensschicksale entscheidet, also über Menschen richtet, da sollten wir besser die Finger davonlassen, sonst kommen wir in Teufels Küche.

Precht beim SWR 2

So »relativ einfach« finde ich diese Grenze hin zum »Richten über Lebensschicksale« gar nicht.  

Tipp: Einen Eindruck davon, wie subtil und fließend der Übergang von segensreicher zu alptraumhafter KI sein kann, den vermittelt die Schriftstellerin und Techno-Soziologin Zeynep Tufekci in ihrem TED-Talk über KI-gesteuerte Online-Werbung.

Jenes Dilemma eines unvermeidbar tödlichen Unfalls weiß Precht in seinem Buch Künstliche Intelligenz und der Sinn des Lebens natürlich zu lösen, mit einer simplen, regelbasierten Antwort, die doch »hundertmal besser« sei, als das programmierte Abschätzen menschlichen Lebens. Diese Attitüde eigentlich einfacher Antworten zu diesem komplexen Themenbereich zieht sich so durchs Buch. Precht serviert eine vermeintlich unverrückbare Haltung, die anstelle eigenen Denkens nur noch dankend übernommen werden müsste: »[W]enn Moral aus den genannten Gründen niemals programmierbar ist […], dann sollten wir es auch nicht tun!« – wenn Moral aber prinzipiell nicht programmiert ist, dann müsste Precht doch gar nicht davor warnen. Mich persönlich stimmt es skeptisch, wenn sich ein Philosoph einen so klaren Durchblick zutraut, wo etliche Fachleute leisere Töne anschlagen.

Die Intelligenz der Evolution

Ein Fachmann, der eher nicht so leise Töne anschlägt, ist besagter Ray Kurzweil. Der Erfinder, Futurist und Entwicklungsleiter bei Google versteht gewiss einiges von künstlicher Intelligenz und dem menschlichen Denken. Dass er dennoch auf viel Kritik stößt, hängt mit den erwähnten Vorhersagen zusammen, die er so gerne raushaut. Wie oft und sehr er mit seinen Thesen daneben liegen kann, das hat die Zeit mittlerweile gezeigt. Seit 1999, dem Veröffentlichungsjahr von Kurzweils Buch, auf das Precht sich bezieht, haben sich etliche Vorhersagen als falsch erwiesen. Doch Kurzweil hat ja weitere Bücher geschrieben, etwa sein umfangreiches Werk Menschheit 2.0 aus dem Jahr 2005 und Das Geheimnis des menschlichen Denkens von 2012, in dem er sehr detailliert und fundiert Einblicke in das Reserve Engineering gibt, also die Rekonstruktion des menschlichen Gehirns.

Hightech-Visionäre träumen von einer Welt, in der Gedanken von Hirn zu Hirn übertragen werden, heruntergeladen wie bei Computern. Glauben kann das nur, wer sich mit dem menschlichen Gehirn nie ernsthaft beschäftigt hat.

S. 70

Eine solche Einschätzung disqualifiziert Precht eigentlich, überhaupt noch zum Thema KI angehört zu werden – denn dass sich Kurzweil, bei all seinen wilden Thesen, nicht ernsthaft mit dem Gehirn beschäftige, scheint mir (mit Prechts Worten) wirklich eine »haltlose Behauptung«.

Precht über Komplexität

Im Anschluss an dieses Zitat aus Künstliche Intelligenz und der Sinn des Lebens, auf Seite 70, lässt Precht sich noch weiter über das Wesen von Gehirnen und das Verhältnis von Körper und Geist aus – und suggeriert mit jedem weiteren Satz, sehr viel Ahnung von einem Thema zu haben, über das A) niemand genau Bescheid weiß, weil es noch ungeklärte Fragen der Wissenschaft betrifft, und B) Precht erst recht wenig zu wissen scheint. Wie gesagt: Das Thema ist komplex. Was sagt uns das?

Gesteigerte Komplexität treibt massenhaft Überforderungen hervor, Gewissheiten treten an die Stelle von Ungewissheiten und umgekehrt, ohne dass auch nur entfernt abzuschätzen ist, wohin das führt.

S. 87

Genau – woher dann all die Gewissheiten? Und damit meine ich nicht einmal die wirklich belanglosen Gewissheiten, die da manche Zeile füllen. Sätze wie »Material und dessen Verarbeitung sind nicht identisch« und »das Gehirn ist kein vom Leib getrenntes Organ, das lediglich mit Blut versorgt wird, wie Rechner mit Strom« – das sind keine Erkenntnisse, sondern Plattitüden, die von den »Hightech-Visionären« auch gar nicht behauptet werden.

Und eine Schlussfolgerung wie die, dass die Substanzlehre von Descartes »definitiv falsch« sei und »deshalb« das Bewusstsein nicht in eine Maschine übertragen werden könne (S. 71), die vermengt dermaßen abwegig neuzeitliche Geistphilosophie und fortwährende Gehirnforschung, dass der Gehalt dieser Aussage gleich Null ist.

Prechts Motiv in Künstliche Intelligenz und der Sinn des Lebens

Prechts Motiv hinter solchen Tiraden gegen den »Technofundamentalismus mit Scheuklappen« (S. 77) ist immerhin nicht subtil zwischen den Zeilen verpackt.

Jenseits seines Körpers ist Homo sapiens kein Leben möglich, und der komplette Austausch von Leib und Maschine bleibt auf ewig Fiktion. Das hat ohne Zweifel etwas Beruhigendes.

S. 71

Precht will beruhigen, seine Leser*innen und vielleicht auch sich selbst.¹ Deshalb pickt er sich auf einem weiten Forschungsfeld die schillerndsten und umstrittensten Figuren – wie Nick Bostrom oder eben Ray Kurzweil – heraus und reitet ein wenig auf deren Visionen herum. Doch selbst die Bücher eines Ray Kurzweil sind sehr lehr- und kenntnisreich und längst nicht nur absurde Spekulationen eines enthusiastischen Optimisten.

Dass Precht sich einerseits daran stört, die »IT-Gurus« würden sich nicht ums Öko-Desaster scheren und dass der »schwedische Fantast« Nick Bostrom z. B. ein dickes Buch über Superintelligenz schreiben könne, ohne die Zerstörung der Umwelt zu erwähnen, aber andererseits selbst ein Buch über KI und »künftiges Menschsein in einer immer technisierten Welt« zu schreiben, ohne auf Nanotechnik und Quantencomputer einzugehen, ergibt ein schiefes Bild.Randnotiz: Am 20. Juli erscheint Die verwundbare Welt, ein neues Buch von Bostrom, in dem sich der schwedische Philosoph tatsächlich mal mit Klimafragen auseinanderzusetzen scheint – doch das scheint tatsächlich nur so. Vielmehr handelt es sich um einen 2019 veröffentlichten Fachartikel (PDF) mit düsteren Zukunftsszenarien, bei denen das Klima kaum eine Rolle spielt. Ist einfach zeitgeistig beworben, das 100-Seiten-Büchlein. Zurück zum Thema: 

Precht und Kurzweil

Gerade Kurzweils Menschheit 2.0 gibt thematisch so viel mehr her, was sich kritisieren ließe – warum erwähnt Precht es nicht einmal, sondern strampelt sich nur an dem Buch Die Intelligenz der Evolution ab, das wie gesagt aus den 90er Jahren stammt? Es ist nicht so, dass Precht das viel gewichtigere Werk Menschheit 2.0 nicht auf dem Schirm hätte – er empfiehlt es zumindest in seinem Buch Jäger, Hirten, Kritiker.

Ein Grund, weshalb Precht in Künstliche Intelligenz und der Sinn des Lebens auf dem alten Buch herumreitet, ist sicher dieses eine Thema, das ihn so stört, und das in einer neuen Ausgabe so deutlich in den Fokus gerückt ist. Als dieses Buch am 1. Januar 1999 erschien, da lautete der deutsche Titel Homo s@piens. Trug damals übrigens nicht unbedingt zur Glaubwürdigkeit von Kurzweils Prophezeiungen bei, dass im Anhang ein Buch über UFOs beworben wurde, aber ok. 2016 wurde dann das gleiche Buch irreführenderweise nochmal unter anderem Titel herausgebracht: Die Intelligenz der Evolution. Dieser Titel weist auf Kurzweils These hin, dass die Evolution intelligent sei – was Precht so gar nicht passt. Wenn Darwin (ähnlich wie Adam Smith) die Natur anthropomorphisiert, also als Akteurin vermenschlicht, indem er schreibt »nature does«, die Natur täte dies und das, dann weiß Precht das zu entschuldigen (S. 99).

Kurzweils These zur Evolution

Wenn Kurzweil jedoch der Evolution ein Ziel unterstellt und damit scheinbar als handelnde Akteurin beschreibt, dann wird der Autor beim Wort genommen und durch die Manege gezogen: Kurzweils Vermenschlichung der Evolution erinnere geradezu an die Bibel.

Aus der unendlich intelligenten Gottheit ist bei Kurzweil die unendlich intelligente Evolution geworden.

S. 93

Darf ich kurz ein Zitat von Kurzweil dagegenhalten, der schreibt (S. 80):

Die Intelligenz der Evolution erscheint grenzenlos. Aber […] [w]ollten wir ihren Intelligenzquotienten bestimmen [also den der Evolution], so kämen wir [angesichts ihrer] Arbeitsgeschwindigkeit wohl auf einen Wert von wenig über Null. […] Die Evolution verhält sich demnach nur ein Quentchen cleverer als ein vollständig unintelligenter Prozeß.

Kurzweil beschreibt die Evolution nicht als »unendlich intelligent«, sondern gerade intelligent genug, um den Ball ins Rollen zu bringen. »Dass alles Leben nach mehr und mehr Intelligenz strebt«, so Precht, das sei ja an Muscheln zum Beispiel nicht abzulesen. Aber »dass alles Leben nach mehr und mehr Intelligenz strebt«, das behauptet Kurzweil auch nicht. Und dass er »die Entwicklungsgeschichte selbst zum bewussten Akteur macht« stimmt so auch nicht, es sei denn, wir nehmen seine Beschreibung der Evolution als »hervorragende Programmiererin« (S. 73) wirklich wörtlich, was mir nicht ganz fair erscheint – angesichts dessen, dass er die Evolution einen Satz davor noch als »intelligenten Prozess« beschreibt. Warum nicht das wörtlich nehmen? Aber nein, Prechts Urteil steht fest:

Die trans- und posthumanistische Sicht der Evolution ist wissenschaftlicher Humbug, weil sie, wie erwähnt, die Entwicklungsgeschichte selbst zum bewussten Akteur macht. / Trans- und Posthumanismus sind Denkweisen von gestern, als Philosophen die Evolution noch für vorherbestimmt hielten und mit einem Perfektionierungsauftrag ausstatteten […]

S. 103, 111

Buchtipps zum Transhumanismus

Wer sich wirklich mit Trans- und Posthumanismus beschäftigen will, sowohl kritisch als auch differenziert, hier ein paar Buchtipps, die weit mehr hergeben, als Prechts enger und einseitiger Blick aufs Thema – da wären: Trans- und Posthumanismus zur Einführung von Janina Loh, Transhumanismus, »die gefährlichste Idee der Welt«!? von Stefan Lorenz Sorgner, Posthumanismus von Rosi Braidotti und Kritik des Transhumanismus von vier Autoren, die »dem Transhumanismus [nicht] die technologiegeprägte Zukunft der Gesellschaft überlassen wollen« (S. 11).

Zurück zur Intelligenz der Evolution. Im Gesamtkontext von Kurzweils Werk erweist sich die Aktivität, die Kurzweil der Evolution zuschreibt, als genauso wenig von Bewusstsein erfüllt, wie ein aktiver Vulkan weiß, was er tut. Hier sei nochmal an jene Definition von Intelligenz erinnern, von der ich vorhin meinte, dass Precht damit nicht übereinstimmen dürfte.

Intelligenz ist das Maß für die Fähigkeit einer handelnden Person oder wirkenden Kraft, in einem breiten Spektrum von Umgebungen Ziele zu erreichen.

Die wirkende Kraft ist es, der Precht keine Intelligenz zuschreiben würde – Kurzweil hingegen schon. Nun ist es völlig legitim, gegen Kurzweils Thesen zu argumentieren. Wenn diese Thesen dabei jedoch auf eine Weise wiedergegeben werden, die Kurzweils Ideen schlichtweg falsch wiedergeben, dann läuft die eigene Argumentation auf eine Strohmann-Argumentation hinaus. Was ein Strohmann-Argument genau ist, das hat Rezo ja kürzlich noch der FAZ sehr anschaulich erklärt (ab Min. 24:00). Ab Seite 98, da möchte Precht klarstellen, »was die Evolutionstheorie eigentlich besagt und was nicht« – beschreibt zwei Sätze weiter aber den Homo sapiens als Variante der Familie Homo, obwohl Homo die Gattung ist, aus der Familie der Hominiden – Mensch! Wenn schon so dermaßen selbstsicher besserwissen, dann doch bitte auch besser wissen.

Precht und Schmidhuber

Ich will zum Ende kommen. Das Evolutionsthema stand schon in besagter Sendung von Precht zur Diskussion, im Oktober 2019. Da war der KI-Forscher Prof. Jürgen Schmidhuber zu Gast, einer der »mit Abstand wichtigsten« Pioniere der deutschen KI-Forschung, wie Precht betonte. Trotzdem prallten Schmidhubers Gedanken zu seinem Fachgebiet am Gastgeber ab. Zumindest weichen Prechts Ansichten und Thesen aus der Sendung zu dem über ein halbes Jahr später erschienenen Buch Künstliche Intelligenz und der Sinn des Lebens nicht mehr ab. Stattdessen zitiert er darin seinen Gast Prof. Schmidhuber und nennt dessen Aussage weltfremd. Wörtlich liest sich das so:

Vorstellungen wie jene, dass »95 Prozent aller KI-Forschung dahin angelegt sei, um Menschenleben länger, gesünder und leichter zu machen«, sind weltfremd.

S. 41

Was denkt Precht denn? Dass 95 Prozent aller KI-Forschung dahin angelegt sei, Menschenleben kürzer, kränker und schwerer zu machen? Weil das irgendwie im Sinne der ökonomisch getriebenen »IT-Gurus« liege?

Prechts Faszination

Es ist schon bemerkenswert, dass Precht seinem Gast erklärt, was eine Ideologie sei. Er definiert sie im Wesentlichen als »eine einseitige Übertreibung«. (Mehr zum Ideologie-Begriff gibt’s im letzten Abschnitt des Beitrags Die Zerstörung des politischen Lebens.) Precht indes scheint selbst von einer bestimmten Sicht auf die Welt ideologisch voreingenommen zu sein. In Sendeminute 27, da erzählt er:

Meine Faszination an der Natur rührt ja daher, dass es keinen Programmierer gibt, […] dass es an finalen Zielen mangelt. […] Ich bin ja sehr, sehr fasziniert von der Natur, bin auch sehr viel auf anderen Kontinenten, bin beeindruckt, interessiere mich für Tiere, Pflanzen, usw. und warum? Weil es eben nicht auf ein Ziel hin, und einen Nutzen hin programmiert ist.

Richard David Precht

Na, wenn das so ist, dann darf es natürlich nicht anders sein. Prechts Faszination für die Natur und speziell für Tiere ist ja seit seinem Buch Noahs Erbe aus dem Jahr 2000 schon bekannt. Wenn diese Faszination tatsächlich davon abhängt, dass die Natur selbst keine Intelligenz bzw. ein wie auch immer definiertes Ziel hat, dann sollte es sich bloß nie als anders herausstellen, denn sonst hätte die Natur ja nicht Faszinierendes mehr zu bieten – oder wie?

Fazit

Am Ende gibt es darauf, was »Geist, Bewusstsein und Gefühle« seien, keine Antwort, die mir ein tieferes Verständnis vom Menschen vermittelt. Wer gerne Precht liest, wird an Künstliche Intelligenz und der Sinn des Lebens trotz allem sicher Gefallen finden – wenn nicht gar wegen all dem, was ich zu beanstanden hatte. Womöglich macht ja genau dieses unerschütterliche Selbstbewusstsein Prechts dessen Reiz aus. Seine Gedanken zum Sinn des Lebens habe ich hier außen vorgelassen, um nicht noch mehr vorwegzunehmen. Nur so viel sei gesagt: Hannah Arendts Philosophie zum Lebenssinn hat mir persönlich mehr gegeben.

Hinweis: Hier geht’s zum Literaturverzeichnis.

1. Und so lautet denn auch das Fazit im Beitrag von ORF2: »Es ist beruhigend zu sehen, dass der Homo sapiens doch noch intelligenter ist, als wahrscheinlich jedes System, das noch so clever programmiert ist.«