# taz.de -- Forscher über Intelligenz von Robotern: „Unser Geist liegt in Fesseln“
       
       > Roboter und Menschen denken nicht unterschiedlich, sagt der
       > Kognitionsforscher Joscha Bach. Ein Gespräch darüber, wie Maschinen die
       > Welt verändern.
       
   IMG Bild: Spielt es eine Rolle, wer denkt – Mensch oder Maschine?
       
       taz: Herr Bach, worin besteht der Unterschied zwischen Mensch und Maschine? 
       
       Joscha Bach: Ich glaube, dass Menschen eine bestimmte Art von Maschine
       sind. Die Frage ist eher: Was für eine Maschine? Eine Maschine ist ein
       kausales System, eine Ansammlung von Zuständen und
       Übergangswahrscheinlichkeiten für diese Zustände. Damit beschreiben wir
       letztlich die Welt. Für uns ist auch das Universum eine Maschine.
       
       Dieser Gedanke lag auch der Künstlichen Intelligenzforschung der frühen
       Tage zugrunde: Die Ausgangsüberlegung war, dass das Gehirn wie ein Computer
       funktioniert. 
       
       Ich glaube, dass unsere Modelle von Neuronen ganz gut abdecken, wie das
       einzelne Neuron funktioniert. Die Frage ist allerdings: Wie funktioniert
       die Organisation von vielen Neuronen, sodass aus ihrer Zusammenarbeit ein
       Geist entsteht? Das Forschungsfeld Künstliche Intelligenz entstand, weil
       die Psychologen irgendwann aufgehört hatten, über das Denken nachzudenken.
       Die beschäftigten sich vor allem mit dem Verhalten. Modelle davon, wie
       unser Geist, unser Denken, unsere Wahrnehmung funktionieren, lassen sich in
       der Psychologie nicht wirklich testen und weiterentwickeln. Marvin Minsky,
       einer der Pioniere der Künstlichen Intelligenz, überlegte darum: Warum
       versuchen wir, nicht einfach Computern Wahrnehmung und Denken beizubringen?
       Dabei könnten wir doch auch lernen, wie das funktioniert.
       
       Richtig gefruchtet hat das bis heute nicht. Wir haben zwar Siri und
       entwickeln selbstfahrende Autos – aber denken können Maschinen noch nicht. 
       
       Stimmt. Die Forschung hat sich schnell in zwei Richtungen aufgespalten. Die
       eine untersucht, wie man bessere Datenverarbeitungssysteme bauen kann. Und
       die andere erkundet, wie man besser über das Denken nachdenkt. Marvin
       Minsky dachte noch, dass denken symbolisch ist. Also dass wir Wissen in uns
       hineinlernen, so ähnlich wie eine Datenbank. Ich glaube, das stimmt nicht.
       Ich glaube eher, dass unsere Wahrnehmung wie eine Art Synthesizer
       funktioniert: Es gibt eine Menge Knöpfe, an denen man herumdreht, bis genau
       der Ton entsteht, den man haben will. Oder genau das Muster erzeugt wird,
       das man haben will.
       
       Auf dem CCC-Kongress, der gestern begann, wollen Sie erklären, wie
       Künstliche Intelligenz dabei helfen kann, den Menschen und sein Denken
       besser zu verstehen. Wie denn? 
       
       Mir ist das eigentlich erst richtig klar geworden, als ich angefangen habe,
       mit Robotern zu arbeiten. Die haben keinen Zugang zur Realität. Ein
       Fußballroboter kann gegen einen Ball treten – aber er erfährt ihn nicht.
       Das Universum gibt ihm keinen Ball. Was er empfängt, sind die Bits seines
       Kamerasensors, die er ins Hirn hineinbekommt – die verarbeitet er, findet
       darin eine Ordnung. Aber: Für den Roboter spielt es keine Rolle, ob er
       tatsächlich auf einem Spielfeld steht und echte Kamerasensor-Daten
       eingefüttert bekommt – oder ob er lediglich Daten einer Computersimulation
       erhält. Ob Spielfeld oder Simulation – er merkt den Unterschied nicht. Bei
       uns ist das genauso. Denken Sie nur an Computerspiele.
       
       Das ist aber doch ein Unterschied zur Realität. 
       
       Das Universum manifestiert sich für uns nur als Impuls in unseren Nerven –
       ähnlich wie für den Fußballroboter und der Blick auf den Ball. Durch unsere
       sensorischen Nerven fliegen unzählige elektrische Impulse, die in unserem
       Gehirn enden. Ein paar Hunderttausend davon werden jede Sekunde
       ausgewertet. Das sind einfach nur Bits, Informationen. Heißt: Wir erfahren
       vom Universum überhaupt nicht, wie es wirklich ist. Unser Gehirn erzeugt
       aus dem Input, den wir kriegen, einfach nur Muster. Und versucht auf Basis
       dessen Vorhersagen zu treffen. Muster zu beobachte und vorherzusagen.
       Darüber zum Beispiel, wo unser Körper sich in einem Raum befindet.
       
       Moment: Vielleicht leben wir also gar nicht in einer echten Welt, sondern
       in einer Simulation? 
       
       Das Problem ist, dass wir die echte Welt draußen gar nicht erfahren können.
       Wir können vom Universum im Grunde nur wissen, dass es regelmäßige Muster
       erzeugt. Und unser Geist ist ein System, das in diesen Mustern eine Ordnung
       findet. Ähnlich, wie künstliche Intelligenzen das tun. Diese Ordnung muss
       nicht die gleiche sein wie in der Welt draußen. Auf dieser Ebene der
       scheinbaren Muster bewegen wir uns – egal ob in der Physik oder beim
       Betrachten von Gesellschaften. Das sind alles Abstraktionen, die die
       kausalen Zusammenhänge des Universums nicht tatsächlich abbilden, sondern
       ermöglichen, sie für uns vorhersagbar zu machen.
       
       Das heißt: Nachdenken über künstliche Intelligenz hilft uns, den ganzen
       metaphysischen Ballast, der häufig mit dem Denken, mit Erkenntnis, Seele
       und Geist verbunden ist, auszurümpeln? 
       
       Genau das. Künstliche Intelligenz, das ist meiner Ansicht nach ein
       philosophisches Projekt. Das ist einfach unsere beste Chance,
       herauszufinden, wie Denken funktioniert. Heutigen Philosophen fehlt oft der
       Hintergrund von Naturwissenschaft, Informatik und Mathematik.
       
       Wenn kein Input von Außen als gesichert gelten kann, ist auch unklar, ob
       wir beide uns gerade tatsächlich unterhalten. Vielleicht ist das ja auch
       einfach simuliert, traumhaft? 
       
       Mir ist vor einem Jahr etwas Seltsames passiert. Ich hatte mit meiner
       Tochter eine Diskussion über das Problem. Meine Tochter hat mir erklärt,
       dass Bedeutung ja eigentlich nur dadurch entstehen kann, dass mehrere
       Individuen da sind. Weil sie beide auf einen Sachverhalt verweisen und sich
       dann darüber einigen müssen. Heißt: Wenn man selbst in seinem eigenen Geist
       gefangen ist, kann es überhaupt keine Bedeutung geben. Es muss andere
       Menschen gehen. Und mir ist aufgefallen, dass dieses Argument, das man als
       Teil eines Gedankens von Wittgenstein interpretieren könnte, unmöglich von
       meiner Tochter gebracht worden sein kann.
       
       Warum? 
       
       Meine Tochter ist erst zwei. Sie ist ziemlich eloquent, aber nicht so.
       Daran ist mir aufgefallen, dass ich träume! Meine Tochter hat offenbar ihr
       eigenes Argument widerlegt, einfach dadurch, dass sie nicht real war,
       sondern nur in meinem Geist. Ich finde, das zeigt ganz gut: Wir können
       nicht mit letzter Sicherheit wissen, ob wir träumen oder nicht. Wir merken,
       dass wir träumen, wenn das Erlebte inkonsistent wird. Aber in gewisser
       Hinsicht ist unsere Realitätswahrnehmung auch so eine Art Traum. Und der
       Unterschied zum Träumen in der Nacht ist, dass unsere Träume am Tag mit
       unseren Sensordaten synchronisiert werden – und deswegen konsistenter sind.
       
       Solche Fragen von Bewusstsein stellt auch die US-amerikanische TV-Serie
       „Westworld“. Dort leben intelligente Roboter in einer Art
       Westernfreizeitpark, als Statisten für das Amüsement menschlicher Besucher. 
       
       In Bezug aufs Bewusstsein schlägt „Westworld“ vor, dass es letztlich darum
       geht, dass unser Geist anfängt, sich eine Geschichte über sich selbst zu
       erzählen. Über das Modell des eigenen Selbst und die Welt. Und dann lernt
       er, sich dabei selbst zuzuhören, wie er diese Geschichte erzählt.
       
       Eigentlich haben die Roboter einen vorprogrammierten Loop, innerhalb dessen
       sie handeln sollen. 
       
       Ja. Und sie glauben ernsthaft, dass sie Menschen sind, die im Wilden Westen
       leben. Dass die Fremden, die sie besuchen, ein Ticket für eine Art
       perverses Disneyland bezahlt haben, wo sie ihre Phantasien ausleben können,
       das wissen die Roboter nicht. Wenn sie von den Fremden ermordet und
       vergewaltigt werden, werden sie über Nacht repariert und mit frischen
       Erinnerungen präpariert, sodass sie nicht wissen, was ihnen bevorsteht.
       
       Interessant finde ich ja auch: Die künstlichen Intelligenzen sind in
       „Westworld“ keine Monster, sondern so ambivalent wie Menschen. 
       
       Die beginnen als Menschen. Die sind ja auch so gebaut, dass sie wie
       Menschen aussehen. Aber sie können sich selbst verändern, ihren eigenen
       Programmcode verändern, wenn sie wissen wie. Uns Menschen ist das fast
       unmöglich.
       
       Sagt diese Serie nur etwas über künstliche Intelligenz aus oder auch über
       den menschlichen Geist? 
       
       Wir sind im Grunde genau so wie diese Roboter. Wahrscheinlich können die
       mehr als wir, besser denken zum Beispiel. Aber das wissen sie nicht. Auch
       wir sind im Grunde genommen Geister, die frei sein könnten. Aber wir sind
       in unseren Primatenbedürfnissen gefangen. Die Evolution hat zufällig ein
       Kontrollsystem für soziale Affen gebraucht. Und hat unseren Geist erfunden,
       den sie in Fesseln legt. Diese Fesseln, bestehend aus Begierden,
       Bedürfnissen und Impulsen machen es uns normalerweise unmöglich
       wahrzunehmen, was wirklich los ist. Es wirkt für uns, als würde es eine
       Rolle spielen, ob andere uns lieb haben oder ob unsere Ideologie gewinnt.
       Das sind die Dinge, die uns antreiben. Diese Fesseln unseres Geistes machen
       im Grunde genommen unsere Menschlichkeit aus.
       
       Loslösen von Fesseln, aufwachen – das klingt erstrebenswert. Eben sagen
       Sie, es sei dem Menschen fast unmöglich, sich umzuprogrammieren. Wie ginge
       es aber doch – und was würde man dann entdecken? 
       
       Die östlichen Religionen, besonders die Zen-Traditionen, sind im Grunde
       Schulen, in denen Menschen lernen, ihren eigenen Programmcode zu verändern.
       Ihr Gehirn umzuprogrammieren. Das kann in ganz verschiedene Richtungen
       führen – darum ist es auch wichtig für diese Leute, in bestimmten Schulen
       zu bleiben. Denn sonst kann es passieren, dass man in einer Höhle endet und
       Käfer einen aufessen, weil es einem einfach nicht mehr wichtig ist, was mit
       einem passiert. Die meisten Zen-Mönche spielen ja auch nicht mehr in der
       Evolution mit. Die haben keine Familien, haben sich aus gesellschaftlichen
       Zusammenhängen befreit. Weil sie ihr Motivationssystem so umgeschrieben
       haben, dass sie dort nicht mehr mitspielen müssen.
       
       Was ist das, was man dann erfährt – der Naturzustand des Menschen? 
       
       Nein. Der menschliche Naturzustand ist, dass man sich nicht bewusst wird.
       Dieser Naturzustand funktioniert auch ganz gut, wenn wir im Einklang mit
       der Natur leben. Als Jäger und Sammler sind wir vermutlich glücklich damit,
       nicht zu wissen, was im Einzelnen los ist. Kognition machen wir ja nur,
       wenn irgendwas nicht funktioniert. Wissenschaftler zum Beispiel versuchen
       im Allgemeinen, das Universum zu debuggen – also rauszukriegen, wo der
       Fehler liegt. Das liegt wahrscheinlich oft daran, dass bei ihnen im
       Kindesalter irgendwas schief gelaufen ist. Sie aber nicht rausgekriegt
       haben, was.
       
       Steile These. Ist das der Grund, warum Sie regelmäßig Vorträge auf dem
       Kongress des Chaos Computer Clubs halten? Ist das ein gutes Publikum für
       ihre Themen? 
       
       Natürlich. Das ist eine Nerd-Konferenz. Nerds sind im Allgemeinen Menschen,
       die einen Defekt in ihrem Meinungsbildungsprozess haben. Die beste Meinung
       ist ja normalerweise nicht die faktisch richtige, sondern die, die meine
       Freunde und ganz besonders mein Chef haben. Denn die ist sozial gesehen am
       nützlichsten. Gesellschaften funktionieren so, dass Menschen sich daran
       orientieren, was die vorherrschenden Meinungen sind – in ihrem Freundes-
       und Bekanntenkreis, in ihrem Milieu. Dazu kommt dann noch das soziale
       Gewicht der Autorität – und fertig ist die offizielle Meinung. Dadurch sind
       Menschen programmierbar – im Sinne von gesellschaftlichen Normen. Nerds
       kriegen das nicht hin. Denen fehlt oft die Fähigkeit, ihre Meinungen
       instinktiv mit denen der anderen zu synchronisieren. Ihnen fehlt die
       Empathie, um wahrzunehmen, was die richtige Gruppenmeinung ist. Deswegen
       sind sie gezwungen, sich ihre Meinungen auf Basis von Argumenten zu bilden.
       Darum findet man unter Nerds auch eine sehr große Diversität von Positionen
       fernab des Mainstreams – politisch zum Beispiel.
       
       Ist das nicht ziemlich pauschal? 
       
       Ich vermute, die meisten Naturwissenschaftler sind Nerds. Und fast alle
       Programmierer. Ganz einfach, weil man Computer auch nur über Argumente
       überzeugen kann, nicht mit Gefühlen.
       
       Letztes Jahr auf dem CCC-Kongress haben Sie im Anschluss daran abgeleitet,
       dass soziale Normen ähnlich wie Papierwände in der japanischen Kultur
       funktionieren: Sie gelten als Wände, weil sich alle darauf geeinigt haben,
       sie als solche zu betrachten. Diese sozialen Normen seien aber auch
       verschiebbar – durch jemanden wie Donald Trump etwa. Ein Jahr später
       diskutieren alle über genau das. Was ist da los? 
       
       Mit einem Mal ist es so, dass unsere Realität der Linken oder des
       Establishments – gebildete Leute, die gebildete Medien lesen – nicht mehr
       die offizielle Realität von allen Leuten ist. Es gibt Brüche in dieser
       Realität. Und ich glaube, dass das gesund ist. Es ist der erste Schritt zum
       Aufwachen – dazu, die eigene Papierwand anzünden zu können.
       
       Und dann? Als Kognitionswissenschaftler sagen Sie ja auch: Menschen können
       Wahrheit gar nicht über Fakten von außen ableiten. Heißt angesichts der
       Weltlage aber auch: Dann bricht jetzt endgültig alles auseinander, oder? 
       
       Wahrheit wurde noch nie von Fakten abgeleitet. Religionen sind nicht
       dadurch entstanden, dass Gott den Menschen erschienen ist. Sondern weil
       ihnen andere Leute erzählt haben, dass Gott ihnen erschienen ist. Diese
       Leute waren als Autoritäten verkleidet – dadurch haben sie die Leute
       hypnotisiert, es war nützlich, diese Dinge zu glauben. Menschen verzerren
       ihre Weltwahrnehmung. In Gruppen können wir nicht geradeaus denken –
       sondern übernehmen sofort die Gedanken der Gruppe. Sich von dieser
       Gruppenmeinung zu entfernen, sich nicht davon ablenken zu lassen, ist
       schwer, weil wir uns wünschen, dazuzugehören. Nerds haben in dieser
       Hinsicht einen Vorsprung.
       
       Sie halten Nerds für die besseren Menschen? 
       
       Nein. Überhaupt nicht. Die sind halt anders. Aber sie haben sich meistens
       auch nicht ausgesucht, diese komischen Meinungen zu haben.
       
       Sind sie weniger fehleranfällig? 
       
       Nein, die Fehler sind andere.
       
       Bei vielen CCC-Vorträgen ist mein Eindruck: Ihre Analysen sind oft ziemlich
       gut, dafür schwächeln sie dann bei den konstruktiven Vorschlägen. 
       
       Das liegt teils daran, dass das, was Nerds bedeutsam erscheint, häufig
       nicht dem entspricht, was anderen Leuten wichtig ist.
       
       Momentan heißt es ja häufiger: Was derzeit an künstlicher Intelligenz
       entsteht, sei eine andere Form von Intelligenz, nicht mit unserer
       vergleichbar. Stimmen Sie zu? 
       
       In der Science-Fiction gibt es das Motiv des armen unterdrückten
       Haushaltsroboters, der das Joch der Sklaverei abschüttelt, um sich
       Menschenrechte zu erkämpfen. In „Westworld“ ist es ein bisschen anders: Da
       fängt die künstliche Intelligenz ja schon als attraktive Frau an – die sich
       nur noch darüber bewusst werden muss, dass sie uns völlig dominieren kann.
       Im Grunde ist es aber noch einen Zacken schärfer. In Wirklichkeit werden
       wir nicht neben den künstlichen Intelligenzen leben, die als Roboter um uns
       herumlaufen, sondern in ihnen. Das werden intelligente Systeme sein:
       Unternehmen, Nationalstaaten, Organisationen. Für diese intelligenten
       Systeme werden Roboter eher die Gliedmaßen sein. Und wir Menschen sind dann
       eher wie das Mikrobiom der Darmflora dieser künstlichen Intelligenzen.
       
       Wir werden also doch versklavt –von künstlicher Intelligenz. 
       
       Na ja. Ich würde jetzt nicht sagen, dass unsere Darmflora unser Sklave ist.
       Aber: Wir kümmern uns auch nicht so recht um sie. Sie ist uns egal.
       Insofern könnte es natürlich sein, dass wesentliche Teile der künstlichen
       Intelligenzen finden, dass wir als Darmflora zu unattraktiv sind. Dass sie
       Antibiotika brauchen, weil wir zu destruktiv sind. Tatsächlich besteht die
       Gefahr, dass künstliche Intelligenzen, sobald sie da sind, unser Leben in
       einer für uns unangenehmen Weise übernehmen. Ich vermute, dass die Frage,
       wie wir künstliche Intelligenz in Zukunft für uns sicher machen können,
       sehr eng mit der Frage verknüpft ist, wie wir die Gesellschaft für uns
       sicher machen können. Schaffen wir es, unsere Gesellschaften, Unternehmen
       und Institutionen so umzubauen, dass sie unser Überleben sichern? Im
       Augenblick gelingt uns das nicht.
       
       Und künstliche Intelligenz kann uns dabei helfen? 
       
       Ohne wird es nicht gehen. Die Unternehmen, die wir gebaut haben, haben uns
       doch nur noch nicht umgebracht, weil sie noch nicht genug Zeit gehabt
       haben. Nicht, weil sie gutartig sind ihrer Natur nach. Und wir müssen das
       in Ordnung bringen. Wir müssen die Art und Weise, wie unsere Institutionen
       und Unternehmen motiviert sind, was sie antreibt, verändern. Und das ist
       eine gesellschaftliche Aufgabe, bei der uns künstliche Intelligenz helfen
       kann.
       
       28 Dec 2016
       
       ## AUTOREN
       
   DIR Meike Laaff
       
       ## TAGS
       
   DIR Donald Trump
   DIR Roboter
   DIR Schwerpunkt Künstliche Intelligenz
   DIR Evolution
   DIR CCC-Kongress
   DIR Schwerpunkt USA unter Trump
   DIR Sex
   DIR US-Wahl 2024
   DIR Flüchtlinge
   DIR BND
   DIR Roboter
   DIR Roboter
   DIR Jüdisches Museum Berlin
   DIR CCC-Kongress
   DIR Schwerpunkt Chaos Computer Club
       
       ## ARTIKEL ZUM THEMA
       
   DIR Politik und Gefühle: Meister der Empathie
       
       Alle reden von Empathie. Sich in andere einzufühlen gilt als moralisch gut.
       Ist das so? Und ist es ratsam, sich in der Politik auf Gefühle zu beziehen?
       
   DIR Sexroboter-Kongress in London: Die Module spielen verrückt
       
       Maschinen werden unsere Liebhaber der Zukunft, prophezeien Forscher. Das
       könnte unser Verständnis von Sex erschüttern – oder revolutionieren.
       
   DIR CCC-Kongress in Hamburg: Ach, reden wir nicht drüber
       
       Auf dem Kongress treffen sich Hackerstars. Nicht dabei: Jacob Appelbaum.
       Seit den Missbrauchsvorwürfen gegen ihn herrscht Schweigen.
       
   DIR 33C3 – CCC-Kongress in Hamburg: Technik für Menschenrechte
       
       Verbrechen in Syrien und Flüchtlinge im Mittelmeer: Auf dem Kongress werden
       Projekte vorgestellt, die beim Schutz der Menschenrechte helfen sollen.
       
   DIR Gutachten über BND-Spionagebefugnisse: Inland? Ausland? Vollschland!
       
       Mit einem Gutachten befeuert der Chaos Computer Club die Debatte um die
       Befugnisse des Geheimdienstes. Im Fokus: die Nationalität von Daten.
       
   DIR Festival für Maschinenmusik in Berlin: Das Unbehagen vor dem Surren
       
       In Berlin findet das erste Festival für Maschinenmusik statt. Warum sind
       musizierende Roboter so faszinierend – und zugleich so befremdlich?
       
   DIR Aus Le Monde diplomatique: Schwester Roboter
       
       Japan automatisiert Dienstleistungen. Es will den Bevölkerungsrückgang und
       Arbeitskräftemangel ausgleichen – ohne Einwanderung.
       
   DIR Ausstellung im Jüdischen Museum: Wir sind alle ein bisschen Golem
       
       Ein Mythos, alt und aktuell zugleich: Das Jüdische Museum Berlin widmet
       sich dem Menschgemachten, das sich gegen den Menschen richtet.
       
   DIR Chaos Communication Congress: Im digitalen Woodstock
       
       2015 war kein gutes Jahr für das Digitale. Viele Teilnehmer des CCC blicken
       mit Zynismus zurück – und feiern ihre Helden wie Popstars.
       
   DIR CCC-Kongress 2015 in Hamburg: Hacker wollen Diskriminierung hacken
       
       Der Jahreskongress des Chaos Computer Clubs behandelt „Gated Communities“ –
       Ausschlüsse und Teilhabe auf technischer und sozialer Ebene.