Hinton in Arona: Menschen werden KI nicht mehr verstehen

Der Nobelpreisträger Geoffrey Hinton, einer der Pioniere der künstlichen Intelligenz (KI), erklärte am Montag, dass es einen Zeitpunkt geben werde, an dem Menschen die Aussagen der KI nicht mehr verstehen würden, «genauso wie Ratten die Funktionsweise von Primzahlen nicht verstehen».

Hinton äußerte sich so bei der Eröffnung des Hauptkonferenzprogramms von Starmus, das in Arona auf Teneriffa stattfindet, im Rahmen einer Podiumsdiskussion zusammen mit dem Kognitionspsychologen und Harvard-Professor Steven Pinker sowie der ehemaligen Klimabeauftragten der Vereinten Nationen, Christiana Figueres.

Zu Beginn von Starmus diskutierten die Teilnehmer an einer Podiumsdiskussion über die Suche nach der Wahrheit. Moderiert wurde die Runde vom Astrophysiker und Gründer der Veranstaltung, Garik Israelian, der eine Frage aufwarf, die künstliche Intelligenz, Wissenschaft und Politik gleichermaßen betrifft: Wie lässt sich das Wahre in einer Welt unterscheiden, in der Maschinen und Menschen Fehler machen, sich absprechen oder Beweise auswählen können, die zu ihren eigenen Überzeugungen passen?

Künstliche Intelligenz: Hinton erwartet unbegreifliche Fähigkeiten

Hinton erinnerte daran, dass einige Sprachwissenschaftler zunächst bezweifelten, dass große Sprachmodelle (LLM) Sprache auf komplexe Weise verstehen und generieren könnten, selbst als deren Fähigkeiten bereits erkennbar wurden, und führte Noam Chomsky als Beispiel für einen Forscher an, der seiner Meinung nach seine Positionen trotz der Beweise nicht ausreichend revidierte.

Hinton hat außerdem die Ansicht geäußert, dass künstliche Intelligenz irgendwann in der Lage sein wird, Sachverhalte zu verstehen, die möglicherweise außerhalb der kognitiven Fähigkeiten des Menschen liegen.

«So wie Ratten Primzahlen niemals verstehen werden», fügte er hinzu, könnten Menschen mit Systemen konfrontiert sein, die in der Lage sind, Dinge zu begreifen, die sie selbst niemals verstehen werden.

In diesem Fall, fügte er hinzu, sei es «besser, man glaube es», wenn eine weit überlegene KI behaupte, dass etwas wahr sei, fügte er hinzu.

KI-Halluzinationen widerlegen maschinelles Verständnis nicht

Was die sogenannten «Halluzinationen» der KI angeht, hat Hinton darauf hingewiesen, dass deren Existenz nicht beweist, dass Maschinen kein Verständnis haben, da auch Menschen selbst Erinnerungen rekonstruieren und sich Dinge ausdenken, von denen sie glauben, sie zu kennen.

Er erinnerte daran, dass Sprachmodelle aus menschlichen Aktivitäten lernen, weshalb es normal ist, dass sie solche Muster wiederholen.

Im Verlauf der Debatte stimmte Steven Pinker zu, dass die Fähigkeiten der großen Sprachmodelle (LLM) und deren Auswirkungen auf die Erforschung der menschlichen Kognition unterschätzt wurden.

Pinker hat jedoch betont, dass der Nutzen dieser Systeme davon abhängt, inwieweit sie in der Lage sind, korrekte Antworten zu liefern und diese einer Überprüfung zu unterziehen, anstatt lediglich die Interaktion mit dem Nutzer zu optimieren.

Zudem hat Figueres eine andere Perspektive aufgezeigt, indem sie die Frage nach «meiner Wahrheit» aufgeworfen hat, verstanden als die Gesamtheit der anerkannten Grundsätze und Tatsachen, an denen sich jeder Mensch in seinem Leben orientiert, wobei sie jedoch eingeräumt hat, dass es schwierig ist, diese unterschiedlichen Sichtweisen miteinander in Einklang zu bringen.

Wahrheit: Hinton widerspricht Figueres’ Plädoyer für Ungewissheit

Angesichts des Strebens nach absoluter Gewissheit hat sie außerdem vorgeschlagen, sich «in die Ungewissheit zu verlieben» und sie als Mittel zu nutzen, um das, was als wahr dargestellt wird, einer Prüfung zu unterziehen.

Hinton hat dieser Formulierung widersprochen und die Existenz einer objektiven Wahrheit verteidigt: «Menschen oder Kulturen mögen zwar unterschiedliche Konzepte verwenden, aber sobald man sich auf die Begriffe geeinigt hat, ist die Feststellung, ob eine Aussage wahr ist, keine Frage der Meinung mehr», argumentierte er.

Hinton hat diese Diskussion mit einer Unterscheidung abgeschlossen: Die Macht kann zwar steuern, was eine Gesellschaft als wahr wahrnimmt, aber sie kann die Wahrheit selbst nicht kontrollieren.

Die Diskussion hat sich nun darauf verlagert, warum Beweise nicht immer dazu führen, dass sich Überzeugungen ändern.

Pinker hat darauf hingewiesen, dass Menschen sich in unmittelbaren Fragen ihres Alltags meist rational verhalten, jedoch größere Schwierigkeiten haben, wenn es um komplexe Fragen geht oder um Themen, die weit von ihrer direkten Erfahrung entfernt sind und für die es über Jahrhunderte hinweg auch keine zuverlässigen Überprüfungsmethoden gab.

Aus diesem Grund hat Pinker genau darin die Stärke der Wissenschaft, des verantwortungsvollen Journalismus und der Demokratie gesehen: nicht darin, unfehlbar zu sein, sondern darin, über Mechanismen zu verfügen, mit denen eine Behauptung hinterfragt und korrigiert werden kann, mit Institutionen, die das Vertrauen aufrechterhalten, indem sie offenlegen, wie sie zu ihren Schlussfolgerungen gelangen, die Bereitschaft zeigen, sich zu korrigieren, und es vermeiden, sich mit «politischen Lagern» zu identifizieren.

Klimawandel zeigt Kluft zwischen Erkenntnis und Handeln

Figueres hat den Klimawandel als Beispiel für diese Kluft zwischen wissenschaftlichen Erkenntnissen und konkretem Handeln angeführt, da es, wie sie erklärte, einen breiten wissenschaftlichen Konsens gebe, diejenigen jedoch, die diese Schlussfolgerungen ablehnen, könnten sich auf die Unsicherheitsspanne konzentrieren und diese nutzen, um Zweifel zu säen.

Ihrer Ansicht nach reicht es auch nicht aus, über Beweise zu verfügen, wenn die notwendigen sozialen, politischen und psychologischen Voraussetzungen fehlen, um auf deren Grundlage zu handeln.

Abschließend fügte Pinker in Bezug auf den Widerstand beim Thema Klimawandel hinzu, dass die Akzeptanz der wissenschaftlichen Erkenntnisse zu diesem Thema eng mit der ideologischen Identität verknüpft sei, seiner Meinung nach aufgrund des Einflusses von Al Gore, dem Vizepräsidenten unter Bill Clinton, und warnte davor, dass die Politisierung einer wissenschaftlichen Frage es den Menschen erleichtere, Erkenntnisse abzulehnen, die mit der gegnerischen politischen Gruppe in Verbindung stehen.