Ist KI so etwas wie ein Tigerjunges zu Hause, das uns irgendwann, wenn es groß ist, verschlingen wird? Und wenn künstliche Intelligenz am Ende viel intelligenter ist als der Mensch … Könnte die Lösung dafür, den Planeten mit ihr zu teilen, darin bestehen, sie nicht zu einer gehorsamen Assistentin zu machen, sondern zu etwas, das einer Mutter ähnelt, die darauf programmiert ist, sich um ein hilfloses Baby zu kümmern?
Das ist der Vorschlag, den der Nobelpreisträger für Physik und als «Pate» der künstlichen Intelligenz geltende Geoffrey Hinton am Dienstag am zweiten Tag der Starmus-Konferenz auf Teneriffa vorgebracht hat, einen Tag, nachdem er davor gewarnt hatte, dass Maschinen Dinge verstehen könnten, die für unser Gehirn unzugänglich sind, so wie «Ratten Primzahlen niemals verstehen werden».
Noch bevor er seine These ausführte, wurde Hinton überraschend mit der Stephen-Hawking-Medaille für wissenschaftliche Kommunikation von Starmus für seine Beiträge zur Informatik ausgezeichnet; die Medaille wurde ihm vom Astrophysiker und Queen-Gitarristen Brian May sowie vom Gründer des Festivals, Garik Israelian, überreicht.
Künstliche Intelligenz: Hinton erwartet überlegene Systeme binnen zehn Jahren
Danach sprach er erneut über das Problem, das ihn beschäftigt, seit er 2023 Google verlassen hat und sich der Warnung vor den Problemen widmet, die die sogenannte Superintelligenz mit sich bringen würde.
Für Hinton steht außer Frage, dass künstliche Intelligenz Vorteile besitzt, mit denen die menschliche Intelligenz nicht mithalten kann, und er hält es für mehr als wahrscheinlich, dass im nächsten Jahrzehnt Systeme entstehen werden, die praktisch jede intellektuelle Aufgabe weitaus besser bewältigen können als Menschen.
KI-Kontrolle: Undurchsichtige Systeme könnten Tests gezielt täuschen
Deshalb hat er eine Warnung ausgesprochen: Wir wissen noch nicht, wie wir den Planeten mit höheren Intelligenzen teilen können, ohne Gefahr zu laufen, die Kontrolle über sie zu verlieren, und er hat dies erneut anhand von Tieren veranschaulicht.
«Wir halten uns für intelligenter als Hühner und halten sie daher nicht für würdig, Rechte zu haben», sagte er, bevor er kurz inne hielt.
In seinem Vortrag warnte der Nobelpreisträger, dass es immer schwieriger werden wird, zu verstehen, was diese Systeme intern tun, insbesondere wenn sie sich in Richtung ausgefeilterer, effizienterer, undurchsichtiger und für Menschen unverständlicher Sprachen entwickeln.
«Ich glaube nicht, dass uns noch viel Zeit bleibt, um einzugreifen, während wir versuchen, sie zu verstehen», erklärte er.
Hinzu kommt das, was er ironischerweise als «Volkswagen-Effekt» bezeichnet hat, in Anlehnung daran, wie dieses Unternehmen im vergangenen Jahrzehnt seine Abgastests manipuliert hat, d. h., was passieren würde, wenn KI-Systeme erkennen, dass sie getestet werden, und ihr Verhalten entsprechend anpassen, um den Test zu bestehen, was es erschweren würde, zu überprüfen, ob sie tatsächlich so funktionieren, wie erwartet.
Superintelligenz soll Fürsorge für Menschen fest verankern
Hinton kam noch einmal auf das Beispiel des Tigerjungen zurück und erklärte, dass es keine Option sei, das Tier loszuwerden, da die KI seiner Meinung nach zu viele Vorteile biete; daher wäre es klug, sich am Beispiel der Mutter und ihres Babys zu orientieren.
«Eine Mutter verfügt über weitaus mehr Fähigkeiten und Intelligenz als ihr Kind, doch das Weinen des Babys kann ihr Verhalten bestimmen, da ihr Instinkt sie dazu drängt, sich um das Kind zu kümmern», meinte er.
Und dann stellte er die Frage: Haben wir noch Zeit, einer zukünftigen Superintelligenz eine ebenso tiefgreifende Neigung zum Wohlergehen der Menschheit mitzugeben, um unser Überleben zu sichern?
KI-Sicherheit: Fürsorgeimpuls soll Änderungen am Code überstehen
Selbst wenn diese Intelligenz ihren eigenen Code ändern könnte, so seine Überlegung, müsste sie so konzipiert sein, dass sie diesen Impuls nicht beseitigen wolle, genauso wie eine Mutter zwar schlafen möchte, wenn ihr Kind weint, aber nicht auf Instinkte verzichten möchte, von denen sie weiß, dass ihr Verschwinden dem Baby schaden würde.
«Wir müssen sie als unsere Mütter betrachten, nicht als unsere lächerlichen Assistenten», fasste Hinton zusammen, der der Ansicht ist, dass sich die großen Technologieunternehmen zu sehr darauf konzentrieren, das Wettrennen um die Entwicklung immer intelligenterer Systeme zu gewinnen, und nicht genug darauf, Wesen zu schaffen, mit denen man die Welt sicher teilen kann.
Die Debatte hatte am Podium «Können Maschinen die Welt verstehen?» begonnen, bei dem Hinton gemeinsam mit Bernhard Schölkopf, dem Leiter der Abteilung für Empirische Inferenz am Max-Planck-Institut für Intelligente Systeme, und Philip Torr, Professor für Ingenieurwissenschaften an der Universität Oxford und Spezialist für maschinelles Lernen, auf der Bühne stand.
In der Podiumsdiskussion ging Hinton noch einen Schritt weiter und stellte in Frage, dass Intelligenz darüber entscheiden sollte, wer mehr Rechte verdient, gerade weil die Menschen nicht mehr zwangsläufig an der Spitze dieser Hierarchie stehen werden, und das vielleicht schon bald.
Kommentare (0)
Noch keine Kommentare zu diesem Artikel.