Daniel Kahneman prophezeit, dass wir gegen die Künstliche Intelligenz verlieren werden

[Michael]

Der renommierte Psychologe und Erfolgsautor Daniel Kahneman warnt vor Künstlicher Intelligenz. Sollte es irgendwann zu einem Konflikt zwischen der Menschheit und digitalen Verstandeswesen kommen, wären wir mit Sicherheit unterlegen.

Von Michael Förtsch

Mit seinem Fachbuch Schnelles Denken, langsames Denken ist Daniel Kahneman weltweit bekannt und zu einem Bestsellerautor geworden. Er beschreibt darin, auf welche Weise das menschliche Gehirn arbeitet – und wieso es falsche Informationen überbewertet, Zusammenhänge zwischen unzusammenhängenden Ereignissen findet und generell die Welt nicht wirklich zuverlässig erfassen lässt. Aber Kahneman hat sich auch mit Künstlicher Intelligenz befasst. Bereits 2018 stellte er fest, dass, wenn es nur genügend Daten für Maschinenlern-Prozesse gibt, es zukünftig wohl keinen Bereich mehr geben wird, in dem ein Mensch einer Künstlichen Intelligenz überlegen sein würde. Er sähe „keinen Grund, warum es eine Grenze für das geben sollte, was Künstliche Intelligenz tun kann“.

In einem Interview mit The Guardian griff Kahneman ein Thema auf, dass schon Stephen Hawking oder auch Elon Musk immer wieder bewegte. Nämlich, was wohl passieren würde, wenn es zu einem Konflikt zwischen Künstlicher Intelligenz und der menschlichen Spezies kommen würde. Der 2002 mit dem Alfred-Nobel-Gedächtnispreis für Wirtschaftswissenschaften ausgezeichnete Physiker sagte dazu: „Es ist klar, dass die Künstliche Intelligenz [gegen die menschliche Intelligenz] gewinnen wird.“ Es würde keine „knappe Sache“ werden, sondern digitalen Denkmaschinen würden den Menschen locker ausspielen.

Diese Herausforderung könne sich früher zeigen als von vielen gedacht. Die Entwicklung der Informationstechnologie verlaufe sehr schnell und „vielleicht sogar exponentiell“, schätzt Hanemann. In der Corona-Pandemie habe sich gezeigt, dass Menschen mit der Vorstellung eines exponentiellen Wachstums große Schwierigkeiten haben. „Exponentielle Phänomene sind für uns kaum zu fassen. Wir sind sehr erfahren in einer mehr oder weniger linearen Welt“, sagt der Autor. „Exponentielle Veränderung ist wirklich etwas anderes. Wie die Menschen sich [auf diese Entwicklung im Bereich der Künstlichen Intelligenz] einstellen werden, ist ein faszinierendes Problem – nicht mehr für mich, aber eines für meine Kinder und Enkelkinder.“

Verstehe, was die Zukunft bringt!

Als Mitglied von 1E9 bekommst Du unabhängigen, zukunftsgerichteten Tech-Journalismus, der für und mit einer Community aus Idealisten, Gründerinnen, Nerds, Wissenschaftlerinnen und Kreativen entsteht. Außerdem erhältst Du vollen Zugang zur 1E9-Community, exklusive Newsletter und kannst bei 1E9-Events dabei sein. Schon ab 2,50 Euro im Monat!

Jetzt Mitglied werden!

Laut Kahneman wären schon jetzt die „massiven Konsequenzen“ der Entwicklung von Künstlicher Intelligenz sichtbar. Unter anderem in der Wirtschafts-, Wissenschafts- und Arbeitswelt. „Einige Menschen in medizinischen Fachgebieten sind eindeutig in Gefahr, ersetzt zu werden, jedenfalls was die Diagnose angeht“, sagt er. Auch was die Leitung von Firmen oder die Koordination von Menschen angeht, könnten hier irgendwann Computer zu Chefs und Vorarbeitern werden. „Wenn es erst einmal nachweisbar ist, dass man eine KI haben kann, die ein viel besseres geschäftliches Urteilsvermögen hat, was wird das mit der menschlichen Führungskraft passieren?“, so Kahneman.

Hat dir der Artikel gefallen? Dann freuen wir uns über deine Unterstützung! Werde Mitglied bei 1E9 oder folge uns bei Twitter, Facebook oder LinkedIn und verbreite unsere Inhalte weiter. Danke!

Teaser-Bild: Getty / Sean Gallup / Staff

[0x78]

@Michael

Exponentielle Phänomene sind für uns kaum zu fassen. Wir sind sehr erfahren in einer mehr oder weniger linearen Welt“, sagt der Autor. „Exponentielle Veränderung ist wirklich etwas anderes.

Darüber musste ich kürzlich erst nachdenken. Ist das einfach eine Frage der Gewohnheit, oder eine grundsätzliche Tatsache der menschlichen Erfahrbarkeit?

Veränderung scheint sich in gewissen Teilen zu beschleunigen. In der Vergangenheit war diese Veränderung vielleicht einfach nicht oder weniger spürbar. Einige, zB die Anhänger der exponentiellen Organisation und Singularity University Schule, konnten sehr wohl und frühzeitig exponentielle Veränderungen einschätzen.

Letzten Endes ist eine Exponentialkurve, die eine Veränderung über Zeit beschreibt, nichts anderes als das Ergebnis eines linearen Veränderungsprozesses, der diese Kurve produziert. Wenn man also die Aufmerksamkeit auf „Veränderung“ in der Vergangenheit und im Hier und Jetzt legen würde, dann könnte man sehr einfach exponentielle Zustandsveränderungen wahrnehmen. Diese Perspektive müsste jedoch geschult werden und wohin solche Prozesse dann führen, bedarf sicherlich noch ein gutes Stück Kreativität um sich eine nichtlinear veränderte Welt vorzustellen.

[Ralph]

Dass KI einfach so besser sein wird, bloß weil sie in einem oder wenigen Aspekten möglicherweise tatsächlich besser ist?
Das glaube ich nicht.
Überließe man künstlichen Intelligenzen tatsächlich das Feld, könnten sie sich sicher immer weiter entwickeln.
Aber wohin?
Die Menschheit würde schnell aus dem Fokus verschwinden.
Hätte aber pures „intelligent sein“ irgend einen Zweck?
Ohne Geist, Hingabe, Moral, Ambition, tatsächliches Verstehen und so weiter - was wäre das Ziel?
Würde dann nicht auch die gute alte Evolution und Survival Of The Fittest ganz automatisch einsetzen?
Ich habe da keine Angst, eine zu überlegene Intelligenz würde wohl eher das Schicksal eines zu tödlichen Virus erleiden - und wenn alle Wirte weg sind, bliebe nur noch die Selbstverwaltung.

[Michael]

@0x78

Darüber musste ich kürzlich erst nachdenken. Ist das einfach eine Frage der Gewohnheit, oder eine grundsätzliche Tatsache der menschlichen Erfahrbarkeit?

Es scheint sich zumindest immer wieder zu bestätigen, dass Menschen exponentielles Wachstum gedanklich nicht fassen können. Einfach aus dem Grund, da es im Alltag eigentlich nicht vorkommt. Der Mensch musste nie lernen, damit umgehen zu können.

Und, sicher, die ExO und Singularity University befassen sich damit und legen Prognosen auf Basis von exponentielles Wachstum vor. Aber das hat eben wenig mit dem „Mensch auf der Straße“ zu tun oder der Gesellschaft als solches. Und darin liegt eben wirklich ein Nachteil, wenn man schaut, wie wenig Corona und seine Verbreitung verständlich zu machen war.

[Michael]

@Ralph

Ohne Geist, Hingabe, Moral, Ambition, tatsächliches Verstehen und so weiter - was wäre das Ziel?

Das ist eben die Frage: Könnte eine KI nicht irgendwann tatsächlich Moral lernen? Oder das Verstehen lernen? Es gibt bereits erste Hinweise, dass das durchaus möglich sein könnte.

[sebastianhofer]

Ich fände das Ganze ja durchaus erstrebenswert, wenn die Menschheit sich so wieder mehr darauf besinnen könnte, Kontakt zur Natur herzustellen. Einfach hinnehmen, dass Maschinen effizienter arbeiten und all das tun, was uns von unserer Natur abhält.

[InvisibleCow]

Zumindest in diesem Artikel finde ich keinen einzigen wirklichen Beleg für die Aussage.
Das ein Mensch gegen eine Schach-KI verliert oder das eine KI vielleicht zuverlässiger CT-Bilder auswertet, bedeutet ja alleine erst einmal noch nichts.
Aber vielleicht hat Kahnemann dies ja in einer seiner Veröffentlichungen einmal wissenschaftlich haltbar vertieft.

[Wolfgang]

@InvisibleCow

Das ein Mensch gegen eine Schach-KI verliert oder das eine KI vielleicht zuverlässiger CT-Bilder auswertet, bedeutet ja alleine erst einmal noch nichts.

Sehe ich auch so. Für mich wird hier wieder ein KI-Begriff verwendet, der mit heutigen KI-Systemen nicht viel zu tun hat. Solange KI nicht über Mustererkennung hinauskommt, mache ich mir noch keine Sorgen vor der Weltherrschaft der Maschinen… Eher darüber, dass Menschen KI überschätzen und daher zu viele Aufgaben an Computer delegieren, obwohl die gar keine so guten Ergebnisse liefern wie gedacht.