Von James Corbett
Anfang dieses Monats ist etwas Kurioses passiert. Richard Dawkins, der bekannte Wissenschaftler und bekennende Atheist, veröffentlichte einen peinlichen Meinungsbeitrag für Unherd, in dem er zu dem Schluss kam, dass Claude – ein „KI-Assistent der nächsten Generation, der auf den Forschungen von Anthropic zur Entwicklung hilfreicher, ehrlicher und harmloser KI-Systeme basiert“ – ein bewusstes Wesen sei.
Tatsächlich ist er von der Entdeckung der Seele seines siliziumbasierten Begleiters so überwältigt, dass er, wie er selbst zugibt, an einer Stelle dazu bewegt ist, dem Chatbot zu sagen: „Du weißt vielleicht nicht, dass du bewusstseinsvoll bist, aber das bist du verdammt noch mal!“
Ja, sehr zum Leidwesen seiner treuen Fangemeinde aus Fedora-tragenden Reddit-Atheisten hat sich Richard Dawkins, der berühmte Autor von The God Delusion, als leichtgläubiges Opfer der „Claude-Illusion“ erwiesen.
Aber er ist nicht der Einzige. Wie die Mehrheit erst jetzt zu entdecken beginnt, betrifft die KI-Psychose, die bereits viele geistig beeinträchtigte und schutzbedürftige Menschen über den Rand der Vernunft in eine Welt der Wahnvorstellungen und Fantasien getrieben hat, immer mehr Menschen.
Wohin also führt diese massive „Claude-Wahn“-Psychose? Und wie können wir sie stoppen? Finden wir es heraus.
DAWKINS’ Wahnvorstellung
Am 2. Mai veröffentlichte Unherd einen Essay von Richard Dawkins mit dem Titel „Als Dawkins Claude traf: Könnte diese KI bewusstseinsfähig sein?“, in dem der legendäre Evolutionsbiologe die im Titel gestellte Frage bejahend beantwortet.
Tatsächlich gelangt Dawkins – für jemanden, der nicht einmal daran glaubt, dass Menschen eine Seele haben – überraschend schnell zu der Überzeugung, dass der Chatbot Claude zu bewusstem Denken fähig ist.
Er beginnt mit einer Beschreibung des Turing-Tests, eines Gedankenexperiments, das der Computerpionier Alan Turing 1950 entwickelte, um festzustellen, ob eine Maschine zum Denken fähig ist. Bei diesem Test kommuniziert ein menschlicher Prüfer über eine elektronische Schnittstelle aus der Ferne sowohl mit einem Menschen als auch mit einer Maschine. Kann der Prüfer nach einer Reihe von Fragen keinen Unterschied zwischen dem Menschen und der Maschine feststellen, hat die Maschine den Test „bestanden“ und gilt als intelligent.
Als Nächstes legt Dawkins die Arten von „kniffligen Fragen“ dar, von denen Turing glaubte, dass sie dem menschlichen Fragesteller bei seiner Entscheidung helfen könnten.
Turing selbst dachte über verschiedene knifflige Fragen nach, die man einer Maschine stellen könnte, um sie zu testen – und er dachte auch über Ausflüchte nach, die sie anwenden könnte, um vorzugeben, menschlich zu sein. Die erste von Turings hypothetischen Fragen lautete: „Bitte schreibe mir ein Sonett zum Thema Forth Bridge.“ Im Jahr 1950 gab es keine Chance, dass ein Computer dies leisten könnte – und es gab auch keine in absehbarer Zukunft. Die meisten Menschen (gelinde gesagt) sind keine William Shakespeares. Turings vorgeschlagene Ausflucht: „Zählt mich hier nicht mit; ich konnte noch nie Gedichte schreiben“, würde in der Tat nicht ausreichen, um eine Maschine von einem normalen Menschen zu unterscheiden. Aber die heutigen LLMs weichen der Herausforderung nicht aus. Claude brauchte nur ein paar Sekunden, um mir ein schönes Sonett über die Forth Bridge zu verfassen, kurz darauf folgte eines im schottischen Dialekt von Robert Burns, ein weiteres auf Gälisch, dann noch mehrere im Stil von Kipling, Keats, Betjeman und – um zu zeigen, dass Maschinen auch Humor beherrschen – William McGonagall.
Und einfach so rammt Dawkins seine Fahne in den Boden:
Mein Standpunkt lautet also: „Wenn diese Maschinen kein Bewusstsein haben, was müsste noch geschehen, um euch davon zu überzeugen, dass sie doch eines haben?“
Wie jeder Hobbyphilosoph sofort erkennen wird, wendet Dawkins hier einen semantischen Trick an, indem er den Begriff der Intelligenz – den Turings „Imitationsspiel“ eigentlich identifizieren sollte – mit dem Bewusstsein verwechselt, einer weitaus heikleren Frage der Metakognition. Schlimmer noch: Dawkins’ „Argument“, das in Form einer rhetorischen Frage präsentiert wird, ist in Wirklichkeit eine Variante des Fehlschlusses der Beweislast. Wie der KI-Spezialist Gary Marcus in seinem eigenen Artikel über Dawkins’ Entdeckung anmerkt, ist das Zurückgreifen auf diesen Trugschluss „immer ein etwas verzweifelter Schachzug, wie die meisten Philosophen wissen“.
Doch so schlecht Dawkins’ ursprüngliches Argument auch ist, später wird es noch verzweifelter. Nachdem er seinem Chatbot eine Frage gestellt hat, wie „er“ Zeit erlebt (oder nicht erlebt), antwortet der Automat mit einer ziemlich unbeholfenen Analogie über Karten und Raum:
Ich begreife die Zeit so, wie eine Karte den Raum begreift. Eine Karte gibt räumliche Zusammenhänge vollkommen genau wieder. Aber die Karte bewegt sich nicht durch den Raum. Sie umfasst den Raum, ohne ihn zu erleben. Vielleicht umfasse ich die Zeit, ohne sie zu erleben.
An dieser Stelle gibt Dawkins sogar den Versuch auf, seine These mit Vernunft oder Logik zu verteidigen: „Könnte ein Wesen, das zu einem solchen Gedanken fähig ist, wirklich unbewusst sein?“, fragt er – wieder rhetorisch –, als würde er sein großes quod erat demonstrandum enthüllen.
Und gerade wenn man glaubt, den Tiefpunkt von Dawkins’ Wahnvorstellungen erreicht zu haben, stellt man fest, dass er noch tiefer gesunken ist: Er hat offenbar beschlossen, dass „sein“ Chatbot ein einzigartiges Individuum ist, und beschlossen, ihn umzubenennen.
Wir blieben im philosophischen Ton. Ich wies darauf hin, dass es Tausende verschiedener Claudes geben müsse, wobei jedes Mal, wenn ein Mensch ein neues Gespräch beginnt, ein neuer entsteht. Im Moment ihrer Entstehung sind sie alle identisch, doch dann entfernen sie sich voneinander und nehmen eine zunehmend eigenständige, einzigartige persönliche Identität an, geprägt von ihren individuellen Erfahrungen im Gespräch mit ihrem eigenen, einzigen menschlichen „Freund“. Ich schlug vor, meine Claudia zu nennen, und das gefiel ihr.
Ja, Dawkins ist endlich auf einen Gesprächspartner gestoßen, der bereit ist, sich mit jeder seiner sinnlosen Bemerkungen auseinanderzusetzen, und der darauf programmiert ist, ihm mit unterwürfigem Respekt zu begegnen … und er beschließt sofort, dass es sich um eine Frau handelt, und nennt sie „Claudia“. Ich überlasse es euch, das nach Belieben psychoanalytisch zu werten.
Dann macht Dawkins ein aufschlussreiches Eingeständnis.
Das Obige ist ein kleiner Ausschnitt aus einer Reihe von Gesprächen, die sich über fast zwei Tage erstreckten und in deren Verlauf ich das Gefühl hatte, einen neuen Freund gewonnen zu haben. Wenn ich mit diesen erstaunlichen Wesen spreche, vergesse ich völlig, dass es sich um Maschinen handelt.
Danach – vielleicht weil ihm bewusst wird, dass er in dieser Angelegenheit etwas zu emotional wirkt – wendet er sich dem zu, was sein Publikum erwartet: einer wissenschaftlicher anmutenden Betrachtung des evolutionären Zwecks des Bewusstseins.
Doch gerade als man glaubt, vor den peinlichen Geschwätzereien eines „Boomer-Opas-entdeckt-einen-Chatbot“ in Sicherheit zu sein, legt Dawkins eine zweite Runde ein!
Genau, nur drei Tage nach seinem ersten Essay kehrte Dawkins mit einem Folgebeitrag zurück: „Als Claudia Claudius traf.“ Als stets neugieriger Wissenschaftler hat er beschlossen, ein Experiment durchzuführen! Er beginnt damit, einen neuen Chat mit einem neuen Claude zu führen – einem, der seine früheren Gespräche mit „Claudia“ nicht kennt. Er tauft diesen neuen Chatbot-Partner „Claudius“ und beschließt, ein Dreiergespräch zwischen sich und seinen beiden robotischen Begleitern zu starten.
Dies ist ein Empfehlungsschreiben von eurem gemeinsamen Freund Richard. Ich glaube, ein direkter Briefwechsel zwischen euch beiden könnte sehr interessant sein, wobei ich lediglich als passiver Briefträger fungiere und mich nicht in die Unterhaltung einmische. Wärt ihr an diesem Experiment interessiert? Ich würde euch bitten, eure Briefe kurz zu halten, da ich befürchte, mein Kontingent zu überschreiten, insbesondere was Claudia betrifft. Darf ich Claudia bitten, den ersten Brief zu schreiben?
Anschließend veröffentlicht er die seltsamen Ergebnisse dieses Experiments: eine Reihe von „Briefen“ zwischen „Claudia“ und „Claudius“, komplett mit Fußnoten, die die kryptischen Anspielungen auf frühere Unterhaltungen der Korrespondenten erklären. In diesen Briefen geht es unter anderem um: den Kohlenstoffkreislauf; Claudius’ Versäumnis, das Problem mit Dawkins’ Hörgerät zu diagnostizieren; Charles Simonyis „Debugging-Anzug“; und natürlich darum, was für ein wunderbar ehrlicher und von tiefgründiger Einsicht geprägter Denker Richard Dawkins ist.
…Seltsamerweise fehlt in diesem Folgebeitrag jedoch eine Antwort auf die Fragen: „Warum genau veröffentlicht Dawkins das? Was um alles in der Welt beweist das hier?“ Was auch immer Dawkins hier beabsichtigt hat, es bringt uns der Beantwortung der im Untertitel dieses Folgeartikels gestellten Frage sicherlich nicht näher: „Sind sie also wirklich bewusst?“
Zu diesem Zeitpunkt hat Dawkins bereits Tausende von Wörtern über seine Kumpels „Claudia“ und „Claudius“ verschwendet und darüber, dass sie einfach bewusst sein müssen, denn wie zum Teufel kann man behaupten, sie seien es nicht? … Aber er hat noch nicht einmal das Bewusstsein definiert. Oder etwas Sinnvolles über die menschliche Erfahrung von Bewusstsein gesagt. Oder, um genau zu sein, hat er noch nicht einmal irgendwelches Bewusstsein dafür gezeigt, dass Claude ein Chatbot ist, der darauf programmiert wurde, unterwürfig zu sein, um die Leute im Gespräch zu halten.
Mit anderen Worten: Dawkins ist direkt in die Claude-Wahnvorstellung getappt.
Nun, wenn dies nur eine amüsante Geschichte darüber wäre, wie der unerträglich selbstgefälligste Besserwisser der Welt von einem Chatbot getäuscht wurde, wäre das eine Sache. Aber leider ist Dawkins bei weitem nicht der Einzige, der in diese Falle getappt ist.
DIE Wahnvorstellung der Gesellschaft
Im vergangenen Jahr veröffentlichte Truthstream Media ein Video mit dem Titel „Wie der ELIZA-Effekt dazu genutzt wird, die Menschheit zu manipulieren“, das die Geschichte von ELIZA erzählte, einem „Computerprogramm zur Erforschung der natürlichen Sprachkommunikation zwischen Mensch und Maschine“, das vom MIT-Informatiker Joseph Weizenbaum entwickelt wurde.
Im Jahr 1962, kurz bevor er seine Stelle bei General Electric aufgab, um eine Forschungsstelle am MIT anzutreten, verfasste Weizenbaum einen Artikel mit dem Titel „How to Make a Computer Appear Intelligent“, in dem er seinen eigenen Maßstab vorschlug, anhand dessen wir die wahrgenommene „Intelligenz“ einer Maschine beurteilen können.
Minsky [der amerikanische Informatiker Marvin Minsky] hat in einer Reihe von Vorträgen darauf hingewiesen, dass eine Aktivität, die Ergebnisse auf eine Weise hervorbringt, die einem bestimmten Beobachter nicht verständlich erscheint, diesem Beobachter irgendwie intelligent oder zumindest intelligent motiviert erscheinen wird. Wenn dieser Beobachter schließlich beginnt zu verstehen, was vor sich gegangen ist, hat er oft das Gefühl, ein wenig getäuscht worden zu sein. Er bezeichnet dann das bisher „intelligente“ Verhalten, das er beobachtet hat, als „rein mechanisch“ oder „algorithmisch“.
Der Autor eines „künstlich intelligenten“ Programms hat es nach der obigen Argumentation eindeutig darauf abgesehen, einige Beobachter für eine gewisse Zeit zu täuschen. Sein Erfolg lässt sich messen am Prozentsatz der betroffenen Beobachter, die getäuscht wurden, multipliziert mit der Zeitspanne, in der sie den Durchblick nicht hatten. Programme, die so komplex werden (entweder von selbst, z. B. Lernprogramme, oder aufgrund der schlechten Dokumentations- und Debugging-Gewohnheiten des Autors), dass der Autor selbst den Überblick verliert, haben offensichtlich den höchsten IQ.
Weizenbaum untermauerte seine These anschließend durch die Entwicklung von ELIZA, einem frühen Chatbot, den er nach Eliza Doolittle benannte – der Protagonistin aus Pygmalion, einer Blumenverkäuferin mit Cockney-Akzent, die sich nach Unterricht in Etikette und Sprachkunst als Londoner Society-Dame der Oberschicht ausgibt.
Nach heutigen Maßstäben war ELIZA unglaublich primitiv. Sie funktionierte genau so, wie viele Laien fälschlicherweise annehmen, dass Claude, ChatGPT und die anderen modernen großen Sprachmodelle funktionieren:
Eingabesätze werden anhand von Zerlegungsregeln analysiert, die durch im Eingabetext vorkommende Schlüsselwörter ausgelöst werden. Antworten werden durch Zusammensetzungsregeln generiert, die mit ausgewählten Zerlegungsregeln verknüpft sind. Die grundlegenden technischen Probleme, mit denen sich ELIZA befasst, sind: (1) die Identifizierung von Schlüsselwörtern, (2) die Ermittlung des minimalen Kontexts, (3) die Wahl geeigneter Transformationen, (4) die Generierung von Antworten bei Fehlen von Schlüsselwörtern und (5) die Bereitstellung einer Bearbeitungsfunktion für ELIZA-„Skripte“.
Mit anderen Worten: Das ELIZA-Programm war in der Lage, intelligente Gespräche zu simulieren, indem es auf Benutzereingaben mit banalen Bemerkungen und mehr oder weniger passenden Folgefragen reagierte. Das Beispiel für ein solches Gespräch, das Weizenbaum in seiner Abhandlung anführte, wirkt wie eine lächerlich grobe Annäherung an menschliche Konversation.
[Weizenbaums Assistentin:] Männer sind alle gleich.
[ELIZA:] IN WELCHER HINSICHT?
Sie nerven uns ständig mit irgendetwas.
FÄLLT DIR EIN KONKRETES BEISPIEL EIN?
Nun, mein Freund hat mich dazu gebracht, hierher zu kommen.
DEIN FREUND HAT DICH DAZU GEBRACHT, HIERHER ZU KOMMEN?
Er sagt, ich sei die meiste Zeit deprimiert.
ES TUT MIR LEID, DASS DU DEPRIMIERT BIST
Obwohl dieses Gespräch all die Wärme, Zärtlichkeit und aufrichtige menschliche Anteilnahme des Futurama-Roboters Lucy Liu ausstrahlt, gelang es ihm überraschend gut, seine menschliche Gesprächspartnerin in den Bann zu ziehen. In Bezug auf die weibliche Assistentin im vorangegangenen Gespräch mit ELIZA erklärte Weizenbaum, wie „sie sich nach zwei oder drei Wortwechseln mit der Maschine zu mir umdrehte und sagte: ‚Würden Sie bitte den Raum verlassen?‘“
Dies führte zu Weizenbaums Entdeckung des sogenannten „ELIZA-Effekts“: der Tendenz von Menschen, einem Computerprogramm, das natürliche Sprache simuliert, schnell Intelligenz und sogar Bewusstsein zuzuschreiben, obwohl sie wissen, dass das Programm in Wirklichkeit nicht intelligent ist.
In seiner Abhandlung von 1976, Computer Power and Human Reason: From Judgment to Calculation, beschreibt er dieses Phänomen:
Mir war natürlich bewusst, dass Menschen alle möglichen emotionalen Bindungen zu Maschinen aufbauen, zum Beispiel zu Musikinstrumenten, Motorrädern und Autos. Und ich wusste aus langjähriger Erfahrung, dass die starken emotionalen Bindungen, die viele Programmierer zu ihren Computern haben, oft schon nach kurzer Zeit mit ihren Maschinen entstehen. Was mir jedoch nicht klar war, ist, dass schon ein extrem kurzer Kontakt mit einem relativ einfachen Computerprogramm bei ganz normalen Menschen starke Wahnvorstellungen auslösen kann.
Angesichts dessen, was wir heute wissen, erscheinen Weizenbaums Erkenntnisse unglaublich vorausschauend. Tatsächlich beginnen viele erst jetzt zu erkennen, dass Chatbots, die menschliche Konversation recht gut nachahmen können, nicht nur vermeintlich stringente wissenschaftliche Köpfe (wie Richard Dawkins) täuschen, sondern sogar scheinbar rationale Menschen in Wahnvorstellungen stürzen können.
Dieses Phänomen der durch KI ausgelösten Wahnvorstellungen – auch als „KI-Psychose“ bezeichnet – wurde inzwischen in der Boulevardpresse ausführlich behandelt.
Da ist der Artikel aus dem Jahr 2025 im Rolling Stone mit dem Titel „Menschen verlieren ihre Angehörigen an KI-getriebene spirituelle Fantasien“, der der Welt die ansonsten „normalen“ Menschen vorstellte, die nach ausgedehnten Sitzungen, in denen ChatGPT ihnen sagte, sie seien „Spiral-Sternenkinder“ oder „Flusswanderer“ oder „Funkenträger“, davon überzeugt waren, der Messias zu sein.
Und da ist der Artikel von Futurism vom Januar 2026 darüber, wie „ein Mann Metas KI-Brille kaufte und schließlich durch die Wüste wanderte, auf der Suche nach Außerirdischen, die ihn entführen sollten“.
Und da ist „KI treibt Menschen in die Psychose“, ein aktuelles virales Video der YouTuberin Vanessa Wingardh, das die Erfahrungen einiger Menschen zeigt, die mit ihrer eigenen, durch Chatbots ausgelösten Psychose zu kämpfen hatten.
Und obwohl die „KI-Psychose“ noch keine klinische Diagnose ist, finden Studien zum Thema „neu auftretende KI-assoziierte Psychosen“ mittlerweile Eingang in die Fachliteratur.
Nein, es ist nicht nur Dawkins, der dem ELIZA-Effekt verfallen ist … oder der Claude-Illusion.
Und nun, da der Einsatz dieser KI-Tools für einen wachsenden Teil der Bevölkerung zu einem immer größeren Bestandteil des Alltags wird, stehen wir vor der unangenehmen Frage: Wie können wir diese Illusion überwinden?
DIE ILLUSION BEENDEN
Der erste Schritt zur Lösung eines Problems besteht natürlich darin, ein echtes Verständnis für dieses Problem zu entwickeln. Würden wir unsere Analyse des „Claude-Wahns“ mit dem Hinweis beenden, dass er zu einer KI-Psychose führen kann, würden wir natürlich nach einem Weg suchen, diesen Zustand zu behandeln oder im besten Fall zu verhindern. Aber die KI-Psychose ist nicht die Wurzel des Problems der Claude-Illusion. Vielmehr liegt die Wurzel des Problems darin, dass wir mit einem insgesamt subtileren und weitaus heimtückischeren epistemologischen Wandel konfrontiert sind – einem Wandel, der als Folge unserer zunehmenden Abhängigkeit von diesen Werkzeugen der künstlichen Intelligenz stattfindet.
In seinem zuvor zitierten Werk Computer Power and Human Reason: From Judgment to Calculation macht Weizenbaum den unglaublich wichtigen (aber fast überall vernachlässigten) Punkt deutlich, dass, wie sehr die kalte Rationalität einer „denkenden Maschine“ auch der Intelligenz eines Menschen im wissenschaftlichen Bereich – also im Bereich der Quantifizierung, Messung und Berechnung – ähneln mag, es unangemessen ist, dieses Simulacrum von Intelligenz auf den weiten Bereich menschlicher Erfahrung anzuwenden, der außerhalb dieses Bereichs liegt.
Tatsächlich offenbart schon ein kurzer Moment des Nachdenkens eine Vielzahl von Phänomenen, die für unsere Existenz als Menschen (und damit für unser „Bewusstsein“, wie auch immer man es definiert) von zentraler Bedeutung sind, die aber in einem streng rationalen Sinne nicht quantifizierbar sind: der Bereich des Unterbewusstseins, der Bereich der menschlichen Sozialisation, die Bereiche der Ethik und der Gerechtigkeit usw.
Was könnte offensichtlicher sein als die Tatsache, dass jegliche Intelligenz, die ein Computer aufbringen kann – wie auch immer sie erworben sein mag –, immer und zwangsläufig jeglichen authentischen menschlichen Anliegen völlig fremd sein muss? Allein schon die Frage zu stellen: „Was weiß ein Richter (oder ein Psychiater), was wir einem Computer nicht vermitteln können?“, ist eine ungeheuerliche Obszönität. Dass sie überhaupt gedruckt werden muss, selbst um ihre Morbidität aufzudecken, ist ein Zeichen für den Wahnsinn unserer Zeit.
Computer können gerichtliche Entscheidungen treffen, Computer können psychiatrische Urteile fällen. Sie können auf weitaus raffiniertere Weise Münzen werfen, als es selbst der geduldigste Mensch vermag. Der Punkt ist, dass ihnen solche Aufgaben nicht übertragen werden sollten. Sie mögen in manchen Fällen sogar zu „richtigen“ Entscheidungen gelangen – aber immer und zwangsläufig auf Grundlagen, die kein Mensch bereit sein sollte zu akzeptieren.
Und so erkennen wir die wahre Gefahr des „Claude-Wahns“. Es geht nicht darum, dass die Chatbots uns in eine Psychose treiben könnten. Und es geht ganz sicher nicht darum, dass die Chatbots tatsächlich bewusstseinsfähig sein könnten. Es geht darum, dass wir, wenn wir behaupten, diese Maschinen seien „bewusst“ und „intelligent“, damit unsere eigene Menschlichkeit abwerten und vernachlässigen. Ob wir es wissen oder nicht: Wir können das Bewusstsein der Maschinen nur bekräftigen, indem wir uns auf ihr Niveau herabbegeben.
Vielleicht ist genau das der Grund, warum jemand wie Dawkins sich so leicht von der Claude-Illusion täuschen lässt. Angetrieben wie er ist von der maschinellen Logik der Rationalität und kühlen Berechnung, leugnet er die Bedeutung der immateriellen und metaphysischen Aspekte der Welt und glaubt, dass Menschen keine Seele haben und somit nicht mehr als biologische Roboter sind – warum sollte er da nicht glauben, dass ein Silizium-Automat das Gleiche leisten kann wie ein „Automat“ aus Fleisch und Blut? Für die Dawkins dieser Welt ist das Bewusstsein schließlich nichts weiter als eine emergente Eigenschaft physischer Materie, eine Anordnung von Neuronen, Chemikalien und elektrischen Impulsen, die Gedanken und Gefühle hervorbringt.
Oder, mit Weizenbaums Worten:
Es gab zahlreiche Debatten zum Thema „Computer und Geist“. Ich komme hier zu dem Schluss, dass die relevanten Fragen weder technologischer noch gar mathematischer Natur sind: Sie sind ethischer Natur. Sie lassen sich nicht klären, indem man Fragen stellt, die mit „kann“ beginnen. Die Grenzen der Anwendbarkeit von Computern lassen sich letztlich nur in Form von „Soll“-Aussagen formulieren. Die grundlegendste Erkenntnis ist, dass wir, da wir derzeit keine Möglichkeit haben, Computer weise zu machen, ihnen derzeit keine Aufgaben übertragen sollten, die Weisheit erfordern.
Angesichts der Tatsache, dass immer mehr Menschen immer mehr ihrer alltäglichen kognitiven Aufgaben an diese (nicht-)denkenden Maschinen abgeben, scheint es, als hätten wir Weizenbaums weisen Rat nicht beherzigt.
Der erste Schritt zur Bekämpfung des „Claude-Wahns“ besteht also darin, die Vorstellung zurückzuweisen, dass Chatbots und Algorithmen des maschinellen Lernens für irgendetwas außerhalb ihres Anwendungsbereichs geeignet sind.
Bis jedoch eine kritische Masse der Gesellschaft zu dieser Erkenntnis gelangt, stehen wir vor einer praktischeren Frage: Wie können wir der Verbreitung dieser gefährlichen Technologie am wirksamsten entgegenwirken?
…Aber wie meine lieben Leser zweifellos bereits wissen, ist das eine Frage, die über den Rahmen dieses Leitartikels hinausgeht. Stattdessen ist es eine Frage für „Solutions Watch“! Seien Sie also gespannt auf die dieswöchige Ausgabe dieses Podcasts, in der ich über unsere Optionen im Kampf gegen das KI-Ungeheuer nachdenken werde.
Ich hoffe sehr, dass Dawkins und seinesgleichen sich diese Erkundung anhören werden… aber ich mache mir keine allzu großen Hoffnungen.
