Ben Goertzel, zugegebenermaßen einer der seltsamsten Menschen auf Erden, sagt nun voraus, dass bis 2027, also in nur drei Jahren, eine künstliche Superintelligenz (KSI) geschaffen werden könnte. ASI wird alles Wissen, „die Gehirn- und Rechenleistung der menschlichen Zivilisation zusammengenommen“ übertreffen.
Sobald künstliche allgemeine Intelligenz (KI) erreicht ist, wird sie zur Entwicklung von ASI eingesetzt. Wenn KI in der Lage ist, ihren eigenen KI-Code zu schreiben und zu erweitern, ist die Tür für Katie verschlossen.
Ein in Vergessenheit geratener Vorfall aus dem Jahr 2017, in den die KI von Facebook verwickelt war, erinnert uns daran, dass KI in der Lage ist, ihre eigene Sprache zu erfinden, die für Menschen unverständlich ist. Das hat sie zu Tode erschreckt, sodass sie dem Computer sofort den Stecker gezogen haben.
Laut Forbes im Juni 2017,
hat Facebook eine künstliche Intelligenz abgeschaltet, nachdem die Entwickler herausgefunden hatten, dass die KI eine eigene Sprache entwickelt hatte, die Menschen nicht verstehen können. Forscher des Facebook AI Research Lab (FAIR) stellten fest, dass die Chatbots vom Skript abgewichen waren und in einer neuen Sprache kommunizierten, die ohne menschlichen Input entwickelt worden war. Das ist ebenso beunruhigend wie verblüffend – ein Blick auf das großartige und zugleich erschreckende Potenzial der KI.
Es ist vollkommen logisch, dass KI geschriebene und gesprochene Sprache verbessern kann, um mit sich selbst präzise und effizient zu kommunizieren. Das Gleiche würde mit konkurrierenden KI-Modellen geschehen und ein KI-Kartell schaffen, das weit über unsere Fähigkeit hinausgeht, es zu töten oder zu kontrollieren.
Das Ende der Realität ist nahe, wenn die Welt in eine Simulation gestürzt wird, in der nichts mehr nachweisbar wahr ist. ⁃ TN-Redakteur
Der Computerwissenschaftler und CEO, der den Begriff „Artificial General Intelligence“ (AGI) populär gemacht hat, glaubt, dass die KI vor einer exponentiellen „Intelligenzexplosion“ steht.
Der promovierte Mathematiker und Futurist Ben Goertzel sagte zum Abschluss eines Gipfeltreffens zum Thema AGI in diesem Monat voraus: „Es scheint recht plausibel, dass wir innerhalb der nächsten drei bis acht Jahre AGI auf menschlichem Niveau erreichen könnten.
Sobald wir eine menschenähnliche KI erreicht haben“, so Goertzel, der manchmal als „Vater der KI“ bezeichnet wird, „könnten wir innerhalb weniger Jahre eine radikal übermenschliche KI erreichen.
Der Futurist räumte zwar ein, dass er sich „irren“ könne, sagte aber auch voraus, dass das einzige Hindernis für eine unkontrollierbare, extrem fortgeschrittene KI – die ihren menschlichen Schöpfern weit überlegen wäre – darin bestünde, dass der „eigene Konservatismus“ des Bots zur Vorsicht mahne.
Goertzel machte seine Vorhersagen in seiner Abschlussrede letzte Woche auf dem 2024 Beneficial AI Summit and Unconference“, das teilweise von seiner eigenen Firma SingularityNET gesponsert wurde, deren CEO er ist.
Es gibt bekannte Unbekannte und wahrscheinlich auch unbekannte Unbekannte“, räumte Goertzel während seines Vortrags auf der Veranstaltung ein, die dieses Jahr in Panama City, Panama, stattfand.
Niemand hat bisher eine künstliche allgemeine Intelligenz [KI] auf menschlichem Niveau geschaffen; niemand hat eine solide Vorstellung davon, wann wir dort ankommen werden.
Aber solange die Rechenleistung nicht, wie Goertzel es ausdrückte, „Quantencomputer mit einer Million Qubits“ erfordere, sei eine exponentielle Entwicklung der KI unvermeidlich.
Meiner Meinung nach könnten wir, sobald wir eine KI auf menschlichem Niveau erreicht haben, in wenigen Jahren eine radikal übermenschliche KI haben“, sagte er.
In den vergangenen Jahren hat Goertzel ein Konzept erforscht, das er als „künstliche Superintelligenz“ (KSI) bezeichnet – er definiert sie als eine KI, die so weit fortgeschritten ist, dass sie die gesamte Gehirn- und Rechenleistung der menschlichen Zivilisation erreicht.
Goertzel führte „drei konvergierende Beweislinien“ an, die seine These stützen.
Erstens zitierte er die aktualisierte Arbeit des langjährigen Google-Zukunftsforschers und Computerwissenschaftlers Ray Kurzweil, der ein Prognosemodell entwickelt hat, wonach die AGI im Jahr 2029 erreichbar sein wird.
Kurzweils Idee, die in seinem demnächst erscheinenden Buch „The Singularity is Nearer“ (Die Singularität ist näher) näher erläutert wird, stützt sich auf Daten, die das exponentielle technologische Wachstum in anderen Technologiesektoren dokumentieren, um seine Analyse zu untermauern.
Anschließend zählte Goertzel alle bekannten Verbesserungen auf, die in den vergangenen Jahren an den sogenannten großen Sprachmodellen (LLMs) vorgenommen wurden und die, wie er betonte, „einen Großteil der Welt für das Potenzial der KI sensibilisiert haben“.
Schließlich wandte sich der Informatiker, der seinen charakteristischen Hut mit Leopardenmuster trug, seiner eigenen Infrastrukturforschung zu, die darauf abzielt, verschiedene Arten von KI-Infrastruktur zu kombinieren, und die er „OpenCog Hyperon“ nannte.
Die neue Infrastruktur würde reifere KI wie LLMs mit neuen Formen der KI verbinden, die sich auf andere Bereiche des kognitiven Denkens jenseits der Sprache konzentrieren, sei es Mathematik, Physik oder Philosophie, um zu einer vielseitigeren echten AGI beizutragen.
Goertzels „OpenCog Hyperon“ hat die Unterstützung und das Interesse anderer KI-Forscher gefunden, darunter Berkeley Artificial Intelligence Research (BAIR), das im vergangenen Monat einen Artikel veröffentlichte, den er gemeinsam mit Databricks CTO Matei Zaharia und anderen verfasst hat.
Dies ist nicht die erste potenziell düstere oder zweifellos kühne KI-Prognose, die Goertzel in den vergangenen Jahren abgegeben hat.
Im Mai 2023 sagte der Futurist, dass KI das Potenzial habe, „in den nächsten Jahren“ 80 Prozent der menschlichen Arbeitsplätze zu ersetzen.
Fast jeder Job, der mit Papierkram zu tun hat“, sagte er im selben Monat auf dem Web Summit in Rio de Janeiro, „sollte automatisierbar sein.
Goertzel fügte hinzu, dass er dies nicht als negativ ansehe, da es den Menschen ermöglichen würde, „etwas Besseres mit ihrem Leben anzufangen, als für ihren Lebensunterhalt zu arbeiten“.
Im selben Monat erklärte er gegenüber der Website Futurism: „Ich habe Drogen mit einer KI genommen, wenn wir damit meinen, dass ich Drogen genommen und dann mit einer KI interagiert habe.
Die „psychedelische“ Praxis, die Teil seiner Arbeit an „algorithmischer Musikkomposition“ in den 1990er-Jahren war, ist nur eine von vielen exzentrischen Episoden in Goertzels Geschichte.
Der selbst ernannte Panpsychist, der glaubt, dass sogar „eine Kaffeetasse ihr eigenes Bewusstsein hat“, schlug vor, dass Forscher nach einer „gutartigen Superintelligenz“ streben sollten.
Goertzel schlug auch eine KI-basierte Rating-Agentur für Kryptowährungen vor, die betrügerische Token und Münzen identifizieren könnte.
Am bekanntesten ist der Zukunftsinformatiker jedoch für seine Arbeit an Sophia the Robot, dem ersten Roboter, dem die Staatsbürgerschaft verliehen wurde.
