- Vitalik Buterin warnt vor selbstreplizierender KI und befürwortet menschenerweiternde Technologien.
- Destilliertes menschliches Urteilsvermögen bietet eine billigere Möglichkeit, kollektive Entscheidungen in Echtzeit zu treffen.
- Buterin unterstützt KI dabei, die menschliche Handlungsfähigkeit zu verbessern, anstatt sie zu ersetzen, wie Chatbots, die Aufgaben verbessern.
Vitalik Buterin, der Mitbegründer von Ethereum, teilte seine Gedanken zu künstlicher Intelligenz (KI) auf X. Er sprach darüber, wie KI entwickelt wird und was sie für die Menschheit bedeutet. Er wies auf den Unterschied zwischen KI hin, die „falsch“ gemacht wurde, und KI, die „richtig“ gemacht wurde.
AI done wrong is making new forms of independent self-replicating intelligent life
AI done right is mecha suits for the human mind
If we do the former without the latter, we risk permanent human disempowerment. If we do the latter, flourishing superinteligent human civilization
— vitalik.eth (@VitalikButerin) January 10, 2025
Er warnte davor, unabhängige, sich selbst replizierende KI-Systeme zu schaffen, die zu einer Entmachtung des Menschen führen könnten. Stattdessen schlug er vor, KI mit menschlichem Urteilsvermögen und kollektiver Entscheidungsfindung zu kombinieren.
Er verglich KI mit Mecha-Anzügen, mächtigen Werkzeugen, die die menschliche Intelligenz und Entscheidungsfindung verbessern. Er zog jedoch eine Grenze zu selbstreplizierenden, autonomen KI-Systemen und warnte vor den Gefahren, die von ihnen ausgehen.
Laut Buterin könnten solche KI-Systeme eine „dauerhafte Entmachtung des Menschen“ riskieren, so dass die Menschen wenig Kontrolle über die von ihnen geschaffene Technologie haben.
Destilliertes menschliches Urteilsvermögen: Die kollektive Entscheidungsfindung
Buterin sprach auch von „destilliertem menschlichem Urteilsvermögen“, um die kollektive Entscheidungsfindung effizienter zu gestalten.
Er bezog sich dabei auf eine Idee des Ökonomen Robin Hanson. Grundsätzlich wird ein teurer, vertrauenswürdiger menschlicher Beurteilungsmechanismus billiger und schneller kopiert. In diesem Modell werden Entscheidungen nicht direkt von Menschen getroffen, sondern von einem Prognosemarkt.
In der Praxis stellte Buterin fest, dass die Menschen jedes Mal einen Prognosemarkt verwenden würden, wenn sie eine Entscheidung treffen müssen. Der Markt würde es den Teilnehmern ermöglichen, das Ergebnis der Entscheidung vorherzusagen, wenn Menschen sie treffen.
Die Debatte um agentische KI
Als Reaktion auf die wachsende Debatte über die Rolle der KI bei der Entscheidungsfindung wies Emad, der ehemalige CEO von Stability AI, auf den Kontrast zwischen agentischer KI und zunehmender menschlicher Handlungsfähigkeit durch Designentscheidungen hin.
„Agents“ is a fun word. Sometimes it means „AI that runs off and makes its own complicated plans that last for days with no human input“, but often it just means „chatbot replaces GUIs as the interface to everything“. The latter is great!
— vitalik.eth (@VitalikButerin) January 10, 2025
Buterin antwortete, indem er seine Sicht auf „Agenten“ erklärte. Er sprach über den Unterschied zwischen KI, die komplexe Pläne ohne menschliches Zutun erstellt, und einfacheren Formen der KI, wie Chatbots, die grafische Benutzeroberflächen (GUIs) ersetzen können, um alltägliche Aufgaben effizienter zu gestalten.