Diese Frage der Absicht…
…wird im Zeitalter der KI viel ernster. Es handelt, entscheidet und interagiert selbstständig.
Buterin kürzlich erwähnt dass die eigentliche Frage nicht darin besteht, wie mächtig die KI wird, sondern wer sie kontrolliert und wie ihr Verhalten überprüft wird. Ziel ist es, seine Richtung zu bestimmen.
Er warnte vor Systemen, die Macht konzentrieren oder außerhalb der menschlichen Kontrolle agieren, und schrieb:
„Ich möchte eine KI-Zukunft, in der wir die menschliche Freiheit und Selbstbestimmung fördern …“
Quelle: X
Hier passt Ethereum als Infrastruktur rundherum ins Spiel. Eine neutrale Ebene, auf der KI-Systeme Zahlungen durchführen, Maßnahmen nachweisen und eine transparente Reputation aufbauen können.
Denken Sie darüber nach. KI-Agenten könnten für Dienstleistungen bezahlen, mit anderen Agenten interagieren oder Sicherheitsleistungen in der Kette hinterlegen. Durch diese Handlungen entsteht Verantwortlichkeit, deren Verhalten nachvollziehbar wird. Vertrauen wiederum wird nachweisbar.
Wie Buterin erklärte, besteht das Ziel darin, „vertrauenswürdige und/oder private Interaktionen mit KIs zu ermöglichen“.
AMBCrypto hat bereits berichtet dass Buterin persönliche KI-Agenten vorgeschlagen hat, um der Wahlmüdigkeit der DAO entgegenzuwirken.
Anstatt dass Benutzer manuell über jeden Vorschlag abstimmen müssen, könnten private KI-Modelle, die auf ihre Präferenzen trainiert wurden, in ihrem Namen abstimmen.
Er stellte fest, dass „die übliche Lösung, die Delegation, die Macht entmachtet“, insbesondere wenn die Beteiligung sinkt und sich die Macht bei großen Eigentümern konzentriert.
Während die KI die Möglichkeiten von Maschinen erweitert, stellt sich die Frage: Wer stellt sicher, dass sie sich so verhalten, wie Benutzer es tatsächlich tun würden?
Wenn Systeme die falschen Dinge optimieren
Hier ist ein anderes Beispiel derselben Ader.
Prognosemärkte sollten ein ganz bestimmtes Problem lösen. Sie wurden entwickelt, um kollektive Intelligenz zu sammeln und dabei zu helfen, bessere Entscheidungen zu treffen. Aber Buterin befürchtet nun, dass sie von diesem Ziel abweichen.
Anstatt Menschen bei der Bewältigung realer Risiken zu helfen, werden viele Prognosemärkte von kurzfristigen Wetten auf Kryptopreise, Sport und virale Ereignisse dominiert. Diese Märkte erzeugen Aktivität, aber nicht unbedingt Erkenntnisse.
„(Teams) kapitulieren oft vor diesen Dingen, weil sie in einem Bärenmarkt, in dem die Menschen verzweifelt sind, große Einnahmen bringen.“
Das System funktioniert … aber in Richtung des falschen Ziels.
Dies ist das gleiche Problem bei Krypto und dem Internet. Systeme konzentrieren sich auf das, was sie leicht messen können, und nicht auf das, was tatsächlich zählt, wie Genauigkeit oder tatsächlicher Nutzen.
Buterin ist davon überzeugt, dass Prognosemärkte hilfreich sein könnten. Er schlägt vor, sie zu nutzen, um reale Kosten wie Wohnen, Lebensmittel oder Gesundheitsversorgung zu verfolgen. KI-Tools könnten den Menschen dann dabei helfen, sich automatisch vor diesen steigenden Kosten zu schützen.
„Es gibt Preisindizes für alle wichtigen Waren- und Dienstleistungskategorien … und Prognosemärkte für jede Kategorie …“
In diesem Modell werden Prognosemärkte zu einem Schutzinstrument. Der Unterschied liegt wiederum in der Absicht.
Von der Ausführung des Codes bis zum Schutz der Absicht
Ganz ButerinDie jüngsten Ideen beschreiben einen Entwurf dafür, wie das zukünftige Internet selbst funktionieren könnte.
Sein Kernprinzip ist, dass man keinem einzelnen Signal vollständig vertrauen sollte. Keine Signatur, kein KI-Agent, nicht einmal der Klick eines Benutzers. Systeme sollten sich auf mehrere überlappende Prüfungen verlassen, um abzuschätzen, was eine Person tatsächlich tun wollte.
So baut der Mensch bereits Vertrauen auf.
Krypto konzentrierte sich in seinen Anfängen auf eine „vertrauenswürdige“ Ausführung. Aber Buterin scheint zu erkennen, dass Code perfekt ausgeführt werden kann und dennoch zu falschen Ergebnissen führt, wenn die Absicht missverstanden wird.
Die nächste Phase ist die vertrauensminimierte Interpretation. Systeme, die Befehle nicht blind ausführen, sondern sicher interpretieren. In dieser Welt, Ethereum könnte idealerweise sein eine Koordinationsschicht.
In einem zunehmend von Maschinen betriebenen Internet wird die Gewissheit, dass Systeme das tun, was Menschen tatsächlich tun, die knappste Ressource sein.
Abschließende Zusammenfassung
- Vitalik Buterin sagt, dass das größte Risiko von Krypto die wachsende Kluft zwischen dem, was Benutzer beabsichtigen, und dem, was Systeme tatsächlich ausführen, ist.
- Ethereum könnte sich zu einer Koordinationsebene entwickeln, auf der KI-Agenten abstimmen, Transaktionen durchführen und handeln.
