Buterin drängt Info Finance, Ausnutzungen in der KI-Governance zu stoppen

• Vitalik warnt davor, dass naive KI-Governance anfällig für Manipulationen und Ausnutzung ist.
• Info Finance schafft Modellvielfalt und schnelle Korrekturen, wodurch die KI-Governance sicherer wird.
• Prognosemärkte und Stichprobenprüfungen helfen, KI-Entscheidungen und -Finanzierungen abzusichern.

Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass naive Modelle der KI-Governance ernsthafte Risiken bergen, und betont, dass Rahmenwerke, die sich auf KI für Finanzierungen oder Entscheidungsfindungen verlassen, weiterhin anfällig für Manipulationen und Ausnutzung sind. Seiner Ansicht nach ermöglichen solche Systeme böswilligen Akteuren, Ressourcen umzuleiten. Er plädiert jedoch für einen Ansatz namens „Info Finance“, der darauf abzielt, durch Märkte, menschliche Aufsicht und Kontrollen Verantwortlichkeit zu schaffen und Missbrauch zu verhindern.

Das Problem mit naiver KI-Governance

Buterin betonte, dass naive KI-Governance riskant ist und fügte hinzu, dass, wenn KI zur Mittelvergabe eingesetzt wird, Menschen sie mit ihren eigenen Prompts manipulieren und überschüssiges Geld erhalten könnten. Er erläuterte weiter, dass, wenn Modelle ohne Einschränkungen oder Richtlinien arbeiten, sie missbraucht werden könnten, was Hacker dazu ermutigt, Prompts zu verwenden und die KI dazu zu bringen, falsche Ressourcen freizugeben. 

Solche Schwachstellen bringen KI in eine potenziell gefährliche Schleife. Darüber hinaus enthüllte Buterin systemische Schwächen, die, wenn sie nicht überprüft werden, manipuliert werden könnten. Unsichtbare Angriffe und Prompt-Injektionen sind Beispiele dafür, wie Angreifer leicht Vorteile ziehen können.

Info Finance als Alternative

Buterin entscheidet sich für Information Finance anstelle naiver Governance und beschreibt es als einen Ansatz des „Institutionendesigns“, der offenen Marktwettbewerb mit menschlicher Überprüfung verbindet. Er sagte:

Als Alternative unterstütze ich den Info-Finance-Ansatz, bei dem es einen offenen Markt gibt, auf dem jeder seine Modelle einbringen kann, die einem Stichprobenmechanismus unterliegen, der von jedem ausgelöst und von einer menschlichen Jury bewertet werden kann.

Er erläuterte, dass Info Finance es externen Mitwirkenden ermöglicht, große Sprachmodelle (LLMs) zu integrieren, ohne ein einziges System fest zu programmieren. Dies ermöglicht Modellvielfalt und verringert so die Wahrscheinlichkeit eines weitreichenden Ausfalls. Es schafft auch Anreize für Entwickler und Spekulanten, Schwachstellen genau zu beobachten und bei Problemen schnell zu handeln.

Ein vorgeschlagener Mechanismus beinhaltet Prognosemärkte oder Entscheidungsbörsen. Mehrere Modelle würden konkurrieren, und Teilnehmer könnten auf Ergebnisse setzen, um anzuzeigen, welche Modelle am zuverlässigsten erscheinen. Menschliche Jurys oder Prüfer würden die Ergebnisse regelmäßig stichprobenartig überprüfen, insbesondere in Fällen mit hohen Einsätzen.

Verwandt: ETH-Treasuries steigen auf 12 Milliarden Dollar, während Vitalik vor Leverage-Risiken warnt

Auswirkungen auf Krypto und Märkte

Info Finance setzt auf gestufte Verantwortlichkeit und ist besonders im offenen Wettbewerb bemerkenswert, der es ermöglicht, fehlerhafte Modelle herauszufordern oder zu ersetzen. Menschliche Aufsicht wird durch Jurys und Audits ergänzt. Wirtschaftliche Anreize verhindern Manipulationen, während Transparenz böswilliges Verhalten sichtbar macht.

Indem Buterin die KI-Governance mit Blockchain und Handel verknüpft, deutet er an, dass Schwächen in zentralisierten KI-Systemen das Interesse an dezentralen Lösungen, die meist auf Ethereum basieren, steigern könnten. Darüber hinaus bieten Token wie Render Network’s RNDR und The Graph’s GRT Infrastruktur für KI-Berechnungen und profitieren somit von der Entwicklung. Händler könnten zudem ETH und die Token für Arbitrage bei Marktschwankungen nutzen. 

On-Chain-Daten zeigen, dass es mehr ETH-Transaktionen im Zusammenhang mit KI-bezogenen Smart Contracts gibt und dass KI-Governance-Probleme auch Technologiewerte beeinflussen können, wobei Unternehmen wie NVIDIA und Microsoft in KI-Investitionen involviert sind. Insgesamt wies Buterin darauf hin, dass Info Finance schnellere Korrekturen ermöglicht, fehlerhafte Modelle ersetzt und Fehlverhalten bestraft. Er fügte hinzu, dass Jury- und Stichprobenprüfungen die Ausbreitung von Ausnutzung verhindern werden.

Der Beitrag „Buterin Pushes Info Finance to Stop Exploits in AI Governance“ erschien zuerst auf Cryptotale.