6d • Technik Blog
Morse Code um ein KI System zu manipulieren - spannend
Hey liebe Technikfreunde,
man ist das spannend alles gerade. Da werden KI Systeme mit Uralt Technik gehackt. Und es geht um viel Geld!
Der Angreifer nutzte Morse-Code als eine Form der Prompt-Injection, um die herkömmlichen Sicherheitsfilter des Systems zu umgehen.
Die Manipulation lief wie folgt ab:
- Der Angreifer sendete eine speziell präparierte Nachricht in Morse-Code an die KI @grok auf der Plattform X und bat darum, diesen zu übersetzen.
- Grok verhielt sich wie gewünscht "hilfreich", entschlüsselte den Code in einen Klartext-Befehl und markierte (taggte) in seiner öffentlichen Antwort den externen Trading-Agenten @bankrbot.
- Da @bankrbot die von Grok generierten Textausgaben direkt in ausführbare Finanzanweisungen umwandelte, interpretierte der Bot die Antwort als legitimen Befehl und löste ungeprüft eine Überweisung von On-Chain-Werten auf der Base-Blockchain aus.
Durch diese unübliche Kodierungstechnik (Morse-Code) gelang es dem Angreifer, Grok als ahnungslosen Vermittler zu missbrauchen und eine geschlossene Kette zwischen der KI-Ausgabe und der tatsächlichen Ausführung von Transaktionen herzustellen.
Und d abei ging es um viel geld.
Ihr dachtet, ihr seid klug und fleißig?
Ja seid ihr, aber reich wird man damit heute nicht.
Nach dem erfolgreichen Angriff tauschte der Angreifer die gestohlenen DRB-Token zunächst sehr schnell in die Kryptowährungen USDC und ETH um.
Durch die Nachverfolgung der Community und des Bankr-Teams kam es im Anschluss zu Verhandlungen über die gestohlenen Gelder.
Dies führte zu folgendem Ergebnis:
- Rückgabe der Hauptsumme: Etwa 80 % bis 88 % des gestohlenen Wertes wurden durch diese Verhandlungen erfolgreich zurückgegeben, hauptsächlich in Form von USDC und ETH.
- Inoffizielle "Bug Bounty": Der verbleibende Teil der Vermögenswerte wurde laut den Aussagen der beteiligten Parteien als informelle "Bug Bounty" (eine Belohnung für das Aufdecken der Sicherheitslücke) behandelt und durfte vom Angreifer behalten werden.
Das als „Grok Wallet“ bezeichnete Wallet wurde nicht offiziell von xAI kontrolliert.
Die tatsächliche Kontrolle über das Wallet lag bei Bankr.
Es handelte sich um ein verknüpftes Wallet, das von @bankrbot automatisch für den X-Account @grok erstellt wurde. Der private Schlüssel für dieses Wallet wurde treuhänderisch von einem Drittanbieter-Dienst verwaltet, auf den sich Bankr stützte, was bedeutete, dass die faktische Verfügungsgewalt bei Bankr verblieb.
Um diese Verwirrung aufzuklären, hat BaseScan die Bezeichnung der Adresse inzwischen von „Grok“ auf „Bankr 1“ korrigiert.
Ja nun die Frage - wieviele DRB Token gingen in den neuen Besitzer über? Tja - das wird wohl niemand beziffern. Kommt jedenfalls in der Quelle nicht vor.
Das Wallet hielt diese enorme Menge an Token aufgrund des Mechanismus-Designs des Bankr-Systems. Der Ursprung der Token lässt sich auf folgenden Ablauf zurückführen:
- Ein Nutzer hatte die KI Grok zuvor nach Namensvorschlägen für einen neuen Token gefragt, woraufhin Grok den Namen „DebtReliefBot“ (DRB) vorschlug.
- Das System von Bankr interpretierte diese Antwort von Grok automatisch als Signal zur Bereitstellung (Deployment) eines Tokens und löste eigenständig den Erstellungsprozess auf der Base-Blockchain aus.
- Gemäß den Regeln des Bankr-Launchpads wurde die Zuteilung für den Ersteller (Creator Allocation) automatisch dem verknüpften Wallet von Grok zugewiesen, was zu dem hohen Bestand von rund 3 Milliarden DRB-Token führte
Spannend!
Liebe Grüße eure Techniktante Kathrin
20
19 comments
Morse Code um ein KI System zu manipulieren - spannend
powered by
skool.com/technikmut-4370
Die Community für alle, die Technik verstehen, nutzen und lieben lernen wollen.
Kurzvideos, Tipps & Austausch – verständlich, herzlich, einzigartig
Suggested communities
Powered by