Morse Code um ein KI System zu manipulieren - spannend
Hey liebe Technikfreunde, man ist das spannend alles gerade. Da werden KI Systeme mit Uralt Technik gehackt. Und es geht um viel Geld! Habt ihr davon schon gelesen? Der Angreifer nutzte Morse-Code als eine Form der Prompt-Injection, um die herkömmlichen Sicherheitsfilter des Systems zu umgehen. Die Manipulation lief wie folgt ab: - Der Angreifer sendete eine speziell präparierte Nachricht in Morse-Code an die KI @grok auf der Plattform X und bat darum, diesen zu übersetzen. - Grok verhielt sich wie gewünscht "hilfreich", entschlüsselte den Code in einen Klartext-Befehl und markierte (taggte) in seiner öffentlichen Antwort den externen Trading-Agenten @bankrbot. - Da @bankrbot die von Grok generierten Textausgaben direkt in ausführbare Finanzanweisungen umwandelte, interpretierte der Bot die Antwort als legitimen Befehl und löste ungeprüft eine Überweisung von On-Chain-Werten auf der Base-Blockchain aus. Durch diese unübliche Kodierungstechnik (Morse-Code) gelang es dem Angreifer, Grok als ahnungslosen Vermittler zu missbrauchen und eine geschlossene Kette zwischen der KI-Ausgabe und der tatsächlichen Ausführung von Transaktionen herzustellen. Und d abei ging es um viel geld. Ihr dachtet, ihr seid klug und fleißig? Ja seid ihr, aber reich wird man damit heute nicht. Nach dem erfolgreichen Angriff tauschte der Angreifer die gestohlenen DRB-Token zunächst sehr schnell in die Kryptowährungen USDC und ETH um. Durch die Nachverfolgung der Community und des Bankr-Teams kam es im Anschluss zu Verhandlungen über die gestohlenen Gelder. Dies führte zu folgendem Ergebnis: - Rückgabe der Hauptsumme: Etwa 80 % bis 88 % des gestohlenen Wertes wurden durch diese Verhandlungen erfolgreich zurückgegeben, hauptsächlich in Form von USDC und ETH. - Inoffizielle "Bug Bounty": Der verbleibende Teil der Vermögenswerte wurde laut den Aussagen der beteiligten Parteien als informelle "Bug Bounty" (eine Belohnung für das Aufdecken der Sicherheitslücke) behandelt und durfte vom Angreifer behalten werden.