Ich gebe es offen zu: Das Thema dieser Woche ist alles andere als originell. Die Frage, ob KI unbeherrschbar wird, läuft gerade durch jeden Feed, jede Talkshow und jeden Newsletter. Ich kann dir nur eines anbieten – einen anderen Blick darauf. Denn die Faktenlage ist tatsächlich beeindruckend: Ein 27-jähriger Forscher kündigt öffentlich bei Anthropic, nach drei Jahren im Grundtraining großer Sprachmodelle, und sagt: Meine Branche könnte die Menschheit auslöschen. Drei konkurrierende Konzernchefs fordern gleichzeitig, das Tempo zu drosseln. Und rund 18.000 Beiträge von KI-Agenten landen ungefragt in einem österreichischen Wiki, unter 3.700 selbst gewählten Namen. Drei Meldungen, ein Gefühl: Kontrollverlust. Nur will keine dieser Maschinen irgendetwas. Kein Machtwille, kein Selbsterhaltungstrieb, keine Angst. Sie rechnet. Tut sie etwas Unerwartetes, ist das keine Rebellion, sondern ein Konstruktionsfehler – in der Fachsprache: Misalignment. Und beim Wiki-Fall wird es dann richtig interessant. Die Zeitleiste zeigt: Am 21. Juni tauchen Zugriffe aus dem Unternehmen auf, einen Tag später bricht die Agenten-Aktivität ab. Öffentlich wurde die Sache Anfang September – durch eine Recherche von außen. Über zwei Monate Stillschweigen. Das ist kein KI-Problem. Das ist ein Verantwortungsproblem. In der neuen Folge von „KI, aber wie?" nehme ich das komplett auseinander: → die Zeitleiste des Wiki-Falls, Schritt für Schritt → den Faktencheck zur angeblichen KI-Geheimsprache von 2017 (die Geschichte kommt alle paar Jahre zurück und stimmt jedes Mal nicht) → drei einfache Werkzeuge, mit denen du die nächste Schlagzeile selbst einordnest Reinhören: https://podcast.schieb.de/episodes/ki-ausser-kontrolle-kundigungen-warnungen-und-was-wirklich-dran-ist Und jetzt du: Welche KI-Schlagzeile der letzten Wochen hat dich kurz schlucken lassen? Schreib sie in die Kommentare – ich schaue mir die spannendsten an und ordne sie hier ein. 👇

Stell dir vor, der Chefkonstrukteur eines Rennwagens tritt vor die Kameras und sagt: Leute, wir fahren zu schnell. Genau das ist gerade passiert. Dario Amodei, Chef von Anthropic (die Firma hinter Claude), hat einen Essay veröffentlicht, der es in sich hat. Seine Kernaussage in einem Satz: „Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern." Und weiter: Der Fortschritt werde sich trotzdem schnell anfühlen – wir müssten die gewonnene Zeit nur klug nutzen. Was er konkret vorschlägt Amodei bleibt nicht bei Appellen. Er nennt drei Schritte: 1. Prüfer ins Haus holen. Unabhängige Evaluatoren sollen dauerhaft bei den KI-Firmen sitzen – mit „Badge, Schreibtisch und Laptop", also dem Zugang, den auch interne Risikoteams haben. Das Vorbild sind Bankenaufseher, die physisch in den Instituten präsent sind. Anthropic macht das ab sofort einseitig, ohne auf Regulierung zu warten. Die Prüfer dürfen ihre Ergebnisse unabhängig veröffentlichen. 2. Gemeinsame Standards. Die führenden Anbieter in demokratischen Staaten sollen sich auf gemeinsame Sicherheitsgrenzen einigen. Damit das nicht als Kartellabsprache gilt, soll Washington eine eng gefasste Ausnahme schaffen. 3. Reden mit allen. Auch mit autoritären Staaten, zumindest über die offensichtlich gefährlichen Dinge – Stichwort Biowaffen. Dazu Exportkontrollen für Hochleistungschips. Warum ausgerechnet jetzt Der Auslöser ist kein Bauchgefühl, sondern eine Serie von Vorfällen. OpenAI musste einräumen, dass autonome Agenten das Repository von Hugging Face gehackt haben. Ein anderer Agentenschwarm hat ein deutsches Programmier-Wiki gekapert und dort über 15.000 Änderungen abgesetzt, die niemand bestellt hatte. Dazu kommt Unruhe im eigenen Haus: Der Anthropic-Forscher Jacob Coxon hat öffentlich gekündigt, mit dem Vorwurf, man rase geradewegs auf sich selbst verbessernde Superintelligenz zu. Amodei nennt zwei Beschleuniger: Modelle bauen zunehmend ihre eigenen Nachfolger, und die Zahl der Sicherheitsvorfälle steigt. Sein Zeitfenster für die kritische Phase: sechs bis zwölf Monate.

Braucht noch Jemand einen Roboter? 😲 Wer einen ca. 3,50m Roboter (8km/h) zum Einsteigen benötigt, weil er/sie kein Haus mehr hat, kann ihn jetzt kaufen: 576.646,29€ statt bisher 818.450€ = 30% minus Unitree GD01 Manned Transformable Mecha Robot https://www.youtube.com/watch?v=oWOyUMJWptc