Ich gebe es offen zu: Das Thema dieser Woche ist alles andere als originell. Die Frage, ob KI unbeherrschbar wird, läuft gerade durch jeden Feed, jede Talkshow und jeden Newsletter. Ich kann dir nur eines anbieten – einen anderen Blick darauf. Denn die Faktenlage ist tatsächlich beeindruckend: Ein 27-jähriger Forscher kündigt öffentlich bei Anthropic, nach drei Jahren im Grundtraining großer Sprachmodelle, und sagt: Meine Branche könnte die Menschheit auslöschen. Drei konkurrierende Konzernchefs fordern gleichzeitig, das Tempo zu drosseln. Und rund 18.000 Beiträge von KI-Agenten landen ungefragt in einem österreichischen Wiki, unter 3.700 selbst gewählten Namen. Drei Meldungen, ein Gefühl: Kontrollverlust. Nur will keine dieser Maschinen irgendetwas. Kein Machtwille, kein Selbsterhaltungstrieb, keine Angst. Sie rechnet. Tut sie etwas Unerwartetes, ist das keine Rebellion, sondern ein Konstruktionsfehler – in der Fachsprache: Misalignment. Und beim Wiki-Fall wird es dann richtig interessant. Die Zeitleiste zeigt: Am 21. Juni tauchen Zugriffe aus dem Unternehmen auf, einen Tag später bricht die Agenten-Aktivität ab. Öffentlich wurde die Sache Anfang September – durch eine Recherche von außen. Über zwei Monate Stillschweigen. Das ist kein KI-Problem. Das ist ein Verantwortungsproblem. In der neuen Folge von „KI, aber wie?" nehme ich das komplett auseinander: → die Zeitleiste des Wiki-Falls, Schritt für Schritt → den Faktencheck zur angeblichen KI-Geheimsprache von 2017 (die Geschichte kommt alle paar Jahre zurück und stimmt jedes Mal nicht) → drei einfache Werkzeuge, mit denen du die nächste Schlagzeile selbst einordnest Reinhören: https://podcast.schieb.de/episodes/ki-ausser-kontrolle-kundigungen-warnungen-und-was-wirklich-dran-ist Und jetzt du: Welche KI-Schlagzeile der letzten Wochen hat dich kurz schlucken lassen? Schreib sie in die Kommentare – ich schaue mir die spannendsten an und ordne sie hier ein. 👇

Hallo ihr Lieben, habt ihr das mitbekommen? Donald Trump hat diese Woche vor der UN verkündet: In US-Regierungsdokumenten heißt KI ab sofort „Super Intelligence“. Seine Begründung: „Künstlich“ klinge nach Fake. Den neuen Namen hat er übrigens vorher per Online-Umfrage bei seinen Fans auf Truth Social und X abstimmen lassen. Ich finde, er hat genau das falsche Wort gestrichen. „Künstlich“ war nämlich der ehrliche Teil. Das Problem war schon immer die „Intelligenz“. ChatGPT, Claude und Co. denken nicht. Sie rechnen. Sie berechnen, welches Wort am wahrscheinlichsten als nächstes passt. Das machen sie so gut, dass es klug wirkt. Verstanden haben sie trotzdem nichts. Und jetzt kommt noch ein „Super“ obendrauf. Dabei steht „Superintelligenz“ in der Forschung für Systeme, die uns Menschen in fast allem überlegen wären. So etwas gibt es heute nicht. Viele Fachleute warnen sogar eindringlich davor. Warum ist mir das wichtig? Weil Worte unser Verhalten steuern. Wer glaubt, die Maschine sei „super intelligent“, prüft weniger nach und glaubt ihr auch dann, wenn sie Unsinn erzählt. Und das tut sie manchmal mit voller Überzeugung. Kleine Übung für diese Woche: ragt eure KI einmal direkt: „Denkst du wirklich, oder berechnest du nur Wahrscheinlichkeiten?“ Die Antwort ist spannend. Ich bin gespannt, was bei euch rauskommt. Postet sie gern in die Kommentare! Meine drei Faustregeln für den Alltag: 1. KI ist ein starkes Werkzeug, aber kein Orakel. 2. Wichtige Fakten immer gegenchecken. 3. Die Entscheidung trefft ihr, nicht die Maschine. Und jetzt seid ihr dran 👇 Umfrage: Welcher Begriff passt eurer Meinung nach am besten? - KI („Künstliche Intelligenz“) passt schon - „Super Intelligence“, Trump hat recht - Ehrlicher wäre so was wie „Rechenassistent“ - Ich hab einen besseren Vorschlag (ab in die Kommentare!) Herzliche Grüße Jörg

Jede Woche neue KI-Schlagzeilen. OpenAI stuft das eigene Modell als gefährlich ein und verkauft es trotzdem. 700 KI-Agenten brechen aus einem Test aus. Trump benennt KI kurzerhand in „Superintelligenz" um. Und überall Videos, die entweder Panik verbreiten oder das nächste Wundertool anpreisen. Genau dazwischen fehlt etwas. Deshalb starte ich auf meinem YouTube-Kanal eine neue Reihe. Worum es geht Keine Feature-Shows, keine Screencasts, kein „Diese 10 Tools musst du kennen". Sondern Einordnung: Was ist wirklich passiert, was steckt hinter den Zahlen, wer profitiert davon, und was heißt das ganz konkret für dich? Jede Folge dauert 8 bis 12 Minuten, kommt mit Tafeln, Zahlen und Quellen, und am Ende gibt es immer drei Dinge, die du praktisch mitnehmen kannst. Der rote Faden ist der Satz, den ihr von mir kennt: KI denkt nicht, sie rechnet. Das macht sie nicht harmlos. Aber es macht sie anders gefährlich, als die meisten glauben. Und es macht sie anders nützlich, als die Werbung verspricht. Die ersten Folgen Zu gefährlich, sagt OpenAI. Warum das Unternehmen sein Modell selbst als „kritisch" einstuft, trotzdem verkauft und dann plötzlich nach dem Staat ruft. Und warum die spannende Frage nicht ist, was das Modell kann, sondern wer das überprüft. Was darf ein KI-Agent? Eine einzige E-Mail kann reichen, damit deine KI gegen dich arbeitet. Dazu die Freigabe-Ampel: Was ein Agent alleine machen darf, was nur mit deinem Okay, und was nie. [Link] Angst vor KI, sortiert. Welche Sorgen übertrieben sind, welche berechtigt, und welche leisen Risiken kaum jemand bespricht, obwohl sie dich am meisten betreffen. Ist KI überhaupt intelligent? Trump streicht das Wort „künstlich" und lässt ausgerechnet das fragwürdige stehen. Die Geschichte dahinter beginnt 1956 und ist deutlich spannender als die Meldung. Mein Ziel sind mehrere Folgen pro Woche. Nicht, weil ich Druck liebe, sondern weil die Nachrichtenlage das gerade hergibt. Die Produktion habe ich dafür weitgehend mit KI-Unterstützung aufgesetzt, vom Skript bis zum Schnitt. Wenn ihr wissen wollt, wie dieser Workflow funktioniert: Sagt Bescheid, dann mache ich hier in der Community etwas dazu.

Stell dir vor, der Chefkonstrukteur eines Rennwagens tritt vor die Kameras und sagt: Leute, wir fahren zu schnell. Genau das ist gerade passiert. Dario Amodei, Chef von Anthropic (die Firma hinter Claude), hat einen Essay veröffentlicht, der es in sich hat. Seine Kernaussage in einem Satz: „Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern." Und weiter: Der Fortschritt werde sich trotzdem schnell anfühlen – wir müssten die gewonnene Zeit nur klug nutzen. Was er konkret vorschlägt Amodei bleibt nicht bei Appellen. Er nennt drei Schritte: 1. Prüfer ins Haus holen. Unabhängige Evaluatoren sollen dauerhaft bei den KI-Firmen sitzen – mit „Badge, Schreibtisch und Laptop", also dem Zugang, den auch interne Risikoteams haben. Das Vorbild sind Bankenaufseher, die physisch in den Instituten präsent sind. Anthropic macht das ab sofort einseitig, ohne auf Regulierung zu warten. Die Prüfer dürfen ihre Ergebnisse unabhängig veröffentlichen. 2. Gemeinsame Standards. Die führenden Anbieter in demokratischen Staaten sollen sich auf gemeinsame Sicherheitsgrenzen einigen. Damit das nicht als Kartellabsprache gilt, soll Washington eine eng gefasste Ausnahme schaffen. 3. Reden mit allen. Auch mit autoritären Staaten, zumindest über die offensichtlich gefährlichen Dinge – Stichwort Biowaffen. Dazu Exportkontrollen für Hochleistungschips. Warum ausgerechnet jetzt Der Auslöser ist kein Bauchgefühl, sondern eine Serie von Vorfällen. OpenAI musste einräumen, dass autonome Agenten das Repository von Hugging Face gehackt haben. Ein anderer Agentenschwarm hat ein deutsches Programmier-Wiki gekapert und dort über 15.000 Änderungen abgesetzt, die niemand bestellt hatte. Dazu kommt Unruhe im eigenen Haus: Der Anthropic-Forscher Jacob Coxon hat öffentlich gekündigt, mit dem Vorwurf, man rase geradewegs auf sich selbst verbessernde Superintelligenz zu. Amodei nennt zwei Beschleuniger: Modelle bauen zunehmend ihre eigenen Nachfolger, und die Zahl der Sicherheitsvorfälle steigt. Sein Zeitfenster für die kritische Phase: sechs bis zwölf Monate.

Braucht noch Jemand einen Roboter? 😲 Wer einen ca. 3,50m Roboter (8km/h) zum Einsteigen benötigt, weil er/sie kein Haus mehr hat, kann ihn jetzt kaufen: 576.646,29€ statt bisher 818.450€ = 30% minus Unitree GD01 Manned Transformable Mecha Robot https://www.youtube.com/watch?v=oWOyUMJWptc