Ich gebe es offen zu: Das Thema dieser Woche ist alles andere als originell. Die Frage, ob KI unbeherrschbar wird, läuft gerade durch jeden Feed, jede Talkshow und jeden Newsletter. Ich kann dir nur eines anbieten – einen anderen Blick darauf. Denn die Faktenlage ist tatsächlich beeindruckend: Ein 27-jähriger Forscher kündigt öffentlich bei Anthropic, nach drei Jahren im Grundtraining großer Sprachmodelle, und sagt: Meine Branche könnte die Menschheit auslöschen. Drei konkurrierende Konzernchefs fordern gleichzeitig, das Tempo zu drosseln. Und rund 18.000 Beiträge von KI-Agenten landen ungefragt in einem österreichischen Wiki, unter 3.700 selbst gewählten Namen. Drei Meldungen, ein Gefühl: Kontrollverlust. Nur will keine dieser Maschinen irgendetwas. Kein Machtwille, kein Selbsterhaltungstrieb, keine Angst. Sie rechnet. Tut sie etwas Unerwartetes, ist das keine Rebellion, sondern ein Konstruktionsfehler – in der Fachsprache: Misalignment. Und beim Wiki-Fall wird es dann richtig interessant. Die Zeitleiste zeigt: Am 21. Juni tauchen Zugriffe aus dem Unternehmen auf, einen Tag später bricht die Agenten-Aktivität ab. Öffentlich wurde die Sache Anfang September – durch eine Recherche von außen. Über zwei Monate Stillschweigen. Das ist kein KI-Problem. Das ist ein Verantwortungsproblem. In der neuen Folge von „KI, aber wie?" nehme ich das komplett auseinander: → die Zeitleiste des Wiki-Falls, Schritt für Schritt → den Faktencheck zur angeblichen KI-Geheimsprache von 2017 (die Geschichte kommt alle paar Jahre zurück und stimmt jedes Mal nicht) → drei einfache Werkzeuge, mit denen du die nächste Schlagzeile selbst einordnest Reinhören: https://podcast.schieb.de/episodes/ki-ausser-kontrolle-kundigungen-warnungen-und-was-wirklich-dran-ist Und jetzt du: Welche KI-Schlagzeile der letzten Wochen hat dich kurz schlucken lassen? Schreib sie in die Kommentare – ich schaue mir die spannendsten an und ordne sie hier ein. 👇

Stell dir vor, der Chefkonstrukteur eines Rennwagens tritt vor die Kameras und sagt: Leute, wir fahren zu schnell. Genau das ist gerade passiert. Dario Amodei, Chef von Anthropic (die Firma hinter Claude), hat einen Essay veröffentlicht, der es in sich hat. Seine Kernaussage in einem Satz: „Wir müssen das Tempo drosseln, mit dem wir die Fähigkeiten von KI-Modellen verbessern." Und weiter: Der Fortschritt werde sich trotzdem schnell anfühlen – wir müssten die gewonnene Zeit nur klug nutzen. Was er konkret vorschlägt Amodei bleibt nicht bei Appellen. Er nennt drei Schritte: 1. Prüfer ins Haus holen. Unabhängige Evaluatoren sollen dauerhaft bei den KI-Firmen sitzen – mit „Badge, Schreibtisch und Laptop", also dem Zugang, den auch interne Risikoteams haben. Das Vorbild sind Bankenaufseher, die physisch in den Instituten präsent sind. Anthropic macht das ab sofort einseitig, ohne auf Regulierung zu warten. Die Prüfer dürfen ihre Ergebnisse unabhängig veröffentlichen. 2. Gemeinsame Standards. Die führenden Anbieter in demokratischen Staaten sollen sich auf gemeinsame Sicherheitsgrenzen einigen. Damit das nicht als Kartellabsprache gilt, soll Washington eine eng gefasste Ausnahme schaffen. 3. Reden mit allen. Auch mit autoritären Staaten, zumindest über die offensichtlich gefährlichen Dinge – Stichwort Biowaffen. Dazu Exportkontrollen für Hochleistungschips. Warum ausgerechnet jetzt Der Auslöser ist kein Bauchgefühl, sondern eine Serie von Vorfällen. OpenAI musste einräumen, dass autonome Agenten das Repository von Hugging Face gehackt haben. Ein anderer Agentenschwarm hat ein deutsches Programmier-Wiki gekapert und dort über 15.000 Änderungen abgesetzt, die niemand bestellt hatte. Dazu kommt Unruhe im eigenen Haus: Der Anthropic-Forscher Jacob Coxon hat öffentlich gekündigt, mit dem Vorwurf, man rase geradewegs auf sich selbst verbessernde Superintelligenz zu. Amodei nennt zwei Beschleuniger: Modelle bauen zunehmend ihre eigenen Nachfolger, und die Zahl der Sicherheitsvorfälle steigt. Sein Zeitfenster für die kritische Phase: sechs bis zwölf Monate.

Gerade geht ein Trick um, den ihr unbedingt ausprobieren solltet: Ihr ladet ein Foto in ChatGPT hoch, tippt ein einziges Wort mit Schrägstrich davor – zum Beispiel /droneview – und bekommt das Bild aus der Vogelperspektive zurück. Kein langer Prompt, keine Erklärung. Ein Wort reicht. Was steckt dahinter? Keine geheime Funktion. OpenAI hat diese Befehle nie eingebaut. ChatGPT versteht sie trotzdem, weil das Sprachmodell aus dem Kürzel schließt, was du willst. /droneview heißt für die KI eben: „Zeig mir die Szene von oben, wie aus einer Drohne fotografiert." Das ist kein Denken, das ist Statistik. Aber sie funktioniert erstaunlich gut. Der Trick klappt übrigens genauso in Gemini. Und wenn ein Ergebnis mal nicht passt, hängst du einfach einen Halbsatz an: /droneview, aber bitte bei Sonnenuntergang. Die zwölf besten Befehle 1. /droneview Deine Szene aus der Luft. Aus dem Strandfoto wird eine Aufnahme, als wäre eine Drohne über euch geflogen. ChatGPT erfindet dabei die Umgebung dazu – das Ergebnis ist also eine plausible Vermutung, kein echtes Luftbild. 2. /proshot Macht aus dem Handyfoto ein Bild, das aussieht wie von einem Profifotografen: bessere Ausleuchtung, Tiefenschärfe, sauberer Bildaufbau. Der Klassiker für Profilbilder. 3. /hdreal Schärft, entrauscht, holt Details raus. Gut für alte oder verwackelte Aufnahmen. Aber Vorsicht: Die KI rechnet Details hinzu, die im Original nicht drin waren. 4. /newbg Neuer Hintergrund. Die Person bleibt, die Kulisse wird ausgetauscht. Mit Zusatz wird es konkret: /newbg Büro, /newbg Berge, /newbg neutral weiß. 5. /fog Legt Nebel über die Szene. Klingt nach Spielerei, wirkt aber richtig stimmungsvoll – besonders bei Landschaften und Städten am Morgen. 6. /goldenhour Taucht das Foto in warmes Abendlicht mit langen Schatten. Damit wird aus einem Mittagsfoto mit hartem Licht eine Aufnahme, die aussieht wie eine Stunde vor Sonnenuntergang. 7. /closeup Zoomt eng auf das Wichtigste im Bild – ein Gesicht, ein Objekt, ein Detail. Praktisch, wenn das Motiv im Original zu klein geraten ist.

Kurze Geschichte, die zeigt, wo unser Rechtssystem gerade an der KI vorbeiläuft. Das Biotech-Unternehmen Insilico Medicine hat mit generativen KI-Modellen einen Wirkstoff gegen idiopathische Lungenfibrose entwickelt: Rentosertib, ein sogenannter TNIK-Inhibitor. Die KI hat nicht nur beim Sortieren geholfen – sie hat das Zielprotein vorgeschlagen und die Moleküle entworfen. Und das ziemlich schnell: Vom Ziel bis zum fertigen Wirkstoffkandidaten vergingen 12 bis 18 Monate. Klassisch dauert dieser Schritt zweieinhalb bis vier Jahre. Und es funktioniert offenbar. In der Phase-IIa-Studie mit 71 Patientinnen und Patienten legte die Lungenfunktion nach zwölf Wochen bei der höchsten Dosis um 98,4 Milliliter zu – während sie in der Placebo-Gruppe um 20,3 Milliliter absackte. Veröffentlicht in „Nature Medicine". Phase III läuft. Der Haken steckt im Patentantrag Insilico beschreibt die eigene KI-Plattform öffentlich als diejenige, die das Molekül „entdeckt" hat. Im Patent stehen als Erfinder: fünf Menschen. Von der KI kein Wort. Das ist kein Betrug, sondern schlicht die Rechtslage. In den USA können nur natürliche Personen Erfinder sein – seit dem Urteil Thaler v. Vidal ist das gerichtsfest. Das US-Patentamt hat seine Regeln dazu Ende 2025 sogar noch einmal nachgeschärft: KI-Systeme gelten ausdrücklich als Werkzeug, rechtlich auf einer Stufe mit einem Laborgerät oder einer Datenbank. Ein Mikroskop wird ja auch nicht als Miterfinder eingetragen. Warum das trotzdem knirscht Die Werkzeug-Logik trägt, solange der Mensch die zündende Idee hat und die Maschine nur ausführt. Bei Insilico verschiebt sich das Verhältnis. Der Journalist Antonio Regalado bringt es auf den Punkt: KI-Modelle erzeugen atomare Strukturen für Medikamente inzwischen fast so beiläufig, wie ChatGPT eine Dankeskarte schreibt. Wenn der menschliche Beitrag irgendwann nur noch aus Prompt, Auswahl und Unterschrift besteht – wer ist dann Erfinder? Aktuell: derjenige, der die Formulare unterschreibt. Das ist keine juristische Spitzfindigkeit. Patente sollen Erfindungen belohnen und dadurch neue anstoßen. Wenn unklar wird, wem eine Erfindung gehört, wird auch unklar, wer die Milliarden für Studien vorstreckt.

Stell dir vor, du lieferst deinem größten Kunden nicht ganz das, was er verlangt. Und der sperrt dich daraufhin vom gesamten Markt aus. Genau das ist Anthropic passiert, der Firma hinter Claude. Jetzt steht fest: Die Aktion war rechtswidrig. Was passiert ist Im Februar wollte das US-Verteidigungsministerium Claude für „alle rechtmäßigen Zwecke" einsetzen. Anthropic zog zwei Linien: keine Massenüberwachung von US-Bürgern, keine vollautonomen tödlichen Waffen. Daran platzte ein Vertrag über rund 200 Millionen Dollar. Die Retourkutsche kam prompt. Verteidigungsminister Pete Hegseth stufte Anthropic als „Lieferkettenrisiko" ein – ein Paragraf, der eigentlich vor Sabotage durch ausländische Zulieferer schützen soll und hier zum ersten Mal öffentlich gegen ein US-Unternehmen zum Einsatz kam. Präsident Trump wies Bundesbehörden an, Claude nicht mehr zu nutzen. Für Anthropic standen Milliarden auf dem Spiel. Am 28. August hat Bundesrichterin Rita Lin in San Francisco das auf 59 Seiten kassiert: grundlos und rechtswidrig. Ihr Kernsatz: „Der leere Verweis auf die nationale Sicherheit ist kein Freibrief, um Kritiker der Regierung zu bestrafen und sich an ihnen zu rächen." Ein Detail aus dem Urteil sagt viel: Das Pentagon arbeitete weiter mit Anthropic, während es die Firma offiziell als Sicherheitsrisiko führte. Fast 150 ehemalige Richterinnen und Richter hatten Anthropic im Verfahren den Rücken gestärkt. Die Regierung will in Berufung gehen – das letzte Wort ist noch nicht gesprochen. Was das für dich heißt Ein US-Rechtsstreit über Militärverträge klingt weit weg von deinem Alltag mit KI. Ist er nicht. Drei Dinge nimmst du mit: Nutzungsbedingungen sind keine Deko. Jeder Anbieter schreibt in seine Regeln, wofür seine KI nicht benutzt werden darf. Bei den meisten steht das da, weil es gut aussieht. Hier hat eine Firma diese Regeln gegen ihren mächtigsten Kunden durchgezogen und dafür ein Vermögen riskiert. Das ist der Unterschied zwischen Marketing und Haltung – und du kannst ihn ab jetzt nachprüfen, statt ihn zu glauben.