Kurze Frage vorweg: Wie oft hast du schon gezögert, etwas wirklich Persönliches in ChatGPT oder Gemini zu tippen? Den Arztbrief, den Vertragsentwurf, die Gehaltsverhandlung? Genau da wird's gerade richtig spannend. Google hat mit Gemma 4 12B ein neues KI-Modell veröffentlicht, das komplett lokal auf deinem Rechner läuft – ohne Cloud, ohne dass ein einziges Wort an einen Server geschickt wird. Und das Beste: Es braucht nur 16 GB RAM. Das hat heute fast jedes normale Notebook. Warum das ein größerer Deal ist, als es klingt: → Multimodal von Haus aus. Das Modell versteht Text, Bilder und als erstes Modell dieser Größe auch Audio – direkt, ohne Umwege. → Schnell und sparsam. Im Test von Heise hat es eine Aufgabe in rund 10 Minuten gelöst, für die ein vergleichbares älteres Modell über eine Stunde brauchte – und dabei nur ein Viertel der Tokens verbraucht. → Kostenlos und offen. Apache-2.0-Lizenz heißt: Du darfst es frei nutzen, auch geschäftlich. Kein Abo, keine Nutzungsgrenze. Der eigentliche Punkt für dich: Lokale KI ist die Antwort auf die zwei größten Bremsen, die Menschen vom KI-Einsatz abhalten – Datenschutz und laufende Kosten. Was auf deiner Festplatte bleibt, kann niemand mitlesen und für nichts trainieren. Und Win-win nebenbei: Wer lokal arbeitet, entlastet auch die völlig überlasteten Server der Anbieter. Genau deshalb pushen Google & Co. das Thema gerade so hart. Was du konkret tun kannst – heute noch: 1. Lade dir LM Studio (kostenlos, Mac & Windows) herunter – die einfachste Art, lokale Modelle ohne Technik-Frickelei zu starten. 2. Such im LM Studio nach „Gemma" und lade dir eine Variante, die zu deinem RAM passt. 3. Stell ihm eine echte Aufgabe, bei der du sonst zögerst – etwas Privates, Sensibles. Und spür den Unterschied, wenn nichts davon je dein Gerät verlässt. Lokale KI ist kein Ersatz für die großen Cloud-Modelle. Aber für alles, was vertraulich bleiben soll, ist sie ab jetzt eine ernsthafte Option für jeden – nicht nur für Nerds mit Gaming-PC.

Ich schreibe diesen Beitrag, weil ich zunehmend genervt bin, dass meine Prompts, die bisher sehr gute Ergebnisse erreicht haben, zunehmend schlechter von den Modellen umgesetzt werden, je neuer und "more advanced" diese sind. Jedenfalls ist das mein subjektiver Eindruck und ich wüsste gern von Euch Lesern, ob sich das mit Euren Erfahrungen deckt. Ein Beispiel: Bei Claude 4.8 mit hohem Aufwand macht das Modell immer wieder denselben Fehler in jedem neubegonnenen Chat, obwohl ich das mittlerweile auf alle möglichen Arten und Weisen im Hintergrund korrigiert habe. Resultat ist jedes Mal, dass ich immer wieder aufs Neue auf den Fehler hinweise, und immer wieder dieselben Entschuldigungen kommen, dass das nicht meine Schuld sei, sondern der Fehler bei Claude liegen würde, usw. usw. Und die Ratschläge zum Abstellen des Fehlers funktionieren auch bisher sämtlich nicht. Nutze ich Claude Sonnet 4.6, passiert der Fehler erst gar nicht. Kann das sein, bzw. warum ist das so? Ich gehe doch eigentlich davon aus, dass die neueren Modelle in allem leistungsfähiger sind. Bin auf Eure Erfahrungen und Beobachtungen gespannt. Beste Grüße, -Thomas Lienenbröker

Hallo Zusammen, gestern habe ich zufällig den neuen Podcast des DLF zur Geschichte von OpenAI und Sam Altman gefunden: https://www.deutschlandfunk.de/die-peter-thiel-story-100.html?gad_source=1&gad_campaignid=23855710500&gbraid=0AAAAACjo7jqzmeoq9imPUierJIndad2CO&gclid=EAIaIQobChMI0djw_8DvlAMVUaWDBx09TjJ2EAAYASAAEgLK7fD_BwE Da kommen immer viele Insides und Zusammenhänge zu tage. Ich bin gespannt, welche Infos dieser Podcast alles hervorbringt, da sehr viele Insides aus dem Silicon Valley auch dargestellt werden. LG Michele