Hey! Wie erstellt ihr aktuell das perfekte UGC KI Video? Bisher finde ich Google Omni am besten von der Lipsync, aber die Audio gefällt mir bisher noch nicht so. Seedance auf deutsch ist meiner Erfahrung nach noch nicht so weit... Freue mich über den Austausch!

# Praxistest lokaler KI-Modelle auf einer GTX 1080 Ti ## Ausgangslage Auf meinem Rechner sollte geprüft werden, ob lokale KI-Modelle zukünftig einen größeren Teil der Aufgaben meiner Programme übernehmen können. Im Mittelpunkt standen dabei: - allgemeine Texterstellung - Songtexte und kreative Texte - Bildanalyse und OCR - Werkzeugaufrufe und Planungsaufgaben - fotorealistische Bilder - vollständige Coverbilder - komplexe Aufgaben mit mehreren Bedingungen Bisher laufen anspruchsvolle Aufgaben über Hermes zu Codex/OpenAI. Die lokalen Modelle sollten deshalb nicht nur irgendwie funktionieren, sondern stabil, schnell und qualitativ zuverlässig genug für einen produktiven Einsatz sein. ## Vorhandene Hardware Getestet wurde auf folgendem System: - Intel Core i9-9900K - 8 Kerne und 16 Threads - 32 GB Arbeitsspeicher - NVIDIA GTX 1080 Ti - 11 GB Grafikspeicher - Ollama 0.32.3 - ComfyUI 0.28.0 Die GTX 1080 Ti besitzt keine modernen Tensor-Kerne, kann aktuelle quantisierte Sprachmodelle und SDXL-Bildmodelle aber weiterhin über CUDA beschleunigen. Bei Sprachmodellen können Grafikkarte, CPU und Arbeitsspeicher zusammenarbeiten. Sobald ein Modell nicht vollständig in den Grafikspeicher passt, werden Teile auf CPU und RAM ausgelagert. Das funktioniert, wird aber deutlich langsamer. Bei der Bilderzeugung ist die Grafikkarte wesentlich entscheidender. Die vielen CPU-Threads helfen dort nur begrenzt. ## Test der lokalen Sprachmodelle Verglichen wurden: - `qwen3-vl:8b-instruct` - `qwen3.5:9b` Ollama wurde dafür mit folgenden Einstellungen betrieben: - 65.536 Kontext-Tokens - Flash Attention aktiviert - quantisierter `q8_0`-Kontextcache Beide Modelle erhielten identische Aufgaben: - einfache Textlogik - strukturierter Werkzeugaufruf - Bildanalyse und OCR - schwierigere Planung mit festen Terminen und Konflikten - Messung von Geschwindigkeit und Speicherauslastung ### Messergebnisse Qwen3‑VL 8B vs. Qwen 3.5 9B Einfache Textlogik: beide korrekt Werkzeugaufruf: beide korrekt

Hat jemand Erfahrung mit dem Ding? Überlege mir das eventuell zu kaufen für lokale Lmm, sensible Kundendaten sollen damit verarbeitet werden.

Anthropic hat gerade mit Fable 5 und Mythos 5 zwei neue Modelle rausgebracht: https://www.anthropic.com/news/claude-fable-5-mythos-5 Hier über API: https://www.requesty.ai/models oder Cursor oder in Claude Desktop! Bis 22 Juni !! Auf gehts! aber Token Kosten 2* Opus4.8

Ich habe mich jetzt mal ein bisschen mit Codex beschäftigt, weil es in meinem ChatGPT-Abo mit drin ist. Und ich muss sagen: Für jemanden wie mich, der kein Entwickler ist, ist schon erstaunlich, was damit möglich ist. Angefangen habe ich mit einem kleinen Python-Programm mit Oberfläche. Das war eher aus der Not heraus, weil ich Barcodes testen musste. Die Besonderheit dabei: Die Barcode-Scanner werden nicht als normales Tastaturgerät angesprochen, sondern als POS-Geräte, also Point-of-Service-Geräte. Danach habe ich mich an einer kleinen Web-App versucht: ein einfaches Kniffel-Spiel. Nachdem das grundsätzlich gut funktioniert hat – naja, die Würfelanimation hat mich etwas auf Trab gehalten – habe ich das Ganze als APK erstellen lassen, damit es auch als App auf meinem Tablet läuft. Aktuell spiele ich gerade damit, einen lokalen Webserver einzurichten, um das Thema Webanwendungen besser zu verstehen. Was mich jetzt besonders interessiert: Wo liegen eigentlich die großen Unterschiede zwischen Codex und der Claude-Lösung, die hier von euch beschrieben wird?