Neues Video über die lokale Prompt API im Browser. Gut möglich, dass in Zukunft standardmäßig diese verwendet wird, denn es hat diverse Vorteile: keine API Kosten, keine Daten gehen raus, kürzere Latenz. Im Moment braucht man noch einigermaßen gute Hardware, aber auch nichts Herausragendes (mein M1 Pro reicht locker und die Antwort kommt schnell genug. Kontextgröße ist noch begrenzt, aber schon brauchbar (9K Tokens).