Activity
Mon
Wed
Fri
Sun
Dec
Jan
Feb
Mar
Apr
May
Jun
Jul
Aug
Sep
Oct
Nov
What is this?
Less
More
33 contributions to Die KI-BUSINESS Lounge ...
LM Studio: Lokale KI-Modelle für Datenschutz, Flexibilität und Vielseitigkeit
Ich bin doch immer wieder überrascht, welche Möglichkeiten es gibt LLM auf dem eigenen Rechner zu installieren und vielfältig zu testen ohne gleich Gebühren zu bezahlen. LM Studio ist eine solche benutzerfreundliche Desktop-Anwendung, die es Nutzern ermöglicht, lokale KI-Sprachmodelle (Large Language Models, LLMs) auf ihrem eigenen Computer auszuführen und zu verwenden Hier sind die wichtigsten Funktionen und Vorteile: Einfache Installation und Bedienung LM Studio ist für Windows, Linux und Macs mit Apple Silicon verfügbar. Nach der Installation können Nutzer mit wenigen Klicks ein KI-Modell herunterladen und starten. Die Benutzeroberfläche ist intuitiv gestaltet und bietet verschiedene Ansichtsmodi für unterschiedliche Nutzergruppen, von Anfängern bis hin zu Entwicklern. Lokale Ausführung von KI-Modellen Der Hauptnutzen von LM Studio liegt in der Möglichkeit, KI-Modelle lokal auf dem eigenen Rechner auszuführen. Dies bietet mehrere Vorteile: 1. Datenschutz: Da die Daten nicht an externe Server gesendet werden, bleibt die Kontrolle über sensible Informationen beim Nutzer 2. Keine Abokosten: Im Gegensatz zu vielen Cloud-basierten KI-Diensten fallen keine laufenden Kosten an 3. Offline-Nutzung: Nach der Einrichtung kann der Chatbot auch ohne Internetverbindung verwendet werden. Vielseitige Anwendungsmöglichkeiten LM Studio ermöglicht verschiedene Einsatzszenarien: - Textgenerierung: Nutzer können Fragen stellen und Texte generieren lassen, ähnlich wie bei ChatGPT - Dokumentenanalyse: Die Software unterstützt das Hochladen und Analysieren von Dokumenten in verschiedenen Formaten (PDF, Word, CSV, TXT) - Bildanalyse: Bei Verwendung entsprechender Modelle können auch Bilder verarbeitet und analysiert werden Anpassungsmöglichkeiten LM Studio bietet Optionen zur Anpassung und Optimierung: - Modellauswahl: Nutzer können verschiedene KI-Modelle von Plattformen wie Hugging Face herunterladen und testen - Systemprompt-Anpassung: Die Ausgabe des KI-Modells kann durch Anpassung des Systemprompts beeinflusst werden. - Leistungsoptimierung: Fortgeschrittene Nutzer können Einstellungen vornehmen, um die Leistung zu verbessern
LM Studio: Lokale KI-Modelle für Datenschutz, Flexibilität und Vielseitigkeit
0 likes • Jan '25
@Franz Gresser welche Größen und Modelle mit welchen Vorstellungen/Anforderungen schweben Dir konkret vor? Ich hab das Thema (mit Memory Footprint) noch nicht näher vertieft, wenngleich die Standard 7B/8B Modelle auf meinem Laptop immer leicht gepasst haben und die 70B bereits gut außer Reichweite waren (würden selbst 128GB RAM nicht reichen, wenn ich‘s richtig gesehen habe). Und ja, von den „Kleinen“ Open Source-Modellen sind vielleicht mehrere möglich. Gute Spezialisierung macht sicher was aus. RAG on top ist im Vergleich zum Foundation Model wohl das geringere Übel. Was mich reizen würde wäre das Llama 3.3 https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct lokal am Macbook … derzeit sehe ich nur eine 70B Modellvariante, aber vielleicht geht‘s mit Quantization. Für Firmen, die LLM‘s auf eigenen Servern betreiben wird das aber nicht so ins Gewicht fallen, da sind dann 256GB RAM keine Schwierigkeit mehr (im Vergleich zum eigenen Laptop ;-)) Würde mich interessieren wer da schon mehr Erfahrungen hat (ohne zwingend auf Cloud Provider zu gehen). … und für jetzt mal vielleicht auf das Llama 3.2 11B Modell gehen, das anscheinend mit 24GB RAM auskommt (das probier ich demnächst mal) - https://www.perplexity.ai/search/wieviel-ram-braucht-das-meta-l-XY5dadDzS_KkQ6eL522pGQ
1 like • Jan '25
@Franz Gresser danke für die Info. Schau ich mir mal bei Zeiten an.
LLM Use Case Bibliothek
In LinkedIn habe ich gerade einen interessanten Beitrag gelesen. Da wir ja gelernt haben KI von der Anwendung her zu sehen, ist diese Bibliothek bestimmt interessant für Euch. Sie ist zwar auf Englisch, aber das dürfte ja kein großes Problem sein. Hier der Auszug aus dem Beitrag mit dem entsprechenden Link zur Bibliothek: ————- Die LLM Use Case Bibliothek ist ein Katalog mit 35 bereits realisierbaren Geschäftsanwendungen (Use Cases) von großen KI-Sprachmodellen (Large Language Models, LLMs), wie sie im OpenGPT-X Projekt entwickelt werden. „Mit der Anwendungsfallbibliothek wollen wir das Geschäftspotenzial großer KI-Sprachmodelle über ein breites Spektrum von Geschäftsfunktionen und Branchen hinweg aufzeigen, indem wir ihr jeweiliges wirtschaftliches Potenzial, Make-or-Buy-Überlegungen aber auch mögliche Implementierungsrisiken und -herausforderungen in einem strukturierten und leicht verständlichen Format darstellen." Zu den Use Cases https://lnkd.in/egBJ4VGG ——- Hier der Link zum Beitrag von Matthias Kind
2 likes • Jan '25
Danke für die Info, @Stefan Hoffmann ! Also für eine europäische KI-Offensive dürfte man neben so einer Liste sicher etwas mehr (KI-Bildungsauftrag) erwarten, bspw. Beispiel-/Referenzimplentierungen mit Open Source-Codebase zB in GitHub-Repositories, interaktive Notebooks a la Google Colab zum direkt ausprobieren/nachempfinden. Sollen sich einfach mal ein Beispiel am KI Café, oder manchen YouTubern nehmen, die sowas machen und „raushauen“. Vorallem im Wissen, dass da ohnehin noch genug Arbeit dahintersteckt, wenn der KI Use Case produktiv laufen und positive Wertbeiträge liefern soll (neben dem Invest).
2024 ... und DIE KOERTINGS ... sind Geschichte 🤷🏼‍♂️
Was war das für ein Jahr 2024 ... 365 Tage ... 8.760 Stunden ... 525.600 Minuten ... 31.536.000 Sekunden ... na ja, ein paar haben wir ja noch ... Und wenn man uns vor einem Jahr gesagt hätte, was dieses Jahr alles mit sich bringt ... an Höhen und Tiefen ... dann hätte ich alle da draußen für verrückt erklärt ... und das ist jetzt vorbei ... mit dem Jahr ... und ... auch mit uns. Aber ganz der Reihe nach ... Zu den Highlights gehören sicherlich … 🔥… zum ersten Mal haben wir im KI-Café, unserem wöchentlich wiederkehrenden, offenen, Online-Format für alle KI-Enthusiasten, die Marke von >300 Teilnehmern geknackt ... damit wohl eines der reichweitenstärksten, wöchentlich wiederkehrenden Formate zu diesem Thema im deutschsprachigen Raum. 🔥 … seit September initiiert ... und bereits knapp 1.000 Mitglieder in unserer KI-Lounge (das ist das hier 🤣) ... die das KI-Café flankierende offene Skool Community ... und auch hier eine der interaktivsten Communities zu diesem Thema. 🔥 … mit der erfolgreichen ISO 9.001 Zertifizierung haben wir am eigenen Beispiel gezeigt, dass KI durchaus effektiv, effizient und qualitätsorientiert eingesetzt werden kann ... und das alles mit Bordmitteln. Wir sind mit 10 Wochen, von der Idee bis zur Empfehlung, eines der am schnellsten erstzertifizierten ISO 9.001 Unternehmen in Deutschland (kein Dödelzertifikat, sondern das echte). 🔥 .. mit unserem KI-Kickstart (Du suchst den Einstieg) ... mit der KI-Masterclass (Du meinst es ernst) ... mit dem KI-BusinessLab (Du willst mit und durch KI wachsen) ... mit dem Inner Circle (Du suchst ein Umfeld und 1:1-Betreuung) ... und mit der TUEV-zertifizierten Ausbildung zum KI-Strategieberater (übrigens auch Kompass-gefördert) ... haben wir nicht nur unzählige Kunden gewonnen, sondern auch ein grandioses Fundament für die Zukunft gelegt. 🔥… KI hält langsam aber sicher Einzug in die Unternehmen und ruft Mitarbeiter, Selbstständige und Unternehmer auf den Plan, sich endlich mit dem Thema zu beschäftigen... und entwickelt sich nun aus der LinkedIn-Blase heraus in echte Geschäftsmodelle, die daraus entstehen können.
2024 ... und DIE KOERTINGS ... sind Geschichte 🤷🏼‍♂️
2 likes • Jan '25
Super Sache, toller Name, mega Ankündigung (trotz click bait ;-)) … wünsche viel Erfolg mit diesem „unverfänglichen“ und unverwechselbaren Namen (sofern nicht abgekürzt ;-))! Team Körtings, you rock! 🔥
Ein Leitfaden zur Entwicklung einer KI-Strategie
Um die KI-Ambitionen zu erfüllen, müssen Unternehmen von Pilotprojekten und Experimenten zu einer unternehmensweiten Einführung übergehen. Obwohl es optimistische Vorhersagen über den Einfluss von KI auf das Wirtschaftswachstum und die Automatisierung gibt, stehen Unternehmen vor großen Herausforderungen bei der flächendeckenden Implementierung von KI. Der Bericht untersucht den aktuellen Stand der KI-Einführung in Unternehmen und bietet einen Leitfaden zur Entwicklung einer KI-Strategie. Highlights - 95% der befragten Unternehmen nutzen bereits KI, aber 76% haben sie nur in 1-3 Anwendungsfällen eingesetzt. - 90% der Befragten erwarten für 2024 eine Erhöhung der KI-Ausgaben für Datenbereitschaft und angrenzende Bereiche. - Datenflüssigkeit ist eines der wichtigsten Attribute für die KI-Einführung. - Datenqualität ist die größte Einschränkung bei der KI-Einführung, insbesondere für größere Unternehmen. - 98% der Organisationen sind bereit, nicht die Ersten bei der KI-Nutzung zu sein, um eine sichere Einführung zu gewährleisten. - Governance, Sicherheit und Datenschutz sind die größten Bremsen für die Geschwindigkeit der KI-Einführung. Hier ist der Link für den Leitfaden: https://www.technologyreview.com/2024/08/05/1095447/a-playbook-for-crafting-ai-strategy/
0 likes • Dec '24
Danke Detlef! 🙏
Christian Holler-Berger: About me
Hallo liebe Community-Mitglieder! Ich heiße Christian, bin 56 Jahre alt und lebe in Wien. Ich bin seit 25 Jahren verheiratet und Vater einer wundervollen 24-jährigen Tochter, die in Vancouver (Kanada) lebt. Während meiner 40-jährigen Berufserfahrung bei Siemens habe ich verschiedene Stationen durchlaufen: Ich war IT-Servicetechniker im Banken- und Versicherungsbereich, habe für Advertising und Sales Promotion (AT & SEE) gearbeitet und war 20 Jahre lang in der Unternehmenskommunikation tätig. Seit Oktober 2019 bin ich als zertifizierte Sicherheitsfachkraft im Bereich Arbeitssicherheit aktiv. Die zunehmende Digitalisierung und der Einsatz von künstlicher Intelligenz im Bereich Arbeitssicherheit haben mein Interesse geweckt. Für die Zeit nach meiner Siemens-Karriere (mein Pensionsantrittsdatum ist der 01.04.2033) plane ich, mich selbstständig zu machen. Bereits jetzt entwickle ich Software-Roboter auf Basis von UiPath und KNIME, die mir ungeliebte und langweilige Aufgaben wie die Auswertung von Arbeitsunfällen abnehmen. Aktuell absolviere ich die Ausbildung zum AI-Trainer beim AI Trainings Institute (inkl. TÜV-Zertifizierung im Frühjahr 2025). 😊 Ich überlege auch, ob ich danach noch die Ausbildung zum AI Consultant anstrebe, da meine ursprünglichen Wurzeln ja in der IT sind. 😉 Ich freue mich, viele interessante und gleich gesinnte Menschen hier kennenzulernen! Alles Gute und viele Grüße aus Wien, Christian Mein LinkedIn-Profil: https://www.linkedin.com/in/holler-berger/
3 likes • Dec '24
Hallo Christian, schön, hier Verstärkung aus Österreich zu bekommen! ;-) Können gerne auch mal einen physischen KI Café-Treff anpeilen. Zu mir findest Du mehr auf LinkedIn und in meiner Vorstellungsnachricht hier in der Community. Herzliches Willkommen aus Wien, Christian
1-10 of 33
Christian Mata
4
68 points to level up
@christian-mata-6100
Data & AI Guide & Business Analyst. Brücken bauen zw. Business & IT. Von Ideen zu Anwendungsfällen, Prototypen & Dateneinsatz mit KI, BI & Reporting.

Online now
Joined Sep 26, 2024
Wien
Powered by