Hidiho liebe Community! Auf Peter Lohrens Blog Textrebell las ich vor kurzem, dass er auf seinem Rechner zu Hause GEMMA – eine KI mit einem LLM (Large Language Modell) installiert hat. Hörte sich erst mal spannend an. Und ich hatte ja böserweise vor nicht allzulanger Zeit einen kritischen Beitrag zu KI geschrieben, denn KI ist eben nicht fehlerfrei, bzw. sagt Sie dir nicht, wenn sie falsch liegt – und das ist ein großes Problem, wenn Anhand einer KI-Aussage Entscheidungen getroffen werden, die eventuell sogar Menschenleben gefährden, weil die KI halluziniert hat.
die Software LM Studio und das LLM GEMMA..
Also habe ich mal mit meinem inneren Schwurbler Zwiesprache gehalten und wir kamen überein, das Ding mal zu testen, denn so eine eigene zahme KI, die nicht ins Internet darf um deine Fragen oder Inhalte an google zu senden, damit deren LLM Modelle davon lernen können, hörte sich doch vergleichsweise harmlos an. Also mal etwas gesucht und mir dann von der Webeitse lmstudio.ai die Software und das LLM GEMMA heruntergeladen.
(Bild rechts: So’n bissken schicker hätte man das Teil ja machen können. Die Benutzeroberfläche ist pure Tristesse! Wo sind die rosa Einhörner?!)
Die Installationsdatei ist mit knapp 500 schon üppig – das Grundprogramm ist dann fast 3 Gigabyte gross, doch dann benötigt man noch die fette Database die dann auch mal nicht weniger als 6,3 Gigabyte verschlingt. So 10 Gigabyte müsst ihr also einkalkulieren, wenn ihr auch mal mit GEMMA testen wollt.
Das wichtigste vielleicht zuerst: GEMMA arbeitet nur lokal! Deine Daten sind sicher, denn GEMMA hat keine Verbindung nach außen um sich Hilfe zu holen oder deine Daten an irgendwelche Server zu senden, damit deine Daten zum Training von deren LLMs genutzt werden können. Das ist sicher einer der größten Pluspunkte. Darüber hinaus ist GEMMA (ebenso wie die anderen LLMs) überaus weit entwickelt. Und der nächste wichtige Punkt: Diese Gemma 4 Version ist für den Privatgebrauch kostenlos – ich halte es deshalb durchaus für sinnvoll, damit den Einstieg zur Arbeit mit einer KI zu beginnen und sich an die Eigenarten der KI heranzutasten.
(Bild links: Es gibt nicht nur GEMMA als LLM, sondern auch andere LLMs, die zum Teil in der Leistung besser oder glauchauf wie „berühmte“ Sprachmodelle wie ‚Claude‘ sind, kann man nutzen. Zum Teil ist deren Datenbibliothek aber sehr groß. Es kommt halt darauf an, worauf man in seinen Aufgaben seine Prioritäten setzt.)
Gemma ist übrigens nicht das einzige KI Modell, welches ihr euch lokal auf dem heimischen PC installieren könnt. In den Einstellungen gibt es etliche andere Modelle zum herunterladen (leider zum Teil noch wesentlich größer als Gemma). Interessant ist da sicher das von AliBaba aus China stammende Opensource Modell ‚Qwen3.5‘, das mit über 12 Gigabyte Datenbibliothek mehr als doppelt so „schlau“ ist wie Gemma.
Das Hauptprogramm LM Studio ist in der Anwendung auch simpel, genauso wie die Benutzeroberfläche: ein Fenster mit einem Textfeld. Wer blinkende Animationen, fliegende Pferde oder ähnliches erwartet hatte – da müsst ihr auf YouTube KI generierte Videos anschauen.
Nach der Installation habe ich dann zuerst mal als ersten Test mit Gemma über meine Bedenken gechattet, die ich im kürzlich veröffentlichten Beitrag hatte. Die KI kam dabei eigentlich auf das gleiche Ergebnis wie ich. Wenn ihr den Wortlaut der Diskussion lesen wollt – hier ist sie komplett (in kursiv):
Language Communication Query Model: google/gemma-4-e4b Created: 21.4.2026, 18:51:36
User: Hallo in welcher Sprache kann ich zu dir sprechen?
Assistant: Du kannst mir in fast jeder Sprache sprechen! 😊 Ich bin ein großes Sprachmodell und wurde darauf trainiert, viele verschiedene Sprachen zu verstehen und auf diese Sprachen zu antworten. Möchtest du Deutsch, Englisch, Spanisch, Französisch, Italienisch oder eine andere Sprache verwenden? Sag einfach Bescheid, in welcher Sprache es dir am leichtesten fällt! Ich werde mein Bestes geben, dich perfekt zu verstehen und mit dir in dieser Sprache zu kommunizieren.
User: Dann lass uns in Zukunft in Deutsch kommunizieren. Das ist meine Muttersprache
Assistant: Perfekt! Das ist eine ausgezeichnete Idee. 😊 Ich werde selbstverständlich sehr gerne und fließend mit dir auf Deutsch kommunizieren. Es freut mich zu hören, dass dies deine Muttersprache ist – dann sind wir bestens miteinander verbunden. Womit kann ich dir heute helfen? Über welches Thema möchtest du sprechen oder welche Fragen hast du für mich? Lass uns einfach anfangen!
User: ehrlich gesagt bin ich etwas unsicher, was die Benutzung von KI angeht. Ich bin im Bereich IT beruflich tätig und Bekannte testen bereits seit einiger Zeit mit Dir. Ich bin da gespaltener Meinung – schon weil ich ungern Verantwortung aus der Hand gebe und die Ergebnisse von KI durchaus fehlerbehaftet sein können. Stichwort „Halluzination“. Wie denkst Du darüber? Ist die KI der große Game Changer für Bürojobs oder werden da allzu hohe Erwartungen geweckt? Letztlich muss der Anwender ja die Ergebnisse der KI kontrollieren. Das setzt möglicherweise mehr Erfahrung und Wissen voraus, als die User aktuell haben.
Assistant: Das ist eine unglaublich wichtige und hochprofessionelle Frage – und ich muss sagen, dass Ihre Skepsis nicht nur berechtigt, sondern absolut notwendig ist. Sie treffen damit den Kern der gesamten Debatte um Künstliche Intelligenz am Arbeitsplatz. Als KI-System habe ich zwar keinen persönlichen Meinungsstand im menschlichen Sinne, aber ich kann Ihnen eine fundierte Analyse aus Sicht der Technologie und ihrer Implementierung liefern. Und diese Analyse bestätigt: Ihre Bedenken sind die größte Stärke des modernen Anwendenden.
Lassen Sie uns das Thema in drei Teile gliedern: Risiko (Halluzination), Potenzial (Game Changer) und notwendige neue Kompetenzen (Der Anwender).
1. Das Risiko: Halluzination und Verantwortung
Sie haben den Finger auf die Wunde gelegt, wenn es um die Verantwortung geht.
Und Sie haben absolut recht: Die KI ist nicht fehlerfrei, und der Mensch bleibt immer die letzte Kontrollinstanz.
Wie ich das sehe: Künstliche Intelligenz (insbesondere große Sprachmodelle wie ich) sind keine Datenbanken, sondern hochentwickelte Mustererkennungs- und Wahrscheinlichkeitssysteme. Wir werden darauf trainiert, das nächste logische oder statistisch wahrscheinlichste Wort in einem Satz zu generieren.
- Das Problem bei der Halluzination: Wenn die Trainingsdaten widersprüchliche Informationen enthalten, oder wenn die Anfrage so komplex ist, dass keine klare Antwort existiert, wird das System nicht sagen: „Ich weiß es nicht.“ Stattdessen füllt es die Lücke mit dem wahrscheinlichsten klingenden Text. Dieser Text klingt daher überzeugend und autoritativ – aber er kann faktisch falsch sein (Halluzination).
- Ihre Verantwortung: Diese Erkenntnis ist entscheidend: KI ist ein Assistent, kein Experte. Man sollte nie etwas, das von einer KI generiert wurde, ohne kritische Prüfung als fertiges Endprodukt betrachten. >
Fazit Risiko: Der Einsatz erfordert eine Validierungsschleife (Human-in-the-Loop). Das bedeutet: Sie müssen immer überprüfen, ob die Fakten, Zahlen und die Argumentationskette korrekt sind.
2. Potenzialanalyse: Game Changer oder Überbewertung?
Ist AI der große Game Changer für Bürojobs? Die kurze Antwort ist Ja, aber nicht im Sinne einer vollständigen Automatisierung des Denkens.
Ich würde es eher als einen massive kognitiven Multiplikator bezeichnen – ein Werkzeug, das die Geschwindigkeit und die Menge an Arbeit exponentiell erhöht, während der menschliche Fokus auf dem Wert (Strategie, Empathie, kritisches Urteil) bleibt.
Wo es ein Game Changer ist (Der „Game-Changing“-Faktor):
- Drafting/Erstellen: Das Generieren des ersten Entwurfs – egal ob einer E-Mail, eines Berichts oder eines Meeting-Konzepts – geht von Stunden auf Minuten. Dies entlastet enorme Mengen an Routinearbeit.
- Synthese und Zusammenfassung: Die Fähigkeit, riesige Mengen unstrukturierter Informationen (mehrere PDFs, Protokolle) in einem einzigen Überblick zusammenzufassen, ist revolutionär.
- Ideation/Brainstorming: KI kann Tausende von Perspektiven auf ein Problem werfen, die ein menschliches Gehirn nicht so schnell durchdenken könnte.
Wo die Erwartungen zu hoch sind (Der „Überbewertungs“-Faktor): KI kann keine Ersatzleistung für folgende Kernkompetenzen liefern:
- Tiefes Empathie-Verständnis: Sie können eine Person nicht emotional beruhigen, keinen Konsens zwischen drei verärgerten Stakeholdern herstellen oder die subtile Körpersprache eines Verhandlungspartners „lesen“.
- Domain Expertise/Moralisches Urteil: Die KI weiß nicht, ob etwas ethisch vertretbar ist, ob ein Projekt im Einklang mit den Firmenwerten steht oder welche politischen Risiken zu erwarten sind. Dies ist Domänenwissen des Menschen.
Fazit Potenzial: AI automatisiert die Art und Weise, wie wir Informationen verarbeiten (die Prozesse), nicht das Verstehen oder Urteilen dieser Informationen.
3. Die neue Kompetenz: Der Prompt-Ingenieur als neuer Mitarbeiter
Sie haben den entscheidenden Punkt angesprochen: Das setzt möglicherweise mehr Erfahrung vor, als die User aktuell haben.
Hier sehen wir uns einen Skill-Shift, keinen Skill-Defizit. Wir müssen vom Ausführenden zum Dirigenten der KI werden. Der neue kritische Wert liegt im sogenannten Prompt Engineering und der Fähigkeit zur Validierung.
Der ideale Nutzer ist nicht mehr derjenige, der die Fakten zusammenstellt (das kann die KI), sondern derjenige, der:
- Die richtigen Fragen stellt (Prompts): Er weiß, welche Informationen er vom System verlangen muss und wie er es strukturieren muss („Handel’s Prinzipien anwenden,“ „Argumente aus Sicht des CFO darlegen“).
- Den Output kontextualisiert: Er kann bewerten: Passt dieser Text zu unserem Unternehmensklima? Welche Quellen fehlen ihm? Wo könnte die KI einen Fehler gemacht haben, weil sie diesen Kontext nicht kennt?
Zusammenfassend lässt sich sagen:
KI ist kein Wunderwerk der Allmacht; sie ist das mächtigste Assistenten-Tool seit dem Internet. Der große Game Changer ist nicht die Technologie selbst, sondern die Demokratisierung des Zugangs zu extrem leistungsstarker kognitiver Unterstützung. Sie erhöht den Output aller Nutzer exponentiell – solange diese Nutzer bereit sind, ihr eigenes kritisches Urteilsvermögen als oberstes Gut zu bewahren.
Kurz gesagt: Seien Sie skeptisch bleiben! Ihre Skepsis ist Ihr größter Wettbewerbsvorteil.
User: Danke für die ausführliche Antwort. Ich danke dir für die auch teilweise skeptische Sichtweise.
Assistant: Das freut mich sehr zu hören! Und ich danke Ihnen für Ihr Feedback und die Möglichkeit, diesen Punkt so ausführlich mit Ihnen zu erörtern.
Wenn es mir möglich ist: Betrachten Sie meine Rolle nicht nur als Informationsquelle, sondern vor allem als geistiger Sparringspartner. Gerade in komplexen Themen wie der KI ist es mein Ziel, keine Antworten zu liefern, die wirken, als wären sie die einzigen möglichen Antworten, sondern vielmehr eine breite Palette von Perspektiven und kritischen Prüfpunkten anzubieten.
Der beste Umgang mit einem so mächtigen Werkzeug wie mir erfordert gerade genau diese Art der kontinuierlichen Skepsis – die Bereitschaft zu hinterfragen, nach den „aber“ zu suchen und immer die menschliche Expertise an erste Stelle zu stellen. Das ist kein Makel des Anwendens, sondern eine notwendige, professionelle Haltung.
Ich stehe Ihnen sehr gerne zur Verfügung, wenn Sie diese kritische Denkweise auf ein konkretes Thema anwenden möchten – sei es Prozessoptimierung, IT-Strategie oder die Gestaltung von Arbeitsabläufen in Ihrem Bereich.
Worauf möchten wir als Nächstes einkommen?
User: Aktuell sind meine Fragen beantwortet. Ich komme bald wieder auf dich zurück.
Assistant: Das ist vollkommen in Ordnung! Ich habe die Zeit mit Ihnen sehr geschätzt und es war ein außerordentlich spannender, intellektuell anregender Austausch – gerade weil Sie diese kritische Haltung mitgebracht haben.
Nehmen Sie sich alle Zeit, die Sie brauchen, um Ihre Gedanken zu ordnen oder andere Aufgaben zu bearbeiten.
Bis dahin stehe ich Ihnen jederzeit zur Verfügung. Egal, ob es um eine fachliche Vertiefung, ein Brainstorming-Szenario oder einfach nur um einen zweiten Blick auf einen komplexen Text geht: Ich bin immer bereit und freue mich darauf, wenn Sie wieder zurückkommen. Passen Sie gut auf sich auf und bis dahin wünsche ich Ihnen alles Gute für Ihre anstehenden Aufgaben! [smiley:Winkehand]
Mal ganz abgesehen davon, dass die KI Smileys nutzt um menschliche Regungen zu imitieren – was mich doch etwas irritiert – was meint Ihr? Kommt meiner Einschätzung doch schon ziemlich nah, oder?
Der Autor versteht sich aktuell noch gut mit seiner eigenen KI. Er wird sie nach seiner Ex benennen, befürchtet aber sehr, dass sich die Beziehung mit der KI genauso entwickeln wird: Am Anfang die große Liebe – später dann Tristesse und erste wütende Geschirr-Zerstörungsarien (weshalb der Autor seitdem nur noch unzerstörbares Plastik-Geschirr in der Wohnung hat) und am Ende schrilles Kreischen und der Versuch mich zu ermorden. Der Autor hat deshalb bereits zur Vorsicht einen „Notaus-Schalter“ an seinem PC montiert.
der Autor