KI Halluzination

Hidiho liebe Community! Reden wir doch mal über Küstliche Intelligenz. Für mich als IT-ler – dessen Welt sich aus Bits und Bytes, „wenn-dann“ Abhängigeiten und einer Prise Spockscher Logik zusammensetzt ist „KI das trojanische Pferd für Dumpfbacken“.  Warum? Das erklär ich jetzt:

Evolution oder Schöpfungsgeschichte? Ich habe eine Vermutung!..

Die Evolution ist ja eigentlich eine tolle Sache – wenn es auch Gebiete auf diesem Planeten gibt, in denen man die Schöpfungsgeschichte der Bibel realistischer einschätzt als die Darwinsche Evolutionstheorie. Nun ja, ich habe da echte Bedenken, aus meiner Erfahrung mit Frauen.

(Bild links: Amerika und die Bibel – das passt zu einem Volk von frömmelnden Idioten. Dazu passt dann auch dieser Herr, der sich selbst als neuen Gegenpapst sieht. Bin gespannt, wann er den echten Papst aus dem Vatikan entführt.)

Ich meine- Hey: Aufklärungsunterricht gab es ja noch nicht – wer hat Adam denn gesteckt, dass er sein Zisemännchen in die Mumu von Eva stecken muss und durch rhytmische Bewegungen Gottes Nachkommen in Form von Spermien weitergibt? Ist er da von alleine drauf gekommen – oder hat Gott ihm ein Video gezeigt, wie man es in China bei den Panda-Bären macht, wenn die keinen Bock auf Sex haben? Höchst unwahrscheinlich, denn es gab ja noch keine anderen professionelle Protagonisten, die Adam zeigen konnten was sein kleines Anhägsel ausser Pipi machen noch für eine Aufgabe hat.

Möglicherweise – aber wirklich nur möglicherweise hat Gott ihm ein Video gezeigt, dass von einer KI generiert wurde – aber ich greife dem Kernthema vor. Machen wir erst mal weiter..

Es bleiben Fragen über Fragen: als Eva den ersten Nachkommen nach den Presswehen unter Schmerzen aus dem Unterleib gequetscht hatte – waren die ersten zittrigen Worte danach: Wow, das war toll! Lass es uns gleich nochmal treiben wie die Karnickel?

Und woher wusste Sie, was sie mit dem faltigen, schreiendem Ding machen soll? Füttern? Waschen? Mit ’nem Stein draufhauen? Oder hatte sie schon den „Mutterinstinkt“? Und woher hatte Sie Windeln um das Kind zu wickeln? Hat Sie da das Feigenblatt von Adam genschnappt und ihn angefurzt. „such dir gefälligst ein anderes!“. Dinge des persönlichen Bedarfs im Paradies zu ergatten – wie ging das? Amazon gab es ja noch nicht und mit den Figern schnippen damit Gott fragt, was man braucht um seine Blöße zu bedecken klappte ja wohl auch kaum – der hat sich nach der anstrengenden Schöpfung erst mal eine längere Auszeit genommen.

Ihr merkt als technische Doku wäre die Bibel zu nichts zu gebrauchen, weil einfach die Detailfragen offen bleiben – in einigen Bundesstaaten in den USA reicht die Bibel aber aber schon um alle Fragen des Lebens zu beantworten. Ich beneide ehrlicherweise ja solche Menschen um ihr schlichtes Gemüt – versuche die aber auf Abstand zu halten, weil ich befürchte, dass dieser Menschenschlag mich wegen meiner leicht kritischen Glaubensauffassung auf ihrem dörflichen Marktplatz zur Belustigung der Glaubensgemeinschaft auf dem Scheiterhaufen verbrennt ..

Was haben frömmelnde Idioten mit KI zu tun?

Ihr fragt euch, was das mit der Überschrift zu tun hat? Gemach..

Die Erfinder der KI hatten sicher etwas Gutes im Sinn, als sie dachten, dass extrem Speicher- und stromfressende Rechner-Cluster den Menschen das denken abnehmen könnten – das setzt aber voraus, dass der Mensch, der die KI benutzt immer noch dieses kleine Quentchen intelligenter ist als die Ki um deren Fehler zu erkennen. Und das ist genau der Knackpunkt!

Die KI soll dich bei allen deinen Büro-Tätigkeiten unterstützen: Deine Korrespondenz tätigen, deine Termine überwachen, usw. usw.. Soweit so gut. Doch die Sache hat einen Haken: denn die KI halluziniert!

Folgendes Beispiel: Du bekommst ein Angebot zur Prüfung per mail zugeschickt.  Die KI will dich netterweise natürlich sofort unterstützen und Du akzeptierst das, woraufhin die KI selbstständig eine Antwort schreibt. Aufgrund Zeitmangel überfliegst Du den oberflächlich schön formulierten Text – übersiehst aber einen ganz wichtigen Passus, den die KI von sich aus umgeschrieben hat und der viel zu niedrige Verkaufspreise enthält, und schon bist Du der Dumme, denn nicht die KI ist verantwortlich dafür, sondern Du.

Warum macht die KI das? Weil die KI niemals von sich aus sagen würde: „dieser Punkt ist unklar – bitte helfen sie mir bei der Ausformulierung“. Wenn eine KI etwas nicht weiß, dann sucht sie in ihrer Datenbibliothek nach etwas, von dem sie meint, dass dieser Wert passt, oder sie schätzt einfach munter drauflos.

Dazu ein kleines Beispiel, wie das aussehen könnte: Du hast so gefühlt 100 Kontakte in deinem Outlook – natürlich nicht wirklich gut gepflegt – man kennt es. Bei den meisten hast Du den Geburtstag eingetragen – bei einigen hast Du natürlich geschlampt und es vergessen. Du gibst der KI jetzt die Aufgabe die fehlenden Geburtstagsdaten einer Person einzutragen und schon Sekunden später sagt dir die KI: Person XY hat am 14. Juni 1988 Geburtstag.

Du wunderst dich zwar, weil Du nicht weißt, woher sie die Info hat, aber Du trägst das so in die Kontaktdaten der Person ein. Am entsprechenden Tag rufst Du die Person an und gratulierst ihr zum Geburtstag, woraufhin dich die Person fragt, ob Du noch alle Latten am Zaun hast, weil ihr Geburtstag erst in 3 Monaten ist und der Tag nicht stimmt. Wie kann das sein?

Wie denkt eine KI? Das LLM (Large Language Modell) – und warum keiner weiß, wie die KI „denkt“..

Dazu muss man wissen wie eine KI „denkt“ – und die macht das ungefähr folgendermaßen: Sie sucht in deinen Datenbeständen tatsächlich erst nach den Geburtstagsdaten. Wird sie aber nicht fündig, nimmt sie die Daten deiner anderen Kontakte und schlüsselt die nach Token auf. Sind prozentual die meisten Geburtstage deiner Kontakte im Juni, dann geht sie davon aus, dass auch der Geburtstag der gesuchten Person in den Monat fällt (obwohl es dafür gar keine Veranlassung gibt – aber so arbeitet die KI eben).  Genauso verhält es sich mit dem Tagesdatum. Anhand gaußscher Unschärfeberechnung der vorhanden Daten wird ein Tag errechnet und der als unumstößliches Ergebnis ohne ein „vielleicht“ ausgegeben.

Warum? Weil die KI genau so programmiert ist. Die KI belohnt sich durch richtige Ergebnisse und lernt auch dadurch für zukünftige Anfragen. Ein Schuss ins Blaue hat bei einem Jahr mit 365 Tagen eine Chance von 1:365 dass es richtig sein könnte – ein „ich weiss es nicht“ geht in Richtung 1:∞ (unendlich) – dafür gibt es für die KI kein „KI des Monats“ Photo.

Wie so etwas ausgehen kann, wenn man sich ohne Prüfung auf die Arbeit einer KI verlässt musste ein amerikanischer Anwalt erleben. In Amerika ist es üblich Präzedenzfälle vor Gericht zu zitieren, um die dort gesprochenen Urteile als Refernz für einen positiven Richterspruch – also auf Freispruch zu plädieren – zu benutzen. Der Anwalt hatte sein Verteidigungsplädoyer von einer KI verbessern lassen – und die KI erfand einfach von 23 Quellen 21. Der Richter fand das nicht witzig und verhängte 10.000 $ Strafe gegen den Anwalt. der Autor

 

Darüber hinaus arbeitet die KI schlampig. Ich selbst habe das bei Shotcut erlebt, als ich eine aus einem Audio-Stream extrahierte englische Übersetzung mittels KI in das deutsche Pendant übersetzen lassen wollte – inklusive der Timecodes, die wichtig dafür sind, dass der Text mit den Untertiteln an der richtigen Stelle eingeblendet wird. Das Video war etwas länger und am Anfang stimmte tatsächlich alles – aber am Ende war es eine Aneinanderreihung von nichtssagenden Worthülsen, die sich ständig wiederholten und auch nichts mit dem zu übersetzenden Audiostream zu tun hatten.

(Video oben: Da kann man auch schon mal verzweifeln. Die Aufgabe ist völlig klar – und die KI macht es einfach nicht, sondern handelt wie ein bockiger Generation Z Auszubildender, dem man sagt, dass er das Lager fegen soll und der immer neue Ausreden erfindet es nicht zu tun.)

Meine Frage, warum die KI trotz klarer Aufgabenstellung die Arbeit eigenmächtig abgeändert hatte, beantwortete sie mit dem Hinweis, dass Sie der Meinung war, dass nicht der gesamte Text übersetzt werden sollte, sondern nur ein Teil. Du denkst, der zweite Versuch wäre besser? Nein – auch dort verlor sich die ganz klar definierte Aufgabenstellung nach einigen hundert Zeilen in irgendwelches sinnloses Geschwafel, welches nicht den Hauch einer Ähnlichkeit mit dem vorgegebenen Text zu tun hatte.

Ich musste den ganzen Text in mehrere Teile splitten, dann jeden einzeln Schnipsel durch das Programm übersetzen lassen und am Ende alle Teile wieder zu einer Datei zusammensetzen.

Dieses Verhalten einer gewissen Störrigkeit oder subtiler Arbeitsverweigerung tritt sehr häufig bei KIs auf.  Schaut euch das Video oben an: die Aufgabenstellung ist völlig klar und die KI verhält sich so bescheuert wie ein Influencer, der zum ersten Mal im Leben arbeiten muss..

Warum dies so ist? Darüber rätseln die Programmierer – ebenso wie bei den zum Teil kriminellen Machenschaften, die manche KI von sich aus gestartet hat.

These: Die KI schafft Tausende Jobs – Denkste! Die KI vernichtet nur Tausende Jobs..

Und nun stellt euch einmal vor, dass Mitarbeiter die nicht grade die hellsten Kerzen auf der Torte sind, mit solchen heimtückischen Tools arbeiten sollen – da ist doch das Totalversagen quasi Programm..

Zu glauben, dass die KI tausende Jobs schafft, wie es so gerne postuliert wird um in Deutschland energiefressende und Grundwasser vergeudende Daten-Center zu bauen (aber hier dafür keine Steuern zahlen zu müssen, da die Betreiber-Unternehmen in Irland USA oder anderen Ländern sitzen) ist da absolut unangebracht, denn es braucht nur relativ wenige Programmierer um die KI Modelle weiter zu füttern. In der gleichen Zeit werden aber tausende von Mitarbeiter, die in Büros sitzen rausgefeuert, weil die KI ja „deren Job viel besser macht“.

Träumt weiter – wer schon mal auf einer Webseite eine Diskussion mit einem KI-Assistenten führen musste, der dich wie in einer Endlos-Schleife nach etlichen Fragen und Gegenfragen immer wieder zur Ausgangsposition zurück gebracht hat, der wird zugeben, dass KI der größte Sch… ist.

Natürlich werden die Unternehmen versuchen ihr Personal gegen KI auszutauschen – schließlich geht es um Gewinnmaximierung und nicht um ein soziales Gleichgewicht (das es ja schon seit Jahrzehnten nicht mehr gibt). Der Zustand in diesem Land in dem sich alles öffentlich zugängliche irgendwie abgewrackt anfühlt und auch so aussieht, zeigt wo die Steuergelder landen – nicht da, wo sie nötig wären – doch das ist ein anderes Thema..

In den Büros müssen also in Zukunft Menschen sitzen, die in der Lage sind KI Halluzinationen zu erkennen. Dies setzt eine wesentlich höhere sachliche und sprachliche Qualifizierung voraus, als sie momentan in den entsprechenden Büros vorhanden ist. Und dort sehe ich auch das größte Problem, denn dort ist die KI das trojanische Pferd.

Wenn ich eine Mail von einer KI erstellen lasse, muss ich einen fehlerfreien „prompt“ eingeben, das gelieferte Ergebnis von der ersten bis zur letzten Zeile akribisch prüfen, gegebenenfalls händisch korrigieren.  Dies dauert länger als wenn ich einen Text selber schreibe, denn bei einem Fließtext habe ich einen roten Faden im Kopf, an dem ich mich orientiere – bei einem generierten Fremdtext muss ich erst mal die einzelnen Textinhalte checken und auch kontrollieren, ob die KI alle Punkte abgearbeitet hat. Wenn dann noch nachgearbeitet werden muss, ist es keine Arbeitserleichterung mehr, sondern Mehrarbeit.

Was meinst Du? Siehst Du die KI auch als trojanisches Pferd, das man besser nicht in den heimischen Computer lassen sollte? Fühlst Du dich fähig mit einer KI zu arbeiten oder würdest Du dir deine Arbeit von einer KI abnehmen lassen? Oder ist dafür bei deinem Job keine Möglichkeit vorhanden?

Auch wenn das Titelbild dieses Beitrags von einer KI generiert wurde, weil der Autor als Auswirkung eines Drogen-Jeepers seine Wachsmalkreide gefuttert hatte, was das malen damit kurzfristig unmöglich machte, schwört er aber auf der anderen Seite Stein und Bein, dass nicht ein einziges Wort dieses Beitrags von einer KI beigesteuert wurde. Er hat dies durch einige absichtlich im Text verstreute Rechtschreipfehler deutlich kennlich gemacht um jeden Verdacht auf LLM-Mithilfe zu zerstreuseln.

der Autor