KI denkt nicht. Sie rechnet.

Was ist ein Large Language Model (LLM)?

Ein Large Language Model ist ein Programm, das gelernt hat, das jeweils nächste Wort vorherzusagen. Mehr nicht. Es wurde mit gewaltigen Textmengen trainiert - Bücher, Webseiten, Foren, Code - und hat dabei eine einzige Fähigkeit perfektioniert: aus dem, was bisher dasteht, das wahrscheinlichste nächste Wortstück zu errechnen. ChatGPT, Claude und Gemini sind alle solche Modelle.

Der Text entsteht Stück für Stück. Das Modell schreibt ein Token, hängt es an, rechnet erneut, schreibt das nächste. Was dabei herauskommt, klingt oft verblüffend menschlich. Genau das verleitet zum Trugschluss, hinter den Sätzen säße jemand, der versteht, was er sagt. Tut er nicht.

Wie ein LLM lernt

Das Training läuft in zwei Phasen. Zuerst liest das Modell riesige Textmengen und lernt dabei nur eines: das nächste Wort vorherzusagen. In dieser Phase entsteht, was später wie Sprachgefühl aussieht - Grammatik, Stil, Zusammenhänge. Es entsteht aber kein geprüftes Wissen, sondern ein Abbild dessen, was im Trainingstext häufig zusammen vorkam. Steht dort viel Unsinn, lernt das Modell auch den Unsinn.

In der zweiten Phase wird nachjustiert: Menschen bewerten Antworten, das Modell lernt, welche Art von Antwort erwünscht ist. Das macht es höflicher und brauchbarer - ändert aber nichts am Kern. Das Modell weiß weiterhin nicht, ob etwas stimmt. Es weiß nur, was gut ankommt. Meistens fällt beides zusammen. Manchmal eben nicht.

Wie funktioniert KI - rechnet sie oder denkt sie?

Sie rechnet. Ein LLM hat kein Bild von der Welt, keine Absicht, kein Wissen im menschlichen Sinn. Es hat eine Statistik darüber, welche Wörter in welchem Zusammenhang aufeinanderfolgen. Kam die Antwort auf eine Frage in den Trainingsdaten oft genug in ähnlicher Form vor, gibt das Modell sie zuverlässig wieder. Das fühlt sich an wie Verstehen, ist aber Mustererkennung auf sehr hohem Niveau.

Der Unterschied klingt akademisch, ist im Betrieb aber entscheidend. Ein Mensch, der „2+2" rechnet, weiß, warum 4 herauskommt. Ein Modell weiß nur, dass auf „2+2=" meistens „4" folgt. Solange die Aufgabe dem ähnelt, was es gesehen hat, geht das gut. Sobald sie davon abweicht, wird es brüchig - und das Modell merkt davon nichts.

Kann KI wirklich denken?

Apple hat Sprachmodelle an einem alten Geduldsspiel getestet: dem Turm von Hanoi. Eine einzige logische Grundregel, mehr braucht es nicht. Die Modelle scheiterten konsequent - nicht weil das Puzzle schwer ist, sondern weil sie keine Ahnung haben, warum die richtige Lösung richtig ist. Kein Weltmodell, kein Hausverstand. Ein Mensch, der das Spiel noch nie gespielt hat, braucht eine halbe Stunde und ein Aha-Erlebnis. Das Modell braucht kein Aha. Es braucht ein Beispiel aus den Trainingsdaten. Gibt es keins, rät es - mit voller Überzeugung.

Das ist der Kern: KI denkt nicht, sie rechnet. Wer das verinnerlicht, trifft bessere Entscheidungen darüber, wo sie hilft und wo nicht.

Warum KI selbstbewusst falsch liegt

Das bekannteste Problem heißt Halluzination: frei erfundene Antworten, falsche Zitate, Quellen, die es nie gab. Das tiefere Problem ist ein anderes. Ein LLM kann nicht innehalten und sagen „Das weiß ich nicht". Es generiert immer weiter. Mit Zuversicht, ohne Zweifel.

Ein Mensch, der etwas nicht weiß, weiß, dass er es nicht weiß. Ein Sprachmodell weiß das nicht - es merkt es nicht einmal. Deshalb ist die gefährlichste Antwort nie die offensichtlich falsche. Es ist die plausibel klingende, die niemand mehr gegenprüft.

Wofür LLMs im Mittelstand wirklich taugen

Für rund 80 Prozent der Aufgaben in einem normalen Betrieb ist all das egal. Rechnungstext prüfen. E-Mail zusammenfassen. Angebotsvorlage schreiben. Protokoll aufbereiten. Recherche vorsortieren. Dafür brauchen Sie kein System, das denkt - Sie brauchen eines, das schnell und brauchbar formuliert. Das können LLMs gut, wenn Sie wissen, was Sie erwarten, und das Ergebnis kurz gegenlesen.

Die meisten Betriebe, die ich berate, haben kaum Aufgaben, die echtes Denken erfordern. Sie haben Aufgaben, die Zeit fressen. Genau da leistet KI echte Arbeit - nicht als Ersatz für den Kopf, sondern als Beschleuniger für die Hand. Wie das konkret aussieht, zeigt unsere Seite zur KI-Automatisierung.

Wo es gefährlich wird: Entscheidungen abgeben

Ich sehe es regelmäßig: Ein KI-System wird eingeführt, liefert gute Ergebnisse - und drei Monate später fragt niemand mehr nach. Das Modell schlägt vor, der Mitarbeiter nickt. Das ist der Moment, in dem das fehlende Weltmodell teuer wird.

KI sollte nie das letzte Wort haben. Nicht weil sie böse ist oder ständig Fehler macht, sondern weil sie nicht weiß, was sie nicht weiß. Die Verantwortung bleibt beim Menschen - diese Grenze sauber zu ziehen, ist Teil jeder seriösen KI-Beratung.

Häufige Fragen

Ist ChatGPT eine KI oder ein LLM?

Beides. ChatGPT ist eine Anwendung, die auf einem Large Language Model aufsetzt. „KI" ist der Oberbegriff, „LLM" die konkrete Technik dahinter. Im Alltag werden die Begriffe oft synonym verwendet.

Kann KI eigenständig Entscheidungen treffen?

Technisch kann ein System Vorschläge automatisch ausführen. Sinnvoll ist das nur dort, wo ein Fehler keine ernsten Folgen hat. Bei allem, was Geld, Recht oder Kunden betrifft, gehört eine menschliche Kontrolle dazwischen.

Wie zuverlässig sind die Antworten?

Bei verbreitetem Wissen hoch, bei Nischenfragen unberechenbar. Das Modell signalisiert seine Unsicherheit nicht. Je spezieller die Frage, desto wichtiger das Gegenlesen.

Wofür sollte man KI im Unternehmen nicht einsetzen?

Überall dort, wo die richtige Antwort von echtem Verständnis abhängt statt von Routine: finale rechtliche Bewertungen, sicherheitskritische Entscheidungen, alles ohne Kontrollinstanz.

Fazit

Die richtige Frage ist nicht „Kann KI denken?", sondern „Was soll sie für mich tun?". Wer KI einführt, um Intelligenz zu ersetzen, wird enttäuscht. Wer sie einführt, um Routinearbeit zu beschleunigen und Kapazität freizumachen, wird überrascht sein, wie viel möglich ist. Das ist keine Einschränkung. Das ist die Erwartungshaltung, mit der KI tatsächlich funktioniert.