Was ist ein Large Language Model (LLM)?
Ein Large Language Model (LLM), auf Deutsch „großes Sprachmodell“, ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Sprache verstehen, zusammenfassen und erzeugen kann. In Unternehmen können LLMs beispielsweise Informationen aus Berichten und Daten schneller zugänglich machen. Damit die Antworten stimmen, braucht ein LLM eine verlässliche Datenbasis. Bissantz verbindet LLMs mit Daten aus dem BI-System, damit Controller Abweichungen per Frage in natürlicher Sprache bis zur Ursache verfolgen können.
| Merkmal | Details |
| Kategorie | Künstliche Intelligenz (KI), Generative KI, NLP |
| Einsatzgebiet | Business Intelligence, Controlling, Berichtswesen, Wissensmanagement |
| Typische Anwendungsfälle | Datenabfragen in natürlicher Sprache, automatische Berichtskommentare, Ursachenanalyse, Auswertung unstrukturierter Texte |
| Verwandte Begriffe | Machine Learning, Neuronale Netze, Agentic AI, MCP-Server, Conversational Analytics |
| Nutzen | Schnellerer Zugang zu Informationen, weniger manueller Kommentaraufwand, Analyse ohne BI-Spezialwissen |
Auf einen Blick
LLM ist die Abkürzung für Large Language Model, zu Deutsch „großes Sprachmodell“.
LLMs berechnen auf Basis gelernter Muster, welches Wort als Nächstes am wahrscheinlichsten folgt.
Multimodale LLMs verarbeiten neben Text auch Bilder, Audio oder Dokumente.
Im Business Intelligence erklären LLMs Zahlen, rechnen aber nicht verlässlich. Die Kennzahlen sollten aus dem BI-System kommen.
In DeltaMaster und DeltaApp stecken LLM-basierte Funktionen für Chat, Sprachsteuerung, Ursachenanalyse und Executive Summaries.
Inhaltsverzeichnis
Large Language Models: Definition und Einordnung
LLM ist die Abkürzung für Ein Large Language Model und bedeutet auf Deutsch etwa „großes Sprachmodell“. Es beschreibt ein neuronales Netz, das Sprache statistisch modelliert und dadurch Texte versteht und erzeugt.
„Large“ bezieht sich auf zwei Größen: die Menge der Trainingsdaten und die Zahl der Parameter, die bei aktuellen Modellen im Milliardenbereich liegt.
LLMs sind eine Form der generativen KI und bauen auf Deep Learning auf. Sie sind die Technik hinter bekannten KI-Assistenten und hinter vielen KI-Funktionen in Business-Software.
Wie funktionieren Large Language Models?
Ein LLM sagt Schritt für Schritt voraus, welches Textstück als Nächstes am wahrscheinlichsten folgt. Aus dieser einfachen Aufgabe entstehen durch enorme Datenmengen Fähigkeiten wie Zusammenfassen, Übersetzen oder Beantworten von Fragen.
Technisch basieren fast alle aktuellen LLMs auf der Transformer-Architektur. Ihr Kern ist der Attention-Mechanismus: Das Modell gewichtet für jedes Wort, welche anderen Wörter im Text für seine Bedeutung wichtig sind.
| Schritt | Was passiert | Bedeutung für die Praxis |
| Tokenisierung | Text wird in Token zerlegt, also Wörter oder Wortteile. | Kosten und Längengrenzen werden in Token gemessen. |
| Embeddings | Jedes Token wird in einen Zahlenvektor übersetzt, der seine Bedeutung abbildet. | Ähnliche Begriffe liegen im Vektorraum nah beieinander. |
| Attention | Das Modell erkennt Zusammenhänge zwischen Wörtern im gesamten Kontext. | Bezüge über lange Textpassagen bleiben erhalten. |
| Vortraining | Das Modell lernt an großen Textmengen, das nächste Token vorherzusagen. | Es erwirbt Sprach- und Allgemeinwissen, aber kein Wissen über Ihre Unternehmensdaten. |
| Feinabstimmung | Weiteres Training mit Beispielen und menschlichem Feedback. | Das Modell folgt Anweisungen und antwortet hilfreicher. |
| Inferenz | Das fertige Modell erzeugt Antworten auf neue Eingaben (Prompts). | Die Antwort hängt stark von Prompt und mitgeliefertem Kontext ab. |
Wichtig für den Unternehmenseinsatz: Ein LLM speichert kein Faktenregister, sondern Wahrscheinlichkeiten. Deshalb kann es überzeugend klingende, aber falsche Aussagen erzeugen. Diese sogenannten Halluzinationen lassen sich nur durch geprüfte Datenquellen und menschliche Kontrolle eingrenzen.
Welche Arten von LLMs gibt es?
LLMs unterscheiden sich nach Eingabeart, Größe und Bereitstellung. Für Unternehmen ist vor allem relevant, ob ein Modell Bilder verarbeiten kann und ob es sich im eigenen Rechenzentrum betreiben lässt.
Ein multimodales Large Language Model (MLLM) verarbeitet beispielsweise mehrere Datenarten, etwa Text, Bilder, Audio oder Video. Es kann zum Beispiel ein Diagramm beschreiben, eine gescannte Rechnung auslesen oder eine Frage zu einem Screenshot beantworten.
| Typ | Merkmal | Typischer Einsatz |
| Text-LLM | Verarbeitet und erzeugt ausschließlich Text. | Zusammenfassungen, Berichtskommentare, Chat |
| Multimodales LLM | Verarbeitet Text, Bilder, Audio oder Video. | Belege auslesen, Diagramme beschreiben, Sprachsteuerung |
| Reasoning-Modell | Zerlegt Aufgaben vor der Antwort in Zwischenschritte. | Komplexe Analysefragen, mehrstufige Aufgaben |
| Kleines Sprachmodell (SLM) | Weniger Parameter, geringerer Rechenaufwand. | Klar umrissene Aufgaben, Betrieb auf eigener Hardware |
| Proprietäres Modell | Nutzung über Cloud-Dienst oder API des Anbieters. | Schneller Einstieg ohne eigene Infrastruktur |
| Open-Weight-Modell | Modellgewichte sind frei verfügbar. | Betrieb On-Premises, volle Kontrolle über Daten |
Welche Beispiele für Large Language Models gibt es?
Zu den bekanntesten Large Language Models zählen die Modellfamilien GPT, Claude, Gemini, Llama und Mistral. Die Anbieter veröffentlichen in kurzen Abständen neue Versionen, deshalb nennt die folgende Tabelle nur die Modellfamilien.
| Modellfamilie | Anbieter | Bereitstellung |
| GPT | OpenAI (USA) | Proprietär, über ChatGPT, API und Microsoft Azure |
| Claude | Anthropic (USA) | Proprietär, über Claude-Apps, API und Cloud-Plattformen |
| Gemini | Google (USA) | Proprietär, über Gemini-Apps, API und Google Cloud |
| Llama | Meta (USA) | Open Weight, Betrieb auch On-Premises |
| Mistral | Mistral AI (Frankreich) | Proprietäre und offene Modelle, europäischer Anbieter |
| Qwen, DeepSeek | Alibaba, DeepSeek (China) | Überwiegend Open Weight |
Für die Auswahl im Unternehmen zählt weniger der Modellname als die Frage, wo die Daten verarbeitet werden, welche Verträge gelten und wie gut das Modell in bestehende Systeme passt.
Wofür brauchen Unternehmen Large Language Models?
Viele Unternehmen nutzen LLMs, um Wissen aus Daten und Dokumenten schneller verfügbar zu machen. Im Controlling und Business Intelligence verkürzen LLMs vor allem den Weg von der Zahl zur Erklärung.
Typische Aufgaben im Controlling sind:
- Berichte kommentieren: Das LLM formuliert aus erkannten Abweichungen einen verständlichen Management-Kommentar.
- Fragen in natürlicher Sprache stellen: Fachanwender fragen „Warum liegt der Umsatz im Süden unter Plan?“ statt Filter zu setzen.
- Unstrukturierte Daten erschließen: Das LLM wertet Gesprächsprotokolle, Support-Tickets oder Produktionsberichte aus und ergänzt damit die Kennzahlen.
- Handlungsempfehlungen ableiten: Auf Basis der Analyse schlägt das LLM mögliche Maßnahmen vor, die ein Mensch prüft und entscheidet.
Ein LLM ersetzt dabei kein Data Warehouse und keine BI-Software. Es sitzt als Sprachschicht darüber und ist nur so gut wie die Datenqualität darunter.
Was bedeutet Large Language Model Optimization?
Large Language Model Optimization bezeichnet zwei verschiedene Dinge: die technische Anpassung eines Modells an eine Aufgabe und, im Marketing, die Sichtbarkeit von Inhalten in KI-Antworten.
Im technischen Sinn ist Optimierung zunächst mathematisch gemeint. Beim Training wird eine Verlustfunktion minimiert, bis das Modell möglichst gute Vorhersagen liefert. Für Anwender relevanter sind die Wege, ein fertiges Modell für den eigenen Einsatz anzupassen:
| Ansatz | Vorgehen | Aufwand | Geeignet für |
| Prompt Engineering | Anweisungen und Beispiele im Prompt präzisieren | Gering | Schnelle Verbesserung wiederkehrender Aufgaben |
| Retrieval-Augmented Generation (RAG) | Relevante Dokumente oder Daten werden zur Anfrage mitgeliefert | Mittel | Antworten auf Basis aktueller Unternehmensdaten |
| Tool-Anbindung (zum Beispiel über MCP) | Das LLM ruft Daten und Funktionen über definierte Schnittstellen ab | Mittel | Zugriff auf BI-Systeme mit Berechtigungskonzept |
| Fine-Tuning | Das Modell wird mit eigenen Beispieldaten nachtrainiert | Hoch | Fachsprache, feste Ausgabeformate |
| Quantisierung und Distillation | Modelle werden verkleinert, um Rechenaufwand zu senken | Hoch | Betrieb auf eigener Hardware |
Welche LLM-Lösung passt zu welchem Anwendungsfall?
Die passende Lösung hängt davon ab, welche Daten das LLM verarbeiten soll und wie verlässlich das Ergebnis sein muss. Für Kennzahlen gilt: Je höher die Anforderung an Richtigkeit, desto enger muss das LLM an ein geprüftes Datenmodell gebunden sein.
| Anwendungsfall | Passender Ansatz | Hinweis |
| Texte entwerfen, Ideen sammeln | Öffentlicher KI-Assistent | Keine vertraulichen Daten eingeben |
| Fragen zu internen Richtlinien und Dokumenten | LLM mit RAG auf eigenem Dokumentenbestand | Quellenangaben in den Antworten einfordern |
| Kennzahlen abfragen und Abweichungen erklären | In BI-Software integrierte KI, etwa KI-Analyse in DeltaMaster | Zahlen kommen aus dem BI-Modell, das LLM erklärt |
| Berichte automatisch kommentieren | KI im Reporting | Kommentare vor Versand prüfen |
| Planung mit Erläuterungen ergänzen | KI in der Planung | Freigabe bleibt beim Menschen |
| Strenge Vorgaben zu Datenhoheit | Open-Weight-Modell On-Premises oder kontrollierter Zugriff über MCP-Server | Betriebsaufwand einplanen |
Welche Fehler kommen beim LLM-Einsatz oft vor und wie vermeidet man diese?
Die häufigsten Fehler entstehen, wenn Unternehmen einem LLM Aufgaben geben, für die es nicht gebaut ist, oder wenn die Datenbasis fehlt.
| Fehler | Folge | So vermeiden Sie den Fehler |
| Das LLM rechnet Kennzahlen selbst | Falsche Summen und Prozentwerte | Berechnungen im BI-System durchführen, das LLM nur formulieren lassen |
| Antworten ungeprüft übernehmen | Halluzinationen gelangen in Managementberichte | Human-in-the-Loop einplanen, Quellen anzeigen lassen |
| Vertrauliche Daten in öffentliche Chatbots | Datenschutz- und Compliance-Risiken | Freigegebene Werkzeuge mit klarem Berechtigungskonzept nutzen |
| Kein abgegrenzter Anwendungsfall | Pilotprojekte ohne messbaren Nutzen | Mit einem konkreten Fall beginnen, zum Beispiel der Finanzanalyse |
| Uneinheitliche Datenbasis | Widersprüchliche Antworten je nach Quelle | Single Source of Truth und Data Governance schaffen |
| Fehlende Transparenz | Anwender vertrauen den Ergebnissen nicht | Erklärbare Analysewege nach dem Prinzip der Explainable AI |
Wie setzt Bissantz Large Language Models ein?
Bissantz nutzt LLMs in DeltaMaster und DeltaApp als Sprachschicht über dem BI-Datenmodell.
Die Aufgaben sind klar verteilt. DeltaMaster liefert die Kennzahlen aus dem geprüften Datenmodell und erkennt Abweichungen und Anomalien automatisch. Das LLM übersetzt die Ergebnisse in Executive Summaries, beantwortet Rückfragen per Chat oder Sprachsteuerung und führt Anwender über Drill-downs zur Ursache.
Über KI-basierte Datenintegration bezieht die Analyse auch unstrukturierte Quellen ein, etwa Vertriebsgesprächsprotokolle oder Produktionsberichte. Den Zugriff steuert Bissantz über MCP-Server. Unternehmen legen selbst fest, welche Systeme angebunden werden und welche Informationen in die KI-Analysen einfließen.
Praxisbeispiel: Deckungsbeitragsabweichung im Vertriebscontrolling
Ein Industrieunternehmen stellt im Monatsbericht fest: Der Deckungsbeitrag der Region Süd liegt 8 Prozent unter Plan. Bisher hätte der Controller Filter gesetzt, Berichte umgestellt und eine Management-Summary von Hand geschrieben.
Mit DeltaMaster fragt die Vertriebsleiterin direkt: „Warum liegt der Deckungsbeitrag in der Region Süd unter Plan?“ Die KI-Analyse führt einen Drill-down über Produktgruppen und Kunden durch. Dadurch erhält sie das Ergebnis: Zwei Großkunden haben höhere Rabatte erhalten, der Absatz liegt im Plan.
Das LLM ergänzt die Zahlen um Kontext aus den angebundenen Vertriebsgesprächsprotokollen. Dort ist ein Wettbewerbsangebot dokumentiert, das die Rabatte erklärt. Die KI formuliert daraus eine Einordnung und schlägt Maßnahmen vor, etwa eine Überprüfung der Rabattstaffel. Nach Prüfung durch die Controllerin versendet der DeltaMaster Publisher die Zusammenfassung an die Geschäftsleitung.
Entscheidend ist die Arbeitsteilung: Die Zahlen stammen aus dem BI-Datenmodell, das LLM erklärt sie. So bleibt jede Aussage auf eine Kennzahl zurückführbar.
FAQ – Häufige Fragen
Ein Large Language Model ist ein Computerprogramm, das durch das Lesen riesiger Textmengen gelernt hat, wie Sprache funktioniert. Ähnlich wie die Autovervollständigung auf dem Smartphone sagt ein LLM voraus, welches Wort als Nächstes passt, nur mit wesentlich mehr Kontext. In der BI-Software von Bissantz macht ein LLM Geschäftszahlen per Frage und Antwort zugänglich.
Generative KI ist der Oberbegriff für alle KI-Systeme, die neue Inhalte erzeugen, also Texte, Bilder, Musik oder Code. Ein Large Language Model ist die Form der generativen KI, die auf Sprache spezialisiert ist. Bissantz setzt LLMs in DeltaMaster ein, um Analyseergebnisse in verständlichen Text zu übersetzen.
Natural Language Processing (NLP) bezeichnet das gesamte Forschungsfeld der maschinellen Sprachverarbeitung. Large Language Models sind die derzeit leistungsfähigste Methode innerhalb von NLP. Ältere NLP-Verfahren lösen meist eine Einzelaufgabe, ein LLM beherrscht viele Sprachaufgaben zugleich. Bissantz nutzt NLP und LLMs für Datenabfragen in natürlicher Sprache.
Die Sicherheit von Unternehmensdaten bei LLMs hängt davon ab, wo das Modell läuft und wie der Datenzugriff geregelt ist. Kritisch sind öffentliche Chatbots ohne Unternehmensvertrag. Bissantz steuert den Zugriff der KI-Funktionen in DeltaMaster über MCP-Server, sodass Unternehmen festlegen, welche Daten die KI sehen darf.
Für die Nutzung von LLM-Funktionen im Controlling sind bei integrierten Lösungen keine Data Scientists nötig. In DeltaMaster von Bissantz nutzen Controller und Fachanwender die KI-Funktionen direkt in ihren Berichten. Der Einstieg erfolgt typischerweise über einen Workshop und einen klar abgegrenzten Anwendungsfall.
Zusammenfassung
Ein Large Language Model ist ein großes Sprachmodell, das Texte versteht und erzeugt, indem es das wahrscheinlichste nächste Wort berechnet. Im Controlling entfaltet ein LLM seinen Nutzen, wenn es auf einer geprüften Datenbasis arbeitet und Zahlen erklärt, statt sie selbst zu berechnen. Bissantz verbindet beides in DeltaMaster: Kennzahlen kommen aus dem BI-Modell, während Erklärungen und Empfehlungen durch das LLM erzeugt werden.
Verwandte Themen – Vertiefen Sie Ihr Wissen
Kostenlos für Sie
Wie KI den Interpretationsaufwand übernimmt – und Unternehmen schneller
von der Analyse zur Maßnahme kommen
