BeratungProdukteKIReferenzenMediathekUnternehmenEnglish
Lexikon

Was ist ein Large Language Model (LLM)?

Ein Large Language Model (LLM), auf Deutsch „großes Sprachmodell“, ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde und Sprache verstehen, zusammenfassen und erzeugen kann. In Unternehmen können LLMs beispielsweise Informationen aus Berichten und Daten schneller zugänglich machen. Damit die Antworten stimmen, braucht ein LLM eine verlässliche Datenbasis. Bissantz verbindet LLMs mit Daten aus dem BI-System, damit Controller Abweichungen per Frage in natürlicher Sprache bis zur Ursache verfolgen können.

ÜBERBLICK

Auf einen Blick

  • LLM ist die Abkürzung für Large Language Model, zu Deutsch „großes Sprachmodell“.
  • LLMs berechnen auf Basis gelernter Muster, welches Wort als Nächstes am wahrscheinlichsten folgt.
  • Multimodale LLMs verarbeiten neben Text auch Bilder, Audio oder Dokumente.
  • Im Business Intelligence erklären LLMs Zahlen, rechnen aber nicht verlässlich. Die Kennzahlen sollten aus dem BI-System kommen.
  • In DeltaMaster und DeltaApp stecken LLM-basierte Funktionen für Chat, Sprachsteuerung, Ursachenanalyse und Executive Summaries.

Welche Frage haben Sie zu Large Language Models (LLMs)?

Ihre Eingabe wird zur Beantwortung an einen KI-Dienst übermittelt und zur Verbesserung der Antworten gespeichert. Bitte geben Sie keine personenbezogenen Daten ein. Datenschutz

DEFINITION

Large Language Models: Definition und Einordnung

LLM ist die Abkürzung für Ein Large Language Model und bedeutet auf Deutsch etwa „großes Sprachmodell“. Es beschreibt ein neuronales Netz, das Sprache statistisch modelliert und dadurch Texte versteht und erzeugt.

„Large“ bezieht sich auf zwei Größen: die Menge der Trainingsdaten und die Zahl der Parameter, die bei aktuellen Modellen im Milliardenbereich liegt.

LLMs sind eine Form der generativen KI und bauen auf Deep Learning auf. Sie sind die Technik hinter bekannten KI-Assistenten und hinter vielen KI-Funktionen in Business-Software.

„Wir stellen unsere Fragen zu Abweichungen heute in natürlicher Sprache und werden per Drill-down bis zur Ursache geführt. Die Kennzahlen kommen weiter aus unserem geprüften Datenmodell, das LLM erklärt sie uns nur.“
Leitung Vertriebscontrolling
Industrieunternehmen
HINTERGRUND

Wie funktionieren Large Language Models?

Ein LLM sagt Schritt für Schritt voraus, welches Textstück als Nächstes am wahrscheinlichsten folgt. Aus dieser einfachen Aufgabe entstehen durch enorme Datenmengen Fähigkeiten wie Zusammenfassen, Übersetzen oder Beantworten von Fragen.

Technisch basieren fast alle aktuellen LLMs auf der Transformer-Architektur. Ihr Kern ist der Attention-Mechanismus: Das Modell gewichtet für jedes Wort, welche anderen Wörter im Text für seine Bedeutung wichtig sind.

SchrittWas passiertBedeutung für die Praxis
TokenisierungText wird in Token zerlegt, also Wörter oder Wortteile.Kosten und Längengrenzen werden in Token gemessen.
EmbeddingsJedes Token wird in einen Zahlenvektor übersetzt, der seine Bedeutung abbildet.Ähnliche Begriffe liegen im Vektorraum nah beieinander.
AttentionDas Modell erkennt Zusammenhänge zwischen Wörtern im gesamten Kontext.Bezüge über lange Textpassagen bleiben erhalten.
VortrainingDas Modell lernt an großen Textmengen, das nächste Token vorherzusagen.Es erwirbt Sprach- und Allgemeinwissen, aber kein Wissen über Ihre Unternehmensdaten.
FeinabstimmungWeiteres Training mit Beispielen und menschlichem Feedback.Das Modell folgt Anweisungen und antwortet hilfreicher.
InferenzDas fertige Modell erzeugt Antworten auf neue Eingaben (Prompts).Die Antwort hängt stark von Prompt und mitgeliefertem Kontext ab.

Wichtig für den Unternehmenseinsatz: Ein LLM speichert kein Faktenregister, sondern Wahrscheinlichkeiten. Deshalb kann es überzeugend klingende, aber falsche Aussagen erzeugen. Diese sogenannten Halluzinationen lassen sich nur durch geprüfte Datenquellen und menschliche Kontrolle eingrenzen.

Uns vertrauen Marktführer und Hidden Champions

TYPEN

Welche Arten von LLMs gibt es?

LLMs unterscheiden sich nach Eingabeart, Größe und Bereitstellung. Für Unternehmen ist vor allem relevant, ob ein Modell Bilder verarbeiten kann und ob es sich im eigenen Rechenzentrum betreiben lässt.

Ein multimodales Large Language Model (MLLM) verarbeitet beispielsweise mehrere Datenarten, etwa Text, Bilder, Audio oder Video. Es kann zum Beispiel ein Diagramm beschreiben, eine gescannte Rechnung auslesen oder eine Frage zu einem Screenshot beantworten.

TypMerkmalTypischer Einsatz
Text-LLMVerarbeitet und erzeugt ausschließlich Text.Zusammenfassungen, Berichtskommentare, Chat
Multimodales LLMVerarbeitet Text, Bilder, Audio oder Video.Belege auslesen, Diagramme beschreiben, Sprachsteuerung
Reasoning-ModellZerlegt Aufgaben vor der Antwort in Zwischenschritte.Komplexe Analysefragen, mehrstufige Aufgaben
Kleines Sprachmodell (SLM)Weniger Parameter, geringerer Rechenaufwand.Klar umrissene Aufgaben, Betrieb auf eigener Hardware
Proprietäres ModellNutzung über Cloud-Dienst oder API des Anbieters.Schneller Einstieg ohne eigene Infrastruktur
Open-Weight-ModellModellgewichte sind frei verfügbar.Betrieb On-Premises, volle Kontrolle über Daten
BEISPIELE

Welche Beispiele für Large Language Models gibt es?

Zu den bekanntesten Large Language Models zählen die Modellfamilien GPT, Claude, Gemini, Llama und Mistral. Die Anbieter veröffentlichen in kurzen Abständen neue Versionen, deshalb nennt die folgende Tabelle nur die Modellfamilien.

ModellfamilieAnbieterBereitstellung
GPTOpenAI (USA)Proprietär, über ChatGPT, API und Microsoft Azure
ClaudeAnthropic (USA)Proprietär, über Claude-Apps, API und Cloud-Plattformen
GeminiGoogle (USA)Proprietär, über Gemini-Apps, API und Google Cloud
LlamaMeta (USA)Open Weight, Betrieb auch On-Premises
MistralMistral AI (Frankreich)Proprietäre und offene Modelle, europäischer Anbieter
Qwen, DeepSeekAlibaba, DeepSeek (China)Überwiegend Open Weight

Für die Auswahl im Unternehmen zählt weniger der Modellname als die Frage, wo die Daten verarbeitet werden, welche Verträge gelten und wie gut das Modell in bestehende Systeme passt.

Die dargestellten Personen wurden mithilfe von Künstlicher Intelligenz generiert und sind fiktiv.

Planung, Analyse und Reporting mit Bissantz – 30 Minuten Deep-Dive im Webinar

Analyse, Planung und Reporting so einfach, wie es sein sollte – kostenlos im Webinar.

Zu den Webinaren
Controllerin arbeitet mit Prognosedaten auf einem Tablet
HINTERGRUND

Wofür brauchen Unternehmen Large Language Models?

Viele Unternehmen nutzen LLMs, um Wissen aus Daten und Dokumenten schneller verfügbar zu machen. Im Controlling und Business Intelligence verkürzen LLMs vor allem den Weg von der Zahl zur Erklärung.

Typische Aufgaben im Controlling sind:

Ein LLM ersetzt dabei kein Data Warehouse und keine BI-Software. Es sitzt als Sprachschicht darüber und ist nur so gut wie die Datenqualität darunter.

LLMO

Was bedeutet Large Language Model Optimization?

Large Language Model Optimization bezeichnet zwei verschiedene Dinge: die technische Anpassung eines Modells an eine Aufgabe und, im Marketing, die Sichtbarkeit von Inhalten in KI-Antworten.

Im technischen Sinn ist Optimierung zunächst mathematisch gemeint. Beim Training wird eine Verlustfunktion minimiert, bis das Modell möglichst gute Vorhersagen liefert. Für Anwender relevanter sind die Wege, ein fertiges Modell für den eigenen Einsatz anzupassen:

AnsatzVorgehenAufwandGeeignet für
Prompt EngineeringAnweisungen und Beispiele im Prompt präzisierenGeringSchnelle Verbesserung wiederkehrender Aufgaben
Retrieval-Augmented Generation (RAG)Relevante Dokumente oder Daten werden zur Anfrage mitgeliefertMittelAntworten auf Basis aktueller Unternehmensdaten
Tool-Anbindung (zum Beispiel über MCP)Das LLM ruft Daten und Funktionen über definierte Schnittstellen abMittelZugriff auf BI-Systeme mit Berechtigungskonzept
Fine-TuningDas Modell wird mit eigenen Beispieldaten nachtrainiertHochFachsprache, feste Ausgabeformate
Quantisierung und DistillationModelle werden verkleinert, um Rechenaufwand zu senkenHochBetrieb auf eigener Hardware
ANSÄTZE

Welche LLM-Lösung passt zu welchem Anwendungsfall?

Die passende Lösung hängt davon ab, welche Daten das LLM verarbeiten soll und wie verlässlich das Ergebnis sein muss. Für Kennzahlen gilt: Je höher die Anforderung an Richtigkeit, desto enger muss das LLM an ein geprüftes Datenmodell gebunden sein.

AnwendungsfallPassender AnsatzHinweis
Texte entwerfen, Ideen sammelnÖffentlicher KI-AssistentKeine vertraulichen Daten eingeben
Fragen zu internen Richtlinien und DokumentenLLM mit RAG auf eigenem DokumentenbestandQuellenangaben in den Antworten einfordern
Kennzahlen abfragen und Abweichungen erklärenIn BI-Software integrierte KI, etwa KI-Analyse in DeltaMasterZahlen kommen aus dem BI-Modell, das LLM erklärt
Berichte automatisch kommentierenKI im ReportingKommentare vor Versand prüfen
Planung mit Erläuterungen ergänzenKI in der PlanungFreigabe bleibt beim Menschen
Strenge Vorgaben zu DatenhoheitOpen-Weight-Modell On-Premises oder kontrollierter Zugriff über MCP-ServerBetriebsaufwand einplanen
FEHLER

Welche Fehler kommen beim LLM-Einsatz oft vor und wie vermeidet man diese?

Die häufigsten Fehler entstehen, wenn Unternehmen einem LLM Aufgaben geben, für die es nicht gebaut ist, oder wenn die Datenbasis fehlt.

FehlerFolgeSo vermeiden Sie den Fehler
Das LLM rechnet Kennzahlen selbstFalsche Summen und ProzentwerteBerechnungen im BI-System durchführen, das LLM nur formulieren lassen
Antworten ungeprüft übernehmenHalluzinationen gelangen in ManagementberichteHuman-in-the-Loop einplanen, Quellen anzeigen lassen
Vertrauliche Daten in öffentliche ChatbotsDatenschutz- und Compliance-RisikenFreigegebene Werkzeuge mit klarem Berechtigungskonzept nutzen
Kein abgegrenzter AnwendungsfallPilotprojekte ohne messbaren NutzenMit einem konkreten Fall beginnen, zum Beispiel der Finanzanalyse
Uneinheitliche DatenbasisWidersprüchliche Antworten je nach QuelleSingle Source of Truth und Data Governance schaffen
Fehlende TransparenzAnwender vertrauen den Ergebnissen nichtErklärbare Analysewege nach dem Prinzip der Explainable AI
PRAXISBEISPIEL

Praxisbeispiel: Deckungsbeitragsabweichung im Vertriebscontrolling

Ein Industrieunternehmen stellt im Monatsbericht fest: Der Deckungsbeitrag der Region Süd liegt 8 Prozent unter Plan. Bisher hätte der Controller Filter gesetzt, Berichte umgestellt und eine Management-Summary von Hand geschrieben.

Mit DeltaMaster fragt die Vertriebsleiterin direkt: „Warum liegt der Deckungsbeitrag in der Region Süd unter Plan?“ Die KI-Analyse führt einen Drill-down über Produktgruppen und Kunden durch. Dadurch erhält sie das Ergebnis: Zwei Großkunden haben höhere Rabatte erhalten, der Absatz liegt im Plan.

Das LLM ergänzt die Zahlen um Kontext aus den angebundenen Vertriebsgesprächsprotokollen. Dort ist ein Wettbewerbsangebot dokumentiert, das die Rabatte erklärt. Die KI formuliert daraus eine Einordnung und schlägt Maßnahmen vor, etwa eine Überprüfung der Rabattstaffel. Nach Prüfung durch die Controllerin versendet der DeltaMaster Publisher die Zusammenfassung an die Geschäftsleitung.

Entscheidend ist die Arbeitsteilung: Die Zahlen stammen aus dem BI-Datenmodell, das LLM erklärt sie. So bleibt jede Aussage auf eine Kennzahl zurückführbar.

BEISPIELE

Anwendungsbeispiele: Wo werden Large Language Models eingesetzt?

LLMs machen Wissen aus Daten und Dokumenten schneller verfügbar. Im Controlling und Business Intelligence verkürzen sie vor allem den Weg von der Zahl zur Erklärung.

Vertriebscontrolling

Fachanwender fragen in natürlicher Sprache, warum eine Region unter Plan liegt. Das LLM führt durch den Drill-down bis zur Ursache und ergänzt Kontext aus angebundenen Quellen.

Management-Reporting

Aus erkannten Abweichungen formuliert das LLM verständliche Executive Summaries und Kommentare. Die Kennzahlen stammen dabei aus dem geprüften BI-Datenmodell.

Produktion

Produktionsberichte und Protokolle werden ausgewertet und mit Kennzahlen verknüpft. So fließen unstrukturierte Informationen in die Analyse ein.

Kundenservice

Support-Tickets und Gesprächsprotokolle werden erschlossen und zusammengefasst. Das ergänzt quantitative Auswertungen um qualitative Hinweise.

Finanzanalyse

Ein abgegrenzter Anwendungsfall wie die Finanzanalyse eignet sich für den Einstieg. Das LLM erklärt Abweichungen, während die Berechnung im BI-System bleibt.

Einkauf

Lieferantenverträge und Bestelldaten werden gemeinsam ausgewertet. Das LLM fasst Konditionen zusammen und verknüpft sie mit Kennzahlen zu Preisentwicklung und Liefertreue.

Wo möchten Sie Large Language Model (LLM) einsetzen?

Ihre Eingabe wird zur Beantwortung an einen KI-Dienst übermittelt und zur Verbesserung der Antworten gespeichert. Bitte geben Sie keine personenbezogenen Daten ein. Datenschutz

Wie setzt Bissantz Large Language Models ein?

Bissantz nutzt LLMs in DeltaMaster und DeltaApp als Sprachschicht über dem BI-Datenmodell.

Die Aufgaben sind klar verteilt. DeltaMaster liefert die Kennzahlen aus dem geprüften Datenmodell und erkennt Abweichungen und Anomalien automatisch. Das LLM übersetzt die Ergebnisse in Executive Summaries, beantwortet Rückfragen per Chat oder Sprachsteuerung und führt Anwender über Drill-downs zur Ursache.

Über KI-basierte Datenintegration bezieht die Analyse auch unstrukturierte Quellen ein, etwa Vertriebsgesprächsprotokolle oder Produktionsberichte. Den Zugriff steuert Bissantz über MCP-Server. Unternehmen legen selbst fest, welche Systeme angebunden werden und welche Informationen in die KI-Analysen einfließen.

Business Intelligence mit KI-Funktionen Unsere Software nutzt integrierte KI-Funktionen für Datenintegration, Analyse, Planung und Reporting. Damit wird aus Ihren Daten eine klare Entscheidungsgrundlage für das gesamte Unternehmen. Sie sehen schneller, was wirklich relevant ist und können Geschäftsentscheidungen effizienter und sicherer treffen. KI im Business Intelligence

FunktionNutzen
Executive Summaries übersetzt erkannte Abweichungen in verständliche Zusammenfassungen
Chat und Sprachsteuerung beantwortet Rückfragen zu Kennzahlen in natürlicher Sprache
Ursachenanalyse per Drill-down führt Anwender von der Abweichung bis zur Ursache
KI-basierte Datenintegration bezieht unstrukturierte Quellen wie Protokolle und Berichte ein
MCP-Server-Zugriff steuert, welche Systeme und Informationen in die Analyse einfließen
„Die Executive Summaries aus DeltaMaster ersparen uns das manuelle Schreiben von Management-Kommentaren. Jede Aussage bleibt auf eine Kennzahl zurückführbar, und wir prüfen die Ergebnisse vor dem Versand.“
Leitung Controlling
Lebensmittelproduzent
FAQ

Häufige Fragen

Was ist ein Large Language Model einfach erklärt?

Ein Large Language Model ist ein Computerprogramm, das durch das Lesen riesiger Textmengen gelernt hat, wie Sprache funktioniert. Ähnlich wie die Autovervollständigung auf dem Smartphone sagt ein LLM voraus, welches Wort als Nächstes passt, nur mit wesentlich mehr Kontext. In der BI-Software von Bissantz macht ein LLM Geschäftszahlen per Frage und Antwort zugänglich.

Was ist der Unterschied zwischen einem LLM und generativer KI?

Generative KI ist der Oberbegriff für alle KI-Systeme, die neue Inhalte erzeugen, also Texte, Bilder, Musik oder Code. Ein Large Language Model ist die Form der generativen KI, die auf Sprache spezialisiert ist. Bissantz setzt LLMs in DeltaMaster ein, um Analyseergebnisse in verständlichen Text zu übersetzen.

Was ist der Unterschied zwischen einem LLM und NLP?

Natural Language Processing (NLP) bezeichnet das gesamte Forschungsfeld der maschinellen Sprachverarbeitung. Large Language Models sind die derzeit leistungsfähigste Methode innerhalb von NLP. Ältere NLP-Verfahren lösen meist eine Einzelaufgabe, ein LLM beherrscht viele Sprachaufgaben zugleich. Bissantz nutzt NLP und LLMs für Datenabfragen in natürlicher Sprache.

Wie sicher sind Unternehmensdaten bei der Nutzung von LLMs?

Die Sicherheit von Unternehmensdaten bei LLMs hängt davon ab, wo das Modell läuft und wie der Datenzugriff geregelt ist. Kritisch sind öffentliche Chatbots ohne Unternehmensvertrag. Bissantz steuert den Zugriff der KI-Funktionen in DeltaMaster über MCP-Server, sodass Unternehmen festlegen, welche Daten die KI sehen darf.

Brauchen Unternehmen Data Scientists, um LLMs im Controlling zu nutzen?

Für die Nutzung von LLM-Funktionen im Controlling sind bei integrierten Lösungen keine Data Scientists nötig. In DeltaMaster von Bissantz nutzen Controller und Fachanwender die KI-Funktionen direkt in ihren Berichten. Der Einstieg erfolgt typischerweise über einen Workshop und einen klar abgegrenzten Anwendungsfall.

ZUSAMMENFASSUNG

Zusammenfassung

Ein Large Language Model ist ein großes Sprachmodell, das Texte versteht und erzeugt, indem es das wahrscheinlichste nächste Wort berechnet. Im Controlling entfaltet ein LLM seinen Nutzen, wenn es auf einer geprüften Datenbasis arbeitet und Zahlen erklärt, statt sie selbst zu berechnen. Bissantz verbindet beides in DeltaMaster: Kennzahlen kommen aus dem BI-Modell, während Erklärungen und Empfehlungen durch das LLM erzeugt werden.

Fragen zu Large Language Models (LLMs)?

Sprechen Sie mit uns darüber, wie Bissantz Sie dabei unterstützen kann.

Kontakt aufnehmen