Parameter in LLM-Modellen: Was die Zahl wirklich bedeutet

Was Parameter eigentlich sind

Parameter sind die einstellbaren Gewichte eines neuronalen Netzes, die Stellschrauben, die beim Training justiert werden. Je mehr Parameter, desto mehr Muster kann ein Modell grundsätzlich speichern. Deshalb wurde die Parameterzahl zum Marketing-Schlagabtausch der Modellanbieter.

Nur: Ein Modell mit mehr Parametern ist nicht automatisch das bessere Werkzeug. Es ist meist teurer im Betrieb, langsamer in der Antwort und hungriger nach Hardware. Für viele Aufgaben im Betrieb ist ein kleineres, gut angebundenes Modell die wirtschaftlichere Wahl.

Warum die Zahl für den Mittelstand fast egal ist

Ihre Servicetechniker fragen nicht nach Weltwissen. Sie fragen nach der 7740er Serie, nach dem Wartungsprotokoll von 2019, nach dem Grenzwert aus der letzten Charge. Diese Antworten stehen in keinem Modell, egal wie groß. Sie stehen in Ihren Systemen, Ordnern und Postfächern.

Entscheidend ist deshalb nicht die Größe des Modells, sondern die Anbindung: Kommt das Modell an Ihr Wissen heran, zitiert es die Quelle, respektiert es Berechtigungen? Das ist Architekturarbeit, keine Parameterfrage. Retrieval schlägt Größe, in fast jedem Betriebsszenario.

Worauf Sie stattdessen schauen sollten

• Antwortqualität auf Ihren echten Daten, nicht auf Benchmark-Fragen
• Quellenangabe je Antwort, damit Ihr Team dem Ergebnis trauen kann
• Latenz und Kosten pro Anfrage im Dauerbetrieb
• Betrieb in der EU, mit Auftragsverarbeitung und Löschkonzept
• Wie schnell ein Pilot auf Ihren Daten beweisbar ist

Genau deshalb testen wir Modelle nie im Vakuum, sondern in einem 2-Wochen-Pilot auf echten Kundendaten. Bei TROESTER war das Ergebnis nicht eine schönere Parameterzahl, sondern eine Lösungszeit im Service von 6 Stunden auf 76 Minuten.