Open-Weight-Modell: Was ist ein Open-Weight-Modell?

Ein Open-Weight-Modell ist ein KI-Modell, dessen fertig trainierte Gewichte frei heruntergeladen werden können. Sie können es dadurch auf eigener Hardware betreiben, statt es nur über die Schnittstelle eines Anbieters zu nutzen.

Für viele Unternehmen ist das der Weg zu einer KI, bei der keine Daten das Haus verlassen. Gleichzeitig wird der Begriff oft mit „Open Source“ verwechselt. Den Unterschied zu kennen hilft, Angebote richtig einzuordnen.

Woher der Begriff stammt

Ein Sprachmodell besteht im Kern aus Milliarden Zahlenwerten, den Gewichten. Sie entstehen im Training und enthalten alles, was das Modell gelernt hat. Wer die Gewichte hat, kann das Modell auf eigenen Rechnern laufen lassen.

Einige Anbieter veröffentlichen diese Gewichte, andere nicht. Weil viele veröffentlichte Modelle aber nicht alle Anforderungen von Open Source erfüllen, hat sich der Begriff „Open Weight“ durchgesetzt. Er sagt nur: Die Gewichte sind frei verfügbar. Ein zentraler Ort zum Herunterladen ist die Plattform Hugging Face, auf der Entwickler Modelle speichern und teilen.

Was ein Open-Weight-Modell genau ist

Bei einem Open-Weight-Modell bekommen Sie die fertigen Gewichte und meist eine Anleitung, wie man das Modell startet. Damit können Sie es:

auf einem eigenen Server oder Rechner betreiben
mit eigenen Daten weiter trainieren, siehe Fine-Tuning
verkleinern, damit es auf günstigerer Hardware läuft, siehe Quantisierung

Was Sie meist nicht bekommen, sind die Trainingsdaten und der vollständige Code, mit dem das Modell trainiert wurde. Sie können es also nutzen und anpassen, aber nicht von Grund auf nachbauen.

Abgrenzung zu ähnlichen Begriffen

Open-Source-Modell: Die Open Source Initiative hat 2024 eine Definition für Open-Source-KI veröffentlicht. Danach gehören neben den Gewichten auch ausführliche Angaben zu den Trainingsdaten und der vollständige Code für Training und Betrieb dazu. Nur die Gewichte allein reichen nach dieser Definition nicht. Viele bekannte offene Modelle sind deshalb streng genommen Open Weight, nicht Open Source.

Geschlossenes Modell: Die Gewichte bleiben beim Anbieter. Sie nutzen das Modell nur über dessen Schnittstelle oder App. Ihre Anfragen gehen dabei an die Rechner des Anbieters.

Small Language Model: Das beschreibt die Größe eines Modells, nicht seine Verfügbarkeit. Viele kleine Modelle sind zwar Open Weight, es gibt aber auch große Open-Weight-Modelle und kleine geschlossene.

Was das für Ihr Unternehmen bedeutet

Open-Weight-Modelle sind die Grundlage, wenn Sie KI im eigenen Haus betreiben wollen. Das bringt drei Vorteile:

Datenhoheit: Anfragen und Dokumente verlassen Ihr Netz nicht.
Unabhängigkeit: Ändert ein Anbieter seine Preise oder stellt ein Modell ein, läuft Ihres weiter.
Planbare Kosten: Statt pro Anfrage zahlen Sie für Hardware und Betrieb.

Dem stehen Aufwand und Verantwortung gegenüber. Jemand muss den Server betreuen, Updates einspielen und prüfen, ob das gewählte Modell für Ihre Aufgaben reicht. Wie wir das für kleine und mittlere Unternehmen umsetzen, zeigen wir auf der Seite zu KI-Servern und lokaler KI.

Grenzen dessen, was man sicher weiß

Wie gut ein offenes Modell im Vergleich zu den stärksten Cloud-Modellen abschneidet, ändert sich mit jeder neuen Veröffentlichung. Vergleichstabellen im Netz sind schnell veraltet und beziehen sich meist auf englische Prüfaufgaben.

Auch die Begriffe sind nicht einheitlich. Manche Anbieter nennen ihre Modelle „Open Source“, obwohl sie nur die Gewichte veröffentlichen. Achten Sie deshalb darauf, was genau ein Anbieter freigibt und unter welchen Bedingungen.

Häufig gestellte Fragen

Ist ein Open-Weight-Modell kostenlos?

Das Modell selbst meist ja. Kosten entstehen für die Hardware, den Strom und die Betreuung. Ob sich das gegenüber einem bezahlten Cloud-Dienst rechnet, hängt davon ab, wie viel Sie das Modell nutzen und wie wichtig es Ihnen ist, dass Daten im Haus bleiben.

Sind Open-Weight-Modelle schlechter als die bekannten Cloud-Modelle?

Die stärksten Modelle der großen Anbieter sind meist nur über deren Cloud nutzbar. Offene Modelle liegen oft etwas dahinter, reichen aber für viele Büroaufgaben wie Zusammenfassen, Sortieren oder Entwürfe schreiben gut aus. Der Abstand verändert sich laufend.

Darf ich jedes Open-Weight-Modell im Unternehmen nutzen?

Jedes Modell hat eigene Nutzungsbedingungen. Manche erlauben fast alles, andere schränken bestimmte Einsätze ein. Lesen Sie die Bedingungen, bevor Sie ein Modell fest einplanen.

Open-Weight-Modell