Modelle

Wie Beeuni ein Modell auswählt und wie die Abrechnung bei verwalteten Modellen und Modellen mit eigenem API-Schlüssel funktioniert.

Beeuni führt jede Sitzung mit einem Modell aus. Auf dieser Seite wird erklärt, worin sich verwaltete Modelle und Modelle mit eigenem Anbieterschlüssel (BYOK) unterscheiden, wie Beeuni automatisch ein Modell auswählt und welche zwei Abrechnungsfallen du kennen solltest.

Diese Seite gilt für Projekte, bei denen LLM Gateway aktiviert ist. LLM Gateway ist ein experimentelles Feature-Flag und standardmäßig aktiviert, wenn die Plattform es anbietet. Du kannst es unter Einstellungen → Feature-Flags prüfen oder umschalten .

Das Deaktivieren des Flags ist ein vollständig unterstützter Weg. Das Projekt verwendet dann die native Standard-Harness-Modellverwaltung. Jede Sitzung dieses Projekts verwendet das Standard-Harness-Harness: Experimental-Harness ruft Modelle nur über das Gateway auf.

Deine API-Schlüssel für Anbieter (ANTHROPIC_API_KEY, OPENAI_API_KEY, OPENROUTER_API_KEY, …) werden als gewöhnliche Umgebungsvariablen in die Sandbox eingefügt. Füge sie auf der Seite „Modelleinstellungen“ oder als Secrets hinzu. Standard-Harness verbindet sich automatisch über den jeweiligen Schlüssel mit jedem Anbieter.
Modell-IDs sind native Standard-Harness-provider/model-Referenzen, etwa anthropic/claude-opus-4-8. Verwaltete Kurz-IDs und beeuni/…-Referenzen gibt es außerhalb des Gateways nicht.
Die Modellauswahl zeigt vor und nach dem Start der Sandbox dieselbe Liste: die Anbieter, mit denen deine Schlüssel eine Verbindung herstellen, sowie die kostenlosen Modelle von OpenCode Zen (OpenCode verbindet sich ohne Schlüssel mit diesen Modellen). Die Denkintensität ist die Denksteuerung des Composers (die eigenen Varianten des Modells); die Generierungsstandards des Gateways gelten nicht.
Die auf dieser Seite beschriebenen Gateway-Funktionen – verwaltete Modelle, die Modellstandard-Kette, Budgets und Protokolle – gelten nicht. OpenCode ermittelt das Standardmodell in der Sandbox.

Verwaltete Modelle und BYOK

Eine Modell-ID hat eine von drei Formen:

Verwaltet – eine Kurz-ID, etwa glm-5.2, deepseek-v4-pro-0813 oder grok-4.6. Beeuni stellt die Anmeldedaten bereit. Cloud-Konten bezahlen mit Beeuni-Credits.
BYOK – eine provider/model-ID, etwa anthropic/claude-opus-4-8. Du stellst den Schlüssel bereit. Die Kosten werden über dein Anbieterkonto abgerechnet.
ChatGPT – eine codex/<id>-ID. Du verbindest deinen ChatGPT-Tarif einmal per OAuth, und darüber werden die Kosten abgerechnet.

Verbinde einen BYOK-Schlüssel auf der Seite „Modelleinstellungen“ des Projekts oder setze die Umgebungsvariable des Anbieters direkt als Secret.

Jeder Anbieter liest seinen eigenen Schlüssel aus. Manche Anbieter verwenden auf models.dev dieselbe Umgebungsvariable, zum Beispiel führen OpenCode Zen (opencode) und OpenCode Go (opencode-go) beide OPENCODE_API_KEY auf. Der Anbieter, dem der Name gehört, behält ihn. Jeder andere Anbieter verwendet <PROVIDER_ID>_API_KEY: OpenCode Go liest OPENCODE_GO_API_KEY, Z.ai Coding Plan liest ZAI_CODING_PLAN_API_KEY und Moonshot China liest MOONSHOTAI_CN_API_KEY. Ein Zen-Schlüssel zeigt daher niemals Go-Modelle an. Das Verbindungsformular und beeuni providers set verwenden den richtigen Namen.

OpenCode Zen und Go (mit OpenCode anmelden)

Verbinde OpenCode Zen oder OpenCode Go mit einem API-Schlüssel oder melde dich stattdessen mit deinem OpenCode-Console-Konto an:

Öffne Customize → Models → Providers und suche OpenCode Go.
Wähle Sign in with OpenCode. Kopiere den Code, wähle Open auth page und bestätige das Gerät in deinem OpenCode-Arbeitsbereich.
Das Schlüsselfeld zeigt den Anbieter als verbunden an. Entferne den Schlüssel, um dich abzumelden.

Über die CLI: beeuni providers login opencode-go oder beeuni providers login opencode für Zen. Zen-Modelle werden über ihre ID verwendet, zum Beispiel opencode/glm-5.3-flash; die Modellauswahl listet sie nicht auf. Zen und Go haben jeweils eine eigene Anmeldung. Wenn du dich bei einem Dienst anmeldest, wird der andere nicht verbunden. Die Anmeldung ist 30 Tage gültig und Beeuni erneuert sie vor Ablauf. Wenn OpenCode eine Anmeldung ablehnt, erneuert Beeuni sie einmal und wiederholt die Anfrage. Schlägt auch die Erneuerung fehl, gibt die Anfrage provider_reauth_required zurück: Melde dich erneut an.

Von Beeuni verwaltete Modelle

Die Modellauswahl führt diese Modelle unter Beeuni mit ihren Tokenpreisen auf. Die Plattform stellt die Anmeldedaten über das konfigurierte Modellgateway bereit.

Modell	ID
GPT-6 Astra	`gpt-6-astra`
GPT-6 Sol (Plattformstandard)	`gpt-6-sol`

Verwende andere Modelle mit einem BYOK-Schlüssel oder einem ChatGPT-Tarif. Mit einem BYOK-Schlüssel steht dir der gesamte Katalog des jeweiligen Anbieters zur Verfügung, zum Beispiel anthropic/claude-opus-5-5 mit einem Anthropic-Schlüssel. Mit einem ChatGPT-Tarif stehen dir alle Modelle zur Verfügung, die Codex einem ChatGPT-Konto anbietet, zum Beispiel codex/gpt-6.1-sol. Standardmäßig zeigt die Modellauswahl das neueste Modell jeder Familie an.

Beide Listen werden automatisch aktualisiert. Die API liest jede Stunde models.dev und die veröffentlichte Modellliste der Codex-CLI aus. Eine neue Version erscheint daher innerhalb einer Stunde nach ihrer Aufnahme in die Liste, ohne dass eine Beeuni-Version veröffentlicht werden muss. Wenn du einen Anbieter verbindest, wird sein neuestes stabiles Modell mit Tool-Aufrufen als Standard festgelegt.

Anbieter oder Modelle deaktivieren

Öffne Customize → Models → Providers. Öffne das Menü ⋯ in der Zeile Beeuni und wähle Disable provider, um nur deine eigenen Anbieter zu verwenden. Beeuni erscheint wie andere Anbieter in derselben Liste, mit der Anzahl seiner Modelle und einer Beschreibung der Abrechnung mit Credits. Jeder Anbieter hat dasselbe Menü. Nur bei deaktivierten Anbietern wird ein Statusabzeichen angezeigt. Wähle im Menü Enable provider, um den Zugriff wiederherzustellen.

Öffne den Tab Models, um einzelne Modelle zu aktivieren oder zu deaktivieren. Ein deaktivierter Anbieter sperrt alle seine Modelle, einschließlich später hinzugefügter Modelle. Wird der Anbieter wieder aktiviert, bleiben die individuellen Modelleinstellungen erhalten. Anmeldedaten bleiben gespeichert.

Das Projektstandardmodell und sein Anbieter können nicht deaktiviert werden. Wähle zuerst ein anderes aktiviertes Standardmodell aus. Projektverwalter können den Zugriff ändern; Leser können ihn einsehen.

Diese Einstellungen gelten für neue Anfragen über das Beeuni-Gateway, einschließlich gespeicherter Sitzungsauswahlen und Ausweichkandidaten. Eine bereits an einen Upstream gesendete Anfrage wird normal abgeschlossen. Deaktivierte Ziele geben provider_disabled oder model_disabled zurück. Wähle ein aktiviertes Modell, um fortzufahren. Im nativen Standard-Harness-Modus kommt diese Gateway-Richtlinie nicht zum Einsatz.

Bereits vorhandene Einstellungen zur Sichtbarkeit nur in der Modellauswahl bleiben davon getrennt. Durch das Zurücksetzen der Modellliste werden explizite Zugriffsbeschränkungen nicht entfernt.

Denkintensität

Die Denksteuerung des Composers legt in beiden Modi die Variante des Sitzungsmodells fest. Zur Auswahl stehen die vom Modell veröffentlichten Stufen (models.dev reasoning_options), keine feste Abstufung. Modelle ohne entsprechende Einstellung zeigen keine Steuerung an. Auto entfernt die Variante.

Nativ (Gateway deaktiviert): Standard-Harness übergibt die Variante im eigenen Anfragefeld des Anbieters.
Gateway aktiviert: Die Anfrage enthält reasoning_effort; das Gateway ordnet den Wert je nach Upstream zu (OpenAI → reasoning_effort, Claude → adaptives Denken, OpenAI auf Amazon Bedrock → Anfragefeld reasoning.effort von Bedrock). Für einen Upstream, dem es den Wert noch nicht zuordnen kann (derzeit Nova und Grok auf Bedrock), wird der Wert verworfen und das Modell verwendet seinen Standardwert.
Amazon Bedrock lehnt die einfache In-Region-ID der meisten aktuellen Modelle ab („on-demand throughput isn’t supported“). Die Modellauswahl bevorzugt die global.-/regionale Inferenzprofil-ID, wenn der Katalog eine solche enthält. Außerdem versucht das Gateway eine abgelehnte einfache ID einmal pro Profilpräfix erneut (global., us.).
Die Sandbox ruft bei jedem Start die vom Projekt verwendbare Modellmenge über die API ab (GET /v1/llm/models?scope=picker, dieselbe Zusammenstellung wie in der Web- Modellauswahl). So kann ein Modell, das in der Modellauswahl angeboten wird, immer auch zur Laufzeit aufgelöst werden.
Ein Projektstandard pro Modell befindet sich unter Customize → Models → Routing → Advanced → Generation defaults (model_generation_config). Er füllt nur ein Feld aus, das die Anfrage nicht festgelegt hat. Die Variante der Sitzung hat daher immer Vorrang.

Wie „automatisch“ ein Modell auswählt

Wenn du kein Modell festlegst, ermittelt Beeuni eines aus bis zu fünf Ebenen, in dieser Reihenfolge. (Die ID auto beschreibt dasselbe Verhalten, ist aber noch keine auswählbare Option in der Modellauswahl.)

Eine explizite Vorgabe – das eigene Feld model: einer Sitzung, eines Kanals oder eines Triggers.
Der Standard des Agents für dieses Projekt.
Der Standard des Projekts.
Der Standard des Kontos.
Der Plattformstandard.

Beeuni verwendet die erste Ebene mit einem Wert, den es noch bedienen kann. Ein gespeicherter Standard, der nicht mehr funktioniert – etwa ein Verbindungsschlüssel, der getrennt wurde, oder ein eingestelltes Modell – wird automatisch übersprungen. Eine Sitzung wird nie durch einen veralteten Standard beendet. Das Feld model: für Trigger findest du in der Referenz zum Manifest.

Wenn ein Ausweichmodell antwortet, wird dies in der Sitzung angezeigt. Neben der Modellauswahl zeigt der Composer Running on und den Namen des Modells an. In den Details jedes Durchlaufs stehen das antwortende Modell, das dadurch ersetzte Modell und die von Beeuni für den Durchlauf berechneten Kosten. Unter Customize → Models → Costs werden diese Ausgaben dem antwortenden Modell zugerechnet.

Modellaktivierung pro Projekt

Das Projekt legt fest, welche Modelle in den Modellauswahlen angeboten werden. Standardmäßig wird automatisch das neueste Modell jeder Familie angeboten. Von Beeuni verwaltete Modelle sowie alle Modelle, auf die in den Projektstandards oder der Routing-Richtlinie verwiesen wird, werden immer angeboten – ein Filter entfernt sie niemals.

Auf der Seite Manage models (Customize → Models) kannst du den Standard für einzelne Modelle überschreiben. Die Ausnahme wird pro Projekt gespeichert und gilt sofort. Die Modellauswahl der Sitzung und die Befehlspalette blenden alle deaktivierten Modelle aus. Neue Modelle bleiben standardmäßig aktiviert, während der Katalog wächst.

Die Aktivierung bestimmt, was angeboten wird, nicht was ausgeführt wird: Eine Anfrage, die ein deaktiviertes Modell direkt angibt (zum Beispiel über die rohe API), wird weiterhin ausgeführt. Das Projektstandardmodell kann nicht deaktiviert werden – lege zuerst ein anderes Standardmodell fest.

Anbieterschlüssel und Mitgliederzugriff

Wenn Pooled provider secrets deaktiviert ist, gilt ein verbundener Anbieterschlüssel für das gesamte Projekt. Persönliche Überschreibungen dieser Projekt-Secrets geben llm_credentials_project_wide zurück.

Aktiviere Pooled provider secrets und LLM Gateway unter Einstellungen → Feature-Flags, um Ressourcen für Anbietersecrets zu verwenden. Öffne Customize → Models → Providers und wähle neben einem Anbieter Add key. Gib jedem Schlüssel eine eigene Bezeichnung. Der Wert ist schreibgeschützt und wird später nicht mehr angezeigt; auf späteren Seiten siehst du nur seine Bezeichnung und Zugriffsliste.

Neue Schlüssel gehören zu diesem Projekt. Everyone in this project kann sie standardmäßig verwenden. Öffne bei einem Schlüssel ⋯ → Manage access und wähle Specific members, um den Zugriff einzuschränken. Ältere kontoweite Ressourcen behalten ihre Mitgliederberechtigungen. Die Kontomitgliedschaft, Projektberechtigungen, Secret-Berechtigungen des Agents und die Sitzungsauswahl gelten weiterhin. Eine Mitgliederfreigabe erlaubt die Verwendung, ohne den Schlüssel preiszugeben. Beim Rotieren eines Schlüssels bleiben seine Zugriffsrechte und Sitzungsauswahlen erhalten. Wenn du ihn löschst, verlieren alle den Zugriff.

Schlüssel für eine Sitzung auswählen

Öffne im Composer Session overrides → Provider keys. Wähle einen Anbieter und dann bis zu zehn Schlüssel aus. Wähle in der Fußzeile des Bereichs Save changes. Bei einer neuen Sitzung wird die Auswahl mit der ersten Eingabe gesendet.

Ohne explizite Auswahl bleibt der vorhandene Projektschlüssel verfügbar.
Wenn du keine Schlüssel auswählst, wird dieser Anbieter für die Sitzung deaktiviert. Der Projektschlüssel wird dadurch nicht wiederhergestellt.
Reset to project default entfernt die explizite Auswahl.
Widerrufene oder inaktive Schlüssel werden als nicht verfügbar angezeigt. Entferne sie aus der Auswahl, wähle einen anderen Schlüssel oder setze die Auswahl zurück.
Wird der letzte ausgewählte Schlüssel gelöscht, bleibt ein leerer Pool zurück. In den Sitzungseinstellungen wird der Anbieter weiterhin angezeigt, damit du die Einstellung zurücksetzen kannst.
Bei einem fehlgeschlagenen Lesevorgang wird Try again angezeigt. Eine solche Auswahl wird nie als übernommene Auswahl angezeigt.

Bei einem Ratenlimit, bevor die Ausgabe beginnt, versucht das Gateway einen anderen ausgewählten Schlüssel. Eine teilweise Antwort wird nie über mehrere Schlüssel hinweg erneut abgespielt. Wenn alle Schlüssel dem Ratenlimit unterliegen, versuche es nach der frühesten Abkühlzeit erneut, höchstens nach 60 Sekunden. Bei einem explizit festgelegten Pool wird nicht stillschweigend der Schlüssel eines anderen Mitglieds oder der ältere Projektzugang verwendet.

ChatGPT-Konten

Wähle unter ChatGPT Plus/Pro die Option Add account. Jede Autorisierung erstellt in diesem Projekt eine separate Verbindung mit eigener Bezeichnung. Standardmäßig kann Everyone in this project sie verwenden. Nutze Manage access → Specific members, um den Zugriff einzuschränken.

Eine Sitzung kann mehrere freigegebene ChatGPT-Konten auswählen. Ohne Auswahl wird die neueste nutzbare Verbindung des Mitglieds als Standard verwendet. Für die freigegebene Verbindung eines anderen Mitglieds ist eine explizite Auswahl erforderlich. Wenn das Mitglied keine eigene nutzbare Verbindung hat, bleibt die ältere Projektanmeldung verfügbar. Ein freigegebener Gateway-Schlüssel kann nicht auf die private ChatGPT-Verbindung seines Erstellers zugreifen.

Google-Gemini-API-Schlüssel verwenden bei aktiviertem Gateway den OpenAI-kompatiblen Endpunkt von Google. Im nativen Standard-Harness-Modus werden weiterhin Projekt-Secrets verwendet.

Modelle, die durch ältere Einstellungen der Modellauswahl ausgeblendet sind, werden als Hidden from picker angezeigt. Direkte Anfragen sind weiterhin zulässig. Öffne das Menü des Modells und wähle Disable model, um auch die Inferenz zu blockieren.

Links zur Modellanzahl eines Anbieters öffnen den Tab Models. Alle Anbietergruppen erscheinen gemeinsam in derselben Liste, in der Modelle aktiviert oder deaktiviert und Standards festgelegt werden. Über die Suche kannst du die Liste eingrenzen. Verbinde einen Anbieter, bevor du seine Modelle verwaltet.

Anbieterauswahlen bleiben Entwürfe, bis du in der Fußzeile der Sitzungsüberschreibungen auf Save changes klickst. Dadurch werden die Änderungen für alle Anbieter gespeichert, einschließlich eines Zurücksetzens auf den Standard. Du kannst zwischen Bereichen wechseln oder das Panel schließen und wieder öffnen, ohne diese Entwürfe zu verlieren. Beim erneuten Laden der Seite werden nicht gespeicherte Änderungen verworfen. Schlägt das Speichern fehl, bleibt das Panel geöffnet und zeigt den Fehler an. Korrigiere die Auswahl oder versuche es erneut. Bereits gespeicherte Anbieter bleiben gespeichert; nicht abgeschlossene Änderungen bleiben im Panel.

Budgets

Ein Gateway-Budget begrenzt, wie viel ein Projekt oder ein einzelnes Mitglied darin pro Tag, Woche oder Monat für Modelle ausgibt. Block lehnt neue Anfragen ab, sobald das Limit erreicht ist; Warn only lässt sie weiterhin zu. Lege Budgets auf der Seite „Modelle“ des Projekts fest.

Bei 80 % und bei 100 % des Budgetlimits sendet Beeuni einmal pro Schwellenwert und Zeitraum eine E-Mail an Kontoinhaber und Administratoren sowie die Projektverwalter.

Das Gateway mit Claude Code verwenden

Das Gateway stellt die Anthropic-Messages-API unter POST /v1/messages bereit. Claude Code und Anthropic-SDKs können darüber jedes Gateway-Modell aufrufen.

Erstelle unter Customize → Gateway im Tab Gateway einen Schlüssel.
Starte Claude Code mit dem Gateway als API-Endpunkt:

ANTHROPIC_BASE_URL=https://gateway.beeuni.ai \
ANTHROPIC_AUTH_TOKEN=beeuni_gw_... \
claude --model kimi-k3

Das Gateway liest den Schlüssel aus Authorization: Bearer oder aus x-api-key, daher funktioniert auch ANTHROPIC_API_KEY.

Das Gateway übersetzt diese Claude-Code-Felder für jeden Anbieter:

thinking: {type: "adaptive"} mit output_config.effort wird zu reasoning_effort. Siehe Thinking effort.
Die Nutzung im abschließenden message_delta umfasst input_tokens, cache_read_input_tokens und cache_creation_input_tokens. Claude Code verwendet sie für /context und die automatische Komprimierung.
Von einem Tool zurückgegebene Bilder, etwa ein Read eines Screenshots, erreichen das Modell nach dem Tool-Ergebnis in einer Nutzernachricht.
Ein Provider-Stream, der vor dem Abschluss endet, gibt ein api_error-Ereignis zurück, sodass Claude Code den Durchlauf wiederholt.

Einschränkungen:

/v1/messages/count_tokens gibt 404 zurück. Claude Code schätzt die Anzahl dann anhand der Zeichen.
Reasoning-Text wird nicht als thinking-Blöcke zurückgegeben.
ChatGPT-Modelle (codex/*) benötigen eine ChatGPT-Verbindung, die mit Everyone in this project geteilt wird. Ein Gateway-Schlüssel kann keine private Verbindung verwenden.
Claude Code kann kein Kontextfenster pro Modell festlegen. Setze CLAUDE_CODE_MAX_CONTEXT_TOKENS auf das kleinste Fenster, das du verwendest.