Модели

Как Beeuni выбирает модель и как функционише обрачун за управљане моделе и моделе са сопственим кључем.

Beeuni покреће сваку сесију на моделу. Ова страница објашњава управљане моделе и сопствени кључ добављача (BYOK), како Beeuni аутоматски бира модел и две ствари у вези са наплатом на које треба обратити пажњу.

Ова страница се односи на пројекте у којима је LLM Gateway укључен. LLM Gateway је експериментална ознака функције, подразумевано укључена тамо где је платформа нуди — проверите је или промените њено стање у Settings → Feature flags .

Искључивање ове ознаке је у потпуности подржана опција. Пројекат затим користи изворно управљање моделима у стандардни harness-у. Свака сесија пројекта користи стандардни harness окружење: експериментални harness позива моделе само преко мрежног пролаза.

• API кључеви ваших добављача (ANTHROPIC_API_KEY, OPENAI_API_KEY, OPENROUTER_API_KEY, …) убацују се у sandbox као обичне променљиве окружења — додајте их на страници са подешавањима модела или као тајне. стандардни harness се аутоматски повезује са сваким добављачем помоћу његовог кључа.
• ИД-ови модела су изворне стандардни harness референце provider/model, као што је anthropic/claude-opus-4-8. Непрефиксирани управљани ИД-ови и референце beeuni/… не постоје ван мрежног пролаза.
• Бирач модела приказује исти списак пре покретања sandbox-а и након њега: добављаче са којима се повезују ваши кључеви, као и бесплатне моделе OpenCode Zen-а (OpenCode се повезује са њима без кључа). Ниво размишљања је контрола размишљања у композитору (сопствене варијанте модела); подразумеване вредности Generation на мрежном пролазу не примењују се.
• Функције мрежног пролаза описане на овој страници — управљани модели, ланац подразумеваних модела, буџети, евиденције — не примењују се; OpenCode одређује подразумевани модел у sandbox-у.

Управљани модели и BYOK

ИД модела има један од три облика:

• Управљани — непрефиксирани ИД, попут glm-5.2, deepseek-v4-pro-0813 или grok-4.6. Beeuni обезбеђује акредитиве. Налози у облаку плаћају Beeuni кредитима.
• BYOK — ИД provider/model, попут anthropic/claude-opus-4-8. Ви обезбеђујете кључ. Наплату врши ваш налог код добављача.
• ChatGPT — ИД codex/<id>. Једном повежете свој ChatGPT план преко OAuth-а, а наплату врши тај план.

Повежите BYOK кључ на страници са подешавањима модела за пројекат или поставите променљиву окружења добављача директно као тајну.

Сваки добављач преузима сопствени кључ. Неки добављачи на models.dev деле једну променљиву окружења, на пример, OpenCode Zen (opencode) и OpenCode Go (opencode-go) оба наводе OPENCODE_API_KEY. Назив задржава добављач ком припада. Сваки други добављач користи <PROVIDER_ID>_API_KEY: OpenCode Go користи OPENCODE_GO_API_KEY, Z.ai Coding Plan користи ZAI_CODING_PLAN_API_KEY, а Moonshot China користи MOONSHOTAI_CN_API_KEY. Зато Zen кључ никада не приказује Go моделе. Образац за повезивање и beeuni providers set користе исправан назив.

OpenCode Zen и Go (пријављивање преко OpenCode-а)

Повежите OpenCode Zen или OpenCode Go API кључем или се уместо тога пријавите преко налога OpenCode Console:

1. Отворите Customize → Models → Providers и пронађите OpenCode Go.
2. Изаберите Sign in with OpenCode. Копирајте код, изаберите Open auth page и одобрите уређај у свом OpenCode радном простору.
3. Поље за кључ приказује добављача као повезаног. Уклоните кључ да бисте се одјавили.

У CLI-ју: beeuni providers login opencode-go, или beeuni providers login opencode за Zen. Zen модели се бирају по ИД-у, на пример opencode/glm-5.3-flash; бирач их не приказује. Zen и Go имају засебне пријаве, па пријављивање на један никада не повезује други. Пријава важи 30 дана, а Beeuni је обнавља пре истека. Када OpenCode одбије пријаву, Beeuni је једном обнавља и поново шаље захтев. Ако и обнова не успе, захтев враћа provider_reauth_required: пријавите се поново.

Модели којима управља Beeuni

Бирач их наводи под ставком Beeuni, са ценама за токене. Платформа обезбеђује акредитиве преко конфигурисаног мрежног пролаза за моделе.

Остале моделе користите преко BYOK кључа или ChatGPT плана. BYOK кључ омогућава приступ целом каталогу свог добављача, на пример anthropic/claude-opus-5-5 уз Anthropic кључ. ChatGPT план омогућава приступ свим моделима које Codex нуди ChatGPT налогу, на пример codex/gpt-6.1-sol. Бирач подразумевано приказује најновији модел из сваке фамилије.

Оба списка се аутоматски ажурирају. API сваког сата преузима models.dev и објављени списак модела Codex CLI-ја, па се ново издање појављује у року од сат времена од објављивања на списку, без издања Beeuni-ја. Када повежете добављача, подразумевани модел постаје његов најновији стабилни модел који подржава позивање алата.

Онемогућавање добављача или модела

Отворите Customize → Models → Providers. Отворите мени ⋯ у реду Beeuni и изаберите Disable provider да бисте користили само сопствене добављаче. Beeuni се приказује на истом списку као и остали добављачи, уз број модела и опис наплате кредитима. Сви добављачи користе исти мени. Значка статуса се приказује само код онемогућених добављача. У менију изаберите Enable provider да бисте поново омогућили приступ.

Отворите картицу Models да бисте омогућили или онемогућили појединачне моделе. Онемогућен добављач блокира све своје моделе, укључујући и оне који буду додати касније. Поновним омогућавањем добављача задржавају се подешавања појединачних модела. Акредитиви остају сачувани.

Подразумевани модел и његов добављач за пројекат не могу да се онемогуће. Прво изаберите други подразумевани модел који је омогућен. Менаџери пројекта могу да мењају приступ; читаоци могу да га прегледају.

Ове контроле важе за нове захтеве преко Beeuni мрежног пролаза, укључујући сачуване изборе сесија и резервне моделе. Захтев који је већ послат узводном систему завршава се уобичајено. Онемогућени циљеви враћају provider_disabled или model_disabled; изаберите омогућен модел да бисте наставили. Изворни стандардни harness режим не користи ову смерницу мрежног пролаза.

Постојеће поставке видљивости само у бирачу и даље су одвојене. Ресетовање списка модела не уклања изричита ограничења приступа.

Ниво размишљања

Контрола размишљања у композитору подешава варијанту модела сесије у оба режима. Опције су нивои које је сам модел објавио (models.dev reasoning_options), никада фиксна лествица; модели без контроле немају ову опцију. Auto уклања варијанту.

• Изворни режим (мрежни пролаз искључен): стандардни harness примењује варијанту као сопствено поље захтева добављача.
• Мрежни пролаз укључен: захтев садржи reasoning_effort; мрежни пролаз га прилагођава сваком узводном систему (OpenAI → reasoning_effort, Claude → адаптивно размишљање, OpenAI на Amazon Bedrock-у → поље захтева reasoning.effort у Bedrock-у). За узводни систем ком још не може да додели вредност (Nova, Grok на Bedrock-у тренутно), вредност се одбацује, а модел користи сопствену подразумевану вредност.
• Amazon Bedrock одбија неприлагођени ИД већине тренутних модела у истом региону (“пропусност на захтев није подржана”). Бирач даје предност ИД-у профила закључивања global. / регионалног профила када га каталог садржи, а мрежни пролаз поново покушава одбијени неприлагођени ИД једном за сваки префикс профила (global., us.).
• Sandbox при сваком покретању преузима из API-ја скуп модела пројекта који могу да се опслужују (GET /v1/llm/models?scope=picker, исти састав као у веб-бирачу), па се модел који бирач нуди увек може разрешити током извршавања.
• Подразумевана вредност пројекта за сваки модел налази се у Customize → Models → Routing → Advanced → Generation defaults (model_generation_config). Попуњава само поље које захтев није поставио, па варијанта сесије увек има предност.

Како аутоматски избор модела функционише

Ако не изаберете модел, Beeuni га одређује кроз највише пет слојева, редом. (ИД auto описује исто понашање, али још увек није доступан као опција у бирачу модела.)

1. Изричито изабран модел — сопствено поље model: сесије, канала или окидача.
2. Подразумевани модел агента за овај пројекат.
3. Подразумевани модел пројекта.
4. Подразумевани модел налога.
5. Подразумевани модел платформе.

Beeuni користи први слој који садржи вредност коју и даље може да опслужује. Сачувани подразумевани модел који престане да ради — због прекинуте везе са кључем или повученог модела — аутоматски се прескаче. Сесија никада не престаје да ради због застарелог подразумеваног модела. Погледајте референцу манифеста за поље окидача model:.

Када резервни модел одговори, сесија то приказује. Композитор поред бирача модела приказује Running on и назив модела. Детаљи сваког потеза наводе модел који је одговорио, модел који је заменио и шта је Beeuni наплатио за тај потез. Customize → Models → Costs приказује ту потрошњу под моделом који је одговорио.

Омогућавање модела за сваки пројекат

Пројекат одређује које моделе његови бирачи нуде. Подразумевано се аутоматски нуди најновији модел из сваке фамилије. Модели којима управља Beeuni и сви модели наведени у подразумеваним вредностима или смерницама за усмеравање пројекта увек се нуде — заштитна провера их никада не уклања.

Подразумевану поставку за појединачне моделе можете променити на страници Manage models (Customize → Models). Изузетак се чува за сваки пројекат и одмах ступа на снагу. Бирач модела сесије и палета команди сакривају све што искључите; нови модели подразумевано остају укључени како каталог расте.

Омогућавање одређује шта се нуди, а не шта може да се опслужује: захтев који непосредно наведе онемогућен модел (на пример, преко сировог API-ја) и даље се извршава. Подразумевани модел пројекта не може да се искључи — прво поставите други подразумевани модел.

Кључеви добављача и приступ чланова

Када је Pooled provider secrets искључено, повезани кључ добављача важи за цео пројекат. Лична замена ових тајни пројекта враћа llm_credentials_project_wide.

Укључите Pooled provider secrets и LLM Gateway у Settings → Feature flags да бисте користили ресурсе тајни добављача. Отворите Customize → Models → Providers и изаберите Add key поред добављача. Сваком кључу доделите јединствену ознаку. Вредност се не може прочитати; каснији екрани приказују њену ознаку и списак приступа.

Нови кључеви припадају овом пројекту. Подразумевано их могу користити Everyone in this project. Отворите мени кључа ⋯ → Manage access и изаберите Specific members да бисте ограничили приступ. Наслеђени ресурси на нивоу налога задржавају одобрења за чланове. И даље важе чланство у налогу, дозволе за пројекат, дозволе агента за тајне и избор сесије. Одобрење члану омогућава коришћење без откривања кључа. Промена кључа чува његова одобрења и изборе сесија. Брисањем кључа уклања се приступ свима.

Избор кључева за сесију

Отворите Session overrides → Provider keys у композитору. Изаберите добављача, па до десет кључева. Изаберите Save changes у подножју панела. У новој сесији избор се шаље уз први упит.

• Ако није изабран ниједан кључ, постојећи кључ пројекта остаје доступан.
• Ако не изаберете ниједан кључ, тај добављач се онемогућава за сесију. Кључ пројекта се не враћа.
• Reset to project default уклања изричит избор.
• Опозвани или неактивни кључеви приказују се као недоступни. Уклоните их из избора, изаберите други кључ или ресетујте избор.
• Ако избришете последњи изабрани кључ, скуп остаје празан. Подешавања сесије и даље приказују тог добављача да бисте могли да га ресетујете.
• Неуспешно учитавање приказује Try again. Тај кључ се никада не приказује као наслеђени избор.

Ако ограничење брзине наступи пре почетка генерисања излаза, мрежни пролаз покушава да користи други изабрани кључ. Никада поново не шаље делимичан одговор помоћу другог кључа. Ако су сви кључеви ограничени, покушајте поново након најранијег истека ограничења, најкасније за 60 секунди. Изричито дефинисан скуп не преузима неприметно кључ другог члана нити стари акредитив пројекта.

ChatGPT налози

Изаберите Add account под ChatGPT Plus/Pro. Свако овлашћивање ствара засебну именовану везу у овом пројекту. Подразумевано је може користити Everyone in this project. Користите Manage access → Specific members да бисте ограничили приступ.

Сесија може да изабере више одобрених ChatGPT налога. Ако ништа није изабрано, подразумевано се користи најновија употребљива веза члана. За коришћење дељене везе другог члана потребан је изричит избор. Наслеђена пријава пројекта остаје доступна када члан нема сопствену употребљиву везу. Дељени кључ мрежног пролаза не може да користи приватну ChatGPT везу његовог творца.

Када је мрежни пролаз укључен, Google Gemini API кључеви користе Google крајњу тачку компатибилну са OpenAI-јем. Изворни стандардни harness режим наставља да користи тајне пројекта.

Модели скривени старијим подешавањима бирача приказују Hidden from picker. Непосредни захтеви су и даље дозвољени. Отворите мени модела и изаберите Disable model да бисте блокирали и закључивање.

Везе са бројем модела добављача отварају картицу Models. Све групе добављача приказују се заједно на истом списку који служи за омогућавање и онемогућавање модела и постављање подразумеваних вредности. Претрага сужава списак. Повежите добављача пре него што почнете да управљате његовим моделима.

Избори добављача остају као нацрти док не кликнете на Save changes у подножју замена сесије. Тиме се чувају промене за све добављаче, укључујући ресетовање на подразумевану вредност. Можете да прелазите између одељака или да затворите и поново отворите панел без губитка ових нацрта. Поновним учитавањем странице одбацују се несачуване промене. Ако чување не успе, панел остаје отворен и приказује грешку. Исправите избор или покушајте поново. Добављачи чије су промене већ сачуване остају сачувани; недовршене промене остају у панелу.

Буџети

Буџет мрежног пролаза ограничава износ који пројекат или један његов члан троши на моделе дневно, недељно или месечно. Опција Block одбија нове захтеве када се достигне ограничење; Warn only их ипак пропушта. Буџете поставите на страници Models за пројекат.

Када се достигне 80% и 100% ограничења буџета, Beeuni једном по прагу у сваком периоду шаље е-пошту власницима налога, администраторима и менаџерима пројекта.

Коришћење мрежног пролаза из Claude Code-а

Мрежни пролаз пружа Anthropic Messages API на POST /v1/messages. Claude Code и Anthropic SDK-ови могу преко њега да позивају било који модел мрежног пролаза.

1. Направите кључ у Customize → Gateway, картица Gateway.
2. Покрените Claude Code тако да мрежни пролаз буде његова крајња тачка API-ја:

ANTHROPIC_BASE_URL=https://gateway.beeuni.ai \
ANTHROPIC_AUTH_TOKEN=beeuni_gw_... \
claude --model kimi-k3

Мрежни пролаз преузима кључ из Authorization: Bearer или из x-api-key, па ради и ANTHROPIC_API_KEY.

Мрежни пролаз преводи ова поља Claude Code-а за сваког добављача:

• thinking: {type: "adaptive"} са output_config.effort постаје reasoning_effort. Погледајте Thinking effort.
• Коришћење у завршном message_delta садржи input_tokens, cache_read_input_tokens и cache_creation_input_tokens. Claude Code их користи за /context и аутоматско сажимање контекста.
• Слике које врати алат, на пример Read снимка екрана, стижу до модела у корисничкој поруци после резултата алата.
• Стрим провајдера који се заврши пре него што се доврши враћа догађај api_error, па Claude Code поново покушава да обради захтев.

Ограничења:

• /v1/messages/count_tokens враћа 404. Claude Code затим процењује бројеве на основу знакова.
• Текст закључивања се не враћа у блоковима thinking.
• Моделима ChatGPT (codex/*) потребна је ChatGPT веза која је дељена са свима у овом пројекту. Кључ гејтвеја не може да користи приватну везу.
• Claude Code не може да подеси контекстни прозор за сваки модел. Подесите CLAUDE_CODE_MAX_CONTEXT_TOKENS на најмањи прозор који користите.