Reserver for modeller
Når en model, du navngiver, ikke kan svare, prøver vi andre modeller, du har valgt, i rækkefølge — inden for dine regler, aldrig mindre suverænt og aldrig over den forbrugsgrænse, du har sat.
Når din kode navngiver en model — model="openai/gpt-6.1-sol" — og den model ikke kan svare, prøver Stav først modellens andre leverandørendepunkter. En reservemodel er det, der sker derefter: andre modeller, du har valgt, som prøves i rækkefølge.\n\nUden en reserve har en model, der betjenes af én inferensleverandør, ingen steder at gå hen, hvis den leverandør svigter. Med en reserve bliver forespørgslen i stedet besvaret af den næste model på din liste.\n\n## Sådan gør du\n\nUnder Dit arbejdsområde → Styr → Nøglepolicy → Reserver for modeller. Ejere og administratorer kan redigere; alle medlemmer kan se reglerne.\n\nEn regel navngiver:\n\n- den model, den gælder for (den, din kode navngiver);\n- én til tre reservemodeller, der prøves i rækkefølge;\n- hvem den gælder for: hele arbejdsområdet eller én API-nøgle. En nøgles regel erstatter arbejdsområdets regel for den model — de to bliver aldrig flettet sammen;\n- et forbrugsloft: en reserve, hvis forventede pris er højere end dette antal gange den navngivne models pris, springes over. Standarden er 3.\n\nHvis du gemmer en regel for samme model og samme gyldighetsområde, erstatter den den gamle.\n\nMed MCP: model_fallbacks_list, model_fallbacks_set, model_fallbacks_delete.\n\n## Hvornår en reserve bruges\n\n| Forespørgsel | Reserve? |\n| --- | --- |\n| Navngiver en model, creator/model | Ja — efter modellens egne endepunkter |\n| Fastgør et endepunkt, creator/model/provider | Nej. Et fastgjort endepunkt skal betjenes af det navngivne endepunkt |\n| model="auto" eller en router | Nej. Smart Router har sit eget automatiske skift |\n| En Claude-model på /v1/messages eller en OpenAI-model på /v1/responses sendt til leverandørens eget API | Ja, uden streaming: reserven kører på Stavs oversatte sti |\n\nEn reserve kører kun efter en fejl, som en anden leverandør kunne betjene: en 5xx, en 429, en timeout eller en leverandør, Stav har taget ud af rotation. En 4xx, som din forespørgsel selv har forårsaget, prøves aldrig igen på en anden model — den ville også blive afvist der.\n\nEn forespørgsel foretager højst fire kald i alt: den navngivne models endepunkter og reservemodellerne deler den grænse.\n\n## Hvad en reserve aldrig gør\n\n- Den forlader aldrig dine regler. Hver reserve findes under de samme regler som den navngivne model: dit suverænitetsgulv, beregningsregion, ZDR, ingen træning på dine data og blokerede leverandører.\n- Den er aldrig mindre suveræn. Et reserveendepunkt skal være på samme suverænitetsniveau som det endepunkt, din navngivne model var ved at bruge, eller højere. En reserve uden kendt niveau springes over.\n- Den overskrider aldrig dit forbrugsloft. En reserve over loftet, eller en reserve hvis pris er ukendt, springes over.\n\nEnhver reserve, der springes over, navngives med årsagen i forespørgslens routing-detaljer.\n\n## Sådan kan du se det\n\n- Svarets model og X-Stav-Model navngiver den model, der svarede.\n- X-Stav-Fallback-From navngiver den model, du bad om (uden streaming; en streams headere sendes, før reserven kan træde til).\n- Dit arbejdsområde → Overvåg → Forespørgselslog: forespørgslen viser "Besvaret af din reservemodel" med begge modeller.\n- Routing-detaljerne viser hvert kald, forespørgslen foretog, i rækkefølge, og hvorfor andre endepunkter eller reserver blev sprunget over.\n\nDu bliver afregnet for den model, der svarede, til dens katalogpris.\n