Laster katalogen …
Endre base URL og nøkkelen. OpenAI SDK-koden din kjører på Stav, med ruting, et suverenitetsgulv og en forespørselslogg på toppen.
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["STAV_API_KEY"], # sk_stav_live_...
base_url="https://api.stav.ai/v1", # var https://api.openai.com/v1
)
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.STAV_API_KEY,
Disse fungerer via SDK-en:
| SDK-kall | Endepunkt |
|---|---|
chat.completions.create (inkl. streaming, tools, response_format) | POST /v1/chat/completions |
responses.create | POST /v1/responses |
embeddings.create | POST /v1/embeddings |
audio.transcriptions.create | POST /v1/audio/transcriptions — angi en modell; se Lydtranskripsjoner |
audio.speech.create | POST /v1/audio/speech — angi en modell; lyden strømmes tilbake; se Tekst-til-tale |
models.list, models.retrieve | GET /v1/models |
Katalog-ID-er er modellskaper/modell. Fire former fungerer i model:
model="auto" # Smart Router, arbeidsområdets standard-Router
model="@acme/eu-only" # en navngitt Router
model="openai/gpt-4o-mini" # en modell; Routeren velger leverandørendepunktet
model="gpt-4o-mini" # bare navn, løses opp når det er entydig
Et bare navn løses opp via modellens aliaser, deretter via et unikt treff på siste segment. Hvis to modellskapere deler det, løses det ikke opp – bruk den fulle ID-en. client.models.list() returnerer det API-nøkkelen din kan kalle.
For en første migrering er auto vanligvis det riktige valget: du får failover og et suverenitetsgulv uten å hardkode en modell.
En nøkkel uten tilganger kan kalle alt. En nøkkel med tilganger trenger én per endepunkt:
| Tilgang | Endepunkt |
|---|---|
inference:chat | /v1/chat/completions, /v1/responses |
inference:models | /v1/models |
inference:embeddings | /v1/embeddings |
inference:audio | /v1/audio/transcriptions, /v1/audio/speech |
Mange IDE-er og agentverktøy fyller modellvelgeren sin fra /v1/models. Hvis du begrenser en nøkkel med tilganger, ta med inference:models.
Stav avviser det den ikke kan innfri, ved navn, i stedet for å droppe det. Forvent noen 400-feil den første dagen.
| OpenAI-atferd | På Stav |
|---|---|
| Ukjente forespørselsfelt ignoreres | 400 med navn på feltet |
| Parametere som ikke støttes, droppes stille | 400 med navn på parameteren og modellen |
n > 1 | 400. Send parallelle forespørsler |
max_completion_tokens | Akseptert, samme som max_tokens. Å sende begge med ulike verdier gir 400 |
store: false | Akseptert (Stav lagrer aldri chat-fullføringer) |
store: true, metadata | 400 |
json_schema med strict: false | 400. strict må være true |
seed, logprobs, logit_bias, service_tier, prediction, verbosity, prompt_cache_key, parallel_tool_calls, allowed_tools | Innfris på OpenAI-kompatible modeller; 400 på Anthropic-, Google- og Mistral-modeller |
user, safety_identifier | Innfris på OpenAI-kompatible modeller; ignoreres ellers |
modalities | 400. Kun tekstutdata |
Innebygde verktøy i tools (web_search, …) | Droppes, navngitt i X-Stav-Dropped-Params |
Se Forespørselsparametere for den fullstendige listen.
stream = client.chat.completions.create(
model="auto",
messages=messages,
stream=True,
stream_options={"include_usage": True}, # needed for token counts
)
Sjekk hver chunk for en error-nøkkel: en feil som oppstår etter at strømmen har startet, ankommer som en SSE-ramme, ikke som en HTTP-statuskode.
raw = client.chat.completions.with_raw_response.create(model="auto", messages=messages)
print(raw.headers.get("X-Stav-Request-Id"))
print(raw.headers.get("X-Stav-Model")) # the model that answered
print(raw.headers.get("X-Stav-Sovereignty-Level")) # L0–L4 of the Provider Endpoint
print(raw.headers.get("X-Stav-Route-Reason")) # set when routed
Se Svarhodere.
POST /v1/responses aksepterer auto, Routere og alle katalogmodeller. Det finnes to stier:
| Modell | Hva som skjer |
|---|---|
| OpenAI- eller xAI-modell (rutet kommersielt) | Videresendt til leverandørens egen Responses API. Innebygde verktøy fungerer |
| Alt annet | Oversatt til chat-fullføringer |
På den oversatte stien:
store: true og previous_response_id avvises. Send hele inndataene for hvert svar.web_search droppes og navngis i X-Stav-Dropped-Params.parallel_tool_calls: false og include-oppføringer kan ikke videreføres og navngis i samme hode.På den videresendte stien er store som standard false, ikke OpenAIs true. Ingenting lagres hos leverandøren med mindre du sender store: true – og et arbeidsområde som krever ingen datalagring, avviser det med 403 store_not_permitted.
r = client.responses.create(model="openai/gpt-5.3-codex", input="…", store=True)
client.responses.retrieve(r.id)
retrieve, delete, cancel og input_items.list fungerer kun for lagrede OpenAI-svar.
Codex bruker kun Responses API. I ~/.codex/config.toml:
model = "openai/gpt-5.3-codex"
model_provider = "stav"
[model_providers.stav]
name = "Stav"
base_url = "https://api.stav.ai/v1"
env_key = "STAV_API_KEY"
wire_api = "responses"
En hvilken som helst katalogmodell, auto eller en Router fungerer som model. Codex sender store: false, så den oversatte stien fungerer for ikke-OpenAI-modeller.
sk_stav_test_-nøkkel.https://api.stav.ai/v1.400-feilene.model="auto" og sammenlign mot ditt eget evalueringssett.X-Stav-Sovereignty-Level.sk_stav_live_-nøkkel.