Suverenitet

«Er dataene i Europa?» og «kan myndighetene i et tredjeland kreve utlevering?» er to forskjellige spørsmål. Stav besvarer det andre med en suverenitetsstige, og det første med fakta som er registrert på hvert leverandørendepunkt.

Stigen

Trinnene følger sikringsnivåene i EUs foreslåtte Cloud and AI Development Act (CADA), med L0 lagt til nederst. CADA er et forslag, ikke en lov: nivåene er Stavs daterte vurdering, ikke en formell godkjenning fra myndighetene.

• Rekkefølge. L0 < L1 < L2 < L3 < L4, slik at «minst L3» kan håndheves.
• UNCLASSIFIED er ikke et trinn. Det vil aldri oppfylle et krav om L1 eller høyere.

Slik tildeles et nivå

Et nivå tilhører endepunktet som betjener forespørselen:

1. en overstyring satt på det endepunktet, ellers
2. inferensleverandørens vurderte nivå, ellers
3. UNCLASSIFIED.

Hvert fastsatte nivå logges med en versjon av registeret, slik at et nivå som registreres i dag, forblir forståelig selv om kriteriene endres.

Slik leser du nivået per forespørsel

Svar fra Chat Completions (både strømming og vanlige svar) inneholder nivået til endepunktet som betjente dem:

X-Stav-Sovereignty-Level: L3

Samme modell betjent av to forskjellige inferensleverandører kan gi to ulike nivåer.

raw = client.chat.completions.with_raw_response.create(
    model="auto",
    messages=[{"role": "user", "content": "…"}],
)
level = raw.headers.get("X-Stav-Sovereignty-Level")
if level in (None, "L0", "UNCLASSIFIED"):
    log.warning("request %s served at %s", raw.headers["X-Stav-Request-Id"], level)

X-Stav-Sovereignty-Badge kan også forekomme. Denne fases ut; les X-Stav-Sovereignty-Level.

Nivået skrives også i forespørselsloggen (Arbeidsområdet ditt → Overvåk → Forespørselslogg).

Fakta om endepunkter

Tre fakta til registreres per leverandørendepunkt, hver med sin kilde:

Regler:

• Ukjent slipper aldri gjennom. Et krav om ZDR tillater bare endepunkter merket med ZDR. «Ingen trening» tillater bare endepunkter merket med trener ikke. Et krav om region tillater bare endepunkter der landet eller regionen ligger i den.
• En region beviser aldri et land. Et krav om EU tillater et land i EU eller regionen eu. Et krav om EØS tillater også regionen eea og Norge, Island og Liechtenstein. global oppfyller ingenting.
• Beregningsregion er der inferensen skjer. Det sier ingenting om underdatabehandlere. ZDR er leverandørens egen erklæring.

Fakta om land, region, ZDR og trening for endepunktet som betjener forespørselen, lagres på raden i forespørselsloggen når forespørselen kjører, og beregnes aldri på nytt.

Her setter du regler

Arbeidsområde: Arbeidsområdet ditt → Styr → Nøkkelpolicyer → Rekkevidde. Gjelder for alle nøkler i arbeidsområdet.

Router: Arbeidsområdet ditt → Koble til → Routere → en navngitt router. En router kan sette sin egen nedre grense, region, ZDR og ingen trening, pluss tillatte og blokkerte modeller.

Blokkerte leverandørland: Arbeidsområdet ditt → Koble til → Routere → innstillinger for standardrouteren. Modeller der inferensleverandøren holder til i et oppført land, ekskluderes for arbeidsområdet.

Bare innstramming. Arbeidsområde og router kombineres til den strengeste verdien. En router kan heve den nedre grensen, snevre inn regionen eller legge til et krav. Den kan aldri løse opp kravene til arbeidsområdet.

nedre grense for arbeidsområde L1 + nedre grense for router L3 → L3
nedre grense for arbeidsområde L3 + nedre grense for router L1 → L3

Slik fungerer håndhevingen

• Rutede forespørsler (model="auto", @workspace/router): reglene gjelder for kandidatgruppen før skåringen. Kostnad, svartid og kvalitet konkurrerer bare innenfor det tillatte utvalget.
• Endepunktet som betjener forespørselen, kontrolleres også, ikke bare modellen. En modell med ett godkjent og ett ikke-godkjent endepunkt betjenes bare fra det godkjente.
• Låste modeller og endepunkter møter den samme policymuren. Ingenting faller tilbake til en reserve.

Avvisninger loggføres med regelen som stoppet dem, for eksempel Blocked by workspace policy: sovereignty floor L3.

Stopper heller enn å slippe gjennom. Reglene leses fra innstillingene bak en 60-sekunders buffer. Hvis lesingen mislykkes, avvises forespørselen med 503 policy_unavailable og ingenting trekkes fra lommeboken — kravene til nivå, region, ZDR og ingen trening reduseres aldri til ingen. Det er fortsatt headeren og loggen for hver forespørsel, ikke innstillingssiden, som er beviset du må kontrollere.

Klassifikatoren endrer ikke reglene

Stav klassifiserer rutede prompter, inkludert om de berører et sensitivt domene. Dette signalet loggføres. Det endrer aldri hvor en forespørsel kan betjenes. Hvor trafikken kan gå, angis én gang i innstillingene.

Blokkere en inferensleverandør

Noen ganger er kravet verken et nivå eller en region, men et navn: send aldri trafikken vår til det selskapet. Arbeidsområdet ditt → Styr → Nøkkelpolicyer → Rekkevidde → Blokkerte inferensleverandører er den bryteren.

• Hvert API. Det gjelder for /v1/chat/completions, /v1/messages, /v1/responses og /v1/embeddings, på hver nøkkel i arbeidsområdet.
• Rutede forespørsler sendes utenom. Med model="auto" eller en router er et endepunkt hos en blokkert leverandør aldri en kandidat. En modell som også betjenes av en annen leverandør, forblir tilgjengelig og betjenes der.
• Navngitte og låste forespørsler avvises. En lås til et endepunkt hos en blokkert leverandør, eller en modell som bare blokkerte leverandører betjener, returnerer 403 med koden provider_blocked. Ingenting slipper gjennom til den blokkerte leverandøren.
• Gjelder hele arbeidsområdet og kan bare strammes inn. En router kan ikke oppheve blokkeringen av en leverandør som arbeidsområdet har blokkert.

{
  "error": {
    "message": "'mistral/mistral-large/azure' is served by the Inference Provider 'azure', which your workspace has blocked. …",
    "type": "permission_error",
    "param": "model",
    "code": "provider_blocked"
  }
}

En blokkeringsliste er ikke en jurisdiksjonsliste. Blokkerte land for leverandører avgjør hvor inferensen skjer; en blokkert leverandør avgjør hvem som utfører den. Bruk begge når begge deler er viktig.

Velge et minimumsnivå

Et høyere minimumsnivå snevrer inn kandidatgruppen, vanligvis på bekostning av pris eller kvalitet på toppnivå.

Neste steg

• Håndhev et minimumsnivå for suverenitet
• Smart Router
• Svarheadere