Forespørgselslog og promptindsamling
Hvad Stav registrerer for hver forespørgsel, hvad der aldrig gemmes som standard, og hvordan du indsamler indholdet af forespørgsler i et begrænset vindue, når du har brug for fejlfinding.
Forespørgselsloggen
Hver forespørgsel til API'et får en række i Dit arbejdsområde → Overvåg → Forespørgselslog. Som standard indeholder rækken metadata, ikke indhold:
| Du ser | For eksempel |
|---|---|
| Tid, status, forespørgsels-ID | Det X-Stav-Request-Id, du fik tilbage |
| Model og inferensleverandør | Hvad der rent faktisk betjente forespørgslen |
| Rute og suverænitet | Hvilken router eller model der blev adresseret, og hvilket land beregningen skete i |
| Brug, forbrug, svartid, TTFT | Tokens, trukket kredit, tidsmålinger |
| API-nøgle og bruger | Hvilken nøgle der foretog kaldet |
Åbn en række for at se detaljepanelet: Oversigt, Routing (hvorfor Smart Router valgte det endepunkt), Signaler, og — kun hvis indholdet blev indsamlet — Forespørgsel og Svar.
Oplys forespørgsels-ID'et, når du kontakter supporten. Det gør det muligt at finde rækken.
Indhold gemmes ikke som standard
Et arbejdsområde starter med indstillingen Aldrig tilladt. Ingen prompt- eller svartekst gemmes, uanset årsag, og muligheden for indsamling vises ikke i forespørgselsloggen.
Tilladelse til indsamling
Arbejdsområdets ejer angiver tilladelsen under Dit arbejdsområde → Styr → Promptindsamling:
- Aldrig tilladt — standardindstillingen.
- Tilladt — ejere og administratorer kan åbne et indsamlingsvindue i op til en maksimal varighed.
Ejeren vælger også, hvor længe indsamlet tekst opbevares (1, 7 eller 30 dage). Metadata for forespørgsler har sin egen opbevaringstid på 90 dage.
Tilladelsen i sig selv gemmer intet. Indsamling sker kun, mens et vindue er åbent. En ejer eller administrator åbner et fra Dit arbejdsområde → Overvåg → Forespørgselslog; det udløber altid og kan lukkes før tid.
Mens et vindue er åbent, gemmer Stav hele forespørgslen — systemprompt, beskeder, værktøjer og parametre — plus forespørgslen, som den blev sendt til leverandøren. Hemmeligheder, kortnumre og certifikater maskeres, før noget skrives. Loginoplysninger i headere gemmes aldrig. En forespørgsel på over 256 KB får sine længste værdier forkortet og markeret. Ved embedding-forespørgsler gemmes kun selve forespørgslen.
Indsamling af din egen trafik
Under Dit arbejdsområde → Styr → Promptindsamling → Mig kan ethvert medlem indsamle de forespørgsler, der foretages med deres egne personlige nøgler, i 1, 4, 8 eller 24 timer. Ingen andre kan læse disse — hverken dine administratorer eller Stav — medmindre du deler dem fra samme side i en begrænset periode med dit arbejdsområdes ejer og administratorer eller med Stav-support.
Ejeren kan slå personlig indsamling fra for hele arbejdsområdet. Et åbent personligt vindue lukker derefter inden for ca. 15 sekunder.
Stavs adgang
Stav-support kan ikke læse indsamlet indhold, medmindre ejeren slår Stav-support må læse indsamlede prompter til. At åbne et vindue slår ikke dette til. Hver gang Stav ser dataene, registreres det i din revisionslog.
Indsamlet indhold bruges aldrig til træning.