text-embedding-3-small

Oversigt. text-embedding-3-small er OpenAIs tredje generation af deres model til tekst-embedding, udgivet i januar 2024 sammen med den større text-embedding-3-large. Den omdanner tekst til vektorer med 1.536 dimensioner som standard (med mulighed for at afkorte dimensionerne for at spare lagerplads) og er udelukkende tilgængelig via OpenAIs API — der findes ingen udgave med åbne vægte. Udviklere bruger den, når de har brug for en kompakt tekst-encoder til generelle formål som semantisk søgning, klyngedannelse eller behandlingskæder til retrieval-augmented generation (RAG).

Vigtigste styrker. Som en ren tekst-til-vektor-encoder udfører den en enkelt gennemgang per inddata i stedet for en autoregressiv dekodningsløkke, hvilket sikrer en kort svartid i direkte søge-pipelines. Den understøtter inddata på op til ca. 8.191 tokens med cl100k_base-tokenizeren, og dens indstillelige uddata-dimensioner lader dig afveje vektorstørrelse mod udgifter til lagring og søgeindeks uden at skulle lave nye embeddings fra bunden. Der findes ingen uafhængige benchmarks (søgepræcision, MTEB-skårer) i den nuværende forskning, så styrkerne her er arkitektoniske snarere end benchmark-verificerede.

Anvendelsesområder. Brug denne model til semantisk søgning, dokumentklyngedannelse, deduplikering eller som søgelag i en RAG-behandlingskæde, hvor du har brug for hurtig tekstkodning i én gennemgang frem for genererede uddata. Den er en fornuftig standard, når du ønsker en mindre embedding, der er hurtigere at generere end OpenAIs større søskendemodel i tredje generation, og du ikke har brug for den absolut højeste præcision i den modelfamilie. Det er ikke en generativ model eller en chatmodel — den har ingen systemprompt, understøtter ikke verktøjskald eller streaming og bør derfor udelukkende bruges i en applikations embedding- eller indekseringsfase.

Begrænsninger. OpenAI har ikke oplyst modellens arkitektur, antallet af parametre, eller hvor træningsdataene slutter, og der findes intet offentligt arkiv med vægte — den er lukket og findes kun som API. Grænsen for inddata på 8.191 tokens er beskeden sammenlignet med moderne generative kontekstvinduer, og uddata er en vektor med faste dimensioner frem for tekst, så den kan ikke bruges til generative opgaver.

Bemærkning om suverænitet. OpenAI er en amerikansk modelskaber med bekræftet eksponering for CLOUD Act, og text-embedding-3-small har intet suverænt alternativ, du kan køre selv. Selvom kvalificerede API-kunder kan vælge dataplacering i EU, bør du stadig behandle dette som et ikke-suverænt endepunkt under amerikansk jurisdiktion, hvis du sender regulerede eller følsomme data, da OpenAI er underlagt CLOUD Act.