text-embedding-3-large

Oversigt. text-embedding-3-large er OpenAIs flagskibsmodel til text embedding, udgivet i januar 2024. Den omdanner tekst til tætte vektorer til søgning, klyngedannelse og hentning af data. Modellen understøtter konfigurerbare uddatadimensioner op til 3.072 via Matryoshka Representation Learning og har et kontekstvindue på 8.191 tokens. Udviklere vælger den, når de har brug for et enkelt, velunderstøttet endepunkt til embedding for at bygge behandlingskæder til hentning af data eller semantisk søgning.

Vigtigste styrker. Modellens fleksible dimensioner gør det muligt at afveje vektorstørrelse mod lagerplads og søgeomkostninger uden at skifte model, da en enkelt embedding kan afkortes til færre dimensioner og stadig bevare kvaliteten. Kontekstvinduet på 8.191 tokens dækker de fleste dokumentstykker, afsnit og passager med flere sætninger i én forespørgsel. Som en model med lukkede vægte, der kun er tilgængelig via API, nyder den godt af OpenAIs løbende vedligeholdelse frem for at kræve, at du skal køre den selv.

Anvendelsesområder. Brug denne model, når du har brug for alsidige text embeddings til semantisk søgning, RAG (retrieval-augmented generation), klyngedannelse, deduplikering eller anbefalingssystemer, og ønsker et rent endepunkt til inddata frem for en chatgrænseflade. Den er velegnet, når dine inddata holder sig under grænsen på 8.191 tokens, og når du vil have mulighed for at gemme vektorer med færre dimensioner for billigere indeksering uden at skulle lave nye embeddings fra bunden.

Begrænsninger. Dette er en ikke-generativ model (tekst ind/vektor ud): den har ingen chatgrænseflade, understøtter ikke verktøjskald, streaming eller systemprompter og kan derfor ikke bruges til generering eller ræsonneringsopgaver. OpenAI har ikke oplyst modellens parametertal, arkitektur eller hvor træningsdataene slutter, hvilket begrænser gennemsigtigheden for dem, der har brug for disse oplysninger til vurdering.

Bemærkning om suverænitet. text-embedding-3-large er bygget af OpenAI, en amerikansk modelskaber, så data sendt til dette endepunkt er underlagt CLOUD Act frem for garantier om suverænitet i EU.