bge-m3

Oversikt. BGE-M3 er en flerspråklig embeddingmodell for tekst fra Beijing Academy of Artificial Intelligence (BAAI), utgitt under MIT-lisensen. Den gjør om tekst på over 100 språk til embeddingvektorer for søk og gjenfinning, med inndata på opptil 8192 token.

Viktigste styrker. BGE-M3 gir høy flerspråklig gjenfinningskvalitet fra en kompakt enkoder med 560 millioner parametere, og håndterer inndata på opptil 8192 token. Søk trenger ikke instruksjonsprefiks. Gjennom Stav returnerer den tette embeddingvektorer via det vanlige embedding-API-et.

Når du bør bruke den. Bruk BGE-M3 til flerspråklig semantisk søk, dokumentgjenfinning og RAG (retrieval-augmented generation), særlig når dokumenter blander språk eller er lange. For RAG bør den kombineres med et separat trinn for re-rangering, slik BAAI anbefaler.

Begrensninger. BGE-M3 er en enkoder for embedding: den genererer ikke tekst, kan ikke chatte og støtter ikke verktøykall. Gjennom Stav returnerer den kun tette vektorer; de glisne utdataene og multivektorene som beskrives i modellkortet, er ikke tilgjengelige. Inndata over 8192 token må deles opp.

Suverenitetsnotat. BGE-M3 er en modell med åpne vekter, så den kjører på inferensleverandørens egen infrastruktur og ingen trafikk sendes til modellskaperen. Hvor en forespørsel blir behandlet, avhenger av leverandørendepunktet som betjener den.