bge-m3

Oversigt. BGE-M3 er en flersproget embeddingmodell fra Beijing Academy of Artificial Intelligence (BAAI), udgivet under MIT-licensen. Den omdanner tekst på mere end 100 sprog til embedding-vektorer til søgning og hentning, med inddata på op til 8192 tokens.

Vigtigste styrker. BGE-M3 giver stærk flersproget kvalitet til hentning fra en kompakt encoder med 560 millioner parametre og håndterer inddata på op til 8192 tokens. Forespørgsler kræver ikke instruktionspræfiks. Gennem Stav returnerer den tætte embedding-vektorer på standard-API'et til embeddings.

Anvendelsesområder. Brug BGE-M3 til flersproget semantisk søgning, dokumenthentning og RAG (retrieval-augmented generation), især når dokumenter blander sprog eller er lange. Til RAG bør den kombineres med et separat re-ranking-trin, som BAAI anbefaler.

Begrænsninger. BGE-M3 er en embedding-encoder: den genererer ikke tekst, kan ikke chatte og kan ikke foretage verktøjskald. Gennem Stav returnerer den kun tætte vektorer; de sparsomme og multi-vektor-uddata, der beskrives i modelkortet, er ikke tilgængelige. Inddata over 8192 tokens skal deles op.

Bemærkning om suverænitet. BGE-M3 er en model med åbne vægte, så den kører på inferensleverandørens egen infrastruktur, og ingen trafik sendes til dens modelskaber. Hvor en forespørgsel behandles, afhænger af det leverandørendepunkt, der betjener den.