text-embedding-3-large is OpenAI's kwalitatief hoogwaardigere embeddingmodel, uitgebracht op 25 januari 2024 naast het kleinere text-embedding-3-small. Een embeddingmodel genereert geen tekst — het zet een stuk tekst om in een vector van getallen met vaste lengte die de betekenis ervan vastlegt, zodat twee stukken tekst met vergelijkbare betekenis eindigen als vectoren die dicht bij elkaar liggen in die numerieke ruimte. Die eigenschap maakt embeddings nuttig voor semantisch zoeken, clustering, deduplicatie, aanbeveling en retrieval-augmented generation (RAG), waarbij een systeem de meest relevante passages moet vinden voordat het ze doorgeeft aan een taalmodel.
Wat "large" oplevert boven "small"
Standaard produceert text-embedding-3-large een vector met 3.072 dimensies, tegenover 1.536 voor text-embedding-3-small. Op OpenAI's eigen MTEB-benchmark, een standaardsuite voor het evalueren van embeddingkwaliteit over retrieval-, classificatie- en clustertaken, scoort large 64,6 tegenover 62,3 van small — een echte maar niet enorme kwaliteitskloof. Het grotere model legt meer nuance vast per embedding, wat vooral van belang is bij moeilijkere retrievaltaken: onderscheid maken tussen nauw verwante documenten, werken in minder gangbare domeinen of talen, of veel vergelijkbare kandidaten tegen elkaar rangschikken.
De dimensions-parameter
Beide modellen ondersteunen een dimensions-parameter die de outputvector inkort door afkapping, zonder dat de tekst opnieuw via een ander model moet worden ge-embed. Volgens OpenAI presteert een text-embedding-3-large-vector die is ingekort tot 256 dimensies nog steeds beter dan het oudere, niet-ingekorte text-embedding-ada-002-model op zijn native 1.536 dimensies. Dit is operationeel van belang: een kortere vector neemt minder opslag in beslag in een vectordatabase en is goedkoper en sneller te vergelijken op het moment van bevragen, dus de dimensions-parameter is een echte hendel om een klein beetje retrievalkwaliteit in te ruilen voor aanzienlijk lagere indexgrootte en zoeklatency — zonder van model te wisselen of de pipeline te herontwerpen.
Onder de motorkap
De maximale invoerlengte is 8.192 tokens per aanvraag. Output is alleen embedding — er is geen tekstgeneratie, geen chatinterface, geen toolgebruik. Het model is tekst-in, vector-uit, en verder niets, wat het integratieoppervlak klein houdt: één enkele API-aanroep neemt een string en geeft een array van floats met vaste grootte terug.
Wanneer je large kiest boven small
Grijp naar text-embedding-3-large wanneer retrievalkwaliteit de bottleneck is: een RAG-systeem dat relevante passages mist, een zoekfunctie die bijna-missers teruggeeft in plaats van het juiste resultaat, of een clustertaak waarbij fijnmazig onderscheid tussen vergelijkbare items van belang is. Het is ook de meer verdedigbare standaardkeuze bij het werken in minder gangbare talen of gespecialiseerde domeinen, waar een kleinere embeddingruimte minder ruimte heeft om nuance te representeren.
Voor zeer hoogvolume-indexering — miljoenen documenten, of een workload waarbij querylatency en opslagkosten het ontwerp domineren — is text-embedding-3-small, of een ingekorte large-embedding via de dimensions-parameter, doorgaans het praktischere startpunt. De MTEB-kloof tussen de twee modellen is echt maar bescheiden, dus het is de moeite waard om beide te testen tegen een representatieve steekproef van je eigen data in plaats van standaard voor large te kiezen puur op de aanname dat groter beter is.
Alternatieven om te overwegen
text-embedding-ada-002 blijft beschikbaar als OpenAI's embeddingmodel van de vorige generatie, maar wordt op kwaliteit overtroffen door beide huidige modellen, zelfs bij een fractie van hun dimensionaliteit, dus er is weinig reden om het te kiezen voor nieuw werk. Buiten OpenAI's eigen line-up leveren verschillende andere providers algemene tekstembeddingmodellen met vergelijkbare positionering; de juiste keuze komt meestal neer op het testen van retrievalkwaliteit op je eigen corpus in plaats van alleen benchmarkscores, aangezien MTEB-prestaties niet altijd schoon overdragen naar een specifiek domein.