Snelheidsanalyse
Latency gemeten over alle benchmark-runs. P50 (mediaan) en P95 (95e percentiel) geven een realistisch beeld van de responssnelheid onder normale en piekbelasting.
Kwaliteitsscores
Hoe dit model zich per promptcategorie verhoudt tot de rest van het veld, uit een paarsgewijze berekening over dezelfde prompts. Het ruwe jurycijfer staat onder elk getal.
Winstpercentage per categorie: hoe vaak dit model een gemiddeld model verslaat op een prompt uit die categorie. 50% is gemiddeld, geen onvoldoende. Het is geen percentage goede antwoorden.
Prijzen
Wat je per miljoen tokens betaalt als je dit model via Tokonomix gebruikt, plus een schatting voor een gemiddeld gesprek.
Tokens per seconde
Doorvoersnelheid in tokens per seconde, afgeleid uit gemeten P50-latency. Hogere waarden zijn beter; fluctuaties weerspiegelen serverbelasting bij de provider.
Geschat uit P50-latency × 200 output-tokens — het absolute getal hangt af van deze aanname; de trend is wat telt.
Mogelijkheden
Beschikbaarheid
Beschikbaarheid
Hoe vaak dit model antwoordt als we het aanroepen — gemeten over echte API-aanvragen en live-tests in de afgelopen 30 dagen. Dit staat los van kwaliteit: deze cijfers laten alleen zien of het model reageert, niet hoe goed het antwoord is.
Afgelopen 7 dagen
100.0%
n=386
Afgelopen 30 dagen
100.0%
n=1,911
Mediane responstijd
4,415ms
n=1,911
Gebaseerd op 2,291 metingen in de afgelopen 30 dagen.
Technische details
Alleen echte API-aanroepen en live-testverzoeken tellen mee — interne probes en benchmarkruns zijn uitgesloten.
Aanroepen met een eigen API-sleutel (BYOK) zijn uitgesloten: die fouten zijn sleutelspecifiek en geen teken van modelneergang.
Mislukte aanroepen worden NIET meegeteld in kwaliteitsscores — kwaliteit wordt gemeten op geslaagde responses. Beschikbaarheid en kwaliteit zijn onafhankelijke signalen.
Mediane responstijd (p50) over geslaagde aanroepen met een vastgelegde duur. Uitschieters trekken de mediaan minder dan het gemiddelde.
Totaal aanroepen (30d)
1,911
OK-reacties (30d)
1,911
Totaal aanroepen (7d)
386
OK-reacties (7d)
386
Tokonomix benchmark-oordelen
Quality reaches 92.8 as reasoning and factual hit perfect scores
Meta-Llama-3.3-70B-Instruct delivered a strong performance improvement, climbing 5.8 points to reach an overall quality score of 92.8. The model achieved perfect scores in both reasoning and factual categories, each hitting 100 points, demonstrating exceptional capabilities in logical processing and information accuracy. This represents a significant advancement in factual understanding, which previously scored only 85. Multilingual performance showed solid improvement, rising from 77 to 88 points, indicating better language handling across diverse linguistic contexts. However, coding performance declined from a perfect 100 to 83 points, representing the most notable regression in this benchmark window. Latency increased slightly from 12076ms to 13286ms at the median, representing approximately a 10% slowdown in response times. While this increase is measurable, the model still maintains reasonable performance for a 70B parameter model. The overall trajectory remains positive with the quality score continuing its upward trend across consecutive benchmark windows. Users can expect highly reliable reasoning and factual outputs, strong multilingual support, and competent coding assistance, though the latter has stepped back from its previous peak performance. The model demonstrates particular strength in knowledge-intensive and analytical tasks.
Kwaliteit
92.8
Latency p50
13,286 ms
Testruns
5
Meta-Llama-3_3-70B-Instruct
door OVH AI Endpoints (GRA)
- Uitgebracht
- 6 december 2024
- Contextvenster
- — tokens
- Inputprijs
- $1.31 / 1M
- Outputprijs
- $1.31 / 1M
- Tier
- Tier B — Productie
- Modaliteit
- Tekst
- API-type
- REST · streaming
- Benchmark-runs
- 733
Meer van OVH AI Endpoints (GRA)