Geschwindigkeitsanalyse
Latenz über alle Benchmark-Läufe gemessen. P50 (Median) und P95 (95. Perzentil) zeigen ein realistisches Bild der Antwortgeschwindigkeit bei normaler und Spitzenlast.
Qualitätswerte
Wie sich dieses Modell je Prompt-Kategorie zum übrigen Feld verhält, aus einem paarweisen Fit über dieselben Prompts. Die rohe Jury-Wertung steht unter jeder Zahl.
Gewinnrate je Kategorie: wie oft dieses Modell ein durchschnittliches Modell bei einem Prompt dieser Kategorie schlägt. 50% ist der Durchschnitt, keine schlechte Note. Es ist kein Prozentsatz richtiger Antworten.
Preise
Was Sie pro Million Tokens zahlen, wenn Sie dieses Modell über Tokonomix nutzen, plus eine Schätzung für ein typisches Gespräch.
Tokens pro Sekunde
Durchsatz in Tokens pro Sekunde, abgeleitet aus gemessener P50-Latenz. Höhere Werte sind besser; Schwankungen spiegeln die Provider-seitige Last wider.
Geschätzt aus P50-Latenz × 200 Output-Tokens — die absolute Zahl hängt von dieser Annahme ab; entscheidend ist der Trend.
Fähigkeiten
Verfügbarkeit
Verfügbarkeit
Wie oft dieses Modell antwortet, wenn wir es aufrufen — gemessen anhand echter API-Anfragen und Live-Tests der letzten 30 Tage. Dies ist unabhängig von der Qualität: Diese Zahlen zeigen nur, ob das Modell antwortet, nicht wie gut die Antwort ist.
Letzte 7 Tage
100.0%
n=386
Letzte 30 Tage
100.0%
n=1,911
Mediane Antwortzeit
4,415ms
n=1,911
Basierend auf 2,291 Messungen in den letzten 30 Tagen.
Technische Details
Nur echte API-Aufrufe und Live-Test-Anfragen werden gezählt — interne Proben und Benchmark-Läufe sind ausgeschlossen.
Aufrufe mit einem eigenen API-Schlüssel (BYOK) sind ausgeschlossen: Diese Fehler sind schlüsselspezifisch und kein Zeichen für Modellausfälle.
Fehlgeschlagene Aufrufe werden NICHT in Qualitätswerten berücksichtigt — Qualität wird nur für erfolgreiche Antworten gemessen. Verfügbarkeit und Qualität sind unabhängige Signale.
Mediane Antwortzeit (p50) über erfolgreiche Aufrufe mit aufgezeichneter Dauer. Ausreißer beeinflussen den Median weniger als den Durchschnitt.
Gesamte Aufrufe (30d)
1,911
OK-Antworten (30d)
1,911
Gesamte Aufrufe (7d)
386
OK-Antworten (7d)
386
Tokonomix-Benchmark-Urteile
Quality reaches 92.8 as reasoning and factual hit perfect scores
Meta-Llama-3.3-70B-Instruct delivered a strong performance improvement, climbing 5.8 points to reach an overall quality score of 92.8. The model achieved perfect scores in both reasoning and factual categories, each hitting 100 points, demonstrating exceptional capabilities in logical processing and information accuracy. This represents a significant advancement in factual understanding, which previously scored only 85. Multilingual performance showed solid improvement, rising from 77 to 88 points, indicating better language handling across diverse linguistic contexts. However, coding performance declined from a perfect 100 to 83 points, representing the most notable regression in this benchmark window. Latency increased slightly from 12076ms to 13286ms at the median, representing approximately a 10% slowdown in response times. While this increase is measurable, the model still maintains reasonable performance for a 70B parameter model. The overall trajectory remains positive with the quality score continuing its upward trend across consecutive benchmark windows. Users can expect highly reliable reasoning and factual outputs, strong multilingual support, and competent coding assistance, though the latter has stepped back from its previous peak performance. The model demonstrates particular strength in knowledge-intensive and analytical tasks.
Qualität
92.8
Latenz p50
13,286 ms
Testläufe
5
Meta-Llama-3_3-70B-Instruct
von OVH AI Endpoints (GRA)
- Veröffentlicht
- 6. Dezember 2024
- Kontextfenster
- — tokens
- Eingabepreis
- $1.31 / 1M
- Ausgabepreis
- $1.31 / 1M
- Tier
- Tier B — Produktion
- Modalität
- Text
- API-Typ
- REST · Streaming
- Benchmark-Läufe
- 733
Mehr von OVH AI Endpoints (GRA)