Análisis de velocidad
Latencia medida en todas las ejecuciones de benchmark. P50 (mediana) y P95 (percentil 95) dan una imagen realista de la velocidad de respuesta bajo carga normal y máxima.
Puntuaciones de calidad
Cómo se sitúa este modelo frente al resto del campo en cada categoría de prompts, a partir de un ajuste por pares sobre los mismos prompts. La nota bruta del juez aparece debajo de cada número.
Tasa de victorias por categoría: con qué frecuencia este modelo vence a un modelo medio en un prompt de esa categoría. 50% es la media, no un suspenso. No es un porcentaje de aciertos.
Precios
Lo que pagas por millón de tokens al usar este modelo en Tokonomix, más una estimación para una conversación típica.
Tokens por segundo
Rendimiento en tokens por segundo, derivado de la latencia P50 medida. Más alto es mejor; las fluctuaciones reflejan la carga del lado del proveedor.
Estimado a partir de latencia P50 × 200 tokens de salida — el número absoluto depende de esta suposición; lo que importa es la tendencia.
Capacidades
Disponibilidad
Disponibilidad
Con qué frecuencia responde este modelo cuando lo llamamos — medido en solicitudes reales de API y pruebas en vivo durante los últimos 30 días. Esto es independiente de la calidad: estos números solo indican si el modelo responde, no qué tan buena es la respuesta.
Últimos 7 días
—
Últimos 30 días
100.0%
n=7
Tiempo de respuesta mediano
1,988ms
n=7
Basado en 387 mediciones en los últimos 30 días.
Detalles técnicos
Solo cuentan las llamadas reales a la API y las solicitudes de prueba en vivo — las sondas internas y las ejecuciones de referencia están excluidas.
Las llamadas con una clave API propia (BYOK) están excluidas: esos fallos son específicos de la clave, no una señal de inactividad del modelo.
Las llamadas fallidas NO se incluyen en las puntuaciones de calidad — la calidad se mide solo en respuestas exitosas. Disponibilidad y calidad son señales independientes.
Tiempo de respuesta mediano (p50) en llamadas exitosas con una duración registrada. Los valores atípicos afectan menos a la mediana que a la media.
Total de llamadas (30d)
7
Respuestas OK (30d)
7
Total de llamadas (7d)
0
Respuestas OK (7d)
0
Veredictos del benchmark Tokonomix
Quality plummets 24 points as reasoning collapses despite faster responses
Mistral-7B-Instruct-v0.3 on OVH AI Endpoints experienced a significant performance decline, with overall quality dropping from 68.4 to 44.8 points across the benchmark window. The most alarming regression appears in reasoning capabilities, which fell to just 20 points after not being measured in the previous period. Coding performance decreased from 81 to 69 points, while factual understanding improved substantially from 24 to 54 points, showing the model has become more reliable for knowledge-based queries. Multilingual capabilities suffered dramatically, plummeting from a perfect 100 to 36 points, suggesting serious degradation in non-English language handling. The one bright spot is latency, which improved by 17 percent from 9104ms to 7516ms at the median, making responses noticeably faster. However, this speed gain comes at a steep cost to output quality across most dimensions. Users requiring strong reasoning or multilingual support should exercise caution with this deployment. The factual improvements may benefit knowledge retrieval tasks, but the overall trajectory suggests potential model or infrastructure changes that have compromised core capabilities.
Calidad
44.8
Latencia p50
7,516 ms
Ejecuciones de test
5