Metas Llama 3.3 70B Instruct ist das Modell, das Ende 2024 die meisten praktischen Lücken zu den führenden Closed-Weight-Modellen stillschweigend geschlossen hat. OVH AI Endpoints stellt es von europäischem Boden aus bereit, und genau diese Kombination macht es für europäische Produktivumgebungen interessant: ein schwergewichtiges Open-Weight-Modell, auf französischer Infrastruktur, ohne token-basierte Vertragsverhandlungen.
Wo es sich in der Aufstellung einordnet
Llama 3.3 70B ist das auf Instruktionen trainierte Modell mit 70 Milliarden Parametern, das Meta als Verfeinerung der 3.1-Linie veröffentlicht hat. Die zentrale Aussage von Meta war, dass die Leistung von 3.3 70B bei den meisten Aufgaben an Llama 3.1 405B heranreicht, was bedeutet, dass man den Großteil der Qualität für einen Bruchteil der Inference-Kosten und einen Bruchteil des GPU-Footprints erhält. Diese Aussage hält sich in der Praxis weitgehend, zumindest für die Arbeitskategorien, die die meisten Teams tatsächlich einsetzen: strukturierte Extraktion, Code-Assistenz, Zusammenfassungen, mehrsprachiger Chat, Tool-Use-Orchestrierung.
Das Kontextfenster umfasst 128.000 Tokens. Die Modalität ist rein Text, Eingabe und Ausgabe. Wenn Ihre Pipeline Vision benötigt, ist dies nicht der richtige Endpoint. Wenn Ihre Pipeline reiner Text ist, aber die Eingaben lang sind, bewältigt dieses Modell es ohne den Cost-per-Token-Anstieg, den Sie bei einer API der Frontier-Klasse sehen würden.
Was es gut macht
Multi-Turn-Reasoning ist der Bereich, in dem sich das Upgrade gegenüber den 8B-Llamas am deutlichsten zeigt. Sie können diesem Modell ein mäßig verwickeltes Problem mit mehreren Constraints geben, und es verfolgt sie über die gesamte Antwort hinweg. Code-Ausgaben sind in Mainstream-Sprachen kompetent. Function Calling und JSON-Mode-Output sind zuverlässig genug, um agentische Workflows anzutreiben, ohne die ständigen Wiederholungsschleifen, die kleinere Modelle auslösen.
Die mehrsprachige Leistung ist eine der echten Stärken. Englisch ist am stärksten, Französisch und Deutsch sind sehr gut, Spanisch und Italienisch sind solide, und das Modell hält sich angemessen gut in Portugiesisch, Niederländisch, Polnisch und einer langen Liste europäischer Sprachen. Bei nicht-europäischen Schriftsystemen ist die Qualität variabler; benchmarken Sie es gegen Ihre realen Prompts, bevor Sie sich festlegen.
Langform-Schreiben ist schärfer als bei den kleineren Llamas. Das Modell hält den Ton über eine Antwort hinweg und befolgt Stilanweisungen, ohne in absichernde Klauseln abzugleiten. Es profitiert dennoch von expliziter struktureller Anleitung im Prompt.
Wo es Schwächen zeigt
Dies ist ein starkes Open-Weight-Modell, kein Frontier-Closed-Modell. Bei den schwierigsten Reasoning-Benchmarks liegt es hinter den aktuellen kommerziellen Top-Angeboten zurück. Der Abstand ist schmaler als früher. Er ist real.
Das Modell hat eine Tendenz zur Weitschweifigkeit. Wenn Sie prägnante Antworten möchten, müssen Sie das im System-Prompt sagen und es manchmal mit einem Token-Limit durchsetzen. Halluzinationen bei selten zitierten Fakten und bei Namen sind vorhanden, entsprechend anderen Modellen in dieser Klasse. Output-Validierung für High-Stakes-Anwendungsfälle ist nicht verhandelbar, genauso wie es bei jedem anderen Modell wäre.
Vision fehlt. Audio fehlt. Wenn Sie eines von beiden benötigen, ist dies nicht Ihr Endpoint.
Die OVH-Residency-Geschichte
OVH hostet die Inference in Frankreich, mit dokumentiertem Datenfluss-Pfad und DPA im europäischen Stil geschrieben. Für Teams, die eine klare Antwort auf die Frage „wohin geht der Prompt tatsächlich" benötigen, ist die Antwort hier kurz: Er geht nach Gravelines oder Roubaix, er bleibt innerhalb des europäischen Cloud-Perimeters, und OVH nutzt Kunden-Prompts nicht zum Trainieren von Modellen.
Für Organisationen mit Souveränitätsmandat ist diese Kombination tatsächlich schwer zu finden. Die Hyperscaler bieten EU-Regionen an, aber die Vertrauensposition ist anders. OVHs Versprechen ist enger und ehrlicher. Für ein Modell der 70B-Klasse sind die praktischen Alternativen im Strict-EU-Segment rar.
Preisgestaltung
Die öffentlichen Tarife finden sich auf der OVH AI Endpoints-Seite. Wir veröffentlichen sie nicht erneut, weil sie sich ändern und weil wir lieber möchten, dass Sie die Quelle prüfen. Das Modell trägt höhere Kosten pro Aufruf als die 8B-Geschwister, wie zu erwarten, bleibt aber deutlich unter dem, was ein vergleichbares Closed-Weight-Frontier-Modell über eine US-API berechnen würde.
Wahl dieses Modells versus Alternativen
Wenn die Aufgabe in ein starkes, aber nicht Frontier-Envelope passt und EU-Residency wichtig ist: dies steht auf der Shortlist. Wenn Sie einen US-gehosteten Endpoint tolerieren können und die absolute Spitze der Qualitätskurve benötigen: dies ist nicht das Modell. Wenn Sie bereits mit einem kleineren Llama für den Großteil Ihres Traffics zufrieden sind und nur für die harten Fälle ein Schwergewicht benötigen: paaren Sie dies als Ihre Eskalationsstufe und leiten Sie die einfache Arbeit zum 8B.
Vergleichen Sie gegen die intelligence- und leaderboard-Seiten für die aktuellen Platzierungen bei den Prompts, die wir testen. Die mehrsprachige Abdeckung wird unter /benchmarks/languages aufgeschlüsselt. Für End-to-End-Latenzvergleiche in EU-Regionen siehe /benchmarks/speed.
Fazit
Llama 3.3 70B Instruct auf OVH ist die europäische Antwort auf „Ich brauche echte Qualität, ich brauche sie in der EU, und ich möchte nicht zusätzlich noch einen Closed-Weight-Vertrag dazu." Es ist nicht das leistungsstärkste Modell auf dem Markt im Jahr 2026. Es ist eine der besten Passformen für die EU-Produktionsconstraint, und der Katalog glaubwürdiger Wettbewerber in genau diesem Segment ist kurz.
Letzte technische Überprüfung: 2026-05-22 — Tokonomix.ai
