LibreChat via Tokonomix

Was ist LibreChat?

LibreChat ist eine quelloffene, selbst-hostbare Chat-Plattform — eine ChatGPT-artige UI, die gleichzeitig mit vielen Providern spricht. Über die librechat.yaml-Custom-Endpoints-Funktion lässt sich jede OpenAI-kompatible API als wählbarer Endpunkt für dein gesamtes Team hinzufügen.

Eine ausgereifte Multi-User-Chat-UI, die du selbst hostest (Docker).
Bindet OpenAI-kompatible APIs als Custom Endpoints in librechat.yaml ein.
Jeder Endpunkt kann eine kuratierte Modellliste anbieten oder sie über die API abrufen.
Keys pro Nutzer (user_provided) oder ein gemeinsamer Server-Key per Umgebungsreferenz.

Warum Tokonomix als Endpunkt hinzufügen?

Ein Tokonomix-Endpunkt gibt jedem LibreChat-Nutzer 130+ Modelle — und einen tokonomix-consensus-Eintrag für Antworten, die dein Team sich nicht leisten kann, falsch zu bekommen — ohne für jede Modellfamilie einen eigenen Provider aufzusetzen.

Biete tokonomix-consensus und direkte Slugs nebeneinander im Modell-Selektor an.
Zentralisiere die Abrechnung auf einem Key mit Per-Call-Ausgabenlimits.
Route über hosting_region / origin_country für Compliance im gesamten Team.
Modellliste durch Bearbeiten eines YAML-Blocks erweitern oder austauschen — kein Re-Deploy der Provider nötig.

Tokonomix in librechat.yaml einbinden

Füge unter endpoints.custom einen eigenen Endpunkt mit der Tokonomix-baseURL, einer apiKey-Umgebungsreferenz und den gewünschten Modellen hinzu.

endpoints:
  custom:
    - name: "Tokonomix"
      apiKey: "${TOKONOMIX_API_KEY}"
      baseURL: "https://tokonomix.ai/api/v1"
      models:
        default:
          - "tokonomix-consensus"
          - "anthropic/claude-sonnet-4-6"
        fetch: true
      titleConvo: true

Keys pro Nutzer

Setze apiKey: "user_provided" statt einer Umgebungsreferenz, damit jeder Nutzer seinen eigenen Tokonomix-Key in der UI eintragen kann — nützlich für die Abrechnung pro Person.

Funktionsprüfung

Füge den Block zu librechat.yaml hinzu und starte LibreChat (oder seinen Docker-Stack) neu.
Wähle den Tokonomix-Endpunkt und ein Modell im Selektor aus und sende eine Nachricht.
Bestätige, dass der Aufruf und die Token-Nutzung in deinem Tokonomix-Dashboard erscheinen.

Welches Modell und welchen Endpunkt soll mein Agent verwenden?

Wähle nach dem, was dein Agent tut, und tausche die Modell-ID jederzeit aus — jedes Modell im Katalog funktioniert über denselben Schlüssel.

Was dein Agent tut	Verwende dies
Bearbeitet Dateien / ruft Tools auf und streamt Antworten (die meisten Coding-Agents)	Ein Anthropic-Modell über den Anthropic-Endpunkt (Tools + Streaming funktionieren beide)
Ruft Tools auf, benötigt aber kein Streaming (beliebiges Modell)	Der OpenAI-kompatible Endpunkt mit einer einzelnen Modell-ID
Benötigt Tools und Streaming auf einem Nicht-Anthropic-Modell	Verwende vorerst Non-Streaming — Streaming-Tool-Calls für andere Anbieter sind noch nicht aktiviert
Normaler Chat, keine Tools	Beliebiger Endpunkt; Streaming ist in Ordnung
Möchte ein modellübergreifendes Urteil (Konsens) bei einer wichtigen Antwort	Modell auf tokonomix-consensus am OpenAI-kompatiblen Endpunkt setzen — Hinweis: Konsens weist Tool-Anfragen ab (kein Tool-Calling)

Endpunkt & API-Referenz (technisch)

anthropic-messages → https://tokonomix.ai/api/anthropic — tools ✓, streaming ✓ (ein Anthropic-Modell verwenden). openai-completions → https://tokonomix.ai/api/v1 — tools ✓ (Single-Model-Passthrough), Streaming mit Tools noch nicht verfügbar. Normaler Chat: Streaming funktioniert auf beiden. Konsens: openai-completions, Modell tokonomix-consensus, keine Tools. Modell-ID gegen einen beliebigen Slug aus GET /api/v1/models austauschen.

Alle Modelle ansehen →

//Was ist LibreChat?

//Warum Tokonomix als Endpunkt hinzufügen?

//Tokonomix in librechat.yaml einbinden

//Funktionsprüfung

Welches Modell und welchen Endpunkt soll mein Agent verwenden?

Related agents

Was ist LibreChat?

Warum Tokonomix als Endpunkt hinzufügen?

Tokonomix in librechat.yaml einbinden

Funktionsprüfung