AnythingLLM via Tokonomix

Setze den Generic OpenAI-Provider in AnythingLLM auf Tokonomix — betreibe Chat, RAG und Agenten mit 130+ Modellen und Consensus auf einem Schlüssel.

Generic OpenAI providerAll-in-one-KI-App (RAG + Agenten)MIT · Open SourceDesktop · Docker · selbst-gehostet

AnythingLLM — all-in-one-KI-App, über Tokonomix

Was ist AnythingLLM?

AnythingLLM (von Mintplex Labs) ist eine All-in-one-KI-Anwendung — Chat über Dokumente (RAG), Agenten und Workspaces — die du auf dem Desktop oder selbst-gehostet betreibst. Der Generic OpenAI-LLM-Provider zeigt auf jeden OpenAI-kompatiblen Endpunkt, einschließlich Tokonomix.

Dokumenten-Chat (RAG), Agenten-Skills und Multi-Workspace-Organisation.
Ein Generic OpenAI-LLM-Provider mit Base-URL, Schlüssel und Modellname.
Konfigurierbar über die UI oder per Umgebungsvariable.
Open Source, Desktop oder dockerisiert.

Warum AnythingLLM über Tokonomix routen?

Ein Provider, 130+ Modelle — wähle tokonomix-consensus für kritische Antworten über deinen Dokumenten.
Per-Call-Ausgabenlimits begrenzen RAG- und Agenten-Nutzung.
Region-/Herkunfts-Routing hält dokumentengestützte Antworten konform.
Modell wechseln durch Ändern eines einzigen Felds.

Tokonomix mit AnythingLLM verbinden

Wähle unter LLM Preference Generic OpenAI und trage Base-URL, Schlüssel, Chat-Modell und Token-Limit ein (oder setze die passenden Umgebungsvariablen).

# LLM Preference → Generic OpenAI  (or env)
GENERIC_OPEN_AI_BASE_PATH=https://tokonomix.ai/api/v1
GENERIC_OPEN_AI_MODEL_PREF=tokonomix-consensus
GENERIC_OPEN_AI_API_KEY=tok_live_your-key
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000

Funktionskontrolle

Speichere die Generic OpenAI-Einstellungen (oder starte mit den Umgebungsvariablen neu).
Stelle eine Frage in einem Workspace und prüfe, ob eine Antwort zurückkommt.
Bestätige den Aufruf und die Token-Nutzung in deinem Tokonomix-Dashboard.

Modellauswahl

Welches Modell und welchen Endpunkt soll mein Agent verwenden?

Wähle nach dem, was dein Agent tut, und tausche die Modell-ID jederzeit aus — jedes Modell im Katalog funktioniert über denselben Schlüssel.

Was dein Agent tut	Verwende dies
Bearbeitet Dateien / ruft Tools auf und streamt Antworten (die meisten Coding-Agents)	Ein Anthropic-Modell über den Anthropic-Endpunkt (Tools + Streaming funktionieren beide)
Ruft Tools auf, benötigt aber kein Streaming (beliebiges Modell)	Der OpenAI-kompatible Endpunkt mit einer einzelnen Modell-ID
Benötigt Tools und Streaming auf einem Nicht-Anthropic-Modell	Verwende vorerst Non-Streaming — Streaming-Tool-Calls für andere Anbieter sind noch nicht aktiviert
Normaler Chat, keine Tools	Beliebiger Endpunkt; Streaming ist in Ordnung
Möchte ein modellübergreifendes Urteil (Konsens) bei einer wichtigen Antwort	Modell auf tokonomix-consensus am OpenAI-kompatiblen Endpunkt setzen — Hinweis: Konsens weist Tool-Anfragen ab (kein Tool-Calling)

Endpunkt & API-Referenz (technisch)

anthropic-messages → https://tokonomix.ai/api/anthropic — tools ✓, streaming ✓ (ein Anthropic-Modell verwenden). openai-completions → https://tokonomix.ai/api/v1 — tools ✓ (Single-Model-Passthrough), Streaming mit Tools noch nicht verfügbar. Normaler Chat: Streaming funktioniert auf beiden. Konsens: openai-completions, Modell tokonomix-consensus, keine Tools. Modell-ID gegen einen beliebigen Slug aus GET /api/v1/models austauschen.

Alle Modelle ansehen →