AnythingLLM via Tokonomix

Définissez le fournisseur Generic OpenAI d'AnythingLLM sur Tokonomix — alimentez le chat, RAG et les agents avec 130+ modèles et le consensus sur une seule clé.

Generic OpenAI providerApplication IA tout-en-un (RAG + agents)MIT · open sourceDesktop · Docker · self-hosted

AnythingLLM — application IA tout-en-un, via Tokonomix

Qu'est-ce qu'AnythingLLM ?

AnythingLLM (par Mintplex Labs) est une application IA tout-en-un — chat sur vos documents (RAG), agents et espaces de travail — que vous exécutez sur le bureau ou en self-hosted. Son fournisseur LLM Generic OpenAI pointe vers n'importe quel endpoint compatible OpenAI, y compris Tokonomix.

Chat sur documents (RAG), compétences d'agents et organisation multi-espace de travail.
Un fournisseur LLM Generic OpenAI avec une URL de base, une clé et un nom de modèle.
Configurable dans l'interface ou par variable d'environnement.
Open source, desktop ou Dockerisé.

Pourquoi router AnythingLLM via Tokonomix ?

Un fournisseur, 130+ modèles — choisissez tokonomix-consensus pour les réponses à enjeux élevés sur vos documents.
Les plafonds de dépense par appel encadrent l'utilisation RAG + agents.
Le routage par région / origine maintient la conformité des réponses ancrées aux documents.
Changez de modèle en modifiant un seul champ.

Connecter Tokonomix à AnythingLLM

Dans LLM Preference, choisissez Generic OpenAI et renseignez l'URL de base, la clé, le modèle de chat et la limite de tokens (ou définissez les variables d'environnement correspondantes).

# LLM Preference → Generic OpenAI  (or env)
GENERIC_OPEN_AI_BASE_PATH=https://tokonomix.ai/api/v1
GENERIC_OPEN_AI_MODEL_PREF=tokonomix-consensus
GENERIC_OPEN_AI_API_KEY=tok_live_your-key
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000

Vérifier le bon fonctionnement

Sauvegardez les paramètres Generic OpenAI (ou redémarrez avec les variables d'environnement).
Posez une question dans un espace de travail et confirmez qu'une réponse arrive.
Confirmez l'appel et l'utilisation des tokens dans votre tableau de bord Tokonomix.

Sélection du modèle

Quel modèle et quel endpoint mon agent doit-il utiliser ?

Choisissez selon ce que fait votre agent, puis changez l'identifiant du modèle à tout moment — chaque modèle du catalogue fonctionne avec la même clé.

Ce que fait votre agent	Utilisez ceci
Modifie des fichiers / appelle des outils et diffuse les réponses (la plupart des agents de codage)	Un modèle Anthropic via l'endpoint Anthropic (outils + streaming fonctionnent tous les deux)
Appelle des outils mais n'a pas besoin du streaming (n'importe quel modèle)	L'endpoint compatible OpenAI avec un identifiant de modèle unique
Veut des outils et du streaming sur un modèle non-Anthropic	Utilisez le non-streaming pour l'instant — le streaming des appels d'outils sur d'autres fournisseurs n'est pas encore activé
Chat simple, sans outils	N'importe quel endpoint ; le streaming convient
Veut un verdict multi-modèles (consensus) sur une réponse à enjeu élevé	Définir le modèle sur tokonomix-consensus sur l'endpoint compatible OpenAI — remarque : le consensus rejette les appels d'outils (pas de tool-calling)

Endpoint & référence API (technique)

anthropic-messages → https://tokonomix.ai/api/anthropic — tools ✓, streaming ✓ (utiliser un modèle Anthropic). openai-completions → https://tokonomix.ai/api/v1 — tools ✓ (passthrough modèle unique), streaming avec outils pas encore disponible. Chat simple : le streaming fonctionne sur les deux. Consensus : openai-completions, modèle tokonomix-consensus, sans outils. Remplacez l'identifiant de modèle par n'importe quel slug renvoyé par GET /api/v1/models.

Parcourir tous les modèles →