AnythingLLM vía Tokonomix

Establece el proveedor Generic OpenAI de AnythingLLM en Tokonomix — potencia chat, RAG y agentes con más de 130 modelos y consenso en una sola clave.

Generic OpenAI providerApp de IA todo en uno (RAG + agentes)MIT · open sourceDesktop · Docker · autoalojado

AnythingLLM — app de IA todo en uno, vía Tokonomix

¿Qué es AnythingLLM?

AnythingLLM (de Mintplex Labs) es una aplicación de IA todo en uno — chat sobre tus documentos (RAG), agentes y workspaces — que puedes ejecutar en el escritorio o autoalojar. Su proveedor LLM Generic OpenAI apunta a cualquier endpoint compatible con OpenAI, incluido Tokonomix.

Chat sobre documentos (RAG), habilidades de agentes y organización en múltiples workspaces.
Un proveedor LLM Generic OpenAI con URL base, clave y nombre de modelo.
Configurable desde la interfaz o mediante variables de entorno.
Open source, en escritorio o con Docker.

¿Por qué enrutar AnythingLLM a través de Tokonomix?

Un proveedor, más de 130 modelos — elige tokonomix-consensus para respuestas de alto riesgo sobre tus documentos.
Los límites de gasto por llamada acotan el uso de RAG y agentes.
El enrutamiento por región / origen mantiene las respuestas fundamentadas en documentos dentro del cumplimiento normativo.
Cambia de modelo modificando un solo campo.

Conectar Tokonomix a AnythingLLM

En LLM Preference, elige Generic OpenAI e introduce la URL base, la clave, el modelo de chat y el límite de tokens (o define las variables de entorno correspondientes).

# LLM Preference → Generic OpenAI  (or env)
GENERIC_OPEN_AI_BASE_PATH=https://tokonomix.ai/api/v1
GENERIC_OPEN_AI_MODEL_PREF=tokonomix-consensus
GENERIC_OPEN_AI_API_KEY=tok_live_your-key
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000

Verificar que funciona

Guarda la configuración de Generic OpenAI (o reinicia con las variables de entorno).
Haz una pregunta en un workspace y confirma que llega una respuesta.
Confirma la llamada y el uso de tokens en tu panel de Tokonomix.

Selección de modelo

¿Qué modelo y endpoint debe usar mi agente?

Elige según lo que hace tu agente y cambia el id de modelo en cualquier momento — todos los modelos del catálogo funcionan con la misma clave.

Lo que hace tu agente	Usa esto
Edita archivos / llama a herramientas y transmite respuestas (la mayoría de agentes de codificación)	Un modelo Anthropic a través del endpoint Anthropic (herramientas + streaming ambos funcionan)
Llama a herramientas pero no necesita streaming (cualquier modelo)	El endpoint compatible con OpenAI con un único id de modelo
Necesita herramientas y streaming en un modelo no-Anthropic	Usa non-streaming por ahora — las llamadas a herramientas con streaming en otros proveedores aún no están disponibles
Chat normal, sin herramientas	Cualquier endpoint; el streaming está bien
Quiere un veredicto multi-modelo (consenso) sobre una respuesta de alto impacto	Establece el modelo en tokonomix-consensus en el endpoint compatible con OpenAI — nota: el consenso rechaza las solicitudes de herramientas (sin llamadas a herramientas)

Endpoint y referencia de API (técnico)

anthropic-messages → https://tokonomix.ai/api/anthropic — tools ✓, streaming ✓ (usa un modelo Anthropic). openai-completions → https://tokonomix.ai/api/v1 — tools ✓ (passthrough de modelo único), streaming con herramientas aún no disponible. Chat normal: el streaming funciona en ambos. Consenso: openai-completions, modelo tokonomix-consensus, sin herramientas. Cambia el id de modelo por cualquier slug devuelto por GET /api/v1/models.

Ver todos los modelos →