AnythingLLM via Tokonomix

AnythingLLM'deki Generic OpenAI sağlayıcısını Tokonomix'e yönlendirin — sohbet, RAG ve ajanları tek anahtarda 130+ model ve consensus ile güçlendirin.

Generic OpenAI providerHepsi bir arada AI uygulaması (RAG + ajan)MIT · açık kaynakMasaüstü · Docker · kendi kendine barındırılan

AnythingLLM — hepsi bir arada AI uygulaması, Tokonomix üzerinden

AnythingLLM nedir?

AnythingLLM (Mintplex Labs tarafından), masaüstünde çalıştırdığınız veya kendi sunucunuzda barındırdığınız hepsi bir arada bir AI uygulamasıdır — belgelerinizle sohbet (RAG), ajanlar ve çalışma alanları. Generic OpenAI LLM sağlayıcısı, Tokonomix dahil her OpenAI-compatible uç noktayı gösterir.

Belge sohbeti (RAG), ajan becerileri ve çok çalışma alanlı organizasyon.
Temel URL, anahtar ve model adı ile Generic OpenAI LLM sağlayıcısı.
Arayüzden veya ortam değişkeniyle yapılandırılabilir.
Açık kaynak, masaüstü veya Docker ile barındırılabilir.

AnythingLLM'i neden Tokonomix üzerinden yönlendirmelisiniz?

Tek sağlayıcı, 130+ model — belgeleriniz üzerinde yüksek riskli sorular için tokonomix-consensus seçin.
Çağrı başına harcama sınırları RAG + ajan kullanımını denetim altında tutar.
Bölge / kaynak yönlendirmesi, belge tabanlı yanıtları uyumlu kılar.
Tek bir alanı değiştirerek modeli değiştirin.

Tokonomix'i AnythingLLM'e bağlayın

LLM Preference bölümünde Generic OpenAI seçin; temel URL, anahtar, sohbet modeli ve token limitini doldurun (veya eşleşen ortam değişkenlerini ayarlayın).

# LLM Preference → Generic OpenAI  (or env)
GENERIC_OPEN_AI_BASE_PATH=https://tokonomix.ai/api/v1
GENERIC_OPEN_AI_MODEL_PREF=tokonomix-consensus
GENERIC_OPEN_AI_API_KEY=tok_live_your-key
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=200000

Çalıştığını doğrulayın

Generic OpenAI ayarlarını kaydedin (veya env vars ile yeniden başlatın).
Bir çalışma alanında soru sorun ve yanıt geldiğini onaylayın.
Tokonomix kontrol panelinde çağrıyı ve token kullanımını doğrulayın.

Model seçimi

Ajanım hangi modeli ve endpoint'i kullanmalı?

Ajanınızın ne yaptığına göre seçin, model id'yi istediğiniz zaman değiştirin — katalogdaki her model aynı anahtarla çalışır.

Ajanınızın yaptığı	Bunu kullanın
Dosya düzenler / araç çağırır ve yanıtları akıtır (çoğu kodlama ajanı)	Anthropic endpoint'i üzerinden bir Anthropic modeli (araçlar + akış ikisi de çalışır)
Araç çağırır ancak akış gerektirmez (herhangi bir model)	Tek model id ile OpenAI uyumlu endpoint
Anthropic dışı bir modelde araç ve akış istiyor	Şimdilik akışsız kullanın — diğer sağlayıcılarda araçlı akış henüz etkin değil
Düz sohbet, araç yok	Herhangi bir endpoint; akış sorunsuz çalışır
Yüksek önem taşıyan bir yanıtta çok modelli karar (konsensüs) istiyor	OpenAI uyumlu endpoint'te modeli tokonomix-consensus olarak ayarlayın — not: konsensüs araç isteklerini reddeder (araç çağrısı yok)

Endpoint & API referansı (teknik)

anthropic-messages → https://tokonomix.ai/api/anthropic — tools ✓, streaming ✓ (bir Anthropic modeli kullanın). openai-completions → https://tokonomix.ai/api/v1 — tools ✓ (tek model passthrough), araçlarla akış henüz etkin değil. Düz sohbet: akış her ikisinde de çalışır. Konsensüs: openai-completions, model tokonomix-consensus, araç yok. Model id'yi GET /api/v1/models tarafından döndürülen herhangi bir slug ile değiştirin.

Tüm modellere göz at →