llm via Tokonomix

//llm nedir?

llm, Simon Willison’ın büyük dil modelleri için komut satırı istemcisi ve Python kütüphanesidir. Her istem ve yanıtı SQLite'a kaydeder, eklentileri destekler ve herhangi bir OpenAI uyumlu modeli bir YAML dosyası aracılığıyla kaydedebilir — Tokonomix tam olarak bu şekilde entegre olur.

• Kabuktan istem çalıştırır ve stdin'i bir modelden geçirir.
• Ek OpenAI uyumlu modelleri extra-openai-models.yaml'a kaydeder (model_id, model_name, api_base, api_key_name).
• Model girişindeki supports_tools bayrağı aracılığıyla araç çağrısını destekler.
• Açık kaynak; anahtarlar llm keys set ile kaydedilir, YAML'a değil.

//llm'i neden Tokonomix üzerinden yönlendirmelisiniz?

• extra-openai-models.yaml'daki tek Tokonomix anahtarı, sağlayıcı başına anahtar karmaşası olmadan 130'dan fazla modele erişir.
• Zorlu sorguların çoklu model kararı alması için bir model_id'yi tokonomix-consensus'a yönlendirin; rutin tek satırlıklar için doğrudan slug kullanın.
• Çağrı başına harcama limitleri kullanımı sınırlar; bölge/kaynak yönlendirmesi hassas istemlerin uyumlu kalmasını sağlar.
• Her çağrı, Tokonomix panonuzda sent bazında ölçülür.

//extra-openai-models.yaml'da Tokonomix'i bağlayın

extra-openai-models.yaml'a bir Tokonomix model girişi ekleyin, ardından anahtarı llm keys set ile kaydedin.

# ~/.config/io.datasette.llm/extra-openai-models.yaml
- model_id: anthropic/claude-sonnet-4-6
  model_name: anthropic/claude-sonnet-4-6
  api_base: "https://tokonomix.ai/api/v1"
  api_key_name: tokonomix
  supports_tools: true
# Opt-in (planning/review only, no tool-calling): add a second entry with model_id/model_name: tokonomix-consensus

# then: llm keys set tokonomix   (paste tok-your-key)
# llm -m anthropic/claude-sonnet-4-6 "Explain quorum sensing"

//Çalıştığını doğrulayın

• Model girişini ekleyin ve anahtarınızı kaydetmek için llm keys set tokonomix çalıştırın.
• Küçük bir istem gönderin: llm -m tokonomix-consensus "Explain quorum sensing".
• Tokonomix panonuzda çağrıyı ve token kullanımını doğrulayın.