डेवलपर्स और छोटी टीमें जिन्हें पहले से एक नमकीन API बिल मिला है : एक सप्ताहांत में लूप में गया एक एजेंट, पूरी टीम द्वारा साझा एक कुंजी, यह जानना असंभव कि किस प्रोजेक्ट ने बजट जलाया।
प्रकार : विशेष एजेंट — मॉडल एक्सेस विशेषज्ञ : सभी मॉडल प्रदाताओं के लिए एकमात्र गेटवे, API ख़र्च के रूटिंग और नियंत्रण के साथ।
तकनीकीकीमत सत्यापित 29 अक्टूबर 2026.
LiteLLM (litellm.ai), एक open source प्रॉक्सी जो आपकी एप्लिकेशनों और मॉडल प्रदाताओं (OpenAI, Anthropic, Google…) के बीच स्थित होता है। सब कुछ उससे होकर गुज़रता है : वह प्रति व्यक्ति, प्रोजेक्ट या एजेंट आभासी कुंजियाँ वितरित करता है, हर ख़र्च को ट्रैक करता है और जब कोई बजट पूरा हो जाता है तो साफ़ रोक देता है — महीने के अंत में बिल खोजने के बजाय।
ट्रिगर : आपके एजेंटों या एप्लिकेशनों में से एक मॉडल को कॉल करता है — कुंजी और उसके शेष बजट की जाँच करता है, कॉल को सही मॉडल की ओर भेजता है और ख़र्च का हिसाब रखता है, और आपको मिलता है सही कुंजी को आरोपित एक ख़र्च, और सीमा पार होते ही अवरुद्ध कॉल.
आधिकारिक स्रोत : docs.litellm.ai · github.com · github.com — सत्यापित 1 नवंबर 2026.
सेल्फ़-होस्टेड में मुफ़्त (open source) ; आप अपने मॉडलों को कॉल का भुगतान जारी रखते हैं — लेकिन इस बार सीमित। खुद होस्ट करने के लिए मुफ़्त open source वर्शन (MIT लाइसेंस) ; समर्थन के साथ Enterprise ऑफ़र कोटेशन पर. कीमत सत्यापित 29 अक्टूबर 2026.
Oui. खुद होस्ट करने के लिए मुफ़्त open source वर्शन (MIT लाइसेंस) ; समर्थन के साथ Enterprise ऑफ़र कोटेशन पर.
स्तर : उन्नत। स्थापना 4 चरणों में होती है ; पहला चरण : LiteLLM को उसके डेटाबेस के साथ सेल्फ़-होस्टेड (Docker) में इंस्टॉल करें — अनिवार्य : उसके बिना, बजट लागू नहीं होते।
सुरक्षा-रेल तभी मूल्यवान है जब वह सक्रिय हो : LiteLLM का दस्तावेज़ीकरण निर्दिष्ट करता है कि बिना जुड़े डेटाबेस के, बजट बस जाँचे ही नहीं जाते। व्यवस्था पर भरोसा करने से पहले एक छोटी कुंजी से अवरोध को टेस्ट करें, और रक्षा की दूसरी पंक्ति के रूप में प्रदाताओं की मूल सीमाएँ भी बनाए रखें।
मैं एक बड़े फ़ैसले से पहले एक ठोस दूसरी राय चाहता हूँ
मुफ़्त सॉफ़्टवेयर (सार्वजनिक रिपॉज़िटरी, बिना open source लाइसेंस के) ; आप मॉडलों को कॉल का भुगतान करते हैं (एक अकेले मॉडल से पूछे गए सवाल की लागत का लगभग 2 से 3 गुना)।
मैं एक एजेंटों की टीम चाहता हूँ जो एक बड़ा काम बाँट ले
open source फ़्रेमवर्क और आधार प्लेटफ़ॉर्म (50 निष्पादन/माह) के लिए 0 $ ; उद्यम प्लेटफ़ॉर्म कोटेशन पर, मॉडलों को कॉल की लागत के अतिरिक्त।
मैं एक अनुकूलित एजेंट वर्कफ़्लो चाहता हूँ, हर चरण नियंत्रित
मुफ़्त open source लाइब्रेरी ; आप मॉडलों को कॉल का भुगतान करते हैं, और LangSmith का अगर आप उसे लेते हैं (शुरू में मुफ़्त, फिर 39 $/उपयोगकर्ता/माह)।
मैं ऐसे एजेंट चाहता हूँ जो समाधान खोजने तक आपस में बहस करें
मुफ़्त open source ; आप एजेंटों द्वारा उपयोग किए जाने वाले मॉडलों को कॉल का भुगतान करते हैं — कई चक्करों की बहस एक साधारण उत्तर की कई गुना लागत देती है।
मैं अपने स्वयं के टूल और डेटा को अपने एजेंटों से जोड़ना चाहता हूँ
मुफ़्त : यह एक खुला मानक है, कोई उत्पाद नहीं ; आप जो भी टूल जोड़ते हैं वह अपना स्वयं का मूल्य रखता है।
फ़िश अद्यतन 1 नवंबर 2026 — देखें निर्देशिका की नवीनताएँ.