LiteLLM

Une API pour plus de 100 fournisseurs de LLM

Cadre LLM / RAGPasserelle / SDK LLMMITOptionnel cloudPythonDébutant

OSAI Pulse ⓘ ★★★★★★★★★★ /100 signaux suivis

🐳 téléchargements Docker 📦 téléchargements PyPI / mois 📦 téléchargements npm / mois 🚀 Dernière version ·

Visitez le site →Voir sur GitHub

Qu'est-ce que LiteLLM ?

LiteLLM est une passerelle et un SDK qui expose plus de 100 fournisseurs de LLM derrière le format OpenAI, ajoutant routage, solutions de secours, budgets et observabilité.

Pourquoi les gens choisissent LiteLLM

Accès au format OpenAI à plus de 100 fournisseurs
Routage, solutions de secours, budgets et limites de taux
Serveur proxy pour la gouvernance à l'échelle de l'organisation

LiteLLM en un coup d'œil

Catégorie	Cadre LLM / RAG
Type	Passerelle / SDK LLM
Licence	MIT
S'exécute localement	Optionnel cloud
Construit avec	Python
Niveau de compétence	Débutant
Meilleur pour	équipes se standardisant sur une interface LLM

Alternatives open-source à LiteLLM

Autres outils de cadre llm / rag open-source à comparer :

LangChainComposer des chaînes, des outils et des agents

LlamaIndexLe cadre de données pour RAG

HaystackPipelines de production pour la recherche et RAG

DSPyLangage de programmation — pas langage de prompt — modèles

txtaiBase de données d'embeddings tout-en-un

RAGFlowRAG de compréhension approfondie des documents

Semantic KernelCadre d'agent d'entreprise de Microsoft

GraphRAGRAG qui construit d'abord un graphe de connaissances

InstructorSorties structurées fiables des LLM

OutlinesGarantir un JSON valide et des grammaires

GuidanceIntercaler contrôle et génération

LLMWareRAG d'entreprise avec de petits modèles spécialisés

FlashRankReranking ultra-léger pour un meilleur RAG

Sentence TransformersLa méthode standard pour créer des embeddings

RagasMesurez si votre RAG est bon

PromptfooTests unitaires pour vos invites

LangfuseVoyez ce que votre application LLM a réellement fait

PhoenixTracez, évaluez et déboguez les applications LLM

LiteLLM en tête-à-tête

LiteLLM vs LangChain LiteLLM vs LlamaIndex LiteLLM vs Haystack LiteLLM vs DSPy LiteLLM vs txtai LiteLLM vs RAGFlow LiteLLM vs Semantic Kernel LiteLLM vs GraphRAG LiteLLM vs Instructor LiteLLM vs Outlines LiteLLM vs Guidance LiteLLM vs LLMWare LiteLLM vs FlashRank LiteLLM vs Sentence Transformers LiteLLM vs Ragas LiteLLM vs Promptfoo LiteLLM vs Langfuse LiteLLM vs Phoenix

FAQ

LiteLLM est-il gratuit ?

LiteLLM est gratuit et open-source (licence MIT), vous pouvez donc l'utiliser, l'héberger vous-même et le modifier sans frais.

Puis-je exécuter LiteLLM localement ?

LiteLLM peut être utilisé localement ou dans le cloud selon votre configuration.

Quelle est la meilleure alternative à LiteLLM ?

Les alternatives open-source populaires incluent LangChain, LlamaIndex, Haystack. Consultez les comparaisons ci-dessus pour choisir.

Explorez plus d'IA open-source

Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.

Parcourez tous les outils →