LiteLLM

Una API para más de 100 proveedores de LLM
Marco LLM / RAGPuerta de enlace / SDK de LLMMITOpcional en la nubePythonPrincipiante
OSAI Pulse ⓘ ★★★★★★★★★★ /100 señales rastreadas
🐳 descargas de Docker 📦 descargas de PyPI / mes 📦 descargas de npm / mes 🚀 Última versión ·
Visitar sitio web →Ver en GitHub

¿Qué es LiteLLM?

LiteLLM es una puerta de enlace y SDK que expone más de 100 proveedores de LLM detrás del formato OpenAI, añadiendo enrutamiento, alternativas, presupuestos y observabilidad.

¿Por qué la gente elige LiteLLM?

LiteLLM en un vistazo

CategoríaMarco LLM / RAG
TipoPuerta de enlace / SDK de LLM
LicenciaMIT
Ejecuta localmenteOpcional en la nube
Construido conPython
Nivel de habilidadPrincipiante
Mejor paraequipos estandarizando en una interfaz de LLM

Alternativas de código abierto a LiteLLM

Otras herramientas de marcos llm / rag de código abierto que vale la pena comparar:

LangChainComponer cadenas, herramientas y agentesLlamaIndexEl marco de datos para RAGHaystackPipelines de producción para búsqueda y RAGDSPyModelos de lenguaje — no de aviso —txtaiBase de datos de embeddings todo en unoRAGFlowRAG de comprensión profunda de documentosSemantic KernelMarco de agente empresarial de MicrosoftGraphRAGRAG que construye primero un gráfico de conocimientoInstructorSalidas estructuradas confiables de LLMsOutlinesGarantiza JSON válido y gramáticasGuidanceIntercalar control y generaciónLLMWareRAG empresarial con modelos pequeños especializadosFlashRankReordenamiento ultra-ligero para mejor RAGSentence TransformersLa forma estándar de hacer embeddingsRagasMide si tu RAG es buenoPromptfooPruebas unitarias para tus avisosLangfuseVe lo que realmente hizo tu aplicación LLMPhoenixRastrea, evalúa y depura aplicaciones LLM

LiteLLM cara a cara

LiteLLM vs LangChainLiteLLM vs LlamaIndexLiteLLM vs HaystackLiteLLM vs DSPyLiteLLM vs txtaiLiteLLM vs RAGFlowLiteLLM vs Semantic KernelLiteLLM vs GraphRAGLiteLLM vs InstructorLiteLLM vs OutlinesLiteLLM vs GuidanceLiteLLM vs LLMWareLiteLLM vs FlashRankLiteLLM vs Sentence TransformersLiteLLM vs RagasLiteLLM vs PromptfooLiteLLM vs LangfuseLiteLLM vs Phoenix

Preguntas frecuentes

¿Es LiteLLM gratuito?

LiteLLM es gratuito y de código abierto (licencia MIT), por lo que puedes usarlo, autoalojarlo y modificarlo sin costo alguno.

¿Puedo ejecutar LiteLLM localmente?

LiteLLM se puede usar localmente o en la nube dependiendo de tu configuración.

¿Cuál es la mejor alternativa a LiteLLM?

Las alternativas populares de código abierto incluyen LangChain, LlamaIndex, Haystack. Consulta las comparaciones anteriores para elegir.

Explora más IA de código abierto

Navega por el directorio completo de herramientas, modelos y proyectos de IA de código abierto, actualizado diariamente.

Navega todas las herramientas →