Guidance est un paradigme de programmation pour orienter les LLMs qui entrelace le flux de contrôle avec la génération, avec un décodage contraint et un riche templating.
| Catégorie | Cadre LLM / RAG |
| Type | Bibliothèque de génération contrainte |
| Licence | MIT |
| S'exécute localement | Optionnel cloud |
| Construit avec | Python |
| Niveau de compétence | Avancé |
| Meilleur pour | développeurs scriptant une logique de génération complexe |
Autres outils de cadre llm / rag open-source à comparer :
LangChainComposer des chaînes, des outils et des agents
LlamaIndexLe cadre de données pour RAG
HaystackPipelines de production pour la recherche et RAG
DSPyLangage de programmation — pas langage de prompt — modèles
txtaiBase de données d'embeddings tout-en-un
RAGFlowRAG de compréhension approfondie des documents
Semantic KernelCadre d'agent d'entreprise de Microsoft
GraphRAGRAG qui construit d'abord un graphe de connaissances
LiteLLMUne API pour plus de 100 fournisseurs de LLM
InstructorSorties structurées fiables des LLM
OutlinesGarantir un JSON valide et des grammaires
LLMWareRAG d'entreprise avec de petits modèles spécialisés
FlashRankReranking ultra-léger pour un meilleur RAG
Sentence TransformersLa méthode standard pour créer des embeddings
RagasMesurez si votre RAG est bon
PromptfooTests unitaires pour vos invites
LangfuseVoyez ce que votre application LLM a réellement fait
PhoenixTracez, évaluez et déboguez les applications LLMGuidance est gratuit et open-source (licence MIT), vous pouvez donc l'utiliser, l'héberger vous-même et le modifier sans frais.
Guidance peut être utilisé localement ou dans le cloud selon votre configuration.
Les alternatives open-source populaires incluent LangChain, LlamaIndex, Haystack. Consultez les comparaisons ci-dessus pour choisir.
Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.
Parcourez tous les outils →