Guidance è un paradigma di programmazione per guidare i LLM che intreccia il flusso di controllo con la generazione, con decodifica vincolata e templating ricco.
| Categoria | Framework LLM / RAG |
| Tipo | Libreria di generazione vincolata |
| Licenza | MIT |
| Esegue localmente | Opzionale in cloud |
| Costruito con | Python |
| Livello di abilità | Avanzato |
| Migliore per | sviluppatori che scrivono logica di generazione complessa |
Altri strumenti open-source per llm / rag da confrontare:
LangChainComponi catene, strumenti e agenti
LlamaIndexIl framework dati per RAG
HaystackPipeline di produzione per ricerca e RAG
DSPyModelli di linguaggio — non prompt —
txtaiDatabase di embeddings all-in-one
RAGFlowRAG per una comprensione profonda dei documenti
Semantic KernelFramework per agenti aziendali di Microsoft
GraphRAGRAG che costruisce prima un grafo della conoscenza
LiteLLMUn'API per oltre 100 fornitori di LLM
InstructorOutput strutturati affidabili dai LLM
OutlinesGarantire JSON e grammatiche validi
LLMWareRAG aziendale con modelli specializzati di piccole dimensioni
FlashRankReranking ultra-leggero per un migliore RAG
Sentence TransformersIl modo standard per creare embedding
RagasMisura se il tuo RAG è valido
PromptfooTest unitari per i tuoi prompt
LangfuseVedi cosa ha effettivamente fatto la tua app LLM
PhoenixTraccia, valuta e debugga le app LLMGuidance è gratuito e open-source (licenza MIT), quindi puoi usarlo, ospitarlo autonomamente e modificarlo senza costi.
Guidance può essere utilizzato localmente o nel cloud a seconda della tua configurazione.
Le alternative open-source più popolari includono LangChain, LlamaIndex, Haystack. Consulta i confronti sopra per scegliere.
Sfoglia l'intero elenco di strumenti, modelli e progetti AI open-source — aggiornato quotidianamente.
Sfoglia tutti gli strumenti →