Guidance ist ein Programmierparadigma zur Steuerung von LLMs, das Kontrollfluss mit Generierung verknüpft, mit eingeschränkter Dekodierung und reichhaltiger Vorlagenbildung.
| Kategorie | LLM / RAG-Framework |
| Typ | Bibliothek für eingeschränkte Generierung |
| Lizenz | MIT |
| Läuft lokal | Cloud-optional |
| Hergestellt mit | Python |
| Fähigkeitsstufe | Fortgeschritten |
| Am besten für | Entwickler, die komplexe Generierungslogik skripten |
Weitere Open-Source-LLM/RAG-Framework-Tools, die einen Vergleich wert sind:
LangChainKetten, Tools und Agenten erstellen
LlamaIndexDas Datenframework für RAG
HaystackProduktionspipelines für Suche und RAG
DSPyProgrammiersprache — nicht Eingabeaufforderung — für Modelle
txtaiAll-in-one Embeddings-Datenbank
RAGFlowTiefes Dokumentenverständnis RAG
Semantic KernelMicrosofts Unternehmensagenten-Framework
GraphRAGRAG, das zuerst ein Wissensgraph erstellt
LiteLLMEine API für über 100 LLM-Anbieter
InstructorZuverlässige strukturierte Ausgaben von LLMs
OutlinesGarantiert gültiges JSON und Grammatiken
LLMWareEnterprise RAG mit kleinen spezialisierten Modellen
FlashRankUltra-leichtes Reranking für besseres RAG
Sentence TransformersDer Standardweg zur Erstellung von Embeddings
RagasMessen Sie, ob Ihr RAG gut ist
PromptfooUnit-Tests für Ihre Eingabeaufforderungen
LangfuseSehen Sie, was Ihre LLM-App tatsächlich gemacht hat
PhoenixVerfolgen, bewerten und debuggen Sie LLM-AppsGuidance ist kostenlos und Open Source (MIT-Lizenz), sodass Sie es kostenlos nutzen, selbst hosten und modifizieren können.
Guidance kann je nach Ihrer Einrichtung lokal oder in der Cloud verwendet werden.
Beliebte Open-Source-Alternativen sind LangChain, LlamaIndex, Haystack. Siehe die obigen Vergleiche zur Auswahl.
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →