Langfuse verfolgt jeden LLM-Aufruf, die Nutzung von Tools und die Kosten in Ihrer Anwendung, mit integriertem Management und Bewertung von Eingabeaufforderungen — selbst hostbar.
| Kategorie | LLM / RAG-Framework |
| Typ | LLM-Observierbarkeit |
| Lizenz | MIT |
| Läuft lokal | Ja |
| Hergestellt mit | TypeScript |
| Fähigkeitsstufe | Mittelstufe |
| Am besten für | Debugging und Überwachung von LLM-Apps in der Produktion |
Weitere Open-Source-LLM/RAG-Framework-Tools, die einen Vergleich wert sind:
LangChainKetten, Tools und Agenten erstellen
LlamaIndexDas Datenframework für RAG
HaystackProduktionspipelines für Suche und RAG
DSPyProgrammiersprache — nicht Eingabeaufforderung — für Modelle
txtaiAll-in-one Embeddings-Datenbank
RAGFlowTiefes Dokumentenverständnis RAG
Semantic KernelMicrosofts Unternehmensagenten-Framework
GraphRAGRAG, das zuerst ein Wissensgraph erstellt
LiteLLMEine API für über 100 LLM-Anbieter
InstructorZuverlässige strukturierte Ausgaben von LLMs
OutlinesGarantiert gültiges JSON und Grammatiken
GuidanceWechsel zwischen Kontrolle und Generierung
LLMWareEnterprise RAG mit kleinen spezialisierten Modellen
FlashRankUltra-leichtes Reranking für besseres RAG
Sentence TransformersDer Standardweg zur Erstellung von Embeddings
RagasMessen Sie, ob Ihr RAG gut ist
PromptfooUnit-Tests für Ihre Eingabeaufforderungen
PhoenixVerfolgen, bewerten und debuggen Sie LLM-AppsLangfuse ist kostenlos und Open Source (MIT-Lizenz), sodass Sie es ohne Kosten verwenden, selbst hosten und modifizieren können.
Ja. Langfuse ist dafür ausgelegt, auf Ihrem eigenen Computer oder Server zu laufen, wodurch Ihre Daten privat bleiben.
Beliebte Open-Source-Alternativen sind LangChain, LlamaIndex, Haystack. Siehe die obigen Vergleiche zur Auswahl.
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →