llamafile

Eine ausführbare Datei = Modell + Laufzeit
LLMs lokal ausführenEinzeldatei-LaufzeitApache-2.0Läuft lokalC/C++Anfänger
OSAI Pulse ⓘ ★★★★★★★★★★ /100 verfolgte Signale
🐳 Docker-Pulls 📦 PyPI-Downloads / Monat 📦 npm-Downloads / Monat 🚀 Neueste Version ·
Website besuchen →Auf GitHub ansehen

Was ist llamafile?

llamafile von Mozilla packt ein Modell und llama.cpp in eine einzige tragbare ausführbare Datei: eine Datei herunterladen, ausführen und eine lokale Chat-Benutzeroberfläche plus eine OpenAI-kompatible API erhalten.

Warum Menschen llamafile wählen

llamafile auf einen Blick

KategorieLLMs lokal ausführen
TypEinzeldatei-Laufzeit
LizenzApache-2.0
Läuft lokalJa
Hergestellt mitC/C++
FähigkeitsstufeAnfänger
Am besten fürein Modell teilen, das überall ohne Installation läuft

Open-Source-Alternativen zu llamafile

Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:

OllamaFühren Sie offene LLMs lokal mit einem Befehl ausLM StudioDurchsuchen, Herunterladen und Chatten mit lokalen ModellenJanOpen-Source, offline ChatGPT-ähnliche Desktop-AppGPT4AllPrivate lokale KI, die auf CPU läuftllama.cppDie C/C++-Engine, die lokale Inferenz antreibtLocalAIEine OpenAI-API, die Sie selbst hostenText Generation WebUIFunktionsreiche Web-UI für lokale ModelleKoboldCppEinzeldatei-Läufer für lokale ModelleMLC LLMLLMs auf jedem Gerät ausführen, sogar auf HandysexoFühren Sie große Modelle auf Ihren Alltagsgeräten ausCortexOllama-Stil Laufzeit vom Jan-TeamNexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPURamaLamaFühren Sie Modelle als OCI-Container ausGPUStackVerwalten Sie GPU-Cluster zum Ausführen von Modellen

llamafile im direkten Vergleich

llamafile vs Ollamallamafile vs LM Studiollamafile vs Janllamafile vs GPT4Allllamafile vs llama.cppllamafile vs LocalAIllamafile vs Text Generation WebUIllamafile vs KoboldCppllamafile vs MLC LLMllamafile vs exollamafile vs Cortexllamafile vs Nexa SDKllamafile vs RamaLamallamafile vs GPUStack

Häufig gestellte Fragen

Ist llamafile kostenlos?

llamafile ist kostenlos und Open-Source (Apache-2.0-Lizenz), sodass Sie es kostenlos verwenden, selbst hosten und ändern können.

Kann ich llamafile lokal ausführen?

Ja. llamafile ist dafür ausgelegt, auf Ihrem eigenen Computer oder Server zu laufen, um Ihre Daten privat zu halten.

Was ist die beste Alternative zu llamafile?

Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.

Entdecken Sie weitere Open-Source-AI

Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.

Alle Tools durchsuchen →