GPUStack
Verwalten Sie GPU-Cluster zum Ausführen von Modellen
LLMs lokal ausführenGPU-Cluster-ManagerApache-2.0Läuft lokalPythonFortgeschritten
🐳 Docker-Pulls
📦 PyPI-Downloads / Monat
📦 npm-Downloads / Monat
🚀 Neueste Version ·
Was ist GPUStack?
GPUStack bündelt heterogene GPUs über Maschinen hinweg in einem Cluster und plant Modell-Workloads über diese mit einer Web-UI und OpenAI-kompatiblen Endpunkten.
Warum Menschen GPUStack wählen
- Bündelt GPUs über viele Maschinen
- Mischung aus NVIDIA-, Apple- und AMD-Hardware
- Web-UI mit Nutzungsmetriken
GPUStack auf einen Blick
| Kategorie | LLMs lokal ausführen |
| Typ | GPU-Cluster-Manager |
| Lizenz | Apache-2.0 |
| Läuft lokal | Ja |
| Hergestellt mit | Python |
| Fähigkeitsstufe | Fortgeschritten |
| Am besten für | Teams mit mehreren GPU-Maschinen zum Poolen |
Neueste Versionen
Open-Source-Alternativen zu GPUStack
Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:
OllamaFühren Sie offene LLMs lokal mit einem Befehl aus
JanOpen-Source, offline ChatGPT-ähnliche Desktop-App
GPT4AllPrivate lokale KI, die auf CPU läuft
llama.cppDie C/C++-Engine, die lokale Inferenz antreibt
LocalAIEine OpenAI-API, die Sie selbst hosten
Text Generation WebUIFunktionsreiche Web-UI für lokale Modelle
KoboldCppEinzeldatei-Läufer für lokale Modelle
MLC LLMLLMs auf jedem Gerät ausführen, sogar auf Handys
llamafileEine ausführbare Datei = Modell + Laufzeit
exoFühren Sie große Modelle auf Ihren Alltagsgeräten ausCortexOllama-Stil Laufzeit vom Jan-Team
Nexa SDKFühren Sie jedes Modell auf jedem Gerät aus — CPU, GPU, NPU
RamaLamaFühren Sie Modelle als OCI-Container ausGPUStack im direkten Vergleich
GPUStack vs OllamaGPUStack vs LM StudioGPUStack vs JanGPUStack vs GPT4AllGPUStack vs llama.cppGPUStack vs LocalAIGPUStack vs Text Generation WebUIGPUStack vs KoboldCppGPUStack vs MLC LLMGPUStack vs llamafileGPUStack vs exoGPUStack vs CortexGPUStack vs Nexa SDKGPUStack vs RamaLama
Häufig gestellte Fragen
Ist GPUStack kostenlos?
GPUStack ist kostenlos und Open-Source (Apache-2.0-Lizenz), sodass Sie es ohne Kosten nutzen, selbst hosten und modifizieren können.
Kann ich GPUStack lokal ausführen?
Ja. GPUStack ist so konzipiert, dass es auf Ihrem eigenen Computer oder Server läuft und Ihre Daten privat bleiben.
Was ist die beste Alternative zu GPUStack?
Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.
Entdecken Sie weitere Open-Source-AI
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →