Nexa SDK führt Text-, Bild-, Audio- und Bildmodelle lokal über CPU-, GPU- und NPU-Backends aus, mit einer einheitlichen API und einem OpenAI-kompatiblen Server.
| Kategorie | LLMs lokal ausführen |
| Typ | Lokale Laufzeit (SDK) |
| Lizenz | Apache-2.0 |
| Läuft lokal | Ja |
| Hergestellt mit | Python |
| Fähigkeitsstufe | Mittelstufe |
| Am besten für | Entwickler, die viele Gerätetypen aus einer Codebasis ansprechen |
Andere Open-Source-Tools zum lokalen Ausführen von LLMs, die einen Vergleich wert sind:
OllamaFühren Sie offene LLMs lokal mit einem Befehl aus
JanOpen-Source, offline ChatGPT-ähnliche Desktop-App
GPT4AllPrivate lokale KI, die auf CPU läuft
llama.cppDie C/C++-Engine, die lokale Inferenz antreibt
LocalAIEine OpenAI-API, die Sie selbst hosten
Text Generation WebUIFunktionsreiche Web-UI für lokale Modelle
KoboldCppEinzeldatei-Läufer für lokale Modelle
MLC LLMLLMs auf jedem Gerät ausführen, sogar auf Handys
llamafileEine ausführbare Datei = Modell + Laufzeit
exoFühren Sie große Modelle auf Ihren Alltagsgeräten aus
CortexOllama-Stil Laufzeit vom Jan-Team
RamaLamaFühren Sie Modelle als OCI-Container aus
GPUStackVerwalten Sie GPU-Cluster zum Ausführen von ModellenNexa SDK ist kostenlos und Open-Source (Apache-2.0-Lizenz), sodass Sie es kostenlos verwenden, selbst hosten und modifizieren können.
Ja. Nexa SDK ist so konzipiert, dass es auf Ihrem eigenen Computer oder Server läuft und Ihre Daten privat bleiben.
Beliebte Open-Source-Alternativen sind Ollama, LM Studio, Jan. Sehen Sie sich die Vergleiche oben an, um zu wählen.
Durchsuchen Sie das vollständige Verzeichnis von Open-Source-AI-Tools, Modellen und Projekten – täglich aktualisiert.
Alle Tools durchsuchen →