Cortex è un motore AI locale con una CLI semplice, un'API compatibile con OpenAI e più backend (llama.cpp, TensorRT-LLM), progettato per alimentare l'app desktop di Jan o funzionare in modo autonomo.
| Categoria | Esegui LLM localmente |
| Tipo | Runtime locale (CLI) |
| Licenza | Apache-2.0 |
| Esegue localmente | Sì |
| Costruito con | C++ |
| Livello di abilità | Principiante |
| Migliore per | un'alternativa pulita a Ollama con motori intercambiabili |
Altri strumenti open-source per eseguire LLM localmente da confrontare:
OllamaEsegui LLM open localmente con un comando
JanApp desktop in stile ChatGPT open-source e offline
GPT4AllAI locale privata che gira su CPU
llama.cppIl motore C/C++ che alimenta l'inferenza locale
LocalAIUn'API OpenAI che ospiti autonomamente
Text Generation WebUIInterfaccia web ricca di funzionalità per modelli locali
KoboldCppEseguitore di modelli locali in un singolo file
MLC LLMEsegui LLM su qualsiasi dispositivo, anche telefoni
llamafileUn file eseguibile = modello + runtime
exoEsegui modelli grandi sui tuoi dispositivi quotidiani
Nexa SDKEsegui qualsiasi modello su qualsiasi dispositivo — CPU, GPU, NPU
RamaLamaEsegui modelli come contenitori OCI
GPUStackGestisci cluster GPU per eseguire modelliCortex è gratuito e open-source (licenza Apache-2.0), quindi puoi usarlo, ospitarlo autonomamente e modificarlo senza costi.
Sì. Cortex è progettato per essere eseguito sulla tua macchina o server, mantenendo i tuoi dati privati.
Le popolari alternative open-source includono Ollama, LM Studio, Jan. Vedi i confronti sopra per scegliere.
Sfoglia l'intero elenco di strumenti, modelli e progetti AI open-source — aggiornato quotidianamente.
Sfoglia tutti gli strumenti →