Cortex é um motor de IA local com um CLI simples, uma API compatível com OpenAI e múltiplos backends (llama.cpp, TensorRT-LLM), projetado para alimentar o aplicativo desktop Jan ou funcionar de forma independente.
| Categoria | Executar LLMs localmente |
| Tipo | Runtime local (CLI) |
| Licença | Apache-2.0 |
| Executa localmente | Sim |
| Construído com | C++ |
| Nível de habilidade | Iniciante |
| Melhor para | uma alternativa limpa ao Ollama com motores intercambiáveis |
Outras ferramentas de código aberto para executar LLMs localmente que valem a pena comparar:
OllamaExecutar LLMs abertos localmente com um comando
JanAplicativo de desktop estilo ChatGPT, offline e de código aberto
GPT4AllIA local privada que roda em CPU
llama.cppO motor C/C++ que alimenta a inferência local
LocalAIUma API OpenAI que você hospeda
Text Generation WebUIInterface web rica em recursos para modelos locais
KoboldCppExecutor de modelo local em um único arquivo
MLC LLMExecutar LLMs em qualquer dispositivo, até mesmo em telefones
llamafileUm arquivo executável = modelo + tempo de execução
exoExecute grandes modelos em seus dispositivos do dia a dia
Nexa SDKExecute qualquer modelo em qualquer dispositivo — CPU, GPU, NPU
RamaLamaExecute modelos como contêineres OCI
GPUStackGerencie clusters de GPU para executar modelosO Cortex é gratuito e de código aberto (licença Apache-2.0), então você pode usar, auto-hospedar e modificar sem custo.
Sim. O Cortex é projetado para rodar na sua própria máquina ou servidor, mantendo seus dados privados.
Alternativas populares de código aberto incluem Ollama, LM Studio, Jan. Veja as comparações acima para escolher.
Navegue pelo diretório completo de ferramentas, modelos e projetos de IA de código aberto — atualizado diariamente.
Navegue por todas as ferramentas →