Cortex est un moteur IA local avec une CLI simple, une API compatible OpenAI et plusieurs backends (llama.cpp, TensorRT-LLM), conçu pour alimenter l'application de bureau Jan ou fonctionner de manière autonome.
| Catégorie | Exécuter des LLM localement |
| Type | Runtime local (CLI) |
| Licence | Apache-2.0 |
| S'exécute localement | Oui |
| Construit avec | C++ |
| Niveau de compétence | Débutant |
| Meilleur pour | une alternative propre à Ollama avec des moteurs interchangeables |
Autres outils open-source pour exécuter des LLM localement qui valent la peine d'être comparés :
OllamaExécuter des LLM open-source localement avec une seule commande
JanApplication de bureau de style ChatGPT open-source et hors ligne
GPT4AllIA locale privée qui s'exécute sur CPU
llama.cppLe moteur C/C++ alimentant l'inférence locale
LocalAIUne API OpenAI à auto-héberger
Text Generation WebUIInterface web riche en fonctionnalités pour les modèles locaux
KoboldCppExécuteur de modèle local en un seul fichier
MLC LLMExécuter des LLM sur n'importe quel appareil, même les téléphones
llamafileUn fichier exécutable = modèle + runtime
exoExécutez de grands modèles sur vos appareils quotidiens
Nexa SDKExécutez n'importe quel modèle sur n'importe quel appareil — CPU, GPU, NPU
RamaLamaExécutez des modèles en tant que conteneurs OCI
GPUStackGérez des clusters GPU pour exécuter des modèlesCortex est gratuit et open-source (licence Apache-2.0), vous pouvez donc l'utiliser, l'héberger vous-même et le modifier sans frais.
Oui. Cortex est conçu pour s'exécuter sur votre propre machine ou serveur, gardant vos données privées.
Les alternatives open-source populaires incluent Ollama, LM Studio, Jan. Consultez les comparaisons ci-dessus pour choisir.
Parcourez le répertoire complet des outils, modèles et projets d'IA open-source — mis à jour quotidiennement.
Parcourez tous les outils →