llamacpp

6 proyectos comparten este topic de GitHub

Las líneas conectan a los miembros que están mediblemente relacionados entre sí. El tamaño de los puntos refleja las estrellas.

🧬 Miembros

jan

Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.

★ 43.7k

llmware

Unified framework for building enterprise RAG pipelines with small, specialized models

★ 14.8k

llama-swap

Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

★ 5k

Bonsai-demo

Bonsai Demo

★ 1.9k

paddler

Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙…

★ 1.6k

llama-cpp-agent

The llama-cpp-agent framework is a tool designed for easy interaction with Large Language Models (LLMs).…

★ 650

Medido a partir de los temas de GitHub compartidos por ambos proyectos, ponderado por cuán raros son cada uno de los temas.