llamacpp

6 Projekte teilen dieses GitHub-Topic

Linien verbinden Mitglieder, die messbar miteinander verwandt sind. Die Punktgröße spiegelt die Sterne wider.

🧬 Mitglieder

jan

Jan is an open source alternative to ChatGPT that runs 100% offline on your computer.

★ 43.7k

llmware

Unified framework for building enterprise RAG pipelines with small, specialized models

★ 14.8k

llama-swap

Reliable model swapping for any local OpenAI/Anthropic compatible server - llama.cpp, vllm, etc

★ 5k

Bonsai-demo

Bonsai Demo

★ 1.9k

paddler

Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙…

★ 1.6k

llama-cpp-agent

The llama-cpp-agent framework is a tool designed for easy interaction with Large Language Models (LLMs).…

★ 650

Gemessen anhand der von beiden Projekten geteilten GitHub-Themen, gewichtet nach der Seltenheit jedes Themas.