kv-cache

4 proyectos comparten este topic de GitHub

Las líneas conectan a los miembros que están mediblemente relacionados entre sí. El tamaño de los puntos refleja las estrellas.

🧬 Miembros

KVCache-Factory

Unified KV Cache Compression Methods for Auto-Regressive Models

LLM KV cache compression made easy

[NeurIPS'23] H2O: Heavy-Hitter Oracle for Efficient Generative Inference of Large Language Models.

Run larger LLMs with longer contexts on Apple Silicon by using differentiated precision for KV cache…

🔗 Familias relacionadas

inference 46 gpt-3 50 apple-silicon 29 llama-cpp 5

Medido a partir de los temas de GitHub compartidos por ambos proyectos, ponderado por cuán raros son cada uno de los temas.