flashinfer
por flashinfer-ai · GitHub
FlashInfer: Biblioteca Kernel para Servir LLM
⭐ Estrellas
6k
🍴 Ramas
1.2k
🔥 Tendencias
+35 esta semana
📜 Licencia
Apache-2.0
Uso comercial permitido📅 Creado
2023
🔄 Último commit
today
🏷️ Categoría
attention
💻 Lenguaje
¿Mantienes este proyecto?
Reivindica su pagina: indexada sea cual sea su posicion, traducida a seis idiomas y enriquecida con tus propias palabras.
📈 Historial de estrellas
2026-07-122026-07-21
📄 Acerca de
FlashInfer: Biblioteca Kernel para Servir LLM
❓ Frequently asked questions
What is flashinfer?
FlashInfer: Biblioteca Kernel para Servir LLM
Is flashinfer open source?
flashinfer is an open-source project. It is released under the Apache-2.0 license.
Is flashinfer free?
Yes. flashinfer is free and open source — you can use, modify and self-host it.
🏅 ¿Mantenedor de este proyecto?
Agrega este distintivo en vivo a tu README — tus estrellas de GitHub y rango en el directorio, actualizados diariamente.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
🧬 Comparte ADN con🧬 Ver el mapa de ADN →
llm-d
Logra un rendimiento de inferencia de última generación con aceleradores modernos en Kubernetes
★ 3.8k · ai
compartedistributed-inferencegpu
gpustack
Un gestor de clústeres GPU para servir modelos de IA de alto rendimiento (vLLM, SGLang) e insta…
★ 5.4k · ascend
compartedistributed-inferencecuda
torchrec
Biblioteca de dominio Pytorch para sistemas de recomendación
★ 2.6k · cuda
compartegpucuda
Medido a partir de los topics de GitHub comunes a ambos proyectos, ponderados por su rareza.