flashinfer
por flashinfer-ai · GitHub
FlashInfer: Biblioteca Kernel para Servir LLM
⭐ Estrelas
6k
🍴 Forks
1.2k
🔥 Tendências
+35 esta semana
📜 Licença
Apache-2.0
Uso comercial permitido📅 Criado
2023
🔄 Último commit
today
🏷️ Categoria
attention
💻 Linguagem
Mantem este projeto?
Reivindique a sua pagina: indexada seja qual for a posicao, traduzida em seis linguas e enriquecida com as suas palavras.
📈 Histórico de estrelas
2026-07-122026-07-21
📄 Sobre
FlashInfer: Biblioteca Kernel para Servir LLM
❓ Frequently asked questions
What is flashinfer?
FlashInfer: Biblioteca Kernel para Servir LLM
Is flashinfer open source?
flashinfer is an open-source project. It is released under the Apache-2.0 license.
Is flashinfer free?
Yes. flashinfer is free and open source — you can use, modify and self-host it.
🏅 Mantenedor deste projeto?
Adicione este badge ao vivo ao seu README — suas estrelas do GitHub e classificação no diretório, atualizadas diariamente.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
🧬 Partilha ADN com🧬 Ver o mapa de ADN →
llm-d
Alcance desempenho de inferência de ponta com aceleradores modernos no Kubernetes
★ 3.8k · ai
partilhadistributed-inferencegpu
gpustack
Um gerenciador de cluster GPU para servir modelos de IA de alto desempenho (vLLM, SGLang) e ins…
★ 5.4k · ascend
partilhadistributed-inferencecuda
torchrec
Biblioteca de domínio Pytorch para sistemas de recomendação
★ 2.6k · cuda
partilhagpucuda
Medido a partir dos topics do GitHub comuns aos dois projetos, ponderados pela sua raridade.