flashinfer
di flashinfer-ai · GitHub
FlashInfer: Libreria Kernel per Servire LLM
⭐ Stelle
6k
🍴 Fork
1.2k
🔥 Tendenze
+35 questa settimana
📜 Licenza
Apache-2.0
Uso commerciale consentito📅 Creato
2023
🔄 Ultimo commit
today
🏷️ Categoria
attention
💻 Lingua
Mantieni questo progetto?
Rivendica la sua pagina: indicizzata qualunque sia il rango, tradotta in sei lingue e arricchita con le tue parole.
📈 Storia delle stelle
2026-07-122026-07-21
📄 Informazioni
FlashInfer: Libreria Kernel per Servire LLM
❓ Frequently asked questions
What is flashinfer?
FlashInfer: Libreria Kernel per Servire LLM
Is flashinfer open source?
flashinfer is an open-source project. It is released under the Apache-2.0 license.
Is flashinfer free?
Yes. flashinfer is free and open source — you can use, modify and self-host it.
🏅 Manutentore di questo progetto?
Aggiungi questo badge live al tuo README — le tue stelle GitHub e il ranking della directory, aggiornati quotidianamente.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
🧬 Condivide il DNA con🧬 Vedi la mappa del DNA →
llm-d
Raggiungi prestazioni di inferenza all'avanguardia con acceleratori moderni su Kubernetes
★ 3.8k · ai
condividedistributed-inferencegpu
gpustack
Un gestore di cluster GPU per il servizio di modelli AI ad alte prestazioni (vLLM, SGLang) e is…
★ 5.4k · ascend
condividedistributed-inferencecuda
torchrec
Libreria di dominio Pytorch per sistemi di raccomandazione
★ 2.6k · cuda
condividegpucuda
Misurato dai topic GitHub comuni a entrambi i progetti, ponderati per la loro rarita.