flashinfer
von flashinfer-ai · GitHub
FlashInfer: Kernel-Bibliothek für LLM-Serving
⭐ Sterne
6k
🍴 Forks
1.2k
🔥 Trendend
+35 diese Woche
📜 Lizenz
Apache-2.0
Kommerzielle Nutzung erlaubt📅 Erstellt
2023
🔄 Letzter Commit
today
🏷️ Kategorie
attention
💻 Sprache
Betreuen Sie dieses Projekt?
Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.
📈 Sternhistorie
2026-07-122026-07-21
📄 Über
FlashInfer: Kernel-Bibliothek für LLM-Serving
❓ Frequently asked questions
What is flashinfer?
FlashInfer: Kernel-Bibliothek für LLM-Serving
Is flashinfer open source?
flashinfer is an open-source project. It is released under the Apache-2.0 license.
Is flashinfer free?
Yes. flashinfer is free and open source — you can use, modify and self-host it.
🏅 Wartender dieses Projekts?
Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.
[](https://opensourceai.tech/project/flashinfer-ai-flashinfer.html)
🧬 Teilt DNA mit🧬 DNA-Karte ansehen →
llm-d
Erreichen Sie eine hochmoderne Inferenzleistung mit modernen Beschleunigern auf Kubernetes.
★ 3.8k · ai
teiltdistributed-inferencegpu
gpustack
Ein GPU-Cluster-Manager für das Hochleistungs-KI-Modell-Serving (vLLM, SGLang) und nach Bedarf…
★ 5.4k · ascend
teiltdistributed-inferencecuda
torchrec
Pytorch-Domänenbibliothek für Empfehlungssysteme
★ 2.6k · cuda
teiltgpucuda
Ermittelt aus gemeinsamen GitHub-Topics beider Projekte, gewichtet nach ihrer Seltenheit.