Startseite Projekte Awesome-LLM-Inference
Awesome-LLM-Inference

Awesome-LLM-Inference

von xlite-dev · GitHub

📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉

Auf GitHub ansehen
⭐ Sterne
5.4k
🍴 Forks
427
🔥 Trendend
+19 diese Woche
📜 Lizenz
GPL-3.0
Copyleft-Lizenz
📅 Erstellt
2023
🔄 Letzter Commit
27 days ago
🏷️ Kategorie
awesome-llm
💻 Sprache
Betreuen Sie dieses Projekt?

Beanspruchen Sie die Seite: indexiert unabhangig vom Rang, in sechs Sprachen ubersetzt und mit Ihren eigenen Worten erganzt.

Diese Seite beanspruchen →
Awesome-LLM-Inference — GitHub preview card
📈 Sternhistorie
5.40k5.38k
2026-07-122026-07-21
📄 Über

📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉

Frequently asked questions

What is Awesome-LLM-Inference?

📚Eine kuratierte Liste von großartigen LLM/VLM-Inferenzpapieren mit Codes: Flash-Attention, Paged-Attention, WINT8/4, Parallelismus usw.🎉

Is Awesome-LLM-Inference open source?

Awesome-LLM-Inference is an open-source project. It is released under the GPL-3.0 license.

Is Awesome-LLM-Inference free?

Yes. Awesome-LLM-Inference is free and open source — you can use, modify and self-host it.

🏅 Wartender dieses Projekts?
OpenSourceAI badge — Awesome-LLM-Inference

Fügen Sie dieses Live-Abzeichen zu Ihrem README hinzu — Ihre GitHub-Sterne und Verzeichnisrang, täglich aktualisiert.

[![OpenSourceAI](https://opensourceai.tech/badge.php?tool=xlite-dev-awesome-llm-inference)](https://opensourceai.tech/project/xlite-dev-awesome-llm-inference.html)
Weitere Abzeichenoptionen →
🧬 Verwandte Projekte🧬 DNA-Karte ansehen →