Projekt einreichen

🐼 llmops

👇 1 Elemente

vllm

55.1k Python Apache-2.0

A high-throughput and memory-efficient inference and serving engine for LLMs

1 vor 3 Jahr(en) vor 6 Monat(en)
Details anzeigen Repo besuchen