Projekt einreichen

🐼 xpu

👇 1 Elemente

vllm

46.4k Python Apache-2.0

A high-throughput and memory-efficient inference and serving engine for LLMs

1 vor 2 Jahr(en) vor 7 Tag(en)
Details anzeigen Repo besuchen