Projekt einreichen

🐼 cuda

👇 2 Elemente

vllm

55.1k Python Apache-2.0

A high-throughput and memory-efficient inference and serving engine for LLMs

vor 2 Jahr(en) vor 1 Monat(en)

Details anzeigen Repo besuchen

scuda

1.8k C++