scuda

scuda fue creado por kevmo314 hace 6 mese(s), y actualizado por última vez hace 19 día(s).

SCUDA is a GPU over IP bridge allowing GPUs on remote machines to be attached to CPU-only machines.

C++ 4.36MB Apache-2.0 Github

Stars

1.6k

Fork

Watch

Open Issues

1.6k C++ Apache-2.0

SCUDA is a GPU over IP bridge allowing GPUs on remote machines to be attached to CPU-only machines.

hace 6 mese(s) hace 19 día(s)

vllm

33.9k Python Apache-2.0

A high-throughput and memory-efficient inference and serving engine for LLMs

hace 2 año(s) hace 1 mese(s)