scuda scuda

scuda fue creado por kevmo314 hace 6 mese(s), y actualizado por última vez hace 19 día(s).

SCUDA is a GPU over IP bridge allowing GPUs on remote machines to be attached to CPU-only machines.
C++ 4.36MB Apache-2.0 Github
Stars
1.6k
Fork
57
Watch
18
Open Issues
13

scuda

1.6k C++ Apache-2.0

SCUDA is a GPU over IP bridge allowing GPUs on remote machines to be attached to CPU-only machines.

1 hace 6 mese(s) hace 19 día(s)

vllm

33.9k Python Apache-2.0

A high-throughput and memory-efficient inference and serving engine for LLMs

1 hace 2 año(s) hace 1 mese(s)