Cedana
Szybka, niezawodna i powtarzalna AI z migracją GPU na żywo
O firmie
Cedana (YC S23) udostępnia możliwości orkiestracji procesów AI, jakimi dysponują hiperskalerzy i czołowe laboratoria AI. Podstawą jest migracja na żywo obciążeń CPU i GPU. Pozwala to obniżyć koszty nawet o 80%, skrócić czas do pierwszego tokena 2–10 razy i zachować stan zadań treningowych nawet przy katastrofalnych awariach GPU. Rozwiązanie zintegrowaliśmy z K8s, obsługujemy Kueue i Slurm do rozproszonego treningu oraz Kserve do serwowania inferencji.
OpenAI, Meta i Microsoft mają u siebie odmiany tych możliwości – my udostępniamy je wszystkim.
Naszą wizją jest przekształcenie mocy obliczeniowej w chmurze w towar handlowany w czasie rzeczywistym i podlegający arbitrażowi.
https://www.cedana.ai
Tematy
- Wielkość zespołu
- Pracownicy: 5
- Edycja YC
- Summer 2023
- Status
- Aktywny
- Etap
- Wczesny etap
