Cedana
Mabilis, maaasahan, reproducible na AI gamit ang GPU live migration
Tungkol sa kumpanya
Dinadala ng Cedana (YC S23) ang orchestration capabilities ng hyperscalers at frontier labs sa AI workflows. Ang pangunahing kakayahan namin ay live migration para sa CPU at GPU workloads. Nagbibigay ito ng hanggang 80% na tipid, pinabibilis ang time to first token nang 2-10x, at pinananatiling buhay ang state ng training jobs kahit sa matinding GPU failure. Naka-integrate ang aming solusyon sa K8s, at sinusuportahan ang Kueue at Slurm para sa distributed training jobs, at Kserve para sa inference.
May sari-sariling bersyon ng mga kakayahang ito ang OpenAI, Meta at Microsoft sa loob ng kanilang kumpanya, at dinadala namin ito sa lahat.
Ang bisyon namin: gawing real-time at arbitraged na commodity ang cloud compute.
https://www.cedana.ai
Mga paksa
- Lokasyon
- New York, NY, Estados Unidos
- Laki ng team
- 5 empleyado
- Batch sa YC
- Summer 2023
- Status
- Aktibo
- Yugto
- Maagang yugto
