Cedana
Hiter, zanesljiv in ponovljiv AI z živo migracijo GPU
Zaposluje
O podjetju
Cedana (YC S23) prinaša zmožnosti orkestracije AI-delovnih tokov, kakršne imajo hiperskalerji in vodilni AI-laboratoriji. Naša osrednja zmožnost je živa migracija delovnih obremenitev na CPU in GPU. To prinese do 80 % prihranka, 2- do 10-krat skrajša čas do prvega žetona in omogoča zanesljivo ohranjanje stanja učnih poslov tudi ob katastrofalnih okvarah GPU. Rešitev smo vgradili v K8s, za porazdeljeno učenje podpiramo Kueue in Slurm, za strežbo sklepanja pa Kserve.
OpenAI, Meta in Microsoft imajo različice teh zmožnosti interno, mi pa jih prinašamo vsem.
Naša vizija je računalništvo v oblaku spremeniti v blago, s katerim se trguje v realnem času.
https://www.cedana.ai
Teme
- Lokacija
- New York, NY, Združene države Amerike
- Velikost ekipe
- Zaposleni: 5
- Generacija YC
- Summer 2023
- Status
- Aktiven
- Faza
- Zgodnja faza
