Cedana

О компании

Cedana (YC S23) даёт ИИ-процессам оркестрацию уровня гиперскейлеров и передовых лабораторий. Ключевая возможность — живая миграция нагрузок на CPU и GPU. Это даёт экономию до 80%, ускоряет время до первого токена в 2–10 раз и сохраняет состояние обучающих задач даже при катастрофических сбоях GPU. Решение интегрировано в K8s, поддерживает Kueue и Slurm для распределённого обучения и Kserve для инференса.

У OpenAI, Meta и Microsoft есть внутренние аналоги таких возможностей, а мы делаем их доступными всем.

Наша цель — превратить облачные вычисления в биржевой товар с арбитражем в реальном времени.

https://www.cedana.ai

Темы