Cedana

회사 소개

Cedana(YC S23)는 하이퍼스케일러와 프런티어 AI 연구소 수준의 오케스트레이션 역량을 AI 워크플로에 제공합니다. 핵심은 CPU·GPU 워크로드의 라이브 마이그레이션입니다. 이를 통해 비용을 최대 80% 절감하고, 첫 토큰까지 걸리는 시간을 2~10배 단축하며, GPU에 치명적 장애가 나도 학습 작업이 상태를 유지한 채 안정적으로 이어지게 합니다. 솔루션은 K8s에 통합돼 있으며, 분산 학습 작업용 Kueue와 Slurm, 추론 서빙용 Kserve를 지원합니다.

OpenAI, Meta, Microsoft는 이런 기능을 내부적으로 갖추고 있는데, Cedana는 이를 모두가 쓸 수 있게 하려 합니다.

비전은 클라우드 컴퓨팅을 실시간으로 차익 거래되는 상품으로 바꾸는 것입니다.

https://www.cedana.ai

주제