Cedana

Hakkında

Cedana (YC S23), hiper ölçekli bulut sağlayıcılarının ve öncü yapay zekâ laboratuvarlarının orkestrasyon yeteneklerini yapay zekâ iş akışlarına taşıyor. Temel yeteneğimiz, CPU ve GPU iş yükleri için canlı taşıma (live migration). Bu sayede maliyetlerde %80’e varan tasarruf sağlanıyor, ilk token’a ulaşma süresi 2-10 kat hızlanıyor ve eğitim işleri ciddi GPU arızalarında bile durumunu koruyarak güvenilir biçimde sürüyor. Çözümümüzü K8s’e entegre ettik; dağıtık eğitim işleri için Kueue ve Slurm’u, çıkarım sunumu için de Kserve’i destekliyoruz.

OpenAI, Meta ve Microsoft’un içeride bu yeteneklerin çeşitli versiyonları var; biz bunları herkese sunuyoruz.

Vizyonumuz, bulut bilişimi gerçek zamanlı ve arbitraja açık bir emtiaya dönüştürmek.

https://www.cedana.ai

Konular