Cedana
GPU लाइव माइग्रेशन के साथ तेज़, भरोसेमंद, दोहराने योग्य AI
कंपनी के बारे में
Cedana (YC S23) AI वर्कफ़्लो के लिए हाइपरस्केलर और फ़्रंटियर लैब स्तर की ऑर्केस्ट्रेशन क्षमताएँ लाती है। हमारी मुख्य क्षमता है CPU और GPU वर्कलोड का लाइव माइग्रेशन। इससे लागत में 80% तक की बचत होती है, time to first token 2-10 गुना तेज़ होता है, और GPU की भयंकर विफलता में भी ट्रेनिंग जॉब्स अपनी स्थिति के साथ भरोसेमंद ढंग से चलती रहती हैं। हमने अपना समाधान K8s में जोड़ा है, डिस्ट्रिब्यूटेड ट्रेनिंग जॉब्स के लिए Kueue और Slurm, और इन्फ़रेंस सर्व करने के लिए Kserve सपोर्ट करते हैं।
OpenAI, Meta और Microsoft के पास अंदरूनी तौर पर ऐसी क्षमताएँ किसी न किसी रूप में हैं, और हम इन्हें सबके लिए ला रहे हैं।
हमारा सपना है क्लाउड कंप्यूट को रियल-टाइम, आर्बिट्राज वाली कमोडिटी बनाना।
https://www.cedana.ai
विषय
- टीम का आकार
- 5 कर्मचारी
- YC बैच
- Summer 2023
- स्थिति
- सक्रिय
- स्टेज
- अर्ली स्टेज
