Cedana

تعارف

Cedana (YC S23) AI ورک فلوز کے لیے ہائپر اسکیلرز اور فرنٹیئر لیبز جیسی آرکیسٹریشن صلاحیتیں لاتی ہے۔ ہماری بنیادی صلاحیت CPUs اور GPUs پر چلنے والے ورک لوڈز کی لائیو مائیگریشن ہے۔ اس سے لاگت میں 80% تک بچت ہوتی ہے، پہلے ٹوکن تک کا وقت 2 سے 10 گنا کم ہوتا ہے، اور GPU کی تباہ کن خرابی کی صورت میں بھی ٹریننگ جابز اپنی حالت کے ساتھ محفوظ رہتی ہیں۔ ہم نے اپنا حل K8s میں ضم کیا ہے، ڈسٹری بیوٹڈ ٹریننگ جابز کے لیے Kueue اور Slurm، اور انفرنس کے لیے Kserve کو سپورٹ کرتے ہیں۔

OpenAI، Meta اور Microsoft کے پاس اندرونی طور پر ایسی صلاحیتیں کسی نہ کسی شکل میں موجود ہیں، اور ہم انہیں سب کے لیے دستیاب بنا رہے ہیں۔

ہمارا وژن کلاؤڈ کمپیوٹ کو ریئل ٹائم میں خرید و فروخت ہونے والی کموڈٹی بنانا ہے۔

https://www.cedana.ai

موضوعات