
.Wave
הסקה רציפה למודלי AI בסטרימינג
אודות
.Wave בונה מנוע הסקה רציף למודלי AI בסטרימינג, ובהם קול full-duplex וזיהוי דיבור בסטרימינג.
הלקוחות מביאים את המודלים שלהם; אנחנו משלבים ומריצים אותם, ומנהלים את הביצוע, את מצב הסשן ואת התזמון כדי להוריד את ההשהיה מקצה לקצה ואת עלות ההגשה לכל סשן חי.
אנחנו משתמשים בהסקה מתוזמנת בקצב קבוע (cadenced inference) כדי לתמוך ביותר סשנים מקבילים לכל GPU, תוך שמירה על השהיה נמוכה ויציבה.
נושאים
- גודל צוות
- עובדים: 2
- מחזור YC
- Winter 2025
- סטטוס
- פעילה
- שלב
- שלב מוקדם





