.Wave

Kuhusu

.Wave inajenga injini ya inference endelevu kwa modeli za AI za utiririshaji, zikiwemo za sauti za full-duplex na utambuzi wa usemi unaotiririka.

Wateja huleta modeli zao; sisi tunaziunganisha na kuziendesha, tukisimamia utekelezaji, hali ya vipindi na upangaji ratiba ili kupunguza ucheleweshaji wa mwanzo hadi mwisho na gharama ya kuhudumia kila kipindi hai.

Tunatumia inference ya mdundo maalum (cadenced inference) kuhudumia vipindi vingi zaidi kwa wakati mmoja kwa kila GPU huku ucheleweshaji ukibaki mdogo na thabiti.

Mada