Expanse

회사 소개

Expanse는 낭비되는 GPU 용량을 되살립니다. 세 가지 기능으로 놀고 있는 컴퓨팅 자원을 회수합니다. 리소스 예측(작업이 스케줄러에 들어가기 전에 요청 자원을 적정 규모로 조정), 최적화 제안(연구자가 직접 적용할 수 있는 코드·설정 변경), 실패 예측(GPU를 몇 시간씩 잡아먹기 전에 실패할 작업을 미리 포착)입니다.

저희는 엔지니어 네 명입니다. 최대 규모의 퀀트 펀드와 국가 슈퍼컴퓨팅 센터에서 HPC와 GPU 학습 워크로드를 운영했습니다. 이 문제를 직접 겪었고, 해법이라곤 자원을 과하게 확보해 수백만 달러를 태우는 것뿐이었습니다. Ismaeel은 EPCC(에든버러 병렬 컴퓨팅 센터) 연구로 최초의 멀티모달 HPC 리소스 예측기를 만들었고, 발표된 모든 기준 모델을 앞질렀습니다. 저희가 그때 갖고 싶었던 바로 그 도구입니다.

주제