Zoa Research

O firmie

Modele ilościowe od zawsze były wąsko dziedzinowe. Wybitni ludzie spędzają najlepsze lata, testując cechy, dostrajając hiperparametry i dopracowując architektury w obrębie jednej wąskiej dziedziny. Tymczasem lekarstwem jest skala: duże modele znajdą wzorce, których nie dostrzegą ludzie ani wyspecjalizowane modele.

Prognozowanie się uogólnia. Zoa trenuje silniki prognozowania zdarzeń działające w wielu dziedzinach naraz.

*Automatyzacja iteracji*

LLM-y osadzone w wieloagentowych pętlach optymalizacji i oceniane według stałych polityk mogą zautomatyzować cykl modelowania: zbuduj, przetestuj, ulepsz. Coś jak AlphaEvolve dla problemów prognostycznych.

*Ogólne modele efektywne pod względem danych*

Dzisiejsze modele prognostyczne są wąsko skrojone i opierają się na głębokich ludzkich założeniach a priori. Większe modele przewyższą jednak najnowocześniejsze modele wyspecjalizowane.

W odróżnieniu od istniejących modeli zdarzeń nasze modele korzystają z danych z różnych kontekstów i mniej polegają na ludzkiej intuicji. A w porównaniu z LLM-ami mają więcej indukcyjnych założeń a priori i mocniej opierają się na mocy obliczeniowej w czasie wnioskowania – co poprawia ich efektywność względem danych.

*Dlaczego to ważne*

W realnej gospodarce nasze modele mogą pomóc prognozować zmienność łańcuchów dostaw, podaż i popyt na energię, a nawet ryzyko trzęsień ziemi.

Nauka jest, jak pisze Ian Hacking, oswajaniem przypadku. To proces stopniowego aktualizowania założeń (mniej więcej: zidentyfikuj niepewność, zaprojektuj eksperyment, który ją zmniejszy, przeprowadź go, zaktualizuj założenia). Jeśli nauka polega na redukcji niepewności, to prognozowanie jest kluczową miarą postępu.

Lepsze prognozy pozwalają trafniej wybierać ciekawe eksperymenty (z grubsza te o największej oczekiwanej redukcji niepewności) i aktualizować założenia. Z naszych modeli będą korzystać laboratoria i naukowcy w dziedzinach opartych na dużych zbiorach danych.

Sama i Grega poznała ze sobą w 2017 roku na Carnegie Mellon ówczesna dziewczyna Sama. Ten związek nie przetrwał, ale ich przyjaźń – owszem. Po studiach Greg poszedł do Harvard Law School, a Sam przez trzy lata pracował w Jane Street w dziale opcji, gdzie budował i prowadził satelitarny zespół programistów.

Tematy