Zoa Research

概要

これまで定量モデルは特定の領域に特化したものだった。優秀な人材が、狭い領域の中で特徴量を試し、ハイパーパラメータを調整し、アーキテクチャの改良を重ねることに人生の最も充実した時期を費やしてきた。だが、スケールこそが万能薬だ。大規模モデルは、人間にも特化型モデルにも見つけられなかったパターンを見つけ出す。

予測は汎化する。Zoaは、領域横断型のイベント予測エンジンを訓練している。

*イテレーションの自動化*

マルチエージェントの最適化ループに組み込まれ、固定されたポリシーに照らして評価されるLLMは、「構築・検証・改善」というモデリングのサイクルを自動化できる。いわば予測問題のためのAlphaEvolveだ。

*サンプル効率の高い汎用モデル*

現在の予測モデルは、人間の強い事前知識をもとに狭い用途向けに作り込まれている。しかし、より大きなモデルは最先端の特化型モデルを上回る。

既存のイベントモデルと違い、私たちのモデルはさまざまな文脈のデータを活用し、人間の直感への依存が少ない。またLLMと比べると、より多くの帰納バイアスを組み込み、推論時の計算により大きく依存する設計で、サンプル効率を高めている。

*なぜ重要か*

実体経済では、サプライチェーンの変動、エネルギーの需給、さらには地震のリスクの予測にも役立つ可能性がある。

イアン・ハッキングが書いたように、科学とは偶然を飼いならすことだ。それは事前の想定を繰り返し更新していくプロセスである（不確実性を見極め、それを減らす実験を考え、実行し、更新する、といった具合に）。科学が不確実性を減らす営みだとすれば、予測は進歩を測る重要な物差しになる。

予測が向上すれば、興味深い実験（おおむね、期待される不確実性の減少が最も大きいもの）を選び、事前の想定を更新する力が高まる。私たちのモデルは、データ量の多い領域の研究室や研究者に使われることになる。

Samは2017年、カーネギーメロン大学時代に当時の恋人からGregを紹介された。その恋は長続きしなかったが、2人の友情は続いている。卒業後、Gregはハーバード・ロースクールに進み、SamはJane Streetのオプションデスクで3年間働き、サテライト開発チームを立ち上げて率いた。

トピック