機械学習におけるモデルの実験的な探索では、データセットごとに無数のハイパーパラメーター探索を繰り返す必要があり、類似するデータセットに思われるものでも、最適な性能のためのハイパーパラメーターやネットワーク構造が異なる謎が説明不可能なまま放置されやすいのに対し、理論的なモデル設計においては、理論と実データの乖離の「理由」が探求され、考慮すべきデータセットの特徴に対する「知見」―それが形式的なものであれ、非形式的なものであれ―が蓄積するというメリットがあります。このような、モデル探索の知的合理化により、革新的なレベルの課題に取り組む素地ができます。
