Please pay attention to random failures.
[1802.05351] Stealing Hyperparameters in Machine Learning https://arxiv.org/abs/1802.05351機械学習を行う際に人があらかじめ設定するパラメータ(ハイパーパラメータ)を学習後のモデルの振る舞いから盗むという攻撃手法の提案と考察。