以前の記事 で Deep Learning で為替予測をやっていて、ベースラインから 17% ぐらいの精度が出ていると書きました。あれ実はパラメーターサーチ中のものだったんですが、後で同じパラメーターでやってみてもあのぐらいの精度が全然出なくなりました。

そうですね、色々試してみた感じだと大体 5 - 7% ぐらいしか精度が出ません。これは検証用データセットでの話で、学習用データセットではもっと精度が出ます。要は過学習してるわけです。¹
そもそもあの精度が出た時は最初の epoch の精度が 9% ぐらいありました。こういう場合は何を意味するのかちょっとわからないんですが、重みの初期値か、データセットの偏り ² でしょうか。識者の方教えてください。