以前の記事 で Deep Learning で為替予測をやっていて、ベースラインから 17% ぐらいの精度が出ていると書きました。あれ実はパラメーターサーチ中のものだったんですが、後で同じパラメーターでやってみてもあのぐらいの精度が全然出なくなりました。

そうですね、色々試してみた感じだと大体 5 - 7% ぐらいしか精度が出ません。これは検証用データセットでの話で、学習用データセットではもっと精度が出ます。要は過学習してるわけです。1
そもそもあの精度が出た時は最初の epoch の精度が 9% ぐらいありました。こういう場合は何を意味するのかちょっとわからないんですが、重みの初期値か、データセットの偏り 2 でしょうか。識者の方教えてください。


  1. もっとも、17% 程度の精度が出てたときも過学習してましたが。
    [return]
  2. 学習用データセットは始めに 80% をランダムに選択して、epoch 毎にその 80% をさらにランダムにしている。
    [return]