2019/2/13 Qiita初投稿です. [追記] 英語ですが,より詳しい説明をarXivにUploadしました. 長くなってしまったので,投稿を分離しました. Part2 Part3 Optunaのアルゴリズムは追ってみたいが,コード長過ぎるよ... という人が参照すべきコード.冗長なコードを簡潔にし,変数名の統一性が取れるようにリファクタリングしました.行数はOptunaと比較してだいぶ減っています. 自作したTPE 注意: 以前に加えた性能向上のための変更により,本記事の説明とは異なる多変量のモデルに関する実装コードでかつ突然変異のHeuristicsが入っています. Prefered Networks(PFN)から発表されたOptunaが利用しているモデル(TPE)のコードを読んでみたので自分の持つ知識内でまとめてみました.枝刈の部分については記載していません.OptunaではS