'Define by Run'型の深層学習フレームワークが自然言語処理に向いている理由 - Qiita

しかしこの手法では最大文長さに依存してしまいます。 そこでデータ長によって異なるモデルを用意する手法であるバケッティングという処理があります。 下記のように言語ごとにモデルを変えて学習させることです。Define by Run型だとこの記述が簡単にできます。 モデル 下記は構文解析のモデルです。これはデータによって解析する構造が変わるためこれもDefine by Run型が向いています。 下記のモデルはRecursive Networkと呼ばれます。parsing処理が必要ですが下記のメリットがあります。 Word2Vecと異なり長文でも空間上の関係性が分かる 単語間の関係性が明確になる 下記の具体例がわかりやすいと思います。Recursiveだと長文の関係性を理解しつつ、低次元の空間に写像が可能です。 Lecture 14: Tree Recursive Neural Networks