オンライン分散並列学習
ミニバッチ確率的降下勾配法 各更新で$B$個のデータ（ミニバッチ）を使って並列で勾配を計算し，その平均を使って，パラメータを更新する $B$個は，毎回独立同分布でサンプリングする 並列プロセスは更新のたびに同期する必要が有る Bulk Synchronous Parallel (BSP)とよばれる Parallel SGD 更新のたび毎回同期して平均計算するのではなく，最後に平均をとる 学習データを並列プロセス数$P$で分割する プロセスごとに，確率的降下勾配法を$T$回反復して$\bold{w}_p^{(T+1)}$を得る 平均$\frac{1}{P} \sum_p \bold{w}_p^{(T+1)}$をとる 損失関数が凸で，その勾配がリプシッツ連続なら最適解に収束する Iterative Parameter Mixture (IPM) 最後に平均をとるのではなく，各プロセスが担当する
日本語述語項構造解析器 YuCha 「夕茶」
目的 「述語項構造解析」とは文書中の各述語に対して，「項」となる名詞句等を当てることです． 私は今日，トマトカレーを(1)食べました． 明日は太郎とインドカレーを(2)食べにショッピングセンターに(3)行く予定です． 上の例では， 私が トマトカレーを 食べる 私が インドカレーを 食べる 私が ショッピングセンターに 行く ということを当てるのが目的です． このようなことが分かれば，表面的な記述に惑わされない自動翻訳や， 精度の高い情報検索などに役立ちます． 開発状況 TODO 述語の格フレーム判定等，まだまだ未実装の機能がたくさんあります． $ ./bin/default/yucha /tmp/ntc 私は今日，トマトカレーを食べました． 明日は太郎とインドカレーを食べに，ショッピングセンタへ行く予定です． EOT GA 0 私は 食べました． GA 1 私は 食べに， GA
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
