2022年1月23日のブックマーク (3件)

  • RNNLM (再帰型ニューラル言語モデル) | CVMLエキスパートガイド

    1. RNNLM (再帰型ニューラル言語モデル)の概要 再帰型ニューラル言語モデル (Recurrent Neural Language Model, RNLM) (もしくは RNN言語モデル(RNNLM)とも呼ぶ) [Mikolov et al., 2010] は,再帰型ニューラルネットワーク(RNN)に学習した予測モデルから,直前の数個の単語を入力として,次の1単語を予測する「RNNを用いた言語モデル」である. この記事では,RNNLMについて,簡潔に要点だけを紹介する(3節).また,その前に準備として,前身であるニューラル言語モデル [Bengio et al. 2003] についての基礎知識を紹介する(2節). 再帰型ニューラル言語モデルは,RNNの再帰構造のおかげで,可変長のテキストをモデリングできるようになったのが旧来の言語モデルとの大きな違いである.可変長に対応できるので,旧

    RNNLM (再帰型ニューラル言語モデル) | CVMLエキスパートガイド
  • GiNZA v5のTransformerモデルによる固有表現抽出 | 株式会社AI Shift

    こんにちは AIチームの戸田です 今回は日NLPライブラリであるGiNZAのv5から実装されたTransformerモデルによる固有表現抽出を試します。 固有表現抽出とは、入力となる自然文から地名や製品名などの固有名詞を抽出するタスクです。今回固有表現抽出に使用するデータセットとして、ストックマーク株式会社が作成したWikipediaを用いた日語の固有表現抽出データセットを使用します。また、Transformerモデルは処理に時間がかかるので、環境はGoogle ColaboratoryのGPU環境を利用しました。 事前準備 wgetを使ってデータセットをダウンロードします。 wget https://raw.githubusercontent.com/stockmarkteam/ner-wikipedia-dataset/main/ner.json 必要なpythonライブラリをダ

    GiNZA v5のTransformerモデルによる固有表現抽出 | 株式会社AI Shift
  • 韓国国立国語院長「AIが採点する文章作成能力試験を開発する」(朝鮮日報日本語版) - Yahoo!ニュース

    人工知能AI)が韓国人の文章作成能力を採点するシステムを作ってみようと思います」 韓国国立国語院のチャン・ソウォン院長(61)=写真=は18日、記者懇談会で「人工知能を活用した国語能力診断システムを開発する計画」と明かした。2025年から韓国国民が「文章作成能力試験」を受けられるようにし、AIがこれを採点して成績を資格証のように活用できる形にしたいという。予算は5年間で100億ウォン(現在のレートで約9億6200万円。以下同じ)ほどと予想した。 ソウル大学国文科教授のチャン院長は、昨年10月に第12代国立国語院長に就任した。フランスのパリ第5大学で言語学の博士号を取り、国語学会長やソウル大学生涯教育院長などを歴任した。 チャン院長は「大学で論述試験を評価していて、客観的な評価指標があるべきだと考えるようになった」とし、さらに「米国では人工知能が筆者の性別・人種・教育程度まで判断している

    韓国国立国語院長「AIが採点する文章作成能力試験を開発する」(朝鮮日報日本語版) - Yahoo!ニュース
    gengohouse
    gengohouse 2022/01/23
    日本で言うと国立国語研究所ですね(たぶん)。作文の自動採点は大いに期待しています。