BERTで自動要約を行う論文「BERTSUM」を紹介する＋α - Qiita

こんにちは！@MonaCatです。本稿はDeep Learning論文紹介 Advent Calendar 2019の1日目の記事です。画像は全て論文中から引用しています。 概要 本稿ではBERTを自動要約に適応させたBERTSUMについて紹介します。 論文：Fine-tune BERT for Extractive Summarization Full paper：Text Summarization with Pretrained Encoders また自動要約全体に関する資料をまとめているので参考にどうぞ。 自動要約とは 自動要約とは自然言語処理におけるタスクの1つです。多くはテキストを対象とした自動要約を指しますが、ここでは区別するために文章要約と呼びます。文章要約は抽出型と生成型（抽象型）に分かれますが、現在は生成型（と抽出型を組み合わせたもの）が主流となっています。 抽出型：元