文章読解の分野でもAI(人工知能)が人間の平均レベルを超え始めた。米グーグル(Google)の新AI技術「BERT」が壁を突き破り、検索や情報収集などの効率が飛躍的に高まる可能性が出てきた。BERTの驚異の仕組みを解説する。 米グーグル(Google)が2018年10月に発表した新しいAI技術「BERT」やその改良版によって、AIが文章読解の分野でも高い性能を発揮するようになった。驚くべきその仕組みを解説しよう。 「穴埋め問題」で学習 BERT以前の言語モデルは前にある単語から後ろに続く単語を予測したり、文章の中で近い距離にある単語同士の関係を把握したりするだけだった。それに対してBERTは文章中の遠い距離にある単語同士の関係を把握したり、文脈を基に文章の各所にあるべき単語を予測したりできるようになった。 遠い距離にある単語同士の関係も把握するので、言語モデルの規模は大きくなる。BERTに
![グーグルの最新AI「BERT」が誇る驚異の学習法、文章を次々と飲み込んで理解](https://cdn-ak-scissors.b.st-hatena.com/image/square/b686281d5560eeef8b55991c190ca1de8c17d0ef/height=288;version=1;width=512/https%3A%2F%2Fxtech.nikkei.com%2Fatcl%2Fnxt%2Fcolumn%2F18%2F01129%2F120400003%2Ftopm.jpg%3F20220512)