ここ数年のコンピューターを使った自然言語処理の進歩には目を見張るものがあります。 その原動力となっているのが、今のAIブームを支えているディープラーニングという機械学習の手法です。この手法を取り入れたGoogle翻訳が作る翻訳文は、正確かつとても自然で「そのまま使える」レベルに到達しています。ほんの数年前まで、翻訳ソフトはヘンテコな翻訳をするというのが当たり前だったことを思うと隔世の感があります。 そのGoogleのAIチームが先日発表した、ディープラーニングを使った自然言語処理の最新モデルがBERT[*1]です。多様なベンチマークで従来の記録を上回る結果を叩き出して、大きな注目を浴びています。 この結果に驚いた人が多いのでしょうか、最近BERTについてよく質問を受けます。BERTそのものについての質問に加えて多いのが、「ロボットは東大に入れるか」というプロジェクトにおいて研究・開発が進め