GPTの仕組みと限界についての考察（2.1） - conceptualization
全３回のシリーズパート２の本記事では、GPTの能力と可能性をAttention/Transformerの仕組みをふまえて考察します。 というつもりでしたが、凄く長くなってしまったのでパート2は以下の3回に分けようと思います。 （2.1）各技術の定性的な説明（本記事） （2.2）Transformerのアルゴリズム詳細 （2.3）GPTの能力と可能性について 2.1 各技術の定性的な説明 自然言語の構造を考えてみる まず我々が使う言語についてちょっと振り返るところから話を始めましょう。 文や文章は、おおもとのデータである文字から始まって、単語、文節、句、節、文、文章、さらにその上の意味、という風に階層的な構造を持っていると我々は概念的に認識してますよね。 構文の階層 そして、各階層や階層間には、文法や語法といった言葉のルールがあります。 深層学習はその名の通り、層を深くしたニューラルネットワ
Google SEOの方針転換について提言、数年後には検索エンジンとの会話も | LIFE@Web
Googleは5日、YouTubeのウェブマスター公式チャンネルにて、今後のSEO（検索エンジン最適化）について、機械的な判断基準を変更していく考えであることを提言した。 公式チャンネル内では、Googleにて検索品質チームに携わり、ウェブスパムチームを統括するマット・カッツ氏が、今後数年間でSEOの主流となっているバックリンクの重要性は徐々に薄れていく事だろうと語っている。 数年後、重要になってくるのが「自然言語処理」の分野だとマット・カッツ氏は述べ、新たな解析技術によってコンテンツの質を判断していくと考えています。以下、動画でマット・カッツ氏がコメントした一部。 バックリンクはサイトの評判を測定する要素として使ってきたけど、今後著者に関する情報が充実すれば重要性は落ちていく。また今後Googleはキーワードではなく、自然言語での検索に取り組んでいく。 でもあと数年は、バックリンクも使っ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
https://jp.techcrunch.com/2011/12/10/20111209tagged-acquires-topicmarks/
