タグ

2023年9月27日のブックマーク (2件)

  • 【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ

    第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長(GPTが文脈を意識できる過去の単語数)」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構(そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み)」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。

    【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ
    irbs
    irbs 2023/09/27
  • 歌人・穂村弘が語る、「お金と物質」以外の価値観を求める人へ、荻窪・西荻・吉祥寺の魅力。 - SUUMOタウン

    編集: 小沢あや(ピース株式会社) 取材・構成: かなめゆき 撮影:小原聡太 荻窪・西荻窪・吉祥寺エリアで20年以上暮らす、歌人の穂村弘さん。短歌はもちろん、 “日常で感じる感覚のズレ”など、世界を新鮮な角度から照らすようなエッセイでも人気を博しています。 そんな穂村さんは、中央線のこのエリアについて「物質とお金という軸以外のパラレルワールドを求める人に向いている」と表現します。その意味とは? 西荻は「戦闘力の低い人が多い」ゆるやかな空気感が魅力 ―― 荻窪・西荻窪・吉祥寺のエリアは、クリエイターの中でも書籍関連のお仕事をする方が集まる印象があります。実際はいかがでしょう。 穂村弘(以下、穂村):ライターさんや編集者だらけですね。短歌関係の人も多くて、枡野浩一さんや、木下龍也くん、古くは中井英夫も西荻にいたみたい。この辺りに自由業の人が集まるのは、やっぱり平日の昼間に大人がうろうろしていて

    歌人・穂村弘が語る、「お金と物質」以外の価値観を求める人へ、荻窪・西荻・吉祥寺の魅力。 - SUUMOタウン
    irbs
    irbs 2023/09/27