【文系でもわかる】ChatGPTのキモ「Transformer」「Attention」のしくみ
第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。
【完全版】新NISAとは何か？ 「つみたてNISAとの比較」「いつから」など基礎から解説
新NISAとは？ いつからスタートするのか？ 新NISAとは、2024年から始まる新たな税制優遇制度「NISA（少額投資非課税制度）」のことです。 そもそもNISAは、一定金額の範囲内で購入した金融商品から得られる利益が非課税となる制度ですが、もともと英国のISA（個人貯蓄口座＝Individual Savings Account）をモデルにしていることもあり、その日本版ということで、NISA（ニーサ、Nippon Individual Savings Account）という愛称がつけられたものです。 岸田政権が2022年11月28日、家計に眠る現預金を投資につなげ、金融資産所得を増やしていくため「資産所得倍増プラン」を発表。その中で、「家計金融資産を貯蓄から投資にシフトさせるNISAの抜本的拡充や恒久化」に言及し、令和5年度与党税制改正大綱により2024年から新NISAが開始されることに
「ディープラーニングフレームワーク」とは？ 知識ゼロでもAIがつくれる？
「ディープラーニングフレームワーク」とは ディープラーニングの核になるのは「ニューラルネットワーク」と「機械学習」です。ただ、ニューラルネットワークにも色々な種類がありますし、機械学習の方法もさまざまです。 そこで、よく使われるニューラルネットワークの構成や機械学習の手法を1つにまとめたライブラリなどと一緒に開発支援ツールとして提供しているものが「ディープラーニング向けのフレームワーク」です。 フレームワークは、例えるなら「お惣菜」や「レトルト食品」を多数取り揃えるスーパーマーケットです。あらかじめ調理された食材や料理を組み合わせて夕食を作れば夕食作りの手間が大きく省けるように、フレームワークを使えば、あらかじめ用意されたコードを使って簡単にディープラーニングを使ったプログラムが作れてしまうというわけです。 料理もプログラミングも、最初から全部自分でやるのは効率が悪いです。プログラミングに
PWA（Progressive Web Apps）はどうスゴイのか？基本知識と12のメリットを解説
NPO日本Androidの会 理事／フリーエンジニア。Web技術を中心にさまざまなシステム開発を扱う。2018年、日本Androidの会Web Working Group PWA集中勉強会「PWAに備える3ヶ月」の主催等PWAに関するセミナーを多数開催。WordPressサイトをPWA化するプラグイン「PWA for WordPress」を開発、WordPress公式サイトで公開中。 新しいWebのスタイル「PWA」とは何か 昨今のWeb技術は「HTML5」や「CSS3」、各種JavaScriptライブラリやフレームワーク、クラウドバックエンドなどに支えられて発展してきました。現在では「モダンWeb」と呼ばれる、より新しく、よりリッチな表現力を持つスタイルへと進化しています。 そうしたモダンWebの技術の中から生まれたのが、今回ご紹介するPWAです。PWAは「WebサイトやWebアプリをネ
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
