生成AI以後
生成AI以後 2023.09.21 Updated by Ryo Shimizu on September 21, 2023, 10:05 am JST 生成AIが「民主化」されたと言えるのは、昨年8月24日のStableDiffusionの公開を起点として良いだろう。 StableDiffusionは破格の性能のAIを、誰でも買える程度のコンピューティングパワーのコンピュータで、自由に改造して使うことができると言う意味で、真の民主化を達成した。 それから一年が経過して、昨年末にはChatGPTが注目を集め、現在では単に「AI」と言えば生成AIを指すようになった。 生成AIであるかそうでないかの違いは、その構造というよりも扱う情報量の違いでしかない。 AIが扱うデータは全て行列の集合の集合(またはその集合)、これをテンソルと呼ぶが、あるテンソルを入力したときに別のテンソルに変換するというも
ChatGPTなどの対話型AIの基礎となっている「Attention」を可視化した「Attention Viz」
ChatGPTやBing Chatの背景にある大規模言語モデルの多くは、Googleが開発したニューラルネットワークアーキテクチャーの「Transformer」を採用しています。このTransformerの鍵になるのが「Self-Attention」というシステムです。このSelf-Attentionを視覚化するためのツール「Attention Viz」を、ハーバード大学とGoogleの共同研究チームが発表しました。 AttentionViz Docs https://catherinesyeh.github.io/attn-docs/ Transformerがどういう仕組みのアーキテクチャなのかについては、以下の記事を読むとよくわかります。 ChatGPTにも使われる機械学習モデル「Transformer」が自然な文章を生成する仕組みとは？ - GIGAZINE 自然言語処理をディープラ
日本語LLM祭りで課金するどころか、めちゃ勉強になってしまった話｜しらいはかせ(Hacker作家)
「風が吹けば桶屋が儲かる」と申しますが、 日本語LLM祭りが起きると{Google/AWS/NVIDIA}が儲かるのでございます。 Llama_indexを触っていたとき、僕はこんなことを言っていました。 llama_indexおもしろい これは寝れなくなるし OpenAIじゃなくても動くの素敵 誰か日本語おすすめのLLM教えて https://t.co/Xme7iRIe5v — Dr.(Shirai)Hakase #AI神絵師本 #技術書典14 (@o_ob) May 14, 2023 llama_indexおもしろい これは寝れなくなるし OpenAIじゃなくても動くの素敵 誰か日本語おすすめのLLM教えて しらいはかせ 2023/5/14の発言実はLlama_indexには最近、OpenAI以外のLLMも渡せるようになったのです。ほかのLLM、特にAPI費のかからないオープンソース型
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
