百花繚乱の大規模言語モデル その現状まとめ【2023年4月末版】
昨年末から急激に話題を呼んだChatGPT、その内部的なバージョンアップであるGPT-3.5とGPT-4はいずれもMicrosoftから強力な支援を受けた米OpenAIという企業が独占的に提供する大規模言語モデル（LLM）だ。 それに呼応するかのように、Meta社からはLLaMA（ラマ）がリリースされ、LLaMAをChatGPTとの1万3千回の会話データで微調整したAlpaca（アルパカ）、AlpacaをShareGPT（GPTとの会話を有志がオープンにしたもの）のデータで微調整したVicuna（ビクーニャ）といった派生モデルが次々と登場した。 しかし、LLaMAはMeta社の意向により「アカデミック用途限定」という縛りがある。またGPTの出力にはOpenAIの利用規定で「GPTの出力結果を元にGPTに対抗できる強力なAIを作ってはいけない」という制約があるため、AlpacaもVicuna
GPTの仕組みをちゃんと勉強したい本 - きしだのHatena
やっぱGPTを仕組みから勉強したい、という本をいくつか見つけたのでまとめておきます。 まず理論的な概要。 機械学習からニューラルネットワーク、CNNでの画像処理、トランスフォーマーでの自然言語処理、音声認識・合成、そしてそれらを組み合わせたマルチモーダルと章が進むので、理論的な概観を得るのにいいと思います。 最初は数式が多いのだけど、Σをfor文だと思いつつ、定義が説明文中に埋まってるPerlよりたちが悪い記号主体言語だと思えば読めるけどめんどくさいので飛ばしても問題ないと思います。 深層学習からマルチモーダル情報処理へ (AI/データサイエンスライブラリ“基礎から応用へ” 3) 作者:中山 英樹,二反田 篤史,田村 晃裕,井上 中順,牛久 祥孝サイエンス社Amazon で、もういきなり作る。 トークナイザーから全部つくっていきます。TensorFlowでBERTをつくってGPT2をつくる
本が読めない32歳が初めて芥川龍之介を読む日 | オモコロ
この記事は、本が読めないWEBライターが初めて芥川龍之介の本を読むだけの記事です。 ＜この記事に出てくる人＞ WEBライターなのに本が読めない。文字そのものが苦手なので自分が書いた記事を読み返すこともしない。 友達。みくのしんが本を読む手伝いをする。 今日、みくのしんが読むのは芥川龍之介の『トロッコ』 中学生の教科書に採用されているので、読んだことがある人も多いかもしれませんね。 みくのしんに見せたところ、「タイトルは聞き覚えがある！」「トロッコっていいよね！」「ドンキーコングのトロッコステージ好きだった！」と言っていたので、きっと最後まで読んでくれることでしょう。 ▼編集部注 予め申し上げておきますが、この記事はとても長いです。 普通に「トロッコ」を読むより長いです。何卒ご了承ください。 みくのしんは「芥川龍之介」って知ってる？ 一回だけ観たことある。「ALWAYS 三丁目の夕日」に出て
「ちょい足し野菜プラス」があればどんなカップ麺も野菜マックスに
1978年東京生まれ。酒場ライター。著書に『酒場っ子』『つつまし酒』『天国酒場』など。ライター・スズキナオとのユニット「酒の穴」としても活動中。 前の記事：飴色に炒めてうまい野菜を探す 勝手に野菜マックスペヤング 乾燥野菜商品で僕がよく買っているのは、「ちょい足し野菜プラス」。理由はよく行くスーパーに売っているからで、値段は200円ほど。 「ちょい足し野菜プラス」 同様の商品は、「乾燥野菜」「フリーズドライ野菜」などのキーワードで検索するとたくさん見つかると思うので、お好みのものをどうぞ。 使いかたは、カップ麺や汁ものに入れる場合はそのまま。焼きそばなどの料理に使う場合は、数分間水で戻してから。 たとえばこの組み合わせ このたったふたつの材料だけで、いつでもペヤングの野菜マシマシバージョンが作れるのです。 というわけで、まずは箱から麺をいったん取り出し、付属のかやくに加えて、ちょい足し野菜
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
バーミヤン、2000円で火鍋食べれる…しかもラム肉…すご…