百花繚乱の大規模言語モデル その現状まとめ【2023年4月末版】
昨年末から急激に話題を呼んだChatGPT、その内部的なバージョンアップであるGPT-3.5とGPT-4はいずれもMicrosoftから強力な支援を受けた米OpenAIという企業が独占的に提供する大規模言語モデル（LLM）だ。 それに呼応するかのように、Meta社からはLLaMA（ラマ）がリリースされ、LLaMAをChatGPTとの1万3千回の会話データで微調整したAlpaca（アルパカ）、AlpacaをShareGPT（GPTとの会話を有志がオープンにしたもの）のデータで微調整したVicuna（ビクーニャ）といった派生モデルが次々と登場した。 しかし、LLaMAはMeta社の意向により「アカデミック用途限定」という縛りがある。またGPTの出力にはOpenAIの利用規定で「GPTの出力結果を元にGPTに対抗できる強力なAIを作ってはいけない」という制約があるため、AlpacaもVicuna
「要約がうまい人」になるためのシンプルな要約トレーニング。要約ができると評価が上がる！ - STUDY HACKER（スタディーハッカー）｜社会人の勉強法＆英語学習
文章を読んだり書いたり、話を聞いたり報告したりなど、理解力と伝える力はビジネスパーソンに欠かせない能力です。過去の研究や専門家の意見によれば、これらの能力には「複雑そうなものをシンプルにまとめる力」――いわゆる要約力が深く関わっているのだとか。 この能力の向上を目指す際には、持ち運びにも便利な小さいノートが大いに役立つかもしれません。今回は、小さいノートで要約力を最大限にする方法を探ってみました。 要約の重要性 1. 要約すると「理解度」が高まる 2.「伝わらない」のは要約力が低いから？ 3. 要約力の高さは「生涯の評価」にもつながる！？ シンプルな要約トレーニング 小さいノートで要約トレーニング 「小さいノート」で要約トレーニングをやってみた感想 要約の重要性 より適切な方法を探るべく、まずは、要約を行なうことの重要性を把握しておきましょう。 1. 要約すると「理解度」が高まる 広島大学
生成系AIについて開発者が知っておくべきこと | gihyo.jp
この記事は、GitHub Blogに4月7日に掲載された「What developers need to know about generative AI」の翻訳記事です。 昨今のニュースを席捲する「生成系AI（Generative AI）」ですが、厳密にはどのようなものでしょうか？ 生成系AIについて知っておくべきこと、また開発者にとってどのような意味を持つのかについて説明します。 皆さんはこれまでに、ChatGPT、DALL-E、GitHub Copilotといった生成系AI（人工知能）ツールについて聞いたことがあるかと思います。生成系AIツールを利用すると、メールの件名からプログラミングコードの関数、アートに至るまで、誰でも瞬時にコンテンツを作成できるため、幅広い関心を集めています。 様々な業界のコンテンツ制作に革命をもたらす可能性があることから、生成系AIとは何か、どのように利
起業1年目の補助金・助成金活用術！起業を実現しよう！
Tweet Pocket 補助金や助成金を活用して、起業で失敗しないための手法をわかりやすく解説していきます。「お金の不安で、なかなか起業の一歩が踏み出せない。」 このような悩みを抱えている方が多いのではないでしょうか？ 起業を考える際、多くの人が抱える不安のひとつが資金面にあるかと思います。 「資金が足りないためにビジネスがうまくいかないかもしれない。」 「思い描いた事業が実現できないかもしれない。」 といった漠然とした不安を抱えている方がほとんどでしょう。 実際に、日本政策金融公庫の「2022年度起業と起業意識に関する調査」によると、 起業をしたいと考えている人の中で「まだ起業していない理由」の第一位は「自己資金が不足している」という結果となっています。 （日本政策金融公庫，「2022年度起業と起業意識に関する調査」，kigyouishiki_230112_1.pdf (jfc.go.
人の話が処理出来ない奴へのアドバイス 一時期、人の指示を全然処理できな..
人の話が処理出来ない奴へのアドバイス一時期、人の指示を全然処理できない40代を複数名、相手にしてた事がある。 その時の経験から、ちょっと気づいた事をアドバイスしてみるよ。 まず、自分の解釈を傍に置いて、最後まで読んでくれ。 いいか、読み終わるまで、自分の解釈は傍に置くんだぞ。 結論結論から言うと ・相手の話を出来る限り一字一句聞き取る練習をしろ ・その際、相手の言っていない事は絶対に書き取らない ・聞き取れなかった部分は、相手に質問する、録音を再生する、などして欠けた情報を埋める事 これを仕事の中で出来る限り愚直にやれ。最適なのは議事録を書くこと。 ※半年経っても伸びないなら小学・中学の国語ドリルを小学三年生分から全部やって、スキルアップをブーストさせる事。 判断した根拠そう判断した根拠は、次の文章にある。 今日も仕事で自分の提案資料に対して上司に指摘をうけたが、よくわからなくて途中から思
ChatGPTに日本語テキストを入力するとき、日本語テキストがどのように分割されてトークンに変換されるかをtiktokenでのぞく - nikkie-ftnextの日記
はじめに これも1つの願いの鍵探し1、nikkieです。 先日tiktokenデビューし、ChatGPTのAPIを呼び出さずに入力トークン長が分かるようになりました。 その中で、ASCII以外の文字（例：日本語）については、トークン（bytesオブジェクト）がそのままでは読み解けませんでした。 読み解くための方法についてこのエントリでアウトプットします。 目次 はじめに 目次 前回のtiktoken！ 英語の場合 日本語の場合 Encodingでデコードして得られたbytesのリストと、元の文字列との対応を取りたい nikkieが唯一知っていたこと：strとbytesは相互に変換できる 元の文字列をbytesに変換してみた 長さが3の倍数なら戻せる！ 長さが3の倍数ではないとき（1文字が複数トークンに分割されているとき） 試行錯誤まとめ bytesを読み解き、元の文字列と対応を取るスクリプ
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
ChatGPT格ゲープロジェクト | ProtoPedia
Dockerを使ってLinuxの環境を構築してみました