タグ

2023年4月13日のブックマーク (4件)

  • ミルクボーイのネタでGPT-3をファインチューニングしてみた (2) ~リベンジ編~ - Qiita

    先日、ミルクボーイのネタでGPT-3をファインチューニングしてみた (1) ~入門編~ - QiitaでGPT-3のファインチューニングに挑戦してみたのですが、内海さんの口調っぽくなっていたものの、全く会話が成り立っていませんでした。 今回は訓練データの形式を見直して改善されるかを試してみます。 何がダメだったか 以下が以前の訓練データです。 {"prompt": "うちのオカンがね 好きな朝ごはんがあるらしいんやけど その名前をちょっと忘れたらしくてね" "completion": "朝ごはんの名前忘れてもうて どうなってんねんそれ"}, {"prompt": "色々聞くんやけどな 全然分からへんねんな" "completion": "分からへんの? いや ほな俺がね おかんの好きな朝ごはん ちょっと一緒に考えてあげるから どんな特徴ゆうてたかってのを教えてみてよ"} それぞれのデータが

    ミルクボーイのネタでGPT-3をファインチューニングしてみた (2) ~リベンジ編~ - Qiita
  • 【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.) - Qiita

    【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.)OpenAIChatGPTlangchainGPT-4LlamaIndex 生成AIカンファレンス 〜徹底解剖「トップランナーから見た日が挑む生成AIの最前線」〜 日時:5月8日(水) 10:00-18:30 形式:オフライン・オンラインのハイブリッド開催 場所:東京大学伊藤謝恩ホール(オンライン参加の方は配信URLをお送りします) 参加方法:下記イベントページより申込 ChatGPT に代表される今日の AI ブームを牽引しているのは 大規模言語モデル(Large-scale Language Model, LLM) と言っても過言ではないでしょう。LLM とは大量のテキストデータを使ってトレーニングされた自然言語処理のモデルで、代表的なものに、GPT(OpenAI

    【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.) - Qiita
  • GPT-3 の分類のファインチューニングを試す|npaka

    GPT-3」の分類のファインチューニングを試したのでまとめました。 1. OpenAI APIOpenAI API」は、OpenAIの最新の深層学習モデルにアクセスすることができるクラウドサービスです。「GPT-3」を利用するには「OpenAI API」経由でアクセスする必要があります。 2. 利用料金「GPT-3」にはモデルが複数あり、性能と価格が異なります。Ada は最速のモデルで、Davinci は最も精度が高いモデルになります。価格は 1,000トークン単位です。 「ファインチューニング」には、TRAININGとUSAGEという2つの価格設定があります。TRAININGのトークン数は、データセット内のトークン数と、エポック数(デフォルト4)によって決まります。 TRAININGのトークン数 = データセット内のトークン数 x エポック数 USAGEのトークン数 = プロンプトの

    GPT-3 の分類のファインチューニングを試す|npaka
  • つくよみちゃん会話AI育成計画(会話テキストデータセット配布) | つくよみちゃん公式サイト

    概要これは何?■マルチクリエイター・夢前黎(Rei Yumesaki)がプロデュースするフリー素材キャラクター「つくよみちゃん」の公式テキスト素材です。 ■つくよみちゃんに対する「話しかけ」と、つくよみちゃんらしい「お返事」のセットを大量に作成し、「会話テキストデータセット」として配布することを目指しています。 ■会話AIを作成するための機械学習用データとして作っていますが、その他の用途にもご利用いただけます。詳しくは利用規約をご確認ください。 ■個人・法人、営利・非営利を問わずご利用いただけます。例えばデータから作成した会話AIを配布・販売することも可能です。ただし、クレジット表記が必要となる場合があります。詳しくは利用規約をご確認ください。 ■品質は無保証です。このデータから会話AIが作れるという保証はありません。 著作者情報・作成方法■データの著作権は、夢前黎(Rei Yumes

    つくよみちゃん会話AI育成計画(会話テキストデータセット配布) | つくよみちゃん公式サイト