タグ

AIとgptに関するYassLabのブックマーク (4)

  • New embedding models and API updates

    We are releasing new models, reducing prices for GPT-3.5 Turbo, and introducing new ways for developers to manage API keys and understand API usage. The new models include: Two new embedding modelsAn updated GPT-4 Turbo preview model An updated GPT-3.5 Turbo modelAn updated text moderation modelBy default, data sent to the OpenAI API will not be used to train or improve OpenAI models. We are intro

    New embedding models and API updates
    YassLab
    YassLab 2024/02/28
    “Updated GPT-3.5 Turbo model and lower pricing: ... Customers using the unpinned gpt-3.5-turbo model alias will be automatically upgraded from gpt-3.5-turbo-0613 to gpt-3.5-turbo-0125 two weeks after this model launches.” (on Friday, February 16 and you’ll receive the new, lower pricing.)
  • GPTのモデル構造を可視化した|shi3z

    GPTのモデル構造を目で見てみたい! そんな気持ち、わかるでしょ? 技研フリマをやりながら、どうにかこうにか出力したよ ご覧あれ やり方メモ from transformers import AutoTokenizer, AutoModelForCausalLM from torchviz import make_dot tokenizer = AutoTokenizer.from_pretrained("gpt2") from transformers import pipeline, set_seed generator = pipeline('text-generation', model='gpt2') m= generator.model x= m.generate() y= m.forward(x) image = make_dot(y.logits, params=dict(

    GPTのモデル構造を可視化した|shi3z
    YassLab
    YassLab 2023/06/11
    "単純に見えますがリバースエンジニアリング(リフレクション)しながら試行錯誤したのでこのコード書くのに1時間くらいかかってしまった / これは楽しいね。GPT-2だけど(GPT3は非公開だから)まあでも構造に大差ないはず。"
  • 完全に知識ゼロから ChatGPT MeetUp Tokyo #0 をおっかけ視聴してみた - 電磁波に撃たれて眠りたい!

    去る2023年4月28日(金)に虎ノ門の KDDI Digital Gateで開催された「ChatGPT Meetup Tokyo #0」 もともと会場側スタッフとして参加する予定だったんですが、先約があり参加できなかったため、Youtubeのアーカイブを通じて追っかけ視聴してみました。 chatgpt.connpass.com www.youtube.com オンライン/オフラインともに、参加された人たちが口を揃えて 「ヤバすぎる」 「我々はどのくらい周回遅れしているのか」 「エンジニアとして危機感を感じた」 と語られていたので身構えながら挑みましたが、それは当でした。 自分がどれだけこの分野についての知見が浅かったのか、上辺だけの情報しか見てなかったのか思い知らされることになりました。 このブログ記事は、タイトルにあるとおりLLMに関して当に何も知らない私が私なりに残したメモと所感

    完全に知識ゼロから ChatGPT MeetUp Tokyo #0 をおっかけ視聴してみた - 電磁波に撃たれて眠りたい!
    YassLab
    YassLab 2023/05/05
    "メモと所感を一気に書いてみましたが、正直わかったようで何も分かってない、と自分でも感じています。これは「手を動かしていないから」がその最も大きな原因。断言してもいい / やれる範囲で学びを続けて行きたい"
  • 解説! ChatGPT API(gpt-3.5-turbo)の使い方とパラメーターについて | SOLUTION MAGAZINE

    記事の概要 2023 年 3 月 2 日に一般公開された ChatGPT API(gpt-3.5-turbo-0301)を試してみました。 とても気軽に利用できますが、いくつか注意点もありますので合わせてご確認ください。 ChatGPT API のリクエストについて 以下のコマンドがリクエストの基になります。 YOUR_API_KEY の箇所は、OpenAI Platform から取得した API Key(SECRET KEY)を差し替えます。 リクエスト例 curl https://api.openai.com/v1/chat/completions \ -H 'Content-Type: application/json' \ -H 'Authorization: Bearer YOUR_API_KEY' \ -d '{ "model": "gpt-3.5-turbo", "mess

    解説! ChatGPT API(gpt-3.5-turbo)の使い方とパラメーターについて | SOLUTION MAGAZINE
    YassLab
    YassLab 2023/03/25
    "サンプリング温度が低い場合、より一貫性がある文章が生成され、単語の組み合わせの変化が少なく / 高い場合、より多様な文章が生成され、単語の組み合わせがより多様になります。ちなみに、ChatGPT のデフォルトは 0.7"
  • 1