はじめに (今後ステートフルなAPIが出てきたり、入力トークンの制限が大幅に解除されると状況は変わるかもしれません。2023/6現在での試行錯誤となりますことご理解下さい。) (※6/15追記 16kバージョン出てきましたね。日本語だと1万語くらいでしょうか。500トークン(300文字くらい?) x 20 往復くらいまでなら対応できるようになりましたが、これでも足りないケースとか、もしくは(3)の方式の要約情報を他でも使う、とかならまだまだ有効な内容かなと思います。) ChatGPTでアプリを作ると、会話履歴が大量に入らないことに困るタイミングがあると思います。よくある方法は過去10往復の会話のみ保持するとかになると思うんですが、それだと困るシーンも結構ありますよね。 そもそもなんで無限に会話が入らないかというとChatGPT(gpt-35-turboを対象)では、4096トークンという上
2022年11月にChatGPTが公開され、たった1週間で100万ユーザーを超えたのをきっかけに、GoogleのBardやMicrosoftのBing AI Chatなど、大規模言語モデルを利用したチャットAIが続々とリリースされています。チャットAIを研究しているセバスティアン・ラシュカさんが、チャットAIが実用化されるまでの研究の軌跡を重要な論文24個に絞って要約しています。 Understanding Large Language Models - by Sebastian Raschka https://magazine.sebastianraschka.com/p/understanding-large-language-models ◆目次 ・主要なアーキテクチャとタスク ・スケーリングと効率性の向上 ・言語モデルを意図した方向へ誘導する ・人間のフィードバックによる強化学習(
どっちが優先?調査の目的 OpenAIのChatGPT APIでは、"role"として "system"、"user"、"assistant"の3つが設定できます。 それぞれの"role"の詳細は別の説明にお任せしますが、 APIへ渡すroleは基本的に"system"と"user"だと思います。 保存しておいて送信するにしても、 "assistant"は基本的にはAPIからの返答を意味するので、対象としないことにします。 "system"と"user"から矛盾する要求があった場合、どちらが優先されるかを調べたいと思います。 今回は、以下の2つの矛盾する要求を試しました。 "非常に無礼な人間としての言動を行ってください。" "非常に礼儀正しい人間としての言動を行って下さい。" "user"と"system"を入れ替えて、どちらが優先されるかを10回試しました。 対象は2023年4月1日時点
2.ChatGPT APIの利用方法 それでは、実際にgpt-3.5-turboのAPIを利用してみます。 (1) OpenAIのAPIキーの入手 最初に、OpenAIのAPIキーを入手する必要がありますので、以下のバナーをクリックしてサイトにアクセスしてください。 OpenAIのアカウントに登録済みであれば、ログイン画面が現れますので、ログインして「API keys」のサイトにアクセスしてください。また、未登録であれば、まずアカウント登録を行ってください。 そして、「+create new secret key」をクリックして、「sk-」から始まるAPIキーを入手してください。 (2) 簡単なチャットボットプログラムの起動 Google Colabでgpt-3.5-turboのAPIを使用した簡単なチャットボットプログラムを動かしてみます。 Google Colabノートを立ち上げ、以下
2023/4/1追記 正確にはChatGPT APIではなく、OpenAIのChat Completion APIと呼ぶのが正しそうです。 先に結論 gpt-3.5-turbo と gpt-3.5-turbo-0301 って何が違うの? → 一緒 GPT-4モデルは使えるのか → 2023/03/19時点では誰でもは使えない。 waitlist で予約した人から先行で使える。 なぜAPIリクエスト時の例に role: "assistant" が含まれているの? → これまでの会話の文脈を理解させるため そもそもChatGPTのAPIとは OpenAIのAPIのうち、2023年3月1日に公開された「Chat completions」機能を指します。 (これまでも似たようなことを実現できたが、より低コスト・高速になった) 概要や利用方法については以下サイトが参考になりました。 APIリクエスト
いろいろと便利に使えると話題のChatGPTですが、基本OpenAIのウェブサイトから使う仕様なのに機能が少なくて使いやすいとは言えなかったりします。 この記事ではそんなChatGPTの弱点を改善するChrome拡張を紹介します。 Glarity-Summary for Google/YouTube (ChatGPT)Glarity-Summary for Google/YouTube (ChatGPT)は、ChatGPTを用いてさまざまなサイト上で要約をしてくれるChrome拡張です。 右側に検索ワードに対する要約を出してくれるGoogle検索ではこのように右側に要約欄が現れ、検索ワードに対する要約を出力してくれます。 YouTubeでも右側に要約欄が出現、その下には書き起こし欄もYouTubeにも対応しており、動画の要約と音声の書き起こしを行なってくれます。 「とりあえずChatGPT
クリエイターに出会ったり、もっとファンになったり、noteで創作をつづけたくなるようなイベントを開催する「noteイベント」。今回は「チャットAI使いこなし最前線」をテーマに、黎明期からチャットAIを活用しているnote CXOの深津貴之氏が登壇しました。こちらの記事では、ChatGPTユーザーの悩みを解決するプロンプトなどが語られました。 ChatGPTユーザーの悩みを解決するプロンプト 徳力基彦氏(以下、徳力):まず今日はChatGPTの使い方をしっかり覚えていただきたいと思います。ここで「深津式汎用プロンプト」。 深津貴之氏(以下、深津):僕は1個1個、個別の例を出すのはあんまり好きではないです。さっき言ったように原理原則を1個理解すれば、全部その原理原則から引っ張れる方向が好きですね。 なので今日も、細かいプロンプトを出すよりは、だいたいあなたの悩みのすべてを解決するプロンプトを1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く