大学の授業でチャットGPTをどう扱うかについての覚え書き
１ はじめに 前回このブログを使ったのは3年前のちょうどこの時期のようです。コロナ禍で少し遅れてオンラインで授業が始まって、授業準備をしているときにコロナ関連の情報をまとめておこうと思って書いた記事でした。で、その後3年がたち、コロナ禍は一応区切りを迎えているわけですが、新学期の授業を始めるにあたっていろいろ考えなければならないという意味ではそのときと同じような状況が（もちろんいろんな意味で位置づけは違うのですが）再び…。 ということで、チャットGPTの話です。すでによく知られているようにこのアプリが登場したのは昨年11月、時期的には2022年度後期にすでに広まっていた可能性はあったし、実際アメリカの大学では一足早くレポートでの利用なんかが問題になったりしましたが、実質的にはこの4月から始まる2023年度が、日本の大学にとってチャットGPT元年ということになるのだと思います。 具体的な話に
ChatGPT APIの運用で必須のツール: LangChainの使い方まとめ (2) - Qiita
こんにちは！逆瀬川 ( https://twitter.com/gyakuse ) こちらに引き続き、LangChainの解説をしていきたいと思います。 副読用Colab: 動かしながら遊びましょう。 前回のあらすじ Chatbotや言語モデルを使ったサービスを作ろうとしたときに生のOpenAI APIを使うのは以下の点でたいへん。 プロンプトの共通化や管理をすること 複数のドキュメントやWebの情報を参照して質問応答をすること 言語モデルにcsvやpdf等のプレーンテキストでないファイルを読ませること それらの処理を統括して管理すること 使い方まとめ(1)で説明したLangChainの各モジュールはこれを解決するためのものでした。 Prompt Templates : プロンプトの管理 LLMs : 言語モデルのラッパー(OpenAI::GPT-3やGPT-Jなど) Document L
AWS版「GitHub Copilot」な「Amazon CodeWhisperer」が正式版に 個人ユーザーは無料、VSCodeに対応
参考：AWSも、プログラミングを機械学習で支援する「Amazon CodeWhisperer」プレビュー公開。コメントを書くとコードを提案 コメントや書きかけのコードからコードを自動生成 Amazon CodeWhispererは、オープンソースリポジトリ、Amazon内部リポジトリ、APIドキュメント、フォーラムなどから収集した数十億行のコードを基にした機械学習から、プログラマが書き始めたコードの続きや、コメントの内容からコードを提案してくれるサービスです。 コードを生成してくれる代表的なAIサービスであるGitHub Copilotの、AWS版と言ってよいでしょう。 下記は、1行目と2行目に自然言語で書かれたコメントから、3行目以降のコードが自動生成された様子です。 特にAmazon内部のリポジトリを基に学習されているため、AWSのサービスを活用するコードの生成は得意とされています。例
【誰でも簡単ChatGPT、GPT-4 利用】Azure OpenAI Serviceを使ってみた with LINE Bot【Azureでより安心・安全にAI機能が使える】 - Qiita
【誰でも簡単ChatGPT、GPT-4 利用】Azure OpenAI Serviceを使ってみた with LINE Bot【Azureでより安心・安全にAI機能が使える】ChatGPTAzureOpenAIServiceGPT-4MicrosoftAIAOAI こんにちは、もっちゃんと申します。 今AIの快進撃が続いておりますね！2000年代に第三次AIブームが始まってからはや十数年、ここ数年の進化のスピードは眼を見張るものがあるのではないでしょうか。そしてその話題の中心となっているのがOpenAIやMicrosoftなどが開発を行っているChatGPT,GPT-4といった大規模言語モデルです。 特に今年に入ってからは本当にあまりにも各所でアップデートが巻き起こっていてついていくのに必死な状態ですよね（笑） また、情報を追うのと同時に実際に触っていくことも大事ですので、今回はAzure
Reddit - Dive into anything
Welcome to the unofficial Stable Diffusion subreddit! We encourage you to share your awesome generations, discuss the various repos, news about releases, and more! Be sure to check out the pinned post for our rules and tips on how to get started! Prompt sharing is highly encouraged, but not required. All the good boys This is the basic system I use to override video content while keeping consisten
ミルクボーイのネタでGPT-3をファインチューニングしてみた (2) ~リベンジ編~ - Qiita
先日、ミルクボーイのネタでGPT-3をファインチューニングしてみた (1) ~入門編~ - QiitaでGPT-3のファインチューニングに挑戦してみたのですが、内海さんの口調っぽくなっていたものの、全く会話が成り立っていませんでした。 今回は訓練データの形式を見直して改善されるかを試してみます。 何がダメだったか 以下が以前の訓練データです。 {"prompt": "うちのオカンがね 好きな朝ごはんがあるらしいんやけど その名前をちょっと忘れたらしくてね" "completion": "朝ごはんの名前忘れてもうて どうなってんねんそれ"}, {"prompt": "色々聞くんやけどな 全然分からへんねんな" "completion": "分からへんの？ いや ほな俺がね おかんの好きな朝ごはん ちょっと一緒に考えてあげるから どんな特徴ゆうてたかってのを教えてみてよ"} それぞれのデータが
GPT-3 の分類のファインチューニングを試す｜npaka
「GPT-3」の分類のファインチューニングを試したのでまとめました。 1. OpenAI API「OpenAI API」は、OpenAIの最新の深層学習モデルにアクセスすることができるクラウドサービスです。「GPT-3」を利用するには「OpenAI API」経由でアクセスする必要があります。 2. 利用料金「GPT-3」にはモデルが複数あり、性能と価格が異なります。Ada は最速のモデルで、Davinci は最も精度が高いモデルになります。価格は 1,000トークン単位です。 「ファインチューニング」には、TRAININGとUSAGEという2つの価格設定があります。TRAININGのトークン数は、データセット内のトークン数と、エポック数(デフォルト4)によって決まります。 TRAININGのトークン数 = データセット内のトークン数 x エポック数 USAGEのトークン数 = プロンプトの
つくよみちゃん会話AI育成計画（会話テキストデータセット配布） | つくよみちゃん公式サイト
概要これは何？■マルチクリエイター・夢前黎（Rei Yumesaki）がプロデュースするフリー素材キャラクター「つくよみちゃん」の公式テキスト素材です。 ■つくよみちゃんに対する「話しかけ」と、つくよみちゃんらしい「お返事」のセットを大量に作成し、「会話テキストデータセット」として配布することを目指しています。 ■会話AIを作成するための機械学習用データとして作っていますが、その他の用途にもご利用いただけます。詳しくは利用規約をご確認ください。 ■個人・法人、営利・非営利を問わずご利用いただけます。例えば本データから作成した会話AIを配布・販売することも可能です。ただし、クレジット表記が必要となる場合があります。詳しくは利用規約をご確認ください。 ■品質は無保証です。このデータから会話AIが作れるという保証はありません。 著作者情報・作成方法■本データの著作権は、夢前黎（Rei Yumes
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙
やはり予想を超えてこなかったGPT-4と、GPUの未来、ホビイストへの手紙 2023.03.16 Updated by Ryo Shimizu on March 16, 2023, 08:00 am JST 3月14日の早朝、GPT-4が公開され、筆者は早速試した。 その後、開けて3月15日の早朝、APIも部分的に解放され、筆者はそれも試した。 その上で、先週書いた記事の内容についての確信が深まった。 やはり、GPT-4は期待を超えてはこなかった。 GPT-4は、ChatGPT Plusに入会すると誰でもすぐに使うことができる。APIだけは招待制だが、それも筆者と同じくらいのタイミングでアンロックされた方も少なくないのではないか。 100倍規模のパラメータがあっても、アプローチには限界があるのである。 また、ChatGPTが注目を集めたことで、これまで下火になっていた他の大規模言語モデル(
無料GPT-4アプリの公開とクリーンデータセットの作成について｜kun1emon
どうもこんにちは。最近、大規模言語モデル（LLM）の個人開発に取り組んでいる@kun1em0nと申します。この度、最近話題のChatGPTの最新モデルGPT-4を無料で使用できるアプリを作成したので公開いたします。今回アプリを無料で公開する意図についてこの記事で説明したいと思います。 Japanese-Alpaca-LoRAの作成前回の記事ではスタンフォード大学が作成したStanford Alpacaの日本語対応モデル Japanese-Alpaca-LoRAを作成し公開した話を紹介しました。 このモデルの作成に使ったデータの大元（Alpacaデータ）はText-davinci-003というOpenAIサービスで出力した結果になりますが、OpenAIの利用規約ではコンテンツ生成者はOpenAIサービスで出力した結果を競合モデルの開発用途に使用してはならないと記載されています。ただ、コンテン
ChatGPT APIリリースに伴ってOpenAIのAPIデータ利用ポリシーが改定されたので読んでみた | DevelopersIO
ChatGPT APIのリリースと同じタイミングでOpenAIのAPIデータ利用ポリシーが改定されました。この記事では、このOpenAIのポリシーを読み込んでご紹介したいと思います。 危機管理室 江口です。 ChatGPT APIがリリースされて話題ですね。料金も従来のGPT-3のAPIに比べて安くなっているようで、ChatGPTをよりプログラムで利用しやすくなるかと思います。 さて、このリリースとタイミングを併せるように、2023年3月1日付けでOpenAIのAPIでのデータ利用ポリシーが改定されました。 この記事では、OpenAIのデータ利用ポリシーについてちょっと解説していきたいと思います。 なお、ChatGPT API自体の概要については、DA事業本部中村による記事がすでに上がっていますので、そちらをご参照くださいませ。 まとめ OpenAIのAPIを利用する場合、オプトインしない
Pricing
Multiple models, each with different capabilities and price points. Prices can be viewed in units of either per 1M or 1K tokens. You can think of tokens as pieces of words, where 1,000 tokens is about 750 words. This paragraph is 35 tokens. With 128k context, fresher knowledge and the broadest set of capabilities, GPT-4 Turbo is more powerful than GPT-4 and offered at a lower price.
GPT-3を学習させて自分の好きなように喋らせる方法【ファインチューニング】｜Taiki@AI動画生成
LLMネイティブなプロダクトで何か面白いものが作れないかと非エンジニアの僕ですが色々試しています。 今回は、GPTモデルを好きなデータで学習させて使ってみたかったので、ファインチューニングをやってみました。 ちなみに、ほとんどOpenAIの公式ドキュメントをわかりやすく整理した感じです。 ファインチューニングとは？ファインチューニングとは、あらかじめ学習済みのニューラルネットワークモデルを、特定のタスクやデータセットに対してより効果的に動作するように微調整するプロセスです。これにより、短時間で高い性能を達成できます。 実際に読み込ませたデータと出力結果入力： {"prompt": "あなたの好きなラーメン屋は何?", "completion": "私の好きなラーメン屋は二郎だワン"} {"prompt": "あなたの好きなラーメン屋は何?", "completion": "私の好きなラーメ
【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.) - Qiita
【完全保存版】GPT を特定の目的に特化させて扱う (Fine-tuning, Prompt, Index, etc.)OpenAIChatGPTlangchainGPT-4LlamaIndex ChatGPT に代表される今日の AI ブームを牽引しているのは 大規模言語モデル（Large-scale Language Model, LLM） と言っても過言ではないでしょう。LLM とは大量のテキストデータを使ってトレーニングされた自然言語処理のモデルで、代表的なものに、GPT（OpenAI）、Llama（Meta）、PaLM（Google）があります。我々開発者は、事前学習されたこれらのモデルを使って簡単にアプリケーションを作ることができます。 LLM が遂行可能な言語的タスク LLM を使って行える言語的タスクには次のような種類があります： Classification: 感情やポジ
The Generative AI Revolution in Games | Andreessen Horowitz
To understand how radically gaming is about to be transformed by generative AI, look no further than this recent Twitter post by @emmanuel_2m. In this post he explores using Stable Diffusion + Dreambooth, popular 2D generative AI models, to generate images of potions for a hypothetical game. What’s transformative about this work is not just that it saves time and money while also delivering qualit
GPT-4時代のエンジニアの生存戦略 - Qiita
GPT-4時代のエンジニアの生存戦略 ※ この記事の内容の一部はこちらのイベントでお話したことと重複します。 はじめに 2023年3月1日にOpenAI社よりChatGPTのAPIが公開されました。 さらに14日にはGPT-4が登場し、その翌々日にはMicrosoft 365 CopilotでGPT-4をOffice製品に搭載することが発表されるなど、AI領域で大きな変化が起きています。 変化の速度の速さと変化量の大きさにより、私自身も追いつくのが精一杯な状態です。 個人的には、iPhoneの登場時以上の衝撃を受けています。 人類の歴史上、過去3回AIブームがありました。Generative AIが4回目のブームになります。 そして、特に日本においては顕著なのですが、AIへの過度な期待とそれへの失望の繰り返しがここ数十年にわたって繰り返されてきました。 直近だと数年前のDeep Learn
中高生のためのChatGPT - 西尾泰和のScrapbox
GPT-4は、OpenAIが開発した最先端の人工知能です。このAIはさまざまなことができます。どのようなことができるのか、ぜひ自分の目で確認するとよいでしょう。 しかし、GPT-4を使うには、クレジットカードで月額20ドルの支払いが必要です。このため、小中高生及び高専生の皆さんの中には、興味があっても親が理解してくれなくて経験できない人がいると思います。これは機会損失です。 そこで、私は日本中の中高生にGPT-4の体験機会を提供したいと思っています。予算は25万円で始めます。これによってサブスクリプションでは約100人分、API利用では約1万回の質問が可能になります。 少し自己紹介をします。私は未踏ジュニアのメンターをやっていて、毎年の100件以上の応募に目を通しています。その中には「やりたいこと」はあるが「最初の一歩をどう踏み出して良いか」が分からず困っているものがいくつもあります。身近
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Kaedim | Generate 3D Models from 2D Images with AI
Stable Diffusion WebUI 忘備録｜かたらぎ
GitHub - Zuntan03/CharFramework: AI画像生成でキャラクターの扱いをしくみ化してフレームワークにしてみる
