・「Prompt Engineering 勉強会 / 2023.03.21 GPT-4 Prompt 報告会」を更新しました（最終更新日 2023.04.22） ・本資料は勉強会用に作成した突貫的な資料で絶賛 WIP であり随時更新していこうと思います。 ・誤りなどありましたらご指摘ください。

Transformerは分散できる代償として計算量が爆発的に多いという不利がある。 一度みんなが忘れていたリカレントニューラルネットワーク(RNN)もボケーっとしている場合ではなかった。 なんと、GPT3並の性能を持つ、しかも完全にオープンな大規模言語モデルが公開されていた。 そのなもRWKV(RuwaKuvと発音しろと書いてある。ルワクフ?) RWKVはRNNなのでGPUメモリをそれほど大量に必要としない。 3GBのVRAMでも動くという。 時間がない方はビデオをご覧ください 僕の失敗は、何も考えずにgit lfs installでディレクトリごとコピーしようとしたこと。 このディレクトリには過去のモデルデータが全部あるので、ひとつ30GBのモデルデータを何十個もダウンロードしようとしていて終わらなかったのだ。 モデルデータは一とつあれば十分なのでひとつだけにする。 次に、chatのリポ

At: PHPerKaigi 2023 ( https://phperkaigi.jp/2023/ ) Track A DateTime: 2023/3/25 10:20 (40min) Speaker: uzulla

1. ChatGPTプラグインの作成手順「ChatGPTプラグイン」の作成手順は、次のとおりです。 (1) APIの実装 (2) マニフェストファイルの作成 (3) OpenAPIドキュメントの作成 2. マニフェストファイルの作成2-1. マニフェストファイルの基本構成「マニフェストファイル」は、「ChatGPTプラグイン」のメタデータを記述するファイルです。APIのドメインの「/.well-known/ai-plugin.json」でホストします。 「マニフェストファイル」の基本構成は、次のとおりです。 { "schema_version": "v1", "name_for_human": "TODO Plugin", "name_for_model": "todo", "description_for_human": "Plugin for managing a TODO list.

GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク

homemodelsimagesvideospostsarticlesbountiestoolschallengeseventsshopMore404The page you are looking for doesn't existLoading a special 404 image from our 404 Contest...Go back home

１．クイズの出題最初に入力するプロンプトは以下のとおりです。 東大王のようなクイズの問題を作って出題し、ユーザーが正解したら「ピンポン」、外れたら「ブー」と言ってください。クイズの問題を出したところで止めて、こちら（ユーザー）が回答を入力するまで待ってください。 そして、以下がその出力結果です。 AI  クイズの問題を作成しました。それでは、問題を出題します。 クイズの問題１: 世界最大の砂漠であり、アフリカ北部に広がっているこの砂漠の名前は何でしょう？ 入力　サハラ砂漠 AI  ピンポン！正解です！サハラ砂漠は世界最大の砂漠であり、アフリカ北部に広がっています。 次のクイズの問題を出題します。 クイズの問題２: 日本の国鳥とされている、美しい姿から「飛翔の王者」と称される鳥は何でしょう？ 入力　トキ AI  ブー！残念、不正解です。正解は「コウノトリ」です。コウノトリは、日本の国鳥とされ

Free newsletter. Join 100K business leaders from companies like Google, Amazon, Meta, and more. Get valuable AI tools, news, and tutorials completely for free.

画像生成AI「Midjourney」の開発チームが、2023年3月16日(木)に「Midjourney V5」のアルファ版をリリースしました。「Midjourney V5」では超高画質な画像生成が可能となっているだけでなく、画像生成AIの課題であった「『手』を正確に描写できない問題」が解決されたという報告も寄せられています。 Starting today our community can test Midjourney V5. It has much higher image quality, more diverse outputs, wider stylistic range, support for seamless textures, wider aspect ratios, better image prompting, wider dynamic range and more

最近話題になった大規模言語モデルをまとめました。 1. クラウドサービス1-1. GPT-4「GPT-4」は、「OpenAI」によって開発された大規模言語モデルです。 マルチモーダルで、テキストと画像のプロンプトを受け入れることができるようになりました。最大トークン数が4Kから32kに増えました。推論能力も飛躍的に向上しています。 現在、「ChatGPT Plus」(有料版)で制限付きで利用できる他、ウェイトリストの登録者を対象に「OpenAI API」での利用も開始しています。

「商品の売上が減っている」 「チーム内でミスや不手際が多い」 「コンプライアンスが徹底されていない」 こんなビジネス課題の解決を任されたら、あなたならどうしますか？　どこからどう手をつけていいかわからず、途方に暮れてしまう……なんて事態に陥らないためにぜひ知っておきたいのが、“問題解決のノウハウ”。 今回は、かの有名コンサルティング会社 マッキンゼー・アンド・カンパニー出身者が開発した「問題解決1枚シート」というフレームワークをご紹介します。マッキンゼー流の仕事術を学び、仕事で課題にぶつかった際にぜひお役立てください。 元マッキンゼーの識者が提唱「問題解決1枚シート」とは？ 「問題解決シート」を取り入れてみるとこうなる （Step0）A4用紙を十字に4分割し、シートを作成する （Step1）左上スペースに「解決したいビジネス課題」を書く （Step2）左下スペースに、問題の分析結果を箇条書

Chat GPT用、チャットで異世界の幼馴染に現代知識を送りつけて無双させるゲームです。 以下ストーリーとプロンプトです。 ストーリー 突然、あなたのもとに数年前に死んだ幼馴染からメッセが届きました。なんと彼女は、異世界に転生して魔王と戦っていたのです。彼女はチート能力として、幼馴染の貴方とチャットする力を授かりました。 貴方はチャットで、現代の知識や技術を幼馴染に伝え、彼女を無双させ異世界を救ってください。貴方がどんな知識や技術を伝えるかで、異世界の運命が決まります。 ChatGPTのサイトからGPT-4を起動して、チャット欄に以下のプロンプトをコピペすると遊べます。 ver 0.4 As an AI Game Master, you'll guide "Chat Reincarnation: My Childhood Friend, Who Should Have Died, Beca

はじめにStable DiffusionだとかChatGPT、LLMみたいな「大規模モデル」って考え方が機械学習業界から出て、スケーリング則に基づいてまだまだ精度が上がるとされている昨今。 （スケーリング則はどうのこうの諸説あるが）さておき、「マルチモーダルに」「あらゆるデータを学習した」「大規模なモデル」が今後数年リードしていく事は間違いないと思う。 そんな中で、我々機械学習エンジニアやデータサイエンティスト、アナリスト、データエンジニア、MLOpsエンジニアみたいな、いわゆるAI屋として働いている人たち、皆が所属するAI組織ってどうなっていくのかな、という話を書いてみる。 データの民主化AIの民主化とデータの民主化AI業界では「AIの民主化」というワードがある。 便宜的にAIというワードが広く使われるようになった辺りで出てきたワードで、OSSやプラットフォーム、ハードの発展によって「A

こんにちは。SALESCORE株式会社CTOの成澤です。 このシリーズでは、資金調達のリリースにあわせてSALESCOREにまつわる様々なトピックをお話ししています。 第二回となる今回の記事ではSALESCOREの「ドメイン特化型Full-Stack Data Platform」という開発コンセプトに焦点をあててお話しします！ ※第一回の記事はこちらから！ 「多機能」ではなく「複数のニーズに応える単機能」を開発する第一回では「セールスイネーブルメントのプロダクト開発は難しい」「その理由は多機能性とカスタマイズ性が求められるから」とお話ししました。SALESCOREはこの難しさに対して、いくつかのコンセプトで挑んでいます。ここではその一つについてお話します。 創業当初（旧社名は株式会社Buff）、初めて作ったサービス「Buff Sales」のコア機能は「Salesforceのレポートと同期し

こちらの記事は2023年3月9日に投稿された旧バージョンです。特段の理由がなければ、最新事情を盛り込んだ「AIイラストが理解る！StableDiffusion超入門」をご覧ください。 こんばんは、スタジオ真榊です。このところ、ツイッター経由で公式サイトやこちらのFANBOXへのアクセスが急増しており、これからAIイラストを始め...

DEIM2023 第15回データ工学と情報マネジメントに関するフォーラム チュートリアル講演資料 Part2: Vision-and-Language

はじめに build own xってなに？という方がいらっしゃると思います。 下記ページにあるような自作～みたいなやつのことを指しています。 自作OSとかDBとかとにかく様々な種類があるんですが、僕がやってみて良かったなぁと感じたものだけ紹介します。(一部やってないけど良さそうなのも紹介します。) 難易度を星5を最高として書いていきます。 言語は日本語 or 英語です。 コンパイラ writing interpreter in go 形態:本 言語: 日本語、英語 コンパイラ系なら一番初めにおすすめなのは間違いなくこれ。 日本語版では「Go言語でつくるインタプリタ」という題で出版されています。 外部に依存するライブラリを一切使わないのが特徴でスクラッチで書きます。 語り口調も平易でわかりやすく、コンパイラ？インタープリタ？という方にもおすすめ。 Monkeyという言語を実装するのですが、既

AutoMLに関するチュートリアル資料です。主に，ハイパーパラメータ最適化（HPO）とニューラル構造探索（NAS）に関する説明をしています。

1. OpenAI APIのモデル「OpenAI API」は、用途に応じて「GPT-3.5」をはじめとする様々なモデル を提供しています。 ・GPT-3.5 : 自然言語とコードを理解および生成する最新モデル。 ・DALL-E : 自然言語から画像を生成・編集するモデル ・Whisper : 音声をテキストに変換するモデル ・Embeddings : 埋め込み (ベクトル表現) を生成するモデル ・Codex : コードを理解および生成するモデル ・Moderation : センシティブおよび 安全でない文章を検出するモデル ・GPT-3 : 自然言語を理解および生成する旧モデル 2. GPT-3.5「GPT-3.5」は、自然言語とコードを理解および生成する最新モデルです。最も高性能で費用対効果の高いモデルは、チャット用に最適化されていますが、既存タスクにも適している「gpt-3.5-tu