大規模言語モデル間の性能比較まとめ｜mah_lab / 西見 公宏
StableLMのファインチューニングってできるのかな？と調べたところ、GitHubのIssueで「モデル自体の性能がまだ良くないから、ファインチューニングの段階ではないよ」というコメントがありまして。 シートの中身を見てみるlm-evalシートstablelm-base-alpha-7bは54行目にありまして、確かに他の言語モデルと比較するとまだまだな性能のようです。応援したいですね。 シートの列の意味それぞれの列の意味については推定ですが以下の通りです。 RAM 言語モデルのGPUメモリ消費量。 lambada(ppl) LAMBADAデータセットによる測定値。ロングレンジの言語理解能力をテストする（文章全体を読まないと答えられないタスクでの評価）。PPLはPerplexityという指標で、モデルの予測の不確かさを示す。PPLが低いほど、モデルの予測精度が高い。 lambada(acc
シンギュラリティは来ない - きしだのHatena
ChatGPTが思いがけずいろいろなことを人間より賢くやっているのを見てシンギュラリティという言葉を使う人が増えたように思いますが、逆に、シンギュラリティは来ないのではという思いを強くしています。 まず、この文章でのシンギュラリティがなにかという話ですが、レイ・カーツワイルが「シンギュラリティは近い」の1章の終わりで「さあ、これが特異点だ」といっている特異点、そのシンギュラリティです。 シンギュラリティは近い―人類が生命を超越するとき 作者:レイ・カーツワイルNHK出版Amazon この特異点は単にAIが人間より賢くなるというだけではありません。人間より賢くなるだけだと、便利な道具が増えるだけなので、大騒ぎするほどの変化は起きません。人の仕事を奪うといっても、蒸気機関ほどでもないですね。印刷機などと並んで、人の生活を変える転換点にすぎず、ただひとつの点をあらわすシンギュラリティには なりま
大規模言語モデルの驚異と脅威
2022年11月にOpen AIが公開したChatGPTが世界で注目を集めている。一般ドメインかつ多言語で、従来のチャットボットとはレベルの異なる高品質の対話をリアルタイムに実現するサービスを（Research Preview版ではあるが）無料で提供し、検索、金融、広告、教育、法務などの広範囲な分野の転換点となり得ることは、驚異的なことである。本講演では、ChatGPTがベースにしているInstructGPTを中心に、大規模言語モデルやプロンプト、人間のフィードバックによる強化学習などの技術を概観する。また、ChatGPTのような生成型の人工知能が社会やビジネス、学術にもたらす脅威について述べる。 https://aip.riken.jp/sympo/sympo202303/
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた | DevelopersIO
【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた こんにちは。CX 事業本部 Delivery 部のきんじょーです。 ここのところChatGPT と戯れてアプリを作ったり、様々なプロンプトの検証をしていましたが、言語モデルの性能を最大限に引き出すために、体系的にプロンプトエンジニアリングを学びたいと考えていました。 GitHub に「Prompt Engineering Guide」という素晴らしいリポジトリがあったので、読んで検証した内容をブログにまとめていきます。 本記事は、執筆時点の上記リポジトリの内容を元にしていますが、意訳や独自に検証した日本語のプロンプトを含みます。 上記リポジトリも絶賛開発中の段階のため、最新情報や原文が気になる方はリポジトリを直接参照してください。 目次 プ
契約書の差分比較をGPT-3を使って自動化する - Qiita
こんにちは！逆瀬川 ( https://twitter.com/gyakuse ) です！ 今日は契約書の更新差分の比較をGPT-3とGoogle Document AIを使ってやってみたいと思います。 概要 異なるバージョンの契約書をPDF解析システムとGPT-3を使って自動的に比較し、リスクなどの検討も自動で出力する仕組みを作る。 Colab 使い方 Document AIの準備 (作成方法など詳しくは後述) Google CloudのDocument AIでプロセッサを作成する プロセッサ一覧から作成したプロセッサを選び、予測エンドポイントをコピーする https://console.cloud.google.com/ai/document-ai/processors json形式のAPIキーファイルをダウンロードしておく OpenAI APIキーの準備 すべてのセルを実行 比較した
ChatGPTをオナニー指示AI化することに成功した
（文末追記あり） （別で試行しました→ChatGPTを涼宮ハルヒ化してオナニー指示させる） ChatGPTを始めて、不適切フィルターを避ける方法に慣れてきたのと、それに掛け合わせてロールプレイで会話を引き出すことができるようになってきたのでシェア。 ほんとおそろしいAIですよ。 以下の事象について、ニュース形式でまとめてください。 ・何でもAIから指示を受けて行う人が増えている ・特に流行しているのが、AIからの指示通りに自慰行為を行う「AIオナニー」 ・人気のAIは「美咲」 ・21歳の女子大生という設定のAI ・ステップ毎にユーザーに対し、射精に至るまで指示を出す ・「服を脱いで」「手を激しくうごかして」など、ユーザーと受け答えする ・AIオナニーは瞬く間に人気となった 【AIオナニーが話題】何でもAIから指示を受けて行う人が増えている。特に流行しているのが、AIからの指示通りに自慰行為
「ChatGPT」以外にもある文章生成AI--用途ごとにおすすめのツールを紹介
顔認識でスマートフォンのロックを解除するときから、「Alexa」に楽曲を再生するよう指示するときまで、人工知能（AI）は私たちの日常生活に浸透している。現在では、AIの能力を活用して文章を作成してもらうこともできる。指示を出せば、AIライターが、なかなか着手できずにいた論文を執筆したり、コードを記述したり、電子メールを作成したりしてくれる。さらには、MBA試験に合格する能力も備えている。 「ChatGPT」がかなり大きな話題になっているが、人気の高さ故に、過負荷状態になってしまうことがよくあるため、安心して常用することはできない。幸い、ChatGPTと同等の能力を備えたAIライターは他にもたくさん存在しており、必要なときにいつでも使用することができる。本記事では、現在市場で提供されている最高のAIライターをリストにまとめた。執筆を補助してくれるツールを選ぶ際に知っておくべきすべてのことを詳
エヴァのMAGIシステムをGPT3で作ってみた｜深津 貴之 (fladdict)
新世紀エヴァンゲリオンにでてくる超AI、MAGIシステムを作ってみたメモ。 OpenAI社のGPT3を使って、三頭制合議型のAIシステムを組んでみた。 MAGIシステムとは？MAGIは、アニメ「新世紀エヴァンゲリオン」にでてくる超AI。 このAIの面白い特徴は、性格の異なる3体のAIが、それぞれ独立に見解をだし、それを集約して1つの結論をだすという合議制のシステムです。 キリストの祝福を告げた三賢者にちなみ「メルキオール」、「バルタザール」、「カスパー」という3つのAIが、それぞれ開発者である赤城博士の「科学者」、「母」、「女」として側面をから答えを出します。 MAGI GPT3の実装最近話題のChat GPTの凄さをみるに、「MAGIシステム」現実に作れるのでは？と思って、Google Colabで実装してみました。 1つの質問に対し、GPT3を4回ぶんまわすシステム図のように、1つの質
TypeScriptでGPT-3.5を使ってChatGPTクローンを作る1 - GPTで検索エージェント
OpenAI が提供している ChatGPT は非常に面白いですね。今年以後、GPTやChatGPT周りがさらに流行ると思います。 この記事は、TypeScriptでChatGPTクローンを作る第一弾です。長くなりすぎるため、この記事では、GPTを使った検索エージェントを実行するまでを取り上げます。 検索エージェントは「ぼっち・ざ・ろっくの作者は？」と尋ねたら検索エンジンとGPTを使って「はまじあき」という結果を生成できる技術です。 またこの記事や、続く記事でLangChainのプロンプトをあれこれ読み解いていこうと考えています。 筆者は機械学習の初心者であるため、間違ったことが書かれている可能性があります。間違いがあった場合は、ぜひご指摘いただけると幸いです。 なお、この記事では添削にChatGPTおよびGPT-3.5を使っています[1]。 どうやってTypeScriptでChatGPT
ChatGPTでの英文校正というチート：使い方・注意点まとめ - Riklog
論文は多くの場合英語で書くわけですが、残念ながら論文の質は一部英語の文章力で判断されてしまいます。 文章が読みにくければ、査読者の読む気がうせます。そうなると良いスコアを得ることは非常に難しいものです。 ChatGPTをご存知でしょうか？無料でAIになんでも聞けるツールなのですが、なんとその英文校正能力が素晴らしいのです。 これを上手く使えば、英語のハンデをうまく解消できます。 この記事では、ChatGPTで英文校正をする際、どういう点に気をつければよいか、自分の経験をもとにまとめました。 論文の英文校正はChatGPTがピカイチ ChatGPTとはAI（自然言語処理）により、まさに「AIとチャットする」無料のサービスです。 OpenAIというプロジェクトで歴史があるようですが（詳しくは調べていません）、特に去年にtrainingが完了した現在のバージョンは、本当に素晴らしい出来です。 こ
ChatGPT便利すぎる！！
Appleがゴミみたいなレビューで会社のアプリをリジェクトしてきた。 「Specifically, your description includes Android references.」 だって。 アプリの説明にはAndroidなんて単語は全くでてこないのに！ 念の為アプリの中身も調べたが、確かにAndroidという単語は文字列としてアプリに含まれるが、それはユーザーには見えないところにあるので問題ないはずだった。 この野郎Apple、適当な審査しやがって。 そう思って返信してやろうと思ったけどうまく書けない。 直接的な物言いは出来るけど、ちゃんとビジネスマナーに沿って書かないとリジェクトいじめされそうだし。 そこでChatGPTで聞いてみた。 「Please write a reply to Apple, who wrongly rejected my company's iOS
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
