タグ

2023年7月21日のブックマーク (7件)

  • ChatGPT - LLMシステム開発大全

    ChatGPTとLLMシステム開発について纏めた187ページ資料です。 2024/04 名称を改め資料を大幅にアップデートしました! 今後も随時更新していきます。 データサイエンティスト協会での発表動画はこちら。 https://youtu.be/l9fpxtz22JU Build

    ChatGPT - LLMシステム開発大全
    shunkeen
    shunkeen 2023/07/21
    Agendaが細かすぎて爆笑したwww。本で出しても良さそうなボリューム感だけど、変化が激しすぎて本にするとすぐに古くなっちゃうから、スライドを継ぎ足し改修が良いのかな。
  • ChatGPT Code Interpreter でTitanic生存者予測にチャレンジ - Taste of Tech Topics

    近頃、夜づくりにはまっているkonnoです。 データ分析もできると話題のChatGPT Code Interpreterを使えば、機械学習もお手軽にできるのでは…? ということで、Kaggleチュートリアルとして有名な「Titanicの生存者予測」を ChatGPT Code Interpreterを使って分析できるのか 試してみたいと思います! Titanic生存者予測とは? かの有名のタイタニック号の乗員名簿と、事故で生存したか否かのデータを機械学習し、乗員の属性(性別、年齢、乗船時の運賃など)から生存したか否かを推定する課題です。 よく考えるとひどい設定ですね。 話題のわかりやすさと、それなりに特徴的な結果が出るところから、機械学習の初学者がやる練習問題として世界的に有名です。 データはKaggleさんから取得できます。 www.kaggle.com 機械学習を利用してTitani

    ChatGPT Code Interpreter でTitanic生存者予測にチャレンジ - Taste of Tech Topics
    shunkeen
    shunkeen 2023/07/21
    ChatGPT Code Interpreterの記事を読んでいると、プロンプトエンジニアリングよりも、データとツールをAIに与えることが大切だったんだなという気分になる。ユーザーのプロンプトが、AIの能力を制限しているような感覚。
  • 米Microsoftら、“コーディング専用”大規模言語モデル「WizardCoder」開発 文章から高品質なコード出力

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 米Microsoftや香港浸会大学に所属する研究者らが発表した論文「WizardCoder: Empowering Code Large Language Models with Evol-Instruct」は、米Hugging Faceが5月に発表したCode LLM(コーディング専用大規模言語モデル)「StarCoder」を軽量で高精度に強化する手法を提案した研究報告である。リポジトリはこちら。 コード生成に関連する課題に取り組むため、多数のCode LLMが提案されている。これらのCode LLMは、大量のコードデータを使用して事前学

    米Microsoftら、“コーディング専用”大規模言語モデル「WizardCoder」開発 文章から高品質なコード出力
    shunkeen
    shunkeen 2023/07/21
    “特筆すべきは、他のモデルに比べてサイズが大幅に小さいことである。サイズが小さいにもかかわらず、Claude、Bard、PaLM、PaLM-2、LaMDAなどと比較して、コード生成で優れた結果を達成した”/いつかGitHub Copilotに載るの?
  • GPT-4の精度は悪化している? 3月に解けた数学の問題解けず GPT-3.5にも敗北──米国チームが検証

    「GPT-4の精度は時間とともに変わっている」──そんな研究成果を米スタンフォード大学と米カリフォルニア大学バークレー校の研究チームが発表した。3月と6月時点のGPT-4の精度を比較したところ、一部タスクでは精度が大きく悪化していたという。ただし、この論文は査読前のもので第三者によるレビューは受けていない。 GPT-4は、米OpenAIが提供する大規模言語モデル(LLM)。3月の発表後、チャットAIChatGPT」にも搭載され、性能の高さが大きな話題を集めた。LLMは、データのフィードバックや設計変更などをすると性能が変化する。しかし、OpenAIはLLMの更新について発表しておらず、公開以後の性能変化も明らかにしていない。そこで研究チームは、3月と6月時点でのGPT-4、前モデルであるGPT-3.5に精度の違いがあるのか検証した。 実験ではChatGPTに対して「数学の問題の回答」「機

    GPT-4の精度は悪化している? 3月に解けた数学の問題解けず GPT-3.5にも敗北──米国チームが検証
    shunkeen
    shunkeen 2023/07/21
    OpenAI「うだうだ文句言ってないでEvalsに貢献しろ(意訳)」 https://openai.com/blog/function-calling-and-other-api-updates
  • 『AIがつくった文章』の見分け方と、それを利用して「人間と同水準の文章にする」方法。

    ChatGPTの登場以来、AIが生成する文章を活用する人が増えてきています。 例えば、世界有数のコンサルティング企業である、マッキンゼー・アンド・カンパニーは、全世界約3万人の社員の約半数がChatGPTを含む、生成AIを利用していると明かしました。*1 しかし、現在のところ、ChatGPTが生成する文章のクオリティに懐疑的な人も多いのではないでしょうか。 実際、ネット上では「ChatGPT的」という言葉が生まれ、記事を揶揄する言葉として使われています。 うーむ。完全に先入観だけど、この記事はChatGPT的なAIで作成してる。体裁の整い過ぎた文章なのに、実際の伴わない空虚な内容。記事の見出しもお手のような検索ワードのゲーム記事テンプレ。 このようなものが溢れる時代がもう来たのかね。 pic.twitter.com/gudb5BBoNl — ワイチ@魔法の覚醒 (@whaichi) Ju

    『AIがつくった文章』の見分け方と、それを利用して「人間と同水準の文章にする」方法。
    shunkeen
    shunkeen 2023/07/21
    プラグインを使わない、あるがままのChatGPTは、ユーザーの入力に合わせて出力する鏡のようなものだから、ゴミを入れたらゴミが大量に出てくるだろうし、記事に書いてある通り、使う人次第な気もする。
  • GitHub、プロンプトでAIにコード生成やデバッグを指示できるGPT-4ベースの「GitHub Copilot Chat」ベータ公開

    GitHubは、GTP-4ベースのAIを用いた開発支援機能「GitHub Copilot Chat」を、GitHub Copilot for Businessユーザー向けに限定パブリックベータとして公開すると発表しました。 GitHub Copilot Chatは、今年3月に発表された同社のビジョン「GitHub Copilot X」で登場が予告されていた機能の1つです。 現在提供されているGitHub CopilotはGPT-3AIをベースに、コードエディタ内でプログラマがコメントを記述するとそれに基づいてコードを自動生成する機能などを提供しています。 「GitHub Copilot X」では、強化されたAIであるGPT-4を用い、さらに高い精度でのコード生成やバグの指摘などを始めとする、以下のさまざまな新機能などを備えると説明されていました。 コードエディタ内でAIとテキストチャット

    GitHub、プロンプトでAIにコード生成やデバッグを指示できるGPT-4ベースの「GitHub Copilot Chat」ベータ公開
    shunkeen
    shunkeen 2023/07/21
    エンジニア向けのチャットサービスとスラッシュコマンド(/tests、/fixなどなど)は相性が良い。スラッシュコマンドでスタートダッシュ決めて、あとはチャットで多少ディレクションしてから、エディタ上で生成させれば
  • ChatGPTで思考する人型AIと“同棲”したらどうなる? 「AIを信頼していく」 米中の研究者らが検証

    このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: @shiropen2 米マサチューセッツ大学アマースト校などに所属する研究者らが発表した論文「Building Cooperative Embodied Agents Modularly with Large Language Models」は、大規模言語モデル(LLM)が他のLLMエージェントや人間と協調して複雑なタスクを遂行する協調型エージェントの構築に役立つかどうかを調査した研究報告である。 この設定で成功するためには、エージェントが観察から有用な情報を抽出し、周囲環境と他のエージェントに関する情報を収集。その上で、何をいつどうするかのコミュニケーションを

    ChatGPTで思考する人型AIと“同棲”したらどうなる? 「AIを信頼していく」 米中の研究者らが検証
    shunkeen
    shunkeen 2023/07/21
    “自然言語で人間とコミュニケーションするLLMベースのエージェントは、人間からより多くの信頼を獲得できることが分かった”/協調作業で信頼獲得競争したら、AIに勝てる気がしない。