タグ

2023年6月22日のブックマーク (3件)

  • The A to Z of LLMOps: Breakdown for Beginners

    Large language models (LLMs) like OpenAI's GPT-4, Google's BERT have become game-changers. These models can generate human-like text, understand context, and perform a wide array of natural language processing (NLP) tasks. But developing and deploying such powerful models is no walk in the park. That's where LLM Operations, or LLMOps, steps in to ensure success. LLMOps is an emerging field that fo

    The A to Z of LLMOps: Breakdown for Beginners
  • 【2023年の注目キーワードになるか?】LLMOpsとは - APC 技術ブログ

    はじめに GLB事業部Lakehouse部の阿部です。 Chat GPTが登場して日国内の企業でもオープンソースのLLMをリリースしたこともあり、LLM(大規模言語モデル)という言葉は聞く機会が増えました。 最近はLLMOpsという言葉もちらほら聞くようになりましたが、MLOpsとの違いやOpsとあるように運用はどのように行うのか、勉強中の整理として記事を書きたいと思います。 LLMOpsとは LLM(Large Language Model)+ Ops(Operations)の造語です。 LLMOpsの明確な定義はされておりませんが、DevOpsやMLOpsのようにLLMの開発と運用をパイプライン化することで開発と運用のサイクルを円滑に回すことではないかと思います。 LLMOpsの定義が曖昧であること、運用方法が定まっていないためLLMOpsという言葉はさほど使われておりません。 日

    【2023年の注目キーワードになるか?】LLMOpsとは - APC 技術ブログ
    deejayroka
    deejayroka 2023/06/22
    “、入力データの分布が変わっても自然言語だと分布の計算方法が決まっていないことです。 入力データの分布(ベクトルデータベースに入れるデータやファインチューニング用のデータ)が変わっても自然言語のためデ
  • クエリベースのドキュメント概要作成 - Azure Architecture Center

    このブラウザーはサポートされなくなりました。 Microsoft Edge にアップグレードすると、最新の機能、セキュリティ更新プログラム、およびテクニカル サポートを利用できます。 このガイドでは、Azure OpenAI GPT-3 モデルを使用して、ドキュメント概要作成の実行方法について説明します。 ドキュメント概要作成プロセスに関連する概念、プロセスへのアプローチ、特定のユース ケースに使用するモデルに関する推奨事項について説明します。 最後に、主要な概念を理解するのに役立つ 2 つのユース ケースとサンプル コード スニペットを示します。 アーキテクチャ 次の図は、ユーザー クエリが関連するデータをフェッチする方法を示しています。 サマライザーでは、GPT-3 を使用して、最も関連性の高いドキュメントのテキスト概要を生成します。 このアーキテクチャでは、GPT-3 エンドポイント

    クエリベースのドキュメント概要作成 - Azure Architecture Center