タグ

QiitaとQAに関するni66lingのブックマーク (2)

  • GPT Index で専門知識を必要とする質問応答チャットボットを簡単作成|npaka

    「GPT Index」を試したので、まとめました。 1. GPT Index「GPT Index」は、専門知識を必要とする質問応答チャットボットを簡単に作成できるライブラリです。 同様のチャットボットは「LangChain」でも作成できますが、「GPT Index」は、コード数行で完成してお手軽なのが特徴になります。 2. ドキュメントの準備はじめに、チャットボットに教える専門知識を記述したドキュメントを用意します。 今回は、マンガペディアの「ぼっち・ざ・ろっく!」のあらすじのドキュメントを用意しました。 ・bocchi.txt 【注意】ドキュメントが大きいと、OpenAI APIの呼び出しも多くなるので、コストを注意する必要があります。 3. Colabでの実行Google Colabでの実行手順は、次のとおりです。 (1) パッケージのインストール。 # パッケージのインストール !p

    GPT Index で専門知識を必要とする質問応答チャットボットを簡単作成|npaka
  • BERTを使った汎用的な日本語QAモデルの作成 - Qiita

    はじめに 自然言語処理の様々なタスクでSOTAを更新したBERTですが、2019年12月に日語のpretrainedモデルがpytorch版BERTに追加されました。これにより日語のBERTが以前より簡単に試せるようになりました。しかし、依然としてBERTの日語QAモデルに関する記事が存在しなかったため、この記事では日語pretrainedモデルをfinetuningすることで日語QAモデルを作成する方法について説明します。モデル作成の大まかな流れは以下のようになっているので、この流れを頭に入れて記事を読むと理解しやすいと思います。 モデル作成の流れ 1.モデルの学習データを用意する(これができれば、ほぼ完了です) 2.すでに用意された、run_squad.pyと言うスクリプトを実行する 3.モデル完成 この記事で扱う内容 事前知識 ・BERTとは ・squadの形式 学習データ

    BERTを使った汎用的な日本語QAモデルの作成 - Qiita
  • 1