ChatGPTに自社データを組み込んで新しい検索体験を模索してみました｜masa_kazama

イントロChatGPTやBing、NotionAIなどの大規模自然言語モデル(LLM)を活用したサービスが注目を集めています。対話、要約、翻訳、アイデア生成などの多様なタスクにおいて、とても性能が高いです。ただ、ChatGPTでは、ときどき嘘が混じっていたり、文献が捏造されたりすることがあります。 ChatGPTとの対話画面（結果の書籍は存在しない）それを防ぐために、BingやPerplexityでは、文献を引用した上で、なるべく嘘が紛れ込まない形で回答してくれます。 Perplexityでは引用もつけてくれるしかし、これらのAIは、Web上の公開されている一部のデータを元に学習しているので、公開されてないデータに対しては当然ながら、正しく回答できません。 そこで、この記事では、自社が保有しているデータをChatGPTに組み込んで、自社オリジナルのPerplexityのようなシステムを作る

[yarumato]

“ChatGPTの回答に、自社データを混ぜてもらう方法。「プロンプト（4000文字制限）に、自社データをコンテキストとして入力する」方法が低コストで簡単。5000文字->300文字要約もChatGPTが実行”

[shodai]

Bingがどうやって最新の情報出してるか謎だったけど、これに近いことやってんのか

[hihi01]

会社等に特化したAIにとても興味があります。

[hunyoki]

技術的な話は全然わからないけど近いうちに純正品のMS Office に組み込んでくるんじゃない？

[otihateten3510]

これが知りたかった！！これできるならまず仕様書読ませたいよね

[reboot_in]

“外部データとの連携を簡単に実現するツールとして、LlamaIndex(旧GPT Index)やLangChainなどのライブラリが活発に開発されています”

[hatakazu93]

技術

[canadie]

この方法だと、プロダクト発表のIRを横断検索して今まで出したプロダクトの一覧を出す、といったタスクが難しそう。最終的に4,000文字程度のクエリに落とし込む必要があるのが「きっつ…」ってなる。32kモデルに期待か

[misshiki]

“LlamaIndex(旧GPT Index)やLangChainなどのライブラリ...ツールがどのように、外部データをChatGPTに組み込んでいるかの概要を解説”

[naggg]

やっぱ同じとこでつまづくよね

[masadream]

超進化版チャットボットという感じ。ファインチューニングが簡単にできるようになったら既存のチャットボットは全滅だろうなあ。

[ryosuke-fujii]

プロンプトに入力できる文字数に制限(約4000字)があるから、コンテキストを渡す方法を色々工夫しないといけないというお話。早く、自社データ（コンテキスト）を学習したモデルを作れるようになりたい。

[eichannel]

うちの会社のドキュメント全て食わしたい

[youhei_nak]

5000字の記事をChat GPT APIの文字数制限にどう載せたのかわからなかった。

[stealthinu]

事前情報与えるのにChatGPT自身に要約させたものを使って与える手法。ベクトル化データが使えるというのが興味があったのだがちょっと望んでるレベルのベクトル化ではない感じだった。

[TakamoriTarou]

これで殆ど詐欺商品に近い人工無能チャットボットを売りつけるクソ商社が滅びますように

[IGA-OS]

仕様書の回答してくれるだけでも使えるなぁ・・・試したい

[wdoomer]

ためになる

[secseek]

学習の能力がすごいですね…

[megtan00]

弊社のシステムはデータが膨大だが検索がクソなので早くAPIを組み込んだ対話型DBを構築して欲しい トラブルシューティング対応時に使いたい

[TETOS]

ガチで見直し項目だの確認項目だのは腐りやすいのでai様で監修してほしい

[monaotan]

“Stream”

[knok]

ChatGPTのfine tuningはまだ用意されてないよね

[ledsun]

“プロンプトに、自社データをコンテキストとして、入力する 現時点(2023/3/1)では、3つ目の方法がコストが低く簡単に試すことができるので、3つ目の方法を紹介していきます。”

[ussiik1]

キーワードベースとベクトルベースの検索方法

[for-my-internet-demo]

週末なんかやる

[fa11enprince]

こういうやり方があるのか！

[vanish_l2]

あとで

[shunkeen]

“自社が保有しているデータをChatGPTに組み込んで、自社オリジナルのPerplexityのようなシステムを作る”／結局、知的資産を持っている組織や人が強いんだな。よきかな、よきかな。