エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
Llama2-70b-chat をAPI利用して、簡単にLLMを体験してみよう - Qiita
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
Llama2-70b-chat をAPI利用して、簡単にLLMを体験してみよう - Qiita
はじめに 本記事は、Llama2 のチャットボットをAPI利用して動作させるまでに必要なことをまとめたもので... はじめに 本記事は、Llama2 のチャットボットをAPI利用して動作させるまでに必要なことをまとめたものである。動作させるまでを記載した記事であり、その後の詳細な利用法等については記していない点を留意してほしい。 背景 個人的に Llama2 に興味があり、チャットボットをAPI利用したプログラムを組む機会があった。かつ、Qiita にAPI利用についてをまとめた記事がなかったため、本記事を投稿するに至った。 後述しているが、Llama2の利点に、オープンソースでモデルが公開されているため、API料金がかからないという点がある。しかし、今回はあくまでも「簡単に」ということで、API利用で低メモリのPCでもサクッと動かすことを目的としている。 環境 OS: Windows 10 Ubuntu: 22.04 Python: 3.7.10 Docker で Ubuntu 環境を構築し、実行して