エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
記事へのコメント1件
- 注目コメント
- 新着コメント
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
LLM の chat_template に気をつけろ!|Tatsuya Shirakawa
nouu の白川です。 毎週のように新しいより高精度な LLM が出てきてキャッチアップするのも大変ですね。... nouu の白川です。 毎週のように新しいより高精度な LLM が出てきてキャッチアップするのも大変ですね。量子化された小さなモデルなら Google Colab などでチャチャッと試すのは意外と簡単なのですが、公式が提供しているサンプルからはみ出た事をしようとすると罠にハマることがあります。 その一つが chat_template です。chat_template は instruction / chat モデルを使うときの入力フォーマットを定義した文字列です。 最近出た話題の日本語 LLM の Swallow の場合は下記のようなフォーマットで入力します。 tokyotech-llm/Swallow-7b-instruct-hf の説明をもとに作成: 以下に、あるタスクを説明する指示があります。リクエストを適切に完了するための回答を記述してください。 ### 指示: 以下のトピックに関
2024/04/16 リンク