Flan-PaLMの学習に使われているpromptの手法を使ってAIに褒めてもらう｜oshizo
以前の記事で、AIのべりすとを使って頑張ったことを褒めてもらえないかを試していました。 GPT-3などの大規模言語モデルでは、推論タスクの性能を高めるためにいろいろな工夫が研究されており、今回はそれらの研究結果をまねることで褒められの精度を上げられないか試してみました。 Flan-PaLMの論文を参考にしているので、まずはこの論文に含まれている手法を少し説明します。 Flan-PaLMの論文2022/10に、Scaling Instruction-Finetuned Language Modelsというタイトルで、難しい推論タスクで高い性能をもつ言語モデルが発表されました。 これは、540Bパラメタを持つPaLMを Instruction finetuning という手法で訓練したものです。 論文のFig.3に、学習データの作り方のアイデアが記載されています（以下はDeepLで日本語訳した
褒めてくれるテキスト生成AIのためのデータセットの検討｜oshizo
最近、褒めてほしい欲が強いです。noteも褒めてほしくてやっているところがあります。 褒めてくれるのは人間でなくAIでも良いのですが、何か頑張ったことを話すと的確に褒めてくれるようなAIはまだ出てきていないと思います。 既存サービスを調べる既存サービスとしては「ベタ褒めシャワールーム」という、職業などの情報や何を褒められるとうれしいかなどのアンケートをもとにセミパーソナライズした褒めを受けられる体験型コンテンツがあるようです。 https://lp.frontier-i.co.jp/betabomeshower/ 良さそうですが、セミパーソナライズするだけでなく具体的に「今日何をしたか」を入力して、それを褒めてくれると嬉しいですね。 日本語を対象にした研究日本語を対象にした論文では、「上手く褒めるために効果的な言葉づかいの調査」という資料があります。 https://www.interac
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
