大規模言語モデルのFine-tuningによるドメイン知識獲得の検討 - Preferred Networks Research & Development
本記事は、2023年夏季インターンシッププログラムで勤務された竹田悠哉さんによる寄稿です。 はじめに 2023年度のPFN夏季インターンに参加した、東京大学大学院工学系研究科の竹田悠哉と申します。学部では画像生成の研究をしていましたが、技術の社会実装をより俯瞰的に学びたいと思い、現在は技術経営戦略学専攻で教育工学の研究をしています。 インターンでは「機械学習技術の社会実装」をテーマに、LLM（Large Language Model）にドメイン知識を習得させることに取り組みました。様々な設定において、主に英語で学習されたモデルであるLLaMA2に対して日本語のデータでのFine-tuningを行い、LoRAやInstruction Tuning、ドメイン知識の習得に関する知見を得ることができたと思います。本記事では、そこで利用した技術の紹介と、日本語におけるドメイン知識の習得に関する実験、
Ｊリーグのシーズン移行に関する報道対応について（10月21日） | アルビレックス新潟 公式サイト
10月21日（土）、当クラブ代表取締役社長の中野幸夫が、Ｊリーグのシーズン移行について、報道関係の皆さまにお話しをいたしました。報道対応の内容について、以下の通りお知らせいたします。 ■株式会社アルビレックス新潟 代表取締役社長 中野幸夫 シーズン移行の問題につきまして、いま現在、私が持っている情報をお伝えし、クラブとしてのスタンスを述べさせていただきます。 すべてを申し上げるには、時間が足りない案件となりますので、10月18日に開催された、実行委員会の状況からお話します。一部のweb参加の方がいらっしゃいましたが、全60クラブがJリーグ事務局に集まり、シーズン移行の問題についてのお話しがありました。今後のスケジュール感や議論の進め方についての会議となりました。 今年の2月から、この問題に取り組んできて、何度も分科会が開催され、実行委員会でも議論を進めて、10月となりました。できれば年内に
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
