Jevにゲームをやらせるな！LLMを蒸留してみよう！

はじめに Jevのデモとして公式ではDOOMをプレイさせるデモがありました。 100ms前後のレイテンシでレスポンスを返せるため、リアルタイム制御に使えるという点が強調されています。 またXをみているとJevにゲームをプレイさせた投稿を多く見かけました。 「BERTでよい」論などあると思いますが、特にゲームにおいては入力が自然言語でない以上、簡単に決定木などの古典的な手法で置き換えが可能であり、Jevより性能のよいLLMを蒸留することによって高速、安価、高精度なモデルを簡単に作ることができるため、Jevを使う必要性はないだろうというのが自分の思うところです。 本記事ではLLMを蒸留してモデルを作成するまでの流れを紹介します。 マリオのデモ 今回は題材としてこのデモで示されるマリオを使いたいと思います。 ここで用いられているハーネスはGitHub上に公開されていたため都合が良かったからです。

[revert]

学習データで評価しても意味ないよね

[magi00]

用途に合わせて蒸留して最適化の学習を行ったモデルが強いのは当たり前では？慣れれば大した手間ではないのかもしれないけどJevの強みってそこじゃないよね。

[misshiki]

マリオ1-1でLLMの操作判断をLightGBMへ蒸留。RAMから位置・速度・敵や穴の距離をJSON化し、DeepSeekの成功18試行から4,911件を収集。2択の操作を学習したローカルモデルは未学習の開始タイミング100試行で全クリア。

[wordi]

LightGBMは機械学習だからLLM教師による学習を蒸留と呼ぶのは広い意味ではそうでも齟齬がでそう

[kei_1010]

Jevにゲームをやらせるな、は言い過ぎ。反射神経を任せるのは無理だが、例えば、敵AIの反射神経を通常のコードで書いて、ユーザーのパターンをJevに渡してレイテンシ含めて判断させたらどうか？

[colonoe]

本題と関係ないが、RAMから読み取った情報を使うのは反則だと思う。隠しブロックとかカンニングしてるようなものでしょ

[nguyen-oi]

Jevの規約に触れつつも古典手法で置き換える流れ、技術者らしくて好き