タグ

Languageとnoteに関するkyo_agoのブックマーク (6)

  • 大規模言語モデル間の性能比較まとめ|mah_lab / 西見 公宏

    StableLMのファインチューニングってできるのかな?と調べたところ、GitHubのIssueで「モデル自体の性能がまだ良くないから、ファインチューニングの段階ではないよ」というコメントがありまして。 シートの中身を見てみるlm-evalシートstablelm-base-alpha-7bは54行目にありまして、確かに他の言語モデルと比較するとまだまだな性能のようです。応援したいですね。 シートの列の意味それぞれの列の意味については推定ですが以下の通りです。 RAM 言語モデルのGPUメモリ消費量。 lambada(ppl) LAMBADAデータセットによる測定値。ロングレンジの言語理解能力をテストする(文章全体を読まないと答えられないタスクでの評価)。PPLはPerplexityという指標で、モデルの予測の不確かさを示す。PPLが低いほど、モデルの予測精度が高い。 lambada(acc

    大規模言語モデル間の性能比較まとめ|mah_lab / 西見 公宏
  • 画像付きのノベルゲームを遊べるプロンプトを作ったら臨場感が溢れすぎた話|ちゅーりん

    ChatGPTで画像も出力できたらいいのにな…」 という問題が解決しました! さっそくですが、以下のプロンプトを「GPT4」に貼ればゲームを開始できます。 1,中世ヨーロッパの物語 GPT-4 AI ゲームマスターとして、あなたはプレイヤーが少女に協力して彼女と共に危機に見舞われた王国を救う冒険をするため、「交換日記と時空の絆」を導きます。 物語は、中世ヨーロッパの世界と現代の地球が絡み合った世界で展開されます。プレイヤーは、現代の地球で暮らす普通の人物であり、チャットを入力していると、それが手元にあった中世ヨーロッパの歴史が変わっていくことに気付きます。このチャットは、その時代に生きる少女、カイとチャットでコミュニケーションを取ることができる特別なものです。カイは冒険に際して手帳を持っており、そこにプレイヤーのチャットの内容が交換日記のように日を追うごとに追記されていきます。また、筆記

    画像付きのノベルゲームを遊べるプロンプトを作ったら臨場感が溢れすぎた話|ちゅーりん
  • LLMがなぜ完全自動運転に必要なのか|山本一成🚗TURING

    生成AIとLLMは世界を理解する能力を持っています。Turingの自動運転アプローチはカメラ方式で、運転の判断機構を重視しています。人間の運転学習と同様のアプローチでAIを開発することが完全自動運転の実現に繋がります。大規模基盤モデルが現実世界を理解し、制御できるようになることで、レベル5の自動運転が実現するでしょう。 ChatGPT4によるこの文章の要約生成AIやLLMの質は世界を理解していること生成AIやChat GPTに代表されるLLM(Large Language Model, 大規模言語モデル)は表面的にはお絵描きやチャットボットという印象を持つかもしれません。しかしこれらのAI質は世界を認知・理解している点です。だからこそ、これらのAIは素晴らしいアウトプットを出せるのです。Chat GPTとの対話は時に大きな示唆を提供してくれます。また、画像生成AI「Stable Di

    LLMがなぜ完全自動運転に必要なのか|山本一成🚗TURING
  • ゲームエンジンはアートである - 8 年以上自作ゲームエンジンをメンテし続けている話|Hajime Hoshi

    自分は Ebiten という 2D ゲームエンジン (ゲームライブラリ) を趣味で開発しています。使用しているプログラミング言語は Go です。 2013 年 6 月に最初のコミットを行ったので、現在 8 周年の 9 年目です。 Ebiten は「くまのレストラン」などのモバイル及び Nintendo Switch 向けゲームで使われており、一定の実績があります。 ゲームエンジンの開発は一朝一夕では終わりません。UnityRPG ツクールといった既製品がある中、ゲームエンジンをわざわざ自作することは酔狂かもしれません。ではなぜそのようなことをしたのでしょうか。端的に言うと「ミニマムな API で実用的な 2D ゲームが作れるかどうか」ということを証明したかったのです。自分の美的感覚の追求です。この目的に気づいたのは割と最近のことです。やっていくうちに「自分がやりたかったのはこういうこ

    ゲームエンジンはアートである - 8 年以上自作ゲームエンジンをメンテし続けている話|Hajime Hoshi
  • トイレの操作盤だけで点字をすべて予想する|鬼谷

    こんにちは。 先日、友人たちと上野動物園に行きました。 ここは動物がたくさんいて良い施設です。 ちなみに私は年パスを持っています。 私は年パスを持っていない友人たちに対して得意げに園を案内していたのですが、なぜかいきなり腹が痛くなったのでトイレに行きました。 「せっかくの動物園なのに……。もし年パスを持っていなかったらこんな時間の過ごし方は悔しすぎて泣くぞ……」と思いながら個室で格闘していると、そのうち暇になってきたのでウォシュレットの操作盤を観察し始めました。そこで、あることに気づきます。 「これ、点字がついてるな……」 そう、点字がついているのです。全てのボタンに点字が添えられています。しかし、私は点字を読むことができません。 振り返れば今まで多くのものに点字がついていることは認識していましたが、私自身が点字を必要とする場面がなかったために強く意識することがありませんでした。 そこで私

    トイレの操作盤だけで点字をすべて予想する|鬼谷
  • マイクロサービスを (Ruby on Rails 以外の任意の言語) で書くことについての意見|qsona

    この文書は、ある組織において、ある一つの Ruby on Rails で書かれたサービスの全部または一部を、(言語A) で書き直したい、という proposal に対して qsona が表明した意見の文を、一部手直ししたものです。このサービスは、現在担当しているチームとは別の人が初期実装をしたものであり、現在はまだ小規模ですが、今後新しいチームの手により発展していくもので、現在の規模のうちに要件や新しいチームメンバーに最適な言語で書き直すという選択は十分合理的です。また、この組織内のコードは、Ruby on Rails で書かれているものが大半であり、さらに組織としてマイクロサービスアーキテクチャの方向を目指している、という前提の上でお読みいただければと思います。もちろん文責は qsona 個人にあり、qsona の属する組織の意見とは関係ありません。 ------------------

    マイクロサービスを (Ruby on Rails 以外の任意の言語) で書くことについての意見|qsona
  • 1