タグ

2023年8月28日のブックマーク (5件)

  • 225行のコードでGPTの仕組みを理解する

    概要 LLMに関心があり、ChatGPTやtransformerの仕組みを理解したいと思っていたところ、雰囲気を掴むのにこちらの動画がとても参考になりました。 動画の内容としては、以下のコーパスを学習して、直前の数文字から次の1文字(単語ではないことに注意)予測機を作成するというものです。 この動画で完成するコードは以下で、225行しかなくとても読みやすいです。 また短いですがtransformerのエッセンスが詰まっていて勉強になりそうです。 このコードを読み解くことでGPTやtransformerがどのように動いているのか、ざっくり理解してみようと思います。 ちなみに完成するとこんな感じの文字列が生成されます。ぱっと見文章っぽいですね。 first Scitizen: He's enough; but he cannot give his friends. MARCIUS: Do yo

    225行のコードでGPTの仕組みを理解する
    millfi
    millfi 2023/08/28
  • PS5 vs. PC Load Time Comparison

  • 【ゲーム/CPU】『AI*少女』がRyzenでムーンウォークする ←!?? [Update 1: 修正] | ニッチなPCゲーマーの環境構築Z

    2019年10月25日発売のイリュージョンの新作erg『AI*少女』をプレイしたユーザーから「ムーンウォークする」といった悲鳴が多数出ています。「ムーンウォークする」とはいったいどういうことなのか。それがこちら。 (Source:imgur) どの方向に進んでもキャラが正面を向いたままから変わらず、まさにムーンウォーク状態となっています。厄介なことにこのバグは頻繁に発生し、プレイした瞬間からムーンウォークってることもあると報告するユーザーもいます。そしてこのバグの発生条件はなんと、RyzenシリーズなどのAMD CPU環境でのみ発生する模様です。 現在のところ、Ryzen 2000、3000シリーズおよび、他AMD APUでも発生するとの報告が出ています。開発元のイリュージョンはこのバグを知ってか知らずか、動作環境に 「Intel社製CPUを推奨します」と書いています。万が一にもこのムーン

    【ゲーム/CPU】『AI*少女』がRyzenでムーンウォークする ←!?? [Update 1: 修正] | ニッチなPCゲーマーの環境構築Z
    millfi
    millfi 2023/08/28
    これ結局どういう原因だったのか気になる
  • シェーダーのコンパイル - Unity マニュアル

    概要 プロジェクトをビルドするたびに、Unity エディターはビルドに必要なすべてのシェーダーをコンパイルします。必要なグラフィックス API ごとに、必要なシェーダーバリアントをすべてコンパイルします。 Unity エディターでは、すべてを先行してコンパイルすることはありません。すべてのグラフィックス API に対応するすべてのバリアントをコンパイルするには、非常に長い時間がかかるからです。 その代わりに、Unity エディターは以下のようにしています。 シェーダーアセットをインポートする場合、一部の最小限の処理 (サーフェスシェーダーの生成など) を行います。 シェーダーバリアントを表示する必要がある場合、Library/ShaderCache フォルダーを確認します。 以前にコンパイルされたシェーダーバリアントが同一のソースコードを使用していることを見つけた場合、それを使用します。

    シェーダーのコンパイル - Unity マニュアル
    millfi
    millfi 2023/08/28
    “Metal を使用するプラットフォームは、Microsoft の FXC HLSL コンパイラーを使用し、その後、HLSLcc を使用して、バイトコードを Metal に変換しています。”
  • 【Unity】【シェーダ】ブルームのポストエフェクトを実装する - LIGHT11

    ポピュラーなポストエフェクトであるブルームを実装してみます。 はじめに ブルーム? ソースコード ソフトニー 関連 はじめに この記事ではブルームのポストエフェクトの実装方法を紹介します。 ポストエフェクトの基礎については以下の記事で紹介していますので、必要に応じて参照してください。 light11.hatenadiary.com ブルーム? ブルームとは、明るい部分から光が漏れ出るような表現です。 この現象は夜道で街灯を見たときなど、人間の目でも確認できます。 実装の考え方はシンプルで、 一定以上の明度の色を抽出 それらをぼかしつつ加算 元の画像と合成 これだけです。 ソースコード まずシェーダから。 Shader "Bloom" { Properties{ _MainTex ("Texture", 2D) = "white" {} } SubShader { CGINCLUDE #pr

    【Unity】【シェーダ】ブルームのポストエフェクトを実装する - LIGHT11