タグ

ブックマーク / zenn.dev/aiforall (1)

  • 話題のmicrogptを早速試してみる

    2月12日にkarpathy氏がGistに投稿した以下のmicrogptをご存知でしょうか。 この記事を執筆してる時点で一週間が経過していますが、なおも修正が行われているこれは、GPTの構造をPythonで簡易的に実装したソースコードになります。GPTの構造を理解するのにも役立つ内容となっており、その行数は最新(2/18 11時時点)で、200行という短さです。 加えて、プログラムファイルの先頭にあるDocstringの通り、Pythonの標準ライブラリのみを使用して実装が行われているため、他の複雑なライブラリを理解することなく、たった200行でGPTを知ることができる内容だということです。すごいですね。 The most atomic way to train and run inference for a GPT in pure, dependency-free Python. 2/2

    話題のmicrogptを早速試してみる
    igrep
    igrep 2026/02/19
    いいねぇ "GPTの構造をPythonで簡易的に実装したソースコードになります。GPTの構造を理解するのにも役立つ内容となっており、その行数は最新(2/18 11時時点)で、200行という短さ"
  • 1