xai-org/grok-2 · Hugging Face

YAML Metadata Warning: empty or missing yaml metadata in repo card (https://huggingface.co/docs/hub/model-cards#model-card-metadata) Grok 2 This repository contains the weights of Grok 2, a model trained and used at xAI in 2024. Usage: Serving with SGLang Download the weights. You can replace /local/grok-2 with any other folder name you prefer. hf download xai-org/grok-2 --local-dir /local/grok-2

[misshiki]

“このリポジトリには、2024 年に xAI でトレーニングされ使用されたモデルである Grok 2 の重みが含まれています。” Grok 2.5ということでいいのかな...。イーロンマスクの発言がこれにリンクされているんよね。

[boxshiitake]

性能は完全に時代遅れなので研究目的に使えるかどうか

[mkusaka]

Grok 2の重みは42ファイルで約500 GB、TP=8で8枚>40 GB GPUが必要。SGLangでサーバ起動しfp8量子化で推論可能。