タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

GPUとChatGPTに関するtimetrainのブックマーク (2)

  • 俺の128GB MacBook Proが真価を発揮する時がきた。ChatGPT o4-mini並みのgpt-oss-120bがローカルで動いてるよ(CloseBox) | テクノエッジ TechnoEdge

    やってきましたね。PCユーザーたちがMacユーザーを羨望の眼差しで見るときが。 OpenAIが公開したChatGPTのオープンソース版「gpt-oss」。その2つのモデルであるgpt-oss-20bとgpt-oss-120bは、それぞれ16GB以上、80GB以上のVRAMを持つプロセッサが必要です。 下位モデルのgpt-oss-20bはChatGPT o3-miniと、上位のgpt-oss-120bはo4-miniと同等の結果を出すとしています。 つまり、世界で最も使われているLLMの、実力的にも十分なモデルが、ローカルマシンで動くのです。 しかし、推論には高性能なGPUが必要。16GB以上のVRAMを持つGPUならNVIDIA製ボードがいくらでもありますが、120bを動かせる80GB以上のVRAMを積んだGPUは、現行モデルでなくても数百万円はしますし、そもそも希少なものなので手に入れる

    俺の128GB MacBook Proが真価を発揮する時がきた。ChatGPT o4-mini並みのgpt-oss-120bがローカルで動いてるよ(CloseBox) | テクノエッジ TechnoEdge
    timetrain
    timetrain 2025/08/07
    VRAM以上に小説が重いんですけどお!
  • ChatGPTの新画像生成、利用急増で無料ユーザー向け延期 「GPUが溶けてる」とCEO

    「残念ながら、無料レベルへの展開はしばらく遅れます」──米OpenAIのサム・アルトマンCEOは3月26日(現地時間)、前日発表した「ChatGPT」の新たな画像生成機能について、Xでそう発表した。予想をはるかに上回る人気で、「GPUが溶けている」という。 同氏は別の投稿で、「効率化に取り組む間、一時的にレート制限を導入する予定」で、無料ユーザー向けは提供を開始しても画像を生成できるのは「1日当たり3回」になると説明した。 アルトマン氏は現在、自分のXのプロフィール画像をアニメ風なものに変えている。 この機能のデモ動画では、写真に「アニメ調にして」というプロンプトを添えた結果を紹介している。アルトマン氏のプロフィールも、このデモで生成された画像も、少し“ジブリ風”(スタジオジブリ作品のよう)だ。 その後、Xには「Ghibli Syle」(ジブリ風)と指定したアニメ風画像が溢れた。 Open

    ChatGPTの新画像生成、利用急増で無料ユーザー向け延期 「GPUが溶けてる」とCEO
    timetrain
    timetrain 2025/03/28
    消費電力を考えるとぞっとするところではある
  • 1