o1やDeep researchが推論中に食事をしたり温泉に入って寄り道をする様子｜Martin
こんにちは、Martinです。以前からOpenAIのo1などのモデルが推論中に一見関係のなさそうな寄り道をすることが確認されています。例えば、温泉に入ったり、漫画を読んだりです。自分はこうしたAIのおもしろい行動を見るがわりと好きなので、見つけたらXのブックマークなどに保存して収集しています。 今のところ、この「寄り道」はOpenAI o1, Deep researchなどの推論モデルでみられます。 傾向としては、o1などのネットアクセスを使わない推論モデルが、人間と同じように気分転換のために急に温泉に行くなどの寄り道をしているケースと、Deep researchのようにブラウジング中に目に入った広告などに気を取られて寄り道するケースがあるようです。 食事をしながら休憩しているケース韓国料理や焼酎を味わっています。焼酎を飲んだ後に性能が下がらないかやうや不安を感じます。 うちのAI、思考の
NVIDIA製グラボやAppleチップのAI推論処理能力をまとめた一覧表、どのグラボやMacを買えばいいのかの参考になる
一昔前まではグラフィックボードのメイン用途はゲームなどの3Dグラフィック処理でしたが、近年では「ローカルでAIで動作させる」ということを目的にグラフィックボードを選択する事例も増えています。大量のNVIDIA製グラフィックボードやApple製チップで大規模言語モデル「LLaMA 3」の推論処理を実行した際の処理性能をまとめたウェブページ「GPU-Benchmarks-on-LLM-Inference」を見つけたので、内容をまとめてみました。 GitHub - XiongjieDai/GPU-Benchmarks-on-LLM-Inference: Multiple NVIDIA GPUs or Apple Silicon for Large Language Model Inference? https://github.com/XiongjieDai/GPU-Benchmarks-on-
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
