何かと話題のDeepSeekをMacのローカル環境で実行してみた！ - Qiita

これらのモデルは、元のモデルに比べるとかなり小型化されています。 蒸留（ディスティレーション）を通じてモデルを“圧縮”することで、推論の速度を向上させ、一般的なPCやiPhone等のスマートフォンでも動作可能なレベルに調整されています。 驚異のパフォーマンス：小型でも特定タスクでGPT-4oを超える？ DeepSeekのテクニカルペーパーによると、Distilled Modelsのベンチマークテストでは、 「8Bパラメータのモデルでさえ、特定のタスクにおいてGPT-4o（昨年5月時点のバージョン）を上回る」 という結果が出ています。 ただし、これは数学やコード生成といった特定のタスクに特化したトレーニングを行った場合の話です。 総合的な文章生成や知識カバー率では、依然としてGPT-4oやClaude、o1などのフロンティアモデルのほうが優れています。 つまり、 「タスクによってはローカルモ

[kei_1010]

俺のR1 32Bちゃんは習近平政権の崩壊について答えてくれた。https://kei-1010.hatenablog.com/entry/2025/02/01/173402

[misshiki]

“私のMBPでは32Bモデルの動作も可能でした。 容量は20GB程で、動かすとメモリ48GBフルで使ってしまいます。”

[tg30yen]

>32Bモデルの動作も可能でした。容量は20GB程で、動かすとメモリ48GBフルで使ってしまいます。動作は軽快でCPUはそれほど使わないようです。

[ene0kcal]

うちのノートPC（第8世代Intel+nVidia P1000）には128GBメモリ積んでるので試しにやってみた。サイバーエージェントの日本語のやつ32bだけど1クエリ9分かかるので使い物にならない。やっぱGPUが最新のPCが欲しい。

[nikkie-ftnext]

蒸留された小型モデル（例：DeepSeek-R1-Distill-Qwen-1.5B）をollamaで動かすということみたい

[zgmf-x20a]

V3とR1では話が違うから、タイトルには記した方がいい。R1だったらみなさん普通にローカルで使ってるのでは？

[nabinno]

ローカルAIの検証はfreeCodeCampの解説がわかりやすい。こちらも参考まで。 https://x.com/nabinno/status/1884599969912590675

[hanajibuu]

windowsでLM Studio+DeepSeekで試したら30分後にはチャットできたよ（ほぼダウンロード時間）。

[makiskyster]

“share”

[ST0RM]

クロードやジェミニに匹敵するという情報まででてきたらホンモノなのだが、、、！！！

[l_etranger]

Dify＋Ollama＋DeepSeekR1の組み合わせで完全ローカルで簡単な処理をするワークフローを作ってtestしてみている。thinkがなかなか優秀。PC的にそんなにスピードが出ないので他の作業する間にやってもらうなど。地味に便利。

[strawberryhunter]

Web版ではdeep thinkさせると結構いい出力が得られるので、先日買った新PCはミニPCじゃなくGPUをゴリゴリ載せられるのにしておけば良かったと少し後悔している。

[ebibibi]

それなりの性能のAIをローカルで使い放題にできる環境がかなり整ってきましたね。ガンガン高性能化、低価格化していくと思うとそういう時代に向けた準備が必要ですね。とりあえずアプリは全部AIネイティブ化ですかね

[T-norf]

せっかく動かしたら、どれくらいの速度がでてるかだけでも書いて貰えると嬉しいな。トークン/sec

[poad1010]

この記事をおすすめしました