『RAM32GB搭載のCopilot+PC準拠パソコンで試したいLLM』
こちらの過去の記事でも書いていますが、ローカル環境、自分が使っているパソコンでLLM大規模言語モデルやSLM小規模言語モデルを使う際は、VRAMやRAMの容量が重要になります。 NPUは、利用するソフトウェアが対応している必要がありますので、通常は、GPUを使うかGPUが無いときは、CPUのみでLLMなどを利用することになります。 この設定を簡単に行うことができるのが、LM Studioというソフトウェアです。 こちらの記事が、参考になると思います。 Stable Diffusion web UI(AUTOMATIC１１１１版)を使う人の中には、VRAMが8GB必要とか24GBあると良いとかという話をネットで見聞きした人も多いと思います。 ローカル環境で生成AIを使う人は、GPUの能力やVRAMの容量が、最大の関心事だと思います。 ６月１８日から発売されるASUSのSnapdragon X
『RAMが32GBあるのでNPU対応グラフィックソフトを使っても能力を発揮できるかも』
このASUSのSnapdragon X Elite搭載の新型「ASUS Vivobook S 15」（S5507QA-HA321W）は、本体メモリRAMが32GBありますので、生成AIをローカル環境で使うときも助かると推測されます。 Snapdragon X Eliteは、最大45STOPSのQualcomm Hexagon NPUが内蔵されていますので、Copilot+PCで使えるAI機能も使えます。 またGPUコアは、Qualcomm Adrenoをで、32GBのRAMと共用VRAMとなっています。 この共用VRAMなので、本体のRAMが32Bあることは、とても重要になってきます。 本体メモリが16GBと少ない機種は、VRAMで使われたときに、パフォーマンスが落ちないか気になっています。 そのためVRAMが本体メモリと共用になっている場合は、できるだけRAMの容量が多いパソコンを選ばれ
『Snapdragon X Elite搭載パソコンのVRAM共有メモリの利点と』
まず、VRAMとメインメモリの共有は、必要に応じてメモリリソースを柔軟に配分できるため、効率的なメモリ使用を実現します。例えば、システムに32GBのメモリが搭載されている場合、その一部がVRAMとして使用されます。このため、すべての32GBが純粋にシステムメモリとして利用できるわけではなく、GPUの処理にも使われる部分があることを理解しておくことが重要です。これにより、通常の使用シナリオでは十分なパフォーマンスを発揮しつつ、特定のアプリケーションやタスクが要求するメモリ量に対応できます。 Stable Diffusionを使用する際のGPUの重要性 特に生成AIであるStable Diffusionを使用したい方にとって、GPUの能力は非常に重要です。Stable Diffusionは、高度な画像生成アルゴリズムを用いるため、GPUの処理能力がその性能を大きく左右します。Stable Di
『ローカル環境でLLMやSLMを試したい人は、Snapdragon X Elite搭載パソコンが』
AIを使って生産性向上を目指すクリエイターMツインレイと出会い人生V字回復を目指しています。 ココナラを通じてWordPressの復旧作業を多数請負った実績ありIT系の仕事をしたいという夢を叶えています。 法人化できるように活動しています。 Snapdragon X Elite搭載パソコンは、45TOPSの能力があるので、LLM（生成AIの学習モデル）もローカル環境で快適に使えると思います。 Core UltraのNPUよりもSnapdragon X Eliteの方がTOPSの値が高いので、Copilot+PCの機能を利用を希望される際は、Core Ultraよりも、Snapdragon X Elite搭載パソコンを選択されると良いです。 生成ＡＩをローカル環境で使いたい人は、Snapdragon X Elite搭載パソコンを選択できるようになったので、Mac Studioなどのパソコンな
『OpenAIからGPT-4oが発表されました。すべてのユーザーで使えるそうです。』
AIを使って生産性向上を目指すクリエイターMツインレイと出会い人生V字回復を目指しています。 ココナラを通じてWordPressの復旧作業を多数請負った実績ありIT系の仕事をしたいという夢を叶えています。 法人化できるように活動しています。 OpenAIから新しいLLMのGPT-4oが、発表されました。 Microsoft Copilotに質問して調べました。 その回答です。 GPT-4o（ジーピーティーフォーオムニ）は、OpenAIによって開発された最新のマルチモーダル大規模言語モデルです。テキスト、音声、画像の組み合わせを入力として受け取り、それらの組み合わせを出力することができます。 GPT-4oは、英語やコードにおけるテキスト処理のパフォーマンスはGPT-4 Turboと同等でありながら、非英語言語のテキスト処理において大幅な改善が見られ、APIの速度も向上し、コストは半分になって
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【西川和久の不定期コラム】 日本語にも対応したLLM「Cohere Command R(+)」の実力は？
Claude3 Opusの料金節約したい方におすすめ
MSN
『私の要約』