Python用GUIライブラリーを活用、ローカルLLMを利用するAIアプリをつくろう
生成AI（人工知能）はクラウドで提供されるものが主流だが、ローカルで動くものもある。ローカル生成AIのメリットや活用法を解説する。 「TkEasyGUI」は、筆者が開発しているPython用のGUIライブラリです。パラメータを細かく指定しなくても、見栄えの良いGUIアプリ（デスクトップアプリ）を手軽に作成できます。 ここでは、PythonとTkEasyGUI、そして、LLMの推論を行えるソフトウエアのOllamaを組み合わせて、図1のような「AIアシスタント」のデスクトップアプリを作成してみましょう。このアプリでは、画面上部のテキストボックスに、AIアシスタントに頼みたいこと（プロンプト）を書いて「送信」ボタンを押すと、画面下部のテキストボックスにLLMが生成した文章を表示します。なお、アプリの男性と女性の画像は、ChatGPTで生成したものです。
Google Cloud console
Your page may be loading slowly because you're building optimized sources. If you intended on using uncompiled sources, please click this link. Google Cloud コンソールで、www.gstatic.com から JavaScript ソースを読み込めませんでした。 考えられる理由: www.gstatic.com またはその IP アドレスがネットワーク管理者によってブロックされている自動リクエストが多すぎるため、Google がアカウントまたはネットワークを一時的にブロックしたサポートについてはネットワーク管理者にお問い合わせください。
Mastra + Ollama + MCPでローカルAIエージェントを作る
今回作成したコード Mastra + Ollama + MCP構成のサンプルコード（手っ取り早くローカルAIエージェントを使いたい人用） Streamable HTTP transportなMCPサーバー（デプロイ済なのでCloneは不要） Mastraの導入 mastraリポジトリのREADME.mdおよび、ニケちゃんさんの記事に従ってMastraを導入する。 というわけで、まずはMastraを導入する。Mastraの導入自体は簡単で下記のコマンドを一つ打つだけで良い。 $ npx create-mastra@latest Need to install the following packages: create-mastra@0.10.5 Ok to proceed? (y) y ┌ Mastra Create │ ◇ What do you want to name your pr
クソデカオープンモデルではLlama4が最強かもしれない - きしだのHatena
もう全人類128GBとか512GBとか載ったMacを手にいれてクソデカモデルを試すようになっていますね。 ぼくもMac Studio 512GBを1日借りてて試したのだけど、Llama4がなんだかんだで強いという印象でした。 クソデカモデルの選択肢としては次のようなものがあります。512GB Macで動かしたときの数字も参考までに。 モデル パラメータ数 アクティブ コンテキスト長 マルチモーダル 量子化 推論速度 LLama4 Maverick 400B 17B 1M 〇 4bit 36tok/sec Llama4 Scout 109B 17B 10M 〇 8bit Qwen3 235B A22B 235B 22B 128K × 8bit 18tok/sec DeepSeek V3 671B 37B 128K × 2bit 17tok/sec で、試すんだけど、Llama4 Maveri
Llama 4: Metaがもたらす新時代のマルチモーダルAI革命
Llama 4: Metaがもたらす新時代のマルチモーダルAI革命 はじめに 2025年4月5日、Meta AIは待望の新しいAIモデルファミリー「Llama 4」を正式に発表しました。このLlama 4は、Metaにとって初めてのネイティブマルチモーダルモデルであり、また初めてMixture of Experts（MoE）アーキテクチャを採用したモデルでもあります。 現代のAI開発において、オープンソースモデルの重要性はますます高まっています。特に、日常生活でAIを活用する人々が増える中、先進的なモデルとシステムが広く公開されることで、誰もがパーソナライズされたAI体験の未来を構築できるようになります。 この記事では、Llama 4の革新的な特徴、その技術的背景、競合他社のモデルとの比較、そして将来の展望について詳しく解説します。AI技術者として、この新たなモデルがもたらす可能性と影響を
家庭用GPUでLlama 4を動かす方法：複数のRTX 4090でH100級の環境を構築する
家庭用GPUでLlama 4を動かす方法：複数のRTX 4090でH100級の環境を構築する はじめに Metaが発表した最新の大規模言語モデル「Llama 4」は、その高い性能で注目を集めています。しかし、公式によると最小でもNVIDIA H100 GPUが必要とされており、一般ユーザーにとっては簡単に利用できる環境ではありません。H100は価格が高く（数百万円以上）、入手も困難な状況です。 そこで本記事では、比較的入手しやすい家庭用GPU（RTX 4090など）を複数枚使って、H100に匹敵する環境を構築し、Llama 4を動かす方法を紹介します。この方法により、より多くの開発者やAI愛好家がLlama 4の可能性を探求できるようになります。 なお、Llama 4自体の詳しい解説は以下の記事に譲りますので、そちらをご参照ください。 本記事では、複数GPUのセットアップ方法と、実際にLl
LM Studio - Discover, download, and run local LLMs
🤖 • Run LLMs on your laptop, entirely offline 📚 • Chat with your local documents (new in 0.3) 👾 • Use models through the in-app Chat UI or an OpenAI compatible local server 📂 • Download any compatible model files from Hugging Face 🤗 repositories 🔭 • Discover new & noteworthy LLMs right inside the app's Discover page LM Studio supports any GGUF Llama, Mistral, Phi, Gemma, StarCoder, etc model
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
llama-cookbook/end-to-end-use-cases/Multi-Modal-RAG/README.md at main · meta-llama/llama-cookbook
llama-cookbook/recipes/quickstart/Running_Llama3_Anywhere/Running_Llama_on_Mac_Windows_Linux.ipynb at archive-main · meta-llama/llama-cookbook
llama-cookbook/getting-started/build_with_llama_4.ipynb at main · meta-llama/llama-cookbook
GitHub - meta-llama/llama-cookbook: Welcome to the Llama Cookbook! This is your go to guide for Building with Llama: Getting started with Inference, Fine-Tuning, RAG. We also show you how to solve end to end problems using Llama model family and using the
Meta Trains LLaMA Models Using Public Facebook and Instagram Data
GitHub - InternLM/xtuner: An efficient, flexible and full-featured toolkit for fine-tuning LLM (InternLM2, Llama3, Phi3, Qwen, Mistral, ...)
Multimodal AI: A Guide to Open-Source Vision Language Models
Llama 4 | Model Cards and Prompt formats
Running Meta Llama on Mac | Llama Everywhere
Vertex AI で MaaS として Llama 4 を一般提供- Google Developers Blog
GitHub - meta-llama/llama-prompt-ops: An open-source tool for general prompt optimization.
How to optimize your prompt for Llama | Llama videos
Building with Llama 4