RTX 5090でFreeTokenを試してみた。35Bでは不要、120B級MoEでは話が変わる
2026年8月22日時点のFreeToken 0.1.2を、RTX 5090 32GBとRAM 128GBのPCで試しました。 FreeTokenは、Mixture-of-Experts（MoE）モデルのexpertをホストRAMへ置き、必要なexpertだけをGPUへキャッシュしながら推論するサービングエンジンです。狙いはvLLMやllama.cppを単純に高速化することではなく、VRAMに収まらない巨大なMoEをコンシューマ向けGPUで実用速度で動かすことにあります。 実際に試すと、この立ち位置がかなり明確に出ました。23.5GBのOrnith 1.5ではllama.cppとvLLMの方が速い一方、65.2GBのgpt-oss-120bは単発127.1 tok/sで動きました。さらに83.5GBのQwen3.5-122B-A10Bも、多少の調整は必要でしたが32.0 tok/sで推論で
塩原温泉の足湯「湯っ歩」のポスターで桶に入った足が切断されているように見えるイラストがあり、AIらしい不自然さが話題に→「まるでホラー」AIを使うなら確認してから
松田 扇 @ohgi_RE 生成AIが良くも悪くも話題になっている今、塩原温泉足湯施設 湯っ歩のAIポスターを載せたいと思います… pic.x.com/B8weq6w8f3 2026-08-17 21:02:37 松田 扇 @ohgi_RE NHKの塩原温泉特集？で湯っ歩の里が出たこともあって随分インプレッションがあるみたいです… 因みに利用した平日は入館受付、電話応対、軽食調理提供がワンオペで A4新商品みるちぃ生成AIポスターは管理の建設会社社員か知り合いに頼んだ、店員が空き時間にちゃちゃっと生成、あたりだと思います。 x.com/ohgi_RE/status… 2026-08-22 10:28:02
慶応・新沢かれん容疑者の髪にひろゆきが反応「マンジャロってハゲるの！？」→医師「マンジャロは禿げます。港区は薄毛の若い子が多い」
Masa @masanews3 慶応大学、新沢かれん容疑者 ハゲとるやないかーい！！！www🤣🦁 慶應大学 総合政策学部 新澤かれん容疑者 スポーツ施設のロッカーから客のクレカを盗み不正利用 余罪がおよそ100万円分あるとみて調べています👮🦁 pic.x.com/aO20rcwYnM x.com/masanews3/stat… 2026-08-17 16:13:51 Masa @masanews3 慶応大学4年、新沢かれん容疑者 バイト先のスポーツ施設のロッカーから客のクレカを盗み逮捕😱🦁 逮捕される前にインスタも消しておけばよかったのに😅🦁 なお、慶應義塾体育会スキー部のブログから 総合政策学部マネージャー"新澤かれん"の記事が一斉削除されているようです😅🦁 pic.x.com/U7ZQBU6Lm0 2026-08-17 12:59:42
Qwen3.8-27B におすすめのハーネス｜npaka
「Qwen3.8-27B」におすすめのハーネスをまとめました。 1. はじめに「Qwen3.8-27B」は、ローカル環境でも動かせる高性能なオープンウェイトLLMです。 モデル単体で使うだけでなく、「Pi」や「OpenCode」などのコーディングエージェントハーネスと組み合わせることで、コードの読み書き、コマンド実行、検索などを自律的に行わせることができます。 今回は、「Qwen3.8-27B」と組み合わせる候補として評判の良いコーディングエージェントハーネスを紹介します。 2. Qwen3.8-27B におすすめのハーネス2-1. Pi「Pi」は、シンプルで軽量なコーディングエージェントハーネスです。 基本ツールを「read」「write」「edit」「bash」などに絞っており、システムプロンプトやツール定義によるコンテキスト消費を抑えやすいのが特徴です。 Qwen3.8-27Bのよう
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
