LLMをWindowsローカルマシンで実行し、AMD RX6600Mを使う。(LM Studio, KoboldCpp-rocm) - AOI-CAT's diary
はじめに AMD RX6600M GPUを搭載したWindowsマシンで、テキスト生成用途にLLM実行環境を試したときのメモです。 LM Studio、Ollama、KoboldCpp-rocm、AnythingLLMの各ソフトウェアの使用感、GPU動作について紹介します。 結論として、この中ではLM StudioとKoboldCpp-rocmがAMD RX6600Mを利用して動きました。 はじめに モデルについて 使用感と利点・欠点 1. LM Studio 2. Ollama 3. KoboldCpp-rocm 導入と設定 4. Anything LLM まとめ モデルについて LM Studio、KoboldCpp-rocmについては、GGUF形式にしたモデルを読み込みます。 huggingface.co こちらからMeta-Llama-3-8B-Instruct-Q4_K_Mを読み
MacOS ユーザが WSL では無い Windows のコンソール環境を整える - 2nd life (移転しました)
先日、メインの開発環境を MacOS から Windows 10 Professional へと移しました。理由としては主に2点で、現在仕事を自宅の固定席で行っており PC を持ち運びする必要がなくなったため Mac より高速で安価な Windows デスクトップ機を使いたいこと(Ryzen 9使いたい!)、WSL2 が正式版となり使ってみた感じ問題なく WSL2 で仕事の開発ができそうだったことが挙げられます。 WSL2 はふつうに Linux なので問題なく開発環境の構築が行なえ、Windows からも VSCode Remote のおかげでで違和感なくWSL2上のコードを編集、実行ができ快適な開発が行えています。(なお、WSL2 についての記事は山程溢れているので、ここでは殆ど触れません。) しかしながら、WSL2 ではないふつうの Windows 上で開発する機会が出てきたので、M
最近のWindowsの開発環境のセットアップ - 純粋関数空間
周囲にWindowsユーザがめっきり減ってきた昨今ですが、 Windowsユーザの皆様はいかがお過ごしでしょうか。 Windows8は使えないだの、 シェルがしょぼいからあれだのと言われることも多いですが、 圧倒的にたくさんのPCで安心して動かせるOSとして、 私個人としてはとても便利に使っています。 Let’snoteのCF-S10Dという2年ほど前の機種を使っているのですが、 ようやくPanasonicのWindows8サポートがこの機種までやってきたので、 Windows8に入れ替えることにしました。 実は発売当初にもWindows8を入れていたのですが、 Let’snoteを快適に使うには必須の、「くるくるホイール」が使えなかったり、 謎の認識されないデバイスがあったりだったので、 Windows7に戻していました。 というわけで、セットアップついでにそのときの記録を書いておこうと
Windowsで最高のターミナルを構築する方法 - 純粋関数空間
皆さん、Windowsでコマンドライン使ってますか？ まともなターミナルエミュレータすらないと思っている方もいらっしゃるかもしれませんが、案外何とかなるものです。 これが完成図です。1週間ほどいろいろ試した結果、動作、見た目、フォントレンダリング、どれもおおむね満足行く結果になりました。 Terminal Emulator選び Windowsをお使いの皆様ならご存じかとは思いますが、デフォルトのTerminal Emulatorである cmd.exe が良くないです。 挙動、フォント云々の話をするまでもなく、横幅が80文字固定なのがどうしようもありません。 プロパティのレイアウトのところから幅の変更ができるようでした。ご指摘ありがとうございます。 この辺を見てWindowsで動作するものを一通り試してみたのですが、動作がおかしいか、フォントが気に入らないか、プロプライエタリかで、どれもよく
DataStore フォルダを削除する方法
Windows Update Microsoft Windows XP Home Edition Microsoft Windows XP Professional Microsoft Windows XP Professional x64 Edition その他...表示数を減らす 概要 この資料は、wuauclt.exe がコンピューターのリソースを消費している場合に Windows Update の更新履歴を削除する方法について説明しています。 詳細 wuauclt.exe がコンピューターのリソースを消費している場合、コンピューターの動きが遅くなったように感じることがあります。その際にWindows Update の更新履歴を削除することで改善する可能性があります。 解決方法 DataStore フォルダの内容を削除します。 警告：以下の手順はファイル削除の操作が含まれています。誤
VPN環境でドメイン参加 | 煤式自動連結器
VPN環境でドメイン参加 2007年05月10日 10時32分 月齢:23.0[真夜中の月] 潮汐:小潮 (最終更新日:2019年09月02日) 17年前に投稿 | ウェブ・IT関係 | コメントはありません 3分ぐらいで読めます。 この記事は情報が古い場合があります。 現在勤務している会社では、本社と60営業所間でVPNを利用しています。ドメインコントローラーは本社にあるので、ほぼすべてのパソコンはドメイン参加させています。 Windows2000のパソコンは、営業所からも難なくドメイン参加させられるのですが…Windows XPのパソコンは、ドメイン参加させようとすると、エラーが出ます。 注意: この情報はネットワーク管理者向けのものです。ネットワーク管理者でない場合は、ネットワーク管理者に連絡してこの情報を伝えてください。この情報はファイル C:\WINDOWS\debug\dcd
Download - Personal (PSI) - Vulnerability Scanning - Secunia.com
Secunia delivers software security research that provides reliable, curated and actionable vulnerability intelligence. Organizations can expect to receive standardized, validated and enriched vulnerability research on a specific version of a software product. Secunia Research supports four solutions:
Humanized > Our Products > Enso Launcher
"We are stuck with technology when what we really want is just stuff that works."—Douglas Adams Enso Launcher is designed to give you instant access to your applications and windows. With a few easily remembered keystrokes, you can launch an application, switch to a window by name, and control the state of your windows. Get Enso Launcher Get Enso Launcher Enso is free and runs on Windows 2000, W
Windows版FUSE Dokan がオープンソースになったよ！！ - yukobaのブログ
English blog Dokan(Windows版FUSE) が、昨日、オープンソース(LGPL)になりました！ http://decas-dev.net/2008/05/26/open-source-dokan-library-032-released/ FUSE とは、File system in User space の事で、通常はファイルシステムを作るには、カーネルモードで開発しなくてなならないのですが、ファイルシステムへのアクセスがあった際に、カーネルモードからユーザーモードにコールバックすることにより、ユーザーモードのアプリとして、ファイルシステムを作ることを可能にするライブラリのことです。FUSE があることにより、ファイルシステムの作成は劇的に楽になります。 Linux や MacOSX の FUSE はあるのですが、Windows 版の FUSE はオープンソース版が
Built-in Windows commands to determine if a system has been hacked | TechTarget
Let's face it, Windows machines get hacked, and in some environments it happens a lot. Fortunately, Microsoft has built numerous tools into Windows so administrators and power users can analyze a machine to determine whether it's been compromised. In this tip, which is the first of a two-part series, I'll cover five useful command-line tools built into Windows for such analysis. 1) WMIC: A world o
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
