ローカルLLM"Phi-3"をWindows CPUで動かす
はじめに おれの名前は樋口恭介。Phi-3というMicrosoftから2024年4月23日にリリースされた小規模LLMが、ギリCPUでも動くうえにGPT-3.5よりも精度が高いということで、触ってみることにした。 まずはGoogle Colab上でCPUを選択し、動きを確認したところ、通常モデルでも20分～30分程度で、かなり精度が高い回答が得られ、4bit量子化モデルだと、2分～3分程度で、それなりの出力が得られることがわかった。 そこで、気分がもりあがってきたので、自身のローカルPC（Windows11、GPUなし、メモリ16GB）でも動かしてみることにした。以下はそのときの試行錯誤のメモである（ほぼ趣味の領域の活動だが、業務時間中に行ったので、こうしてちゃんと会社のブログで手順をまとめているというわけだ）。 何も考えずにやるとけっこうハマりポイントが多かった気がするので、ぜひ参考にし
続・FlutterでWindows用のアプリを作成する - Qiita
今回の記事は、CyberAgent Developers Blogの続きとなります。記事の公開後、いくつか問題に直面したので、どのように解決したのかを書いていきたいと思います。 1. msixのインストーラが使えない Windowsアプリを公開する場合に、インストーラを配布します。flutterでは、msixのインストーラを作ってくれる(msix)[https://pub.dev/packages/msix/install]パッケージがあります。テスト時にはアンインストール・アップデートも問題なく成功していました。 実際に店舗へインストールしようとときに、問題が出てきました。msixが使えるバージョンはWindows 10 1709の以降であったこと。Windows 10であっても、パッチを当ててないと使えない機能で、Windows 8でも使われる話になり、msixそのものが使えなくなりま
［GDC 2023］Windowsの新ファイルシステム「DirectStorage」でSSD時代のPCゲームローディングは爆速化する
［GDC 2023］Windowsの新ファイルシステム「DirectStorage」でSSD時代のPCゲームローディングは爆速化する ライター：西川善司 GDC 2023においてAMDは，ブース出展こそしなかったものの，会期4日めとなる2023年3月24日，同社製品や関連技術を紹介するセッションを数多く行った。AMD製CPUの「Ryzen」や，GPUの「Radeon」にまつわる内容が多い中，なぜかMicrosoftのストレージ高速化技術「DirectStorage」（関連リンク）の効果を検証する講演があったので，その内容をレポートしたい。 セッションタイトルは「DirectStorage〜Optimizing Load-Time and Streaming」だ。 David Ziman氏（Senior Member of Technical Staff） まずはDirectStorageが
EC2でMicrosoft Officeを使うのはライセンス上一筋縄ではいかない話 | DevelopersIO
しばたです。 先日Microsoft Office LTSC入りAMIが提供され実際に試してみた記事を公開しました。 AMIが公開される以前から「EC2でMicrosoft Officeを使いたい。(EC2でExcelを使いたい、などの派生を含む)」という相談をよく受けていたのですが、ライセンス上の問題によりEC2にMicrosoft Officeを導入するのは一筋縄ではいきませんでした。 本記事ではそのへんのライセンス周りの難しさについて注意喚起の意味も込めて解説します。 免責事項 ライセンスの話をするのでいつも通り免責事項を最初に。 極力間違いの無い様に努めて書いていますが、あくまでもいち個人の解釈にすぎず、本記事の内容はライセンスに対する記述の正確さを保証しません。 仮に本記事の内容に誤りがあり、それによりいかなる不利益を被ったとしても一切の責任を負えませんので予めご了承ください。
なぜ我々はクラウドゲーミング基盤をKubernetesに移行したのか #CNDT2021｜うなすけ
はじめにこれは、2021年11月4日から5日にかけて開催された、CloudNative Days Tokyo 2021 においての私の発表資料となります。 発表 こんにちは。今日は、OOParts というクラウドゲーミングプラットフォームを Kubernetes 基盤に移行した話をします。よろしくお願いします。 私は、うなすけといいます。フリーランスとして、Webアプリケーションを開発する仕事をしています。2019年から、Black で OOParts のクラウドインフラ周りを担当しています。 皆さん、OOParts というサービスをご存知でしょうか。OOParts は、年代を問わず名作とされるビジュアルノベルゲームを、Webブラウザだけで遊ぶことができるクラウドゲーミングプラットフォームです。ユーザーは、インターネット環境さえあれば、端末を問わずにいつでもゲームをプレイすることが可能です
【かんたん】Windows上のVirtualBoxでmacOS Big Surが動く - Seshat - Windows, Linux, macOS -
仮想環境のMacが欲しいと思うときってどんな時でしょうか。 実験的なことをやってみたいが、失敗するとMac環境を壊してしまうあきるまで徹底的にmacOSをいじくりまわしたいもし失敗したときに、かんたんに失敗前の状態に戻したいmacOSを使っているところをみんなに見せたい 動機はさまざまですが、そのような場合、Windows上にVirtualBoxでMac環境を構築してしまうのも選択肢の一つといえます。 仮想環境なのでホストマシンのスペックが高くても、実マシンと同じというわけにはいきません。GPUを使用するAIの実行や動画編集には向かないでしょう。しかし、活用できるシーンは多くあると思います。 仮想イメージファイルをバックアップしておけば、時間を巻き戻せるのも魅力です。 ぜひ、本稿を参考にしてMacにチャレンジしてみてください。 【あくまで参考】PCに必要なスペックとは CPU①：インテルか
DockerDesktopからWSL2上のみで動くDockerに移行する
DockerDesktopの特定条件下における利用が有料化しますね。 そこで今回はDockerDesktopを使っている GUIのコンテナ管理機能を必要としない方 DockerDesktopのインストールが楽だからとりあえず使っていた方 host.docker.internalでホストOSのIPを引ける機能は不要な方 2021-10-15に追記しました。 向けにWindowsにおいてDockerDesktopから、WSL2上のみで動くDockerする方法を書いてみました。 前提条件 この記事の内容は以下の条件で検証されました。 OS Windows 10 WSL2ディストリビューション - Ubuntu 20.04 DockerDesktop - インストール済み 1. 下準備 まずはすでに動いているDockerDesktopを止めましょう。 Windows側でDocker Desktop
Windows 10 + WSL 2 でDocker環境を構築する（Docker Desktop有料化対策） - ecbeing labs（イーシービーイング・ラボ）
はじめに こんにちは、アーキテクトの小林です。 Docker Desktopが有料化することになりましたね。 従業員が251人以上もしくは売上約11億円以上の企業でDocker Desktopを利用する場合に、今後は有料プランが必要ということになりました。 個人的には、これだけのツールがこれまで無料で利用できたことが不思議でしたし、有料化によって母体の経営が安定化してプロダクトの健全な成長とサポートが得られるのであれば、歓迎すべきことかなと思っています。 でも...一応無料で使いつづける抜け道を見つけておきたいと思ってしまうのはエンジニアの性なのでしょうか。こういう小さな障壁をきっかけに週末にやる気が沸いてしまったので、超絶便利だったDocker Desktopに頼らずにWindows 10にDockerの環境を整えてみました。 環境を構築するにあたって、ちょっとしたつまづきもありましたの
Docker Desktopに依存しない、WindowsでのDocker環境 - Qiita
もろもろの事情でDocker Desktopを使いたくなくなったため、Docker Desktop for Windows無しに、似たようなDocker環境をWindowsに構築する手順を確認しました。 (2021-09-05追記) 私はWSL2をDocker以外の目的で使用していないので気にしませんが、他の目的にも使っているという方は 「(おまけ) Docker用のディストリビューションを分ける」 を先に参照したほうが良いかもしれません。 (2022-01-29追記) Visual Studio Code (VSCode) に、WSL環境内の docker コマンドを直接使用できるオプションが追加されました。この機能を有効にすると、VSCodeからコンテナを使用するために一旦WSLに接続したり、Windows側にDocker CLIをインストールしたり、というステップが不要になります。詳
Docker Desktopの代替方法 - Windows and Mac編
はじめに 新方針でDocker Desktopが大企業での利用の場合は商用ライセンスの使用が必要になるようです。新料金体系は8/31から実施ですが、2022年1月31日まで猶予期間があります。 個人やスモールビジネス、あるいは教育やOSSプロダクトなどは継続して無料版のPersonalを利用できるようですが、従業員数250人以上/年間売り上げ10億円以上の会社が対象になるようです。今見てる限りだと部署とかチームみたいな契約の単位では無く会社規模なので、大きな組織に所属してるともれなく対象になりそうですね。 $5/userからなので基本的には運用性も含めて払う方が楽だと思いますが、金額の大小にかかわらず予算を取るのが大変な組織や会社自体はデカくても部署がインキュベーションなので予算が基本無い、とか色んなパターンもあるかと思います。 ちょうど、手元のPCでここ最近 Docker Desktop
Windows の 3 種類のスクリーンキャプチャ API を検証する - Qiita
Screen Capture API 現在 Windows には画面をキャプチャする方法が 3 通りくらい用意されている。一番速いのはどれなのか？それぞれ検証してみたい。(他にも非公開の API があるらしいが、ここでは触れない) なお、記事中のソースは説明のため色々省いている。一通り動作するものはこちら。 https://github.com/i-saint/ScreenCaptureTest GDI 石器時代の API だが、今でも機能するしお手軽。 注意すべき点として、GetSystemMetrics() や GetWindowRect() を使う場合、Visual Studio 上のプロジェクトの設定、"Manifest Tool" にある "DPI Awareness" を "Per Monitor High DPI Aware" に設定しておくべきである。これを怠ると、該当 A
GStreamerをWindows向け(MSVC)かつIntel MEDIA SDK対応でビルドする - Qiita
はじめに ※手っ取り早く利用する場合はWindows版のバイナリ版が配布されています。 https://gstreamer.freedesktop.org/data/pkg/windows/ GStremerをWindows向けにビルドする手順を現時点(2019年4月)のものをまとめました。 この記事の内容も将来には古くなって参照するべきでないものになるかもしれないので注意。 以下の条件でのGStreamerビルドを行います。 Windows10 上でWindowsネイティブのGStreamerをビルド Intel MEDIA SDKの利用 Visual C++ Runtimeの使用 ビルド環境とターゲット環境は同一 ビルド後の対応機能(プラグイン)についてはgst-inspectの結果を参照してください。 バイナリ配布されているものとほぼ同様の品ぞろえのようです。H.264,H.265,
デザイナーとフロントエンドエンジニアに知ってほしいWebのフォント周りのお話
こんにちは。TAK(@tak_dcxi)です。 今回記事にするのはタイトル通り「デザイナーとフロントエンドエンジニアに知ってほしいWebのフォント周り」についてです。以前ツイートしましたが、特に説明もなかったので自分の備忘録も兼ねて。 Androidに明朝体は無い Apple製品しか利用しないデザイナーの方に話したら非常に驚かれるのですが、Androidにはデフォルトで明朝体は入っていないです。 よく明朝体マシマシのデザインを見かけたりするのですが、デバイスフォントだけではAndroidでそのデザインを実現することは不可能だと思っておいたほうが良いでしょう。 ただ、明朝体のWebフォントを利用すればAndroidでも明朝体は表示できるので、デザイン的に明朝体が必須って場合はWebフォントを利用しない手は無いと思います。 個人的見解ですが、デザイン重視なら明朝体はGoogle FontsでN
.NET 5 から Windows Runtime API を呼ぶのが凄い楽になってる - Qiita
.NET 5 Preview 8 かららしいのですが、Windows 10 の API に .NET 5 からアクセスするのが凄く楽になってました。言及のある記事は以下になります。 Announcing .NET 5.0 Preview 8 Calling Windows APIs in .NET5 どれくらい簡単になったかというと、今回のこの記事がすぐ終ってしまうレベルで簡単です。すぐ終わると悲しいので、ちょっとだけ昔と比べてどれくらい簡単なのか？というのも書いておこうと思います。 昔 Windows 10 SDK の特定のフォルダにある DLL や winmd ファイルを手動で参照追加したうえで、配布時に含まれてほしくないファイルはコピーされないように手動で設定する。 そんなに数は多くないのですがめんどくさかったです。 今 Microsoft.Windows.SDK.Contracts
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
AndroidスマホのTermuxにUbuntuを入れて、Box86とWineでエミュレーションしてWindowsアプリ、ゲームをスマホで動かしてみた。すげー。でも上級者向き。
【西川和久の不定期コラム】 Chrome OS Flexと最新版Wine 7.0の組み合わせでWindowsアプリを動かしてみる
WindowsをUSBメモリに入れて持ち運べる「EaseUS OS2GO」が発売開始 ～Macでも起動／Windows 11にも対応。すべてのブランドのUSBドライブとUSBメモリをサポート
WSL2、Docker、VSCodeで劇的に改善されるWindows開発環境/wslvscodedocker-techlab
使いどころは？ Windows 10 May 2019 Updateの新機能「Windowsサンドボックス」の“使い捨て”環境を試す【イニシャルB】
WSL2、Docker、VSCodeで劇的に改善されるWindows開発環境
