自宅PCでオープンLLMを実行してみる 以上、オープンLLMの現状を述べてきた石川氏だが、実感するにはやはり手を動かして体験することが一番と断言。自宅PCでオープンLLMを実行するデモを行った。 デモで使ったのは、Red Hatの開発チームが中心となってOSS開発するPodman Desktopだ。RHELに標準搭載(RHEL 8以降)された、Docker互換のあるコンテナ構築・管理・実行ツールであるPodmanのGUIツールで、WindowsやmacOS、Linux環境で利用できる。 このPodman Desktopのエクステンションに、ローカル端末でAI実行をサポートする拡張機能「Podman AI Lab」がある。チャットやコード補助、物体検知、音声認識などのユースケースをあらかじめ準備されたレシピから簡単に実行できるのが特徴だ。「AIアプリケーション開発をするとき、毎回クラウドAP