【Phi-3-Medium】GPU2台構成でローカルLLMを動かす【Ubuntu24】
はじめに GMO NIKKOの吉岡です。 みなさん、生成AIは活用してますか？ ChatGPTに始まり、Claude3やGeminiなど、実用的なAIがどんどん出てきてますね。 自分も使ってはきましたが、課金が気になってしまいます。 これではサービスに組み込むことは難しいですよね。 そのためローカルで動くLLMを追ってきましたが、今年に入って実用的な日本語を返すことができるモデルがいくつか出てきているので、サーバー構成からインストール方法、LLMの起動まで紹介しようと思います。 ローカルLLMを動かす上で一番重要なのはGPUのVRAMです。 LLMは7B、13B、70Bモデルが多いですが、量子化しない場合、必要なVRAM容量は動かすモデルの大体2倍なので、13Bモデルでは26GのVRAMが必要です。 NVIDIAのGPUを使ったCUDAが前提になっているのですが、一般向けでは24Gモデルが
新緑の上高地を巡る絶景ハイキングを満喫してきました。 - でぃろぐ｜カメラと旅する
５月下旬、人生で一度は行きたい日本の絶景として知られる「上高地」に行ってきました。 新緑が始まる上高地をシネマティックなショートフィルムにまとめました。 新緑の上高地を巡る絶景ハイキング｜YouTube4K動画 今回の絶景ハイキングコースは、さわんどバスターミナルに車を停めて、バスで大正池まで行き、河童橋と明神橋を目指すコースです。 バスで細い道をぐんぐん進むと、大正池が目の前に現れます。大正池の姿が見えたバス車内の盛り上がりは、これからの旅への期待感を一気に引き上げます。 まだ雪が残る穂高連峰の全景を望むことができました。 透き通った空気が漂う大自然のオアシスに癒されます。 大正池ですが、朝は靄（モヤ）の幻想的な景色が広がるそうです。 今回は朝イチで行く予定でしたが、急な雨予報で悩んでしまい、結局11時半頃に到着。 天気は回復し、青空の広がる最高のハイキング日和でした。 散策道は整備され
理想の父親像を求めるキミへ【再々追記】
もう我慢の限界に達しそう。 子どもが大きくなるにつれて家事分担を決めつつ、お互いのフリーな時間を設けて過ごしてきた。 朝子供の準備やご飯、家庭内のゴミ集めだし、仕事後の子どもの風呂、寝かしつけを経てフリータイム、 ただし曜日指定で、万が一子供が夜泣きなどしたら対応する担当を振り分け。 家事分担は普通だとはおもうよ。 子どもが生まれた時に子づくりに発展するようなスキンシップは一切拒否、産後クライシスってやつだね。 もちろんそういう心象になったりってのは知ったし、尊重したいとは思う。 でもこっちも苦しい悲しいという気持ちを必死に伝えても、自分だってわからないと切り捨て、今は恋人というカテゴライズは消失したね。 今も本当に苦しい、でも変わる気も変える気も起こしてくれなかったキミを嫌いになりたくなかったから、趣味に没頭することで紛らわせてきたよ。 昔はなんでも一緒に行動していて楽しかったね、 昔は
JR東など8社「QR乗車券」導入へ 東京メトロ抜きで大丈夫？ | なるほど電車ニュース | 土屋武之 | 毎日新聞「経済プレミア」
JR東日本の高輪ゲートウェイ駅はQRコード改札などの実証実験の場としても機能してきた＝同駅開業前の2020年3月9日、大西岳彦撮影 首都圏の鉄道事業者8社が2027年3月末以降、従来の磁気乗車券を紙の「QRコード乗車券」へ置き換えていく方針を発表した。 近距離券が対象で、8社はJR東日本、東京モノレール、京急電鉄、京成電鉄、新京成電鉄、北総鉄道、西武鉄道、東武鉄道。大手では東京メトロなどが名前を連ねていないが、これによって何が変わるのだろうか。 目新しい技術ではない 磁気乗車券は1970年代、自動改札機の本格導入期から広く使われ始めたものだ。券の裏面に磁気データを書き込み、それを自動改札機で読み取る方式をとっている。 これに対し、紙のQR乗車券は、券面のQRコードを自動改札の読み取り機にかざす形になる。航空機に搭乗する際にはおなじみの方式だ。鉄道でも、14年に沖縄都市モノレール（ゆいレール
無印良品バターチキンカレー６種類を食べ比べてみた（おすすめランキングあり）
今、無印良品でバターチキンカレーのフェアをやってて、歴代6種類のバターチキンカレーが売られている。 https://www.muji.com/jp/ja/special-feature/food/curry/15th_anniversary/ 最初に発売されたのが2009年で、それからリニューアルを繰り返して今の6代目に至るらしい。 せっかくなのでこの６代分のカレーを買って食べ比べてみようと思った。 以下はその感想だ。よかったら読んでみて！ 初代 2009年初めて無印良品でバターチキンカレーが売られたのが2009年。15年前なんだね。 食べてみると、なんていうかシンプル！ 確かにバターチキンカレーなんだけど、スパイスも強くなく、トマトの風味も少ないし、まだ初代って感じ。 でもまだスパイシーなレトルトカレーが少なかった当時だと、これでも攻めてる味だったのかもしれない。 美味しい、けど物足りな
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
