はじめに GMO NIKKOの吉岡です。 みなさん、生成AIは活用してますか？ ChatGPTに始まり、Claude3やGeminiなど、実用的なAIがどんどん出てきてますね。 自分も使ってはきましたが、課金が気になってしまいます。 これではサービスに組み込むことは難しいですよね。 そのためローカルで動くLLMを追ってきましたが、今年に入って実用的な日本語を返すことができるモデルがいくつか出てきているので、サーバー構成からインストール方法、LLMの起動まで紹介しようと思います。 ローカルLLMを動かす上で一番重要なのはGPUのVRAMです。 LLMは7B、13B、70Bモデルが多いですが、量子化しない場合、必要なVRAM容量は動かすモデルの大体2倍なので、13Bモデルでは26GのVRAMが必要です。 NVIDIAのGPUを使ったCUDAが前提になっているのですが、一般向けでは24Gモデルが
OpenAIが「GPT-4o」を発表、人間と同等の速さでテキスト・音声・カメラ入力を処理可能で「周囲を見渡して状況判断」「数学の解き方を教える」「AI同士で会話して作曲」など多様な操作を実行可能
OpenAIが日本時間の2024年5月14日(火)にAIモデル「GPT-4o」を発表しました。GPT-4oは単一のモデルでテキスト、音声、視覚入力を非常に高速に処理可能で、リアルタイムに会話しながら「計算問題を解く」「画像の生成」「周囲の映像から状況を判断」といったタスクを実行可能です。 Hello GPT-4o | OpenAI https://openai.com/index/hello-gpt-4o/ Introducing GPT-4o and more tools to ChatGPT free users | OpenAI https://openai.com/index/gpt-4o-and-more-tools-to-chatgpt-free/ GPT-4oはテキスト、音声、視覚入力を高速処理できるマルチモーダルなAIモデルです。GPT-4oの応答時間は平均320ミリ秒で、
OpenAIは日本時間の2024年5月14日、新たなAIモデルである「GPT-4o」を発表しました。テキストや音声、視覚情報を高速で処理してリアルタイムな応答が可能で、一般的なチャットAIが苦手とする計算問題にも優れた性能を発揮するGPT-4oが、チェスパズルでも「GPT-4」の倍以上の好成績をたたき出したことが明らかになりました。 GitHub - kagisearch/llm-chess-puzzles: Benchmark LLM reasoning capability by solving chess puzzles. https://github.com/kagisearch/llm-chess-puzzles 2024年4月、チャットボットの能力をバトル形式で比較評価する「Chatbot Arena」というウェブサイトに、「gpt2-chatbot」というモデルが突如として追
昨年の10月からプロジェクトの都合上、3年半続いたテレワークから電車通勤に変わりました。もう、8ヶ月がたとうとしてます。 毎朝、身動き取れないほど詰め込まれた東横線の中で、バランスを保つのが大変だな～と思いながら、ドアに掲げられた広告に目がいきます。 日能研の「シカクいアタマをマルくする～未来のチカラ～」 「ナッジ理論」に関係したユニークな問題だったので、見入ってしまいました。 （問）次の会話文を読み、思わずキャップ投票をしたくなるような二択の質問を考え答えなさい。なお、会話文中の条件を踏まえること。また、「あなたは猫派？犬派？」以外の質問を考えること。 【会話文】 Aさん：今日のSS（道徳）の授業では、「ナッジ理論」について学んだね。 Bさん：強制や罰則なしに「ついやってしまう」行動を活用する考えのことだね。 Aさん：そうそう。そこで思ったんだけど、校内のペットボトル回収箱にはキャップが
社会人におすすめ「勉強効率化ポイント」2選。時間がないなら「○○○勉強」が効果的 - STUDY HACKER（スタディーハッカー）｜社会人の勉強法＆英語学習
「忍耐強く勉強を頑張っているけど、一向に身につかない……」と悩んでいる人は、勉強法に関する勘違いをしている可能性が。じつは、「勉強するなら○○すべき」といった思い込みが効率化を妨げているかもしれないのです。 今回は、勉強を効率化するにはどのような思い込みをやめるとよいかをお伝えし、勉強の仕方をどう改善すれば効率化につながるかについて紹介します。実践例とあわせてご覧ください。 【ライタープロフィール】 藤真唯 大学では日本古典文学を専攻。現在も古典文学や近代文学を読み勉強中。効率のよい学び方にも関心が高く、日々情報収集に努めている。ライターとしては、仕事術・コミュニケーション術に関する執筆経験が豊富。丁寧なリサーチに基づいて分かりやすく伝えることを得意とする。 1.「ながら勉強」で勉強効率を上げる 「耳勉強法」を試してみた 2.「違う内容」を混ぜて勉強効率を上げる 「交互練習」を試してみた
100玉そろばんのメリットとデメリット
毎日息子たちと朝学に取り組んでいるミノリです^^/ 七田式プリントをAから始めてBで出題されるようになった足し算。 今は10までの繰り上がりのない足し算の練習中。 これがなかなかに１人で解こうとしない。 やればできるのに時間がかかって面倒臭いのか 甘えているのかその両方なのか。 みのり イラストなら見てて楽しいんだろうけど 数字だけのプリントは面白くもなんともないのかも。 なんだか息子が計算問題に取り組むこと対してマイナスな言葉しか出てこない。 参った┐(´-`)┌これが壁というやつか.. 計算の導入時期に何か良いアイテムはないかと 色々調べてみて100玉そろばんという商品が良さげと判明。 リンク 百玉そろばんとは？毎日息子たちと朝学に取り組んでいるミノリです^^/七田式プリントをAから始めてBで出題され...webdesign-minori.com 100玉そろばんのメリット・デメリット
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
【Phi-3-Medium】GPU2台構成でローカルLLMを動かす【Ubuntu24】
OpenAIのAIモデル「GPT-4o」がチェスパズルで従来モデルの2倍以上の好成績をたたき出しランキングトップに
ナッジ理論と１ｏｎ１ミーティングの必要性 - 叡智の三猿