Gemini 1.5 のロングコンテキストを活かして AI を育てるアプローチ 〜 RAG の限界を軽やかに突破するために はじめに この記事では、Gemini 1.5 のロングコンテキストを活かして LLM を用いた AI システムを段階的に育てるアプローチを説明します。後半では、RAG システムの導入ハードルを下げるためにこのアプローチを適用するイメージをサンプルコードとあわせて紹介します。 ここではまず、前提知識となるグラウンディングや RAG の仕組みを説明します。 グラウンディングと RAG の違いについて LLM の業務活用に向けて勉強していると、かならず耳にするのが「グラウンディング」や「RAG」というキーワードです。グラウンディングは、LLM の基盤モデル自身が保有していない（学習していない）追加の参考情報をプロンプトに埋め込む事で、参考情報に基づいた回答を生成させるテクニ

情シスが最も恐れる存在。 それは「幽霊」でも「呪い」でもなく、 職場で突如として発生する「インシデント」です。 「何もしていないのにパソコンが壊れました」 「LANケーブル差し込んだら ネットワークに繋がらなくなりました」 「USBメモリが落ちてました」 情報セキュリティに詳しい優秀な情シスであるほど、 そんなインシデントが起きる前から“視える”そうです。 あなたには職場に潜むインシデントが お分かりいただけるだろうか…？ このイベントではプロの怪談師が 実話をもとにした「情シスだけが怖い話」を披露し、 皆さまにインシデントの恐怖を追体験していただきます。 怪談を聞いたあなたの感覚は研ぎ澄まされ、 インシデントを霊視できる“霊シス”になれることでしょう。 イベントで披露される「情シスだけが怖い話」は、 情報セキュリティの専門家や、現場で働く情シスから聞いた実話をもとにしています。 ただの怪

180 characters lorem ipsum dolor sit amet, consectetur adipiscing elit. Mauris id auctor erat. Mauris cursus pharetra purus, et blandit magna condimentum et felis.

コンテンツブロックが有効であることを検知しました。 このサイトを利用するには、コンテンツブロック機能（広告ブロック機能を持つ拡張機能等）を無効にしてページを再読み込みしてください。 ✕

Azure OpenAI Dev Dayにおいて発表したLLMシステム開発のTips集です。 ◆Prompting System Prompt は構造化・再利用を考慮せよ Prompt Store を作って複数のエージェントでプロンプトの部品を共有 Lost in the Middle…

はじめに 私はMarkdownで文章を書くのが好きです。もちろんこの記事もVSCodeを開いてMarkdownで書いています。 おそらくエンジニアであればMarkdownとの出会いはGitHubにReadMeを書くことなんじゃないかなと思います。 私もプログラミングを勉強しはじめたとき、 簡単なデータベースの関係図を書くのが課題だったような気がします。 ご存じの通りMarkdownは文字だけで表が書けたりして h2やh3などの見出しを#の数で表現できたり自分の中ではかなり感動したのを覚えています。 今現在は生成AIでの出力にMarkdownが使われているので エンジニア以外にもすっかり馴染んだと思いきや... 意外とまだまだMarkdownが知られていないなと感じることがありました。 この記事ではまだMarkdownの魅力に気がついていない人に向けて 自分なりのMarkdown愛を語ってい

皆さんこんにちは。スリーシェイク代表の吉田です。 今回より生成AIを、金融業界や製造業、医療業界など各事業ドメイン固有の課題解決にどう使われているのか、具体的なユースケースを提示しながら、それを実現するアーキテクチャについて解説していきます。この連載を通して、これまで生成AIを実際のシステムに組み込むイメージが湧かない方への第一歩として手助けになれば幸いです。 第1回は、生成AI自体の一般的な得意不得意を踏まえながらユースケースを解説します。 生成AIが得意とする処理とは？ 生成AIが得意とするのは、「⁠専門性のない一般的な知識をベースにした」テキスト生成、コード生成、画像認識や画像生成が挙げられます。RAG（Retrieval-Augmented Generation）やプロンプトエンジニアリングにより固有ドメインに特化させることは可能ですが、教師あり学習データを前提としたMLやDeep

タイミーは2022年11月に「開発組織のメンバー一人ひとりが能力とモチベーションを最大限発揮し続けるための環境づくり」をMissionとした「DevEnable室」を設立しました。 日々開発組織のメンバーが感じる課題に向き合い、学習機会の充実や、キャリアアップのサポートなどを通して「開発組織の進化」に伴走しています。 ※DevEnable=DevEnableはDeveloper Enablementの略称 ※本記事に記載の制度名や内容については2024年7月現在のものです 向き合った課題：カンファレンスに参加して視野を広げる機会が欲しいエンジニア以外の開発メンバーも制度の対象です！・日々の業務で手一杯で、学習に時間を使えていない ・「海外だから無理だろう…」と参加を諦めている ・他社主催の勉強会に参加したら、採用イベント感が強すぎる… ・気がつけばいつも同じような内容の勉強会にばかり参加し

Metaが大規模言語モデル「Llama 3.1」を2024年7月23日にリリースしました。Llama 3.1はオープンソースで公開されており、GPT-4やGPT-4oといった最先端のクローズドソースAIモデルと同等以上の性能を備えているそうです。 Llama 3.1 https://llama.meta.com/ Introducing Llama 3.1: Our most capable models to date https://ai.meta.com/blog/meta-llama-3-1/ Llama 3.1はパラメーター数「4050億」「700億」「80億」のモデルが用意されており、すべてのモデルが12万8000のコンテキストウィンドウを備えています。 パラメーター数4050億の「Llama 3.1 405B」のベンチマーク結果を「Nemotron 4 340B Instru

生成AIの推論精度向上を目的としてRAGの実装が進んでいますが、その性能を適切に評価することも重要です。複雑な評価プロセスに対応するために提案された「Auepora」と呼ばれる評価方法分析フレームワークを紹介します。

株式会社カーターから、普通自動車免許（AT可）で運転できるトライク「APtrikes250」が2024年秋ごろ発売される。同車両は ZONGSHEN 製の水冷エンジンを採用し、出力や耐久性を向上。従来モデル「APtrikes125」より登坂や長距離走行にも適したモデルとなっている。車両本体価格は70万円台を予定している。 APtrikes250（250cc モデル） 「普通自動車免許 OK」「保険・税金が安い」「車検不要」という利便性の高さから、リリース開始より現在まで累計1000 台以上の販売実績のあるAPtrikes125。この度、輸入販売元の株式会社カーター（本社：神奈川県相模原市、代表 中村 聖士）は250cc エンジンを搭載する「APtrikes250」を2024 年秋ごろ、車両本体価格70 万円台にてリリースを予定。 APtrikes125（125cc モデル）での走行において

「障害のある子」だけ預かる里親になったワケ 閑静な住宅街の一角にある、二階建ての一軒家。可憐な花に彩られた玄関周り、あたたかな雰囲気が漂う「坂本」と表札がかかるこの家には、「坂本」と異なる姓を持つ子どもが5人暮らしている。ここ「坂本ファミリーホーム」は、何らかの事情で親と暮らせない子どもが、里親に育まれながら成長していく場所だ。 ※「ファミリーホーム」とは2009年に創設された制度で、養育者の住居で5〜6人の里子を育てる、里親を大きくしたようなもの 私にとっては3年ぶり、そしておそらく6回目となる来訪だった。里親の坂本洋子さん（67歳）が、明るい笑顔で迎えてくれる。リビングには家族旅行の集合写真や、それぞれの子の七五三や卒業式などの写真、子どもたちの作品が壁に飾られ、足を踏み入れただけで、愛情に満ち溢れた、あたたかな雰囲気を肌で感じた。 小柄ながら、いつもパワフルな“みんなのお母さん”であ

リンク みんすり情報局 進化するフルカラー3Dプリンター、その造形方式と最新の事例を解説！ 目次 1 フルカラーの3Dプリンターとは、どのようなもの？1.1 3Dプリントのカラー表現は素材の色、または染色で決まる1.2 造形方式ごとに異なる特徴を理解しよう1.2.1 FFF方式1.2.2 SLA方式1.2.3 マテリアルジェット方 2 users 44

RAG (Retrieval-Augmented Generation)とは ● 外部データをRetrieval（検索）して ● プロンプトをAugument（拡張）し ● クエリに対する回答をGeneration（生成） ○ クエリ := ユーザからの問合せ ・・・する技術 ※本講義では「インプット＝クエリ＋プロンプト」と定義 4 RAG (Retrieval-Augmented Generation)とは 登場人物＿＿＿＿＿＿＿＿＿＿＿＿＿＿ ビジネスでの応用先はLLMが大多数＿ ❶検索アルゴリズム ● ・ベクトル検索、全文検索、及びその組合せ （Hybrid検索）がよく使用される ・…が、それに限るものではない ● ビジネスでは”言語”の基盤モデル （LLM）への応用が多い ○ 本講義も LLMに注力 一方、言語以外のモーダル （画像・音声等）も研究開発中 ❷拡張処理アルゴリズム ・

はじめに 自宅PC編 会社サーバ編 感想等 執筆者：佐藤友昭 ※ 「ディスアグリゲーテッドコンピューティングとは何か?」連載記事一覧はこちら はじめに 作業ログや検討メモ、参照した定型論文や書籍、ネット上の記事、視聴した講演やウェビナーのメモ等、日常を記録する情報は日々増えていく。これらの情報はできれば後に役立てたいと思うが、筆者の場合、なかなか上手くいかない。自分の外部記憶を紐解いてみると、記録したことすら忘れてしまっている項目が大半である。本稿では、ローカルLLMとRAGを用いて自分の外部記憶にいろいろと質問できるようにする方法を入門的に紹介する。決してベストプラクティス的な内容ではない。 自宅PC編 まずは、普段自宅で使用しているLinux PCを実験台として使えそうか試してみてから会社のサーバに適用してみることにする。 第一の要件は、ローカル環境で動作することである。情報の性質によ

日本でも「Apple Vision Pro」が発売されるなど、空間コンピューティングが身近な存在になりつつある。となれば、そう遠くない未来パソコン作業は間違いなく、バーチャル空間で行うのがスタンダードになるはずだ。 それを予感させる次世代の“一手”が登場した。

はじめに どもども、インフラ案件で奮闘中の井上弥風（いのうえみふう）です。 現在プロジェクトでELB（Elastic Load Balancing）を使用しており、その内部機能を完全に理解したいと思い、この記事を書きました。 この記事について この記事の最終的な目標は、「ELBとは何か？」を深く理解し、それを自信を持って説明できるレベルになることです。 しかし、ELBを完全に理解するためには、まず基本的なロードバランサーの概念を押さえる必要がありました。 そこで、この記事ではELBの根底にあるロードバランサーとは何かという点に焦点を当てていきます。 ELBの詳細については、この記事の後に公開予定の「ELBってなんやねん」という記事で詳しく取り上げます。 ELBに興味のある方は、ぜひそちらもご覧ください。 記事のゴール この記事を通じて、ロードバランサーがどのようにしてトラフィックの負荷分散