LLMのRAG（外部知識検索による強化）をまとめた調査報告 | AIDB
LLMのRAG（外部知識検索による強化）についての調査結果が報告されています。 基本フレームワークと各構成要素の詳細、評価、そして今後の発展について言及されており網羅的です。 本記事では、その報告内容を抜粋してお届けします。 参照論文情報 タイトル：Retrieval-Augmented Generation for Large Language Models: A Survey 著者：Yunfan Gao, Yun Xiong, Xinyu Gao, Kangxiang Jia, Jinliu Pan, Yuxi Bi, Yi Dai, Jiawei Sun, Haofen Wang 所属：Tongji University, Fudan University URL：https://doi.org/10.48550/arXiv.2312.10997 本記事の関連研究：LLMにナレッジグ
変化する「知性の価値」
変化する「知性の価値」 2022.12.03 Updated by Ryo Shimizu on December 3, 2022, 08:34 am JST OpenAIが会話に特化して学習させた「ChatGPT」を公開した。 すでにたくさんの人が試してみているが、タイムラインに流れてくるスクショを見て「すごい」と思うのはもちろんだが、同時に、「なんてつまらないんだ」と冷めていく自分がいることに気づいて驚いた。 筆者は16歳で商業誌に寝言を書き始めてから30年経つ。 言葉を紡ぐことで糊口を凌いできたプロの売文屋としてのプライドもある。 そういう気持ちが、言葉を紡ぐAIに対する敵意を産んでいるのかと考えてみたが、いや、そうではない。 AIの出す答えはやはり明らかに「つまらない」のである。 GPT-3を使っても、お金を出してもいいと思えるほどの文章はなかなか出てこないのである。 「AIからプ
なぜはてなーは太陽光の知識をアップデートしないのか
[B! 太陽光] 輸入パネルを使うのは売国､東京は曇りが多い…｢太陽光義務化｣への批判10項目を､東大准教授が完全論破する むしろ化石資源の既得権益をぶっ壊す最大のチャンス ブコメで反論されてるのはスルーしてる。反論されてない様なの拾ってく。 ただまあ、増田で細かく書くと読まれないし、省略すると突っ込まれる現象が発生すると思うので程々にね。 あと全部が全部問題ないとは私も思っていないです。 要約というか目次。 ・「日本の」メーカーが続々と事業縮小しているのは値上げの前から ・36年目でも出力低下率17.2% ・住宅に設置する太陽光パネルは「自家消費用」 ・保守コスト込みで利回り計算しても収支はプラス ・既設住宅には太陽光載せるな。義務化も「新築住宅」だけ ・昼間も電力消費するし、生活習慣の変化で昼間に消費増える ・全部丸ごと廃棄するなら６％ ・記事読め 「日本の」メーカーが続々と事業縮小し
コード設計の話
今日は地味な話をしたい。といってもいつも地味な話だが。コードや区分の設計は良いシステムを設計するうえでとても大切である。設計にあたっては業務要件をみたすためにどんなコードや区分が必要かという視点が最初にくるのはもちろんだが、それ以外にも考慮すべきことがある。変なコード設計のもとでプログラムを書くと条件判定が複雑化し、読みにくく変更しにくいシステムができあがる。 ここで書くことは、経験のある設計者はたぶん（私のように）先輩から教わるとか自分で体得しているのもので目新しくはないが、まとめて整理してある本も意外にないようである（私が知らないだけかもしれない）。 無意コード化 無意コード化とはコードの各桁に意味を持たせないことである。これは、わりに良く知られている原則だ。「コードの各桁に意味を持たせる」とは、たとえば品番の頭1桁が"9"ならサービスパーツと判断するといった処理をプログラムのなかに記
“読んで終わり” にならない最高の紙習慣！ 「KWL表」で読書の学びが圧倒的に深まるワケ。 - STUDY HACKER（スタディーハッカー）｜社会人の勉強法＆英語学習
必要に迫られて本を読むものの、知識がいまひとつ身につかない……。いつも本が “読んで終わり” になっている気がする……。そんな悩みを抱えている人はいませんか？ せっかく本を読むのであれば、書かれてあること全部とは言わないまでも、身になる知識を何かしら獲得したいもの。 そこで今回は、教育の世界で使われているという「KWL表」を読書に応用する方法について考えてみました。実際にやってみたら、たしかにその効果を実感できましたよ。 「KWL表」が読書にも使える納得の理由 今回取り上げる「KWL表」とは、アメリカの教育学者ドナ・オーグル氏が1986年に提案したものです。教科書やテキストを効果的に読ませるための教育の手法として考案されました。 KWL表の「K」「W」「L」とは、それぞれ「What I know（知っていること）」「What I want to learn（知りたいこと）」「What I
スクラムで失敗する5大理由とその対策としてできること | POSTD
スクラム とは、最近、特にソフトウェア開発の分野でよく使われているバズワードです。この概念は、1995年のOOPSLAでJeff SutherlandとKen Schwaberにより提唱されました。自己組織的なチーム構成と短いスパンの持続可能な繰り返し作業に重点を置くもので、複雑なソフトウェア製品やプロジェクトを扱うためのすっきりとした軽量なフレームワークです。 シンプルで軽量な性質を強みとするスクラムですが、これを導入している企業の約半数が正しく実践できていないと思われます。では、一見すぐに使えそうな手法なのに、実践するのが非常に難しいのはなぜなのでしょうか。その理由と、これを確実に成功させるために講じるべき対策を見ていきましょう。 1. 組織の賛同が得られていない どういう タイプの企業であろうと、何かを変えようとすれば必ず直面する最大の課題であると言えるのが、これです。スクラムも例外
AWS認定9冠制覇したのでオススメの勉強法などをまとめてみる
まず11位の「クラウドプラクティショナー」ですが、2018年に新設されたAWSのエントリーレベルの認定です。AWSの基本的な概念や、AWSのベーシックなサービスの特長、請求・アカウントマネジメント・料金モデルなどに関する理解が問われます。エンジニアだけでなくマネージャーや営業など様々なポジションを対象とした認定であるため、問われる知識の範囲は意外に広いです。ただ、知っていれば解ける問題が多いため、この順位にしています。 10位の「Alexaスキルビルダー - 専門知識」は、文字通りAlexaのスキル開発に関する知識が問われます。専門知識と銘打たれていますが、内容自体はそこまで難しくなく、Alexaスキル開発に関して知っていれば解ける問題が多かった印象です。これまでにAlexaスキルを開発したことがあり、クラウドプラクティショナーレベル以上のAWS知識があれば、問題なく合格できると思います。
これからプログラミングを学ぼうとする君へ | Social Change!
今や、あらゆる場面においてソフトウェアが重要になってきた社会の中で、プログラミングを学ぼうと考える人も多いだろう。プログラミングを身につける方法は、インターネットにはたくさん情報があるし、本も多くある。開発環境も無料で使える。独学したい人には良い時代になった。始めるのは、とても簡単だ。 一方で、挫折する人も多くいることが想像できる。情報が多くありすぎて、学び方ひとつとっても様々なことを言っているし、チュートリアルのようなものをやってみても、じゃあ自分で作るなら一体どうすれば良いかわからない。どの言語を選べば良いか、頭でっかちになって始められない人もいるかもしれない。 プログラミングを手っ取り早く身に付ける方法などあるのだろうか。これは、正解のない問題だ。人によるし、作りたいものにもよる。身に付けたい動機にもよるし、そもそもが、どこまで出来たらプログラミングを身に付けたと言えるのだろうか。
【まつもとゆきひろ氏 特別講演】20代エンジニアのためのプログラマー勉強法まとめ - 素人Web屋の備忘録
先週末にサポーターズさん主催の【まつもとゆきひろ氏 特別講演】20代エンジニアのためのプログラマー勉強法 に参加してきました！ これまで技術的なことしか書けていなかったのですが、とても学びが深い講演会だったので初めて雑記的にまとめを書いてみようと思います。 内容濃すぎ && 80分 という講演会だったのでざっくりまとめです！ 講演会の様子はyoutubeで配信もされたので、このブログの最後にURL貼っておきます。 以下Matzさんによるプログラマー勉強法まとめ 今回「勉強」という言葉を使ったのはあえてミスリードを誘う目的。 具体的には「（学校）勉強」には「苦手を克服するべき」というメタファーがある。 「苦手を克服するべき」は社会人の勉強では間違い。 学生と社会人の勉強の違い9つ 1.満点VS満点なし 社会人の勉強に満点がない、つまり上限がない。平均値や偏差値がないから学生時代の常識が通用し
低レイヤーの学び方 ── システムソフトウェアの世界は「今すぐ役に立つものが全て」ではない - GeekOutコラム
はじめまして、木村 廉と申します。現在神戸大学大学院の修士2年生で、システムソフトウェアの脆弱性検出やself protectionについて研究しています。 § 実はこのコラム執筆のお誘いをいただいた時、はじめはお受けするかどうか少し迷いました。というのも、「GeekOut」の過去のコラムを見ると、執筆者の皆さんは最前線で活躍されている方ばかりで、一介の学生の私では見劣りするような気がしたからです。 しかしながら、私もエンジニアの端くれですので、他のエンジニアと差別化できる強みも多少は持っています。そしてそれは、幸いにも他の人とかぶりづらいマニアックな部類のもので、参考にできる資料も多くありません。 その強みとは、OSやハイパーバイザ（コンピュータを仮想化するための制御ソフトウェア）といった、基本的な制御を行うシステムソフトウェアを開発したり、それに手を入れたりすることです。いわゆる“低レ
エンジニアのための自分経営戦略 - 西尾泰和のScrapbox
各農家からの出荷を約50の市場へ配送する際の、各トラックにどの品目を何ケース積載するかの配車プランを自動作成するアルゴリズムを開発。
Lisperはプログラムに何を見るか - 八発白中
男子校に通う中学生の僕らにとって「家庭科」の授業は休憩時間のようなものだった。 僕の中学校には家庭科室というものがない。だから、いつもの教室で野菜の種類やそれに含まれる栄養素なんかを教わるというだけの、正直退屈な授業だった。話される内容はどれもただ暗記すればいいものなので、授業を聴かなくても定期試験前に教科書を読み通すだけで九〇点は取れる教科だった。 学校としても文科省の教育課程に沿うがためだけに時間割にねじ込んでいるに過ぎなかったと思う。特別教室がないことでも真面目にこの教科を取り扱う気がないことがわかるし、生徒の方でもその学校の態度を敏感に感じとっていた。 そんなやる気のない男子学生の前に立って話すのは教師にとって楽しいものではなかっただろう。僕らの先生は、落ち着いた雰囲気でどこかしたたかさのある、髪の長い女の先生だった。 その日も彼女はいつも通り、キノコに含まれる何々という栄養素が、
開発者のスキルチェック集 - 主に言語とシステム開発に関して
エンジニアのスキルレベルをチェック＆フォローするための，チェックリスト集。 学ぶべき項目を整理してあるので，判定だけでなく学習のためにも使える。 チェックリストには，２種類ある。 レベル判定用のチェックシート・質問集。（※面接や，タスクの振り分け時に利用） 各種IT技術について，初級・中級で押さえるべきポイントを網羅した，学習項目やノウハウのリスト。（※教育や研修のために利用） いずれも，開発チームの技術力の底上げのために活用できる。 このようなチェックリストを活用する事によって，以下の事柄が達成される。 低スキル者のために開発プロジェクトがリスクを抱え込む，という事態を回避できる。彼らを教育するためのリソースを短縮できる。 断片的な知識が散乱している状態であっても，それらの知識を体系的に整理し直して「知識のインデックス」を持たせ，抜けや漏れをなくすことができる。そうする事により，各メンバ
ユーザーの知識は低いレベルで停滞する
学習というのはたいへんな作業なので、ユーザーのやりたいことではない。その結果、彼らはユーザーインタフェースの探索をすることもなく、ほとんどの機能について知らないままだ。 User Expertise Stagnates at Low Levels by Jakob Nielsen on September 28, 2013 日本語版2013年11月25日公開 コンピュータシステムを長期間利用しているユーザーでも、知っていて使っているのは利用可能なコマンドや機能のほんの一部だけであることは多い。デザインのユーザビリティが優れていれば、ユーザーはシステムを利用しはじめて間もなく、かなり容易に一連の基本機能を理解する。しかし、その後、彼らは伸び悩み、それ以上はたいしてスキルが上がらない。システムを頻繁に使っているユーザーですら、年にわずか1つか2つの新しい知識を身につけられるようになるまでには何
文章を「書ける人」と「書けない人」のちがい - デマこい！
文章を書くという仕事は、ゼロを１にする作業だと思われがちだ。 小説や脚本、ゲームシナリオなどの創造的な文章ならばなおさらだ。しかし実際には、文章を書くというのは１００を１にする作業だ。文章を書けるかどうかは、このことに気づけるかどうかだと思う。作家にせよ、ジャーナリストにせよ、それこそアルファブロガーに至るまで、きちんとした文章を書ける人はみんなこのことに気づいている。 狼と香辛料 (電撃文庫) 作者: 支倉凍砂,文倉十出版社/メーカー: メディアワークス発売日: 2006/02メディア: 文庫購入: 18人 クリック: 471回この商品を含むブログ (745件) を見る 『狼と香辛料』を書くにあたり、著者の支倉凍砂はかなりの量の文献を読み込んでいたらしい。ライトノベルは、青少年向けの「軽い小説」と見なされることが多い。しかし、そのライトノベルでさえ、メガヒットの裏側にはきちんとした情報収
効果的な学習法: 知識を定式化する20個のルール (目次) - rage2050の日記
(original article: Dr Piotr Wozniak's "Effective learning: Twenty rules of formulating knowledge") 理解していないものを 暗記してはいけない 記憶する前に 全体を学習せよ 基本の上に積み重ねよ 最小情報原則を守るべし 穴埋め問題は簡単・効果的 画像を使え 記憶術を使え 画像の穴埋め問題は、文章の穴埋め問題と同じくらい効果的 集合を避けよ 列挙を避けよ 干渉を防げ 言葉を最適化せよ 他の記憶を参照せよ 自分の経験に関連付け、例を挙げよ 感情の状態を利用せよ 文脈の手がかりで問題文を簡略化 冗長性は最小情報原則と矛盾しない ソースを示せ 日付を記録せよ 優先順位をつけよ まとめ
応用可能な体系的知識とか暗黙知とか
学習したいと考えている、なにかそれなりに大きな規模の分野について、自分で本を書くつもりで、あるいは、こういう本があったら体系的な知識を得られるだろうなあという本の目次を自分なりに書き出していって、あとはその内容を埋めるつもりで学習を行っていけば、自ずと体系的な学習になってしまうのではないかという方法です。それがうまくいくかどうかはわかりません。しかし、まあやってみる価値はあるんじゃないかという気もしています。 体系的な知識・技術が応用可能な知識・技術かというと，微妙に違いがあるんじゃないかとは思うんですけれど，やり方としてはいい感じなのかも。はてブには，情報系の学部や専門学校に行く方が効率が良いとかいった話もあるけれど，能動的に体系を作り上げることと，既存の（基礎的な）体系を受身で取り入れることは，コトの性質からして異質です。前者のキモは，「散乱する知識や実績のつじつまを，統一的な説明でも
少ない手間と知識でそれなりに見せる、ズルいデザインテクニック// Speaker Deck
少ない手間と知識でそれなりに見せる、ズルいデザインテクニック with Sass / Compass (English Version) https://speakerdeck.com/ken_c_lo/zurui-design-technique-english-version 第一回 プログラマ向けデザイン勉強会 #design4p http://connpass.com/event/1185/ で発表させていただきました。 （#p4d プログラマ向けデザイン部 主催イベント http://prog4designer.github.io/） @mah_lab さんが ズルいデザインのRails gemを作って下さいました http://blog.mah-lab.com/2012/11/07/zurui-design-for-rails/ (Repository) https://git
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
コグニカル
「ヤベェ本を買ったぞ…」地元にひっそり置かれていた本を紹介、バズる→出版社の電話が鳴り止まない！重版決定！→著者がお礼のためにTwitter始めました
