はじめに 自分がIT業界に携わって5年ほどが経過しました。 この5年間、SIerからフリーランスエンジニアに転身し、様々なプロジェクトに参加する中で、数々の失敗と成功を経験しました。特に心構えやマインドの部分で多くを学ぶことができました。 未熟だった自分を振り返って、今では改善できた点が多くあると思います。同じ失敗を繰り返さないように、自分の経験が少しでも役立てば幸いです。 また、気付きを与えてくれた方々にこの場を借りて感謝します。 感謝を忘れない 進捗報告やコードレビュー、質問対応など、感謝の気持ちを忘れないようにしています。感謝は、コミュニケーションを円滑にし、相手の意欲を引き出す力があると思います。 たとえば、昔の自分はバグ報告を受けるとろくに文章も読まず「影響範囲は？ 再現する条件は？ 原因は？ 解決策は？」などと質問攻めにしてしまっていました。 報告しただけなのに色んなことを聞か

2014年から先端テクノロジーの研究を論文単位で記事にして紹介しているWebメディアのSeamless（シームレス）を運営し、執筆しています。 1週間の気になる生成AI技術・研究をピックアップして解説する連載「生成AIウィークリー」から、特に興味深い技術や研究にスポットライトを当てる生成AIクローズアップ。 今回は、大規模言語モデル（LLM）は自身が出力する「幻覚」（ハルシネーション）からは避けられない現象を指摘した論文「LLMs Will Always Hallucinate, and We Need to Live With This」に注目します。幻覚とは、事実と異なる出力をLLMが実行してしまう現象を指します。 この研究では、LLMの幻覚が単なる偶発的なエラーではなく、これらのシステムに内在する避けられない特性であると主張しています。研究者らは、幻覚がLLMの根本的な数学的・論理的

主要なAIコードアシスト機能の比較。GitHubが先行し、GitLab/Google Cloud/AWSが追いかける。ガートナーがマジッククアドラントを発表 AIコードアシスト機能を提供している主要各社は、調査会社の米ガートナーが作成したAIコードアシストを比較調査したマジッククアドラントの自社の位置づけをプレスリリースで発表しています（GitHub、AWS、GitLab、Alibaba Cloud）。 マジッククアドラントとは、縦軸に「実行能力」、横軸に「ビジョンの完全性」を持つ平面図上に主要なベンダや製品を位置づけていくというものです。図の右上にあるベンダほど、より高い実行能力とビジョンの完全性を備えた、すぐれたベンダや製品と位置づけられています。 そして図全体を4つの象限に分けて、右上がリーダー、右下が概念先行型、左下が特定市場指向型、左上がチャレンジャーと分類しています。 下記がガ

導入 こんにちは、株式会社ナレッジセンスの須藤英寿です。普段はエンジニアとして、LLMを使用したチャットのサービスを提供しており、とりわけRAGシステムの改善は日々の課題になっています。 この記事では、曖昧な質問に対する回答の精度を高め、さらに処理速度を大幅に改善した手法「DIVA」について紹介します。 サマリー DIVAは、従来のRAGでは対応が難しかった曖昧な質問に対する精度を向上させつつ、他の同様の手法と比べて精度が高く、回答速度も速い点が特徴です。 DIVAの特徴は主に2つあります。1つ目は質問を複数の形に拡張して、検索の多様性を高める「Retrieval Diversification」。2つ目は、得られた情報の有用性を評価する「Adaptive Generation」というフレームワークを採用している点です。これにより、高速かつ高精度な検索結果を得ることが可能です。 問題意識

mise とは 言語環境の管理は *env や *vm を超えて、 mise へ という記事を書いたので詳しくはこちらをご参照ください。 簡単にいうと多言語対応の言語環境マネージャで(もっと多機能なのですが)、npm をバックエンドに node 製の cli まで管理できる、というものです。 つまり、 yarn や pnpm もグローバルでバージョン管理できるということになります。 似た機能を持つものに volta が存在しますが、筆者の主観だと mise の方が安定した挙動をしており、高速です。 mise の npm backend 機能 mise では npm をバックエンドにして npm library な cli を管理する、という機能があります。(執筆現在 Experimental です) https://mise.jdx.dev/dev-tools/backends/ 例えば、

はじめに こんにちは。ついにジム通いを始めて四六時中筋肉痛を感じながら過ごしているイワツカです。 最近はLLM（大規模言語モデル）とRAG（検索拡張生成）を用いて企業内ドキュメントを活用する取り組みが多く見受けられます。 ドキュメントは基本PDFで保存されているため、PDFからテキストを抽出して、検索対象にすることが必要です。 そこで今回は、PythonでPDFからテキストを抽出するためのライブラリを比較して、どれが良いのか検証しました。 はじめに 概要 実装 PyMuPDF pdfplumber unstructured 比較結果 テキスト抽出 サンプル1のテキスト抽出結果 サンプル2のテキスト抽出結果 表の抽出 サンプル3の表抽出結果 サンプル4の表抽出結果 検証結果 まとめ 概要 今回はPDF読み取りライブラリとして、PyMuPDF、pdfplumber、unstructuredの3

15時間で学べるAI学習決定版。グーグルが提供する無料の機械学習集中講座が大幅刷新され、LLMもカバー Googleが提供する無料の機械学習の集中講座はご存知でしょうか? 機械学習に関する幅広いテーマを座学・動画・実験・コーディングといった様々なアプローチで15時間で学べます。しかも無料です。 このコンテンツはもともとは2018年に公開されたものであり、多くのエンジニアに活用されました。 とはいえ、2017年のTransformerの論文、大規模言語モデルの発展、2022年のChatGPTリリースなど、AIは急速に発展し、より広い職種に身近なものになっています。 この流れを受けて、入門講座は2024年8月に大幅に刷新されました。 ※冒頭で登場するResearch DirectorのPeter NorvigはAIの世界的な教科書"Artificial Intelligence: A Mode

「AWSを始めた頃に陥りがちなポイントをまとめてみた」というタイトルで登壇しました #classmethod_forgevision_fusic この度、「Fusic x フォージビジョン x クラスメソッド Vol.2【AWS勉強会】」というイベントで、「AWSを始めた頃に陥りがちなポイントをまとめてみた」というタイトルで登壇しました。今回はその内容をダイジェストで紹介します。 はじめに おのやんです。 この度、2024/09/05に開催された Fusic x フォージビジョン x クラスメソッド Vol.2【AWS勉強会】というイベントで、「AWSを始めた頃に陥りがちなポイントをまとめてみた」というタイトルで登壇しました。 ということで、こちらの登壇内容をダイジェストで紹介したいと思います。 イベント概要 Fusic x フォージビジョン x クラスメソッド ３社合同 AWS 勉強会開

「AIは指示に従うのがとても得意だが、問題は人間が指示を与えるのが非常に苦手だということだ」（スチュワート氏） これまでは、調べものをする際にGoogleなどの検索エンジンが使われてきたが、自身が求める回答にたどり着けなかった経験がある利用者は多いはずだ。こうした検索に代わって、これからは生成AIにプロンプトを打ち込んで質問するといった、より高度な作業が求められることになる。 スチュワート氏は「全てのプロンプトには、明瞭さ、コンテキスト、制約という3つの基本的な資質が必要だ」と説明する。明瞭さを保つためには、簡潔な表現を心がけ、質問の主目的から逸れる可能性のある文言は使用を控える必要がある。コンテキスト（文脈）も、期待する回答を出力するための重要な要素となるため、質問に関する背景情報も含める。さらに、出力に必ず含めてほしい重要キーワードや文字数なども制約条件として盛り込むことで、より精度の

株式会社ナレッジセンスは、生成AIやRAGを使ったプロダクトを、エンタープライズ向けに開発提供しているスタートアップです。本記事では、RAGの性能を高めるための「HybridRAG」という手法について、ざっくり理解します。 この記事は何 この記事は、RAGシステムを専門用語に強くするための手法「HybridRAG」の論文[1]について、日本語で簡単にまとめたものです。 今回も「そもそもRAGとは？」については、知っている前提で進みます。確認する場合は以下の記事もご参考下さい。 本題 ざっくりサマリー HybridRAGは、通常のRAG（Retrieval Augmented Generation）で用いられる「ベクトル検索」の弱みを補い、回答精度を向上するための手法です。BlackRockとNVIDIAの研究者らによって2024年8月に提案されました。 ベクトル検索の弱みはいくつかあります

アメリカで、ソフトウェアのエンジニアをするというのは、ごく一部のものすごく優秀なエリートが達成できる境地…みたいに思っていないだろうか？そんなことは無いですよ。アホにゃんにゃんで、日本ではプログラマとして通用しなかった自分でもやれています。５年たった今でも自分的には最高に居心地が良くて楽しい！だから、なぜ私がタイトルのように思うかを解説したいと思う。 シアトルでエンジニアをやる楽しさ　本記事はもちろんマイクロソフトはなんの関係もなくて、自分の意見であるが、私はマイクロソフトの Azure Functions の開発者をやっている。自分の性格をあげると、エヴァンジェリストとかやってたので陽キャと思われる人もいるかもしれないが、私は趣味がギターとプログラミングの陰キャで、人と一緒にいるより一人の時間がないと死ぬタイプの人間だ。（ちなみに、陽キャの人は楽しめないという話ではありません） アメリカ

なぜタヌキなのか? その謎は謎のままだが、とにかく日本語性能がGemini1.5Proに次ぎ、少し前のGPT-4よりも高い上に商用利用可能という太っ腹仕様なので使わない手はない。むしろこれさえあればもう誰もGPTに課金しなくて済む、そんな未来が来るのかもしれない。 しかし、Tanukiは特殊な何かをしてるらしくMLXに簡単にコンバートできずvllmで動かすときもちょっと魔改造したvllmが必要になるという。 最近ローカルづいてる吾輩としてはできればMLXで動かしたいのだがMLXがまだTanukiに対応してない(し、そもそも何をすればTanuki対応にできるのかよくわからない)ので、とりあえず「非推奨」とされてはいるものの、Macでもギリギリ動きそうなGGUF版を動かしてみた。 from llama_cpp import Llama filename = "Tanuki-8B-dpo-v1.

1. 要件定義プログラミング：自然言語による要件記述から直接実行可能なコードを生成 2. 自動要件定義生成：顧客の要望やビジョンを入力するだけで、Babelが詳細な要件定義を自動的に作成 3. 自律的システム構築：生成された要件定義に基づき、Babelが独自にシステムの設計、開発 4. グラフ型空間コンピューティングによる視覚的な開発体験：2D、3D空間内でシステム構造を可視化し、直感的な操作が可能 5. 並列実行マルチAIエージェント：複数のAIエージェントが並列で作業を行い、効率的にシステムを構築 6. 高い柔軟性と拡張性：様々な業界や規模の企業に対応可能 7. 開発期間の大幅短縮：一人月規模の開発、150ファイル近くの生成を2,3分で完了 要件定義プログラミングの革新性 Babelの中核技術の一つである要件定義プログラミングは、ソフトウェア開発のプロセスを根本的に変革します。 自然言

はじめに ソースコードをLLMに読んでもらうとき、単一ファイルだと楽なのですが、GitHubのリポジトリのように複数ファイルから構成されるプロジェクトだと困ってしまいますね。 リポジトリごとLLMに読んでもらえるようにいい感じにテキスト化できると良いですね。そんなソフトがありました。しかも2つ。 両方ともほとんどコンセプトは同じです。特に後者のgenerate-project-summaryは使い方も含めて、自分のやりたいことが、すでに開発者の清水れみおさんが以下の記事にまとめていました。 なので、あんまり書く必要ないのですが、せっかくなのでgpt-repository-loaderの使い方と、出力したファイルの別の活用方法について書いてみたいと思います。 gpt-repository-loaderでリポジトリをテキストに変換 使い方はREADMEに書いてあります。シンプルなソフトなので、

技術選定の失敗 2年間を振り返る TypeScript,Hono,Nest.js,React,GraphQL はじめに 新たに書きました。 MySQLを使っても会社は潰れない 久々に記事を書いたのでどうぞお手柔らかに... 私が過去2年間で行った技術選定の成功と失敗を振り返り、その学びを共有したいと思います。 文才無いので淡々と箇条書きでいきます Twitterエンジニア垢作りました。エンジニアのお友達がいません。 @uncode_jp 注意 意見を押し付けるものではありません。ただ建設的な議論は大事だと思う。 自分の意見は明確に、歯切れのよい表現を意識している。人それぞれだよねみたいな感じに逃げたくない。技術選定に結論はある（過激）。 ただし技術選定にはコンテキストがあり、例えばプロダクトのフェーズや組織の事情によって当然結論は変わる可能性がある。 OSSの開発者さん達は偉大ですごい。あ

人間よりAIのほうがレッスン上手？ 「学マス」で新カードのバランス調整を迅速かつ確実にするための“AI開発手法”とは［CEDEC 2024］ ライター：高橋祐介 ゲーム開発者向けカンファレンス「CEDEC 2024」の初日（2024年8月21日），スマホゲーム「学園アイドルマスター」（以下，学マス）の講演「『学園アイドルマスター』における適応的ゲームAIとグレーボックス最適化を用いたバランス調整支援システムの実現」が行われた。 学マスではこれまで，深層強化学習によるカードゲームAIと，デッキ探索を用いたバランス調整支援システムを開発し，新規実装カードのバランス調整に活用してきたという。これらについて講演では，カードゲームのバランス調整支援にAIを活用する考え方や，最新のマスターデータにも適応するゲームAIの開発手法などが伝えられた。 左からサイバーエージェント ゲーム・エンターテイメント事

概要 AWS とかで踏み台ホスト経由（ここでは AWS っぽく bastion と呼ぶ）で ssh する必要があるなら ~/.ssh/config は↓みたいにしとくのが良いんじゃないかな？ Host bastion Hostname bastionのIPアドレス User bastionのユーザ名 # ↓は規定のファイルだったり ssh-agent 使ってれば不要 IdentityFile bastion接続用の秘密鍵ファイル名 # ↓の3つはWindowsでは使えないので諦めて ControlMaster auto ControlPath ~/.ssh/cp-%r@%h:%p ControlPersist 10m Host 好きな接続先名 Hostname 接続先のIPアドレス User 接続先のユーザ名 # ↓は規定のファイルだったり ssh-agent 使ってれば不要 Identi