サクサク読めて、アプリ限定の機能も多数!
トップへ戻る
プライムデーセール
tech-blog.abeja.asia
こんにちは。 ABEJAでデータサイエンティストをしている服部です。 LLMの進化は速いですね。 Reasoning能力があることは勿論Agenticな動きをすることも最近求められており、LLM開発においてもPost Trainingの重要性は高まっています。 本記事では、Agenticな能力の向上に向けた Post Training、特にSFTと強化学習で実施したこと、およびその過程で得られた知見をまとめました。 SFTでの精度劣化回避や、Tool-Useを用いたAgenticな強化学習タスクの紹介、強化学習におけるハマりどころなど多岐に渡って詰め込んでいます。 興味ある部分だけでも読んでもらえると幸いです。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC(Generative AI Accelerator Challenge)」
こんにちは、ABEJA Platform に搭載しているアプリケーション、「ABEJA Insight for Retail」の開発と運用を担当している森永です。 みなさんは普段 SSH を使っていますか? 私は元々 Vimmer だったこともあり (最近は機能面で楽なので VSCode を使用しておりますが...笑) 、SSH には非常にお世話になっており、現在でも直接叩くことは減りましたが、 VSCode やその他の便利なツールの裏で動く縁の下の力持ちとしてお世話になっています。 とあるテックブログで公開されていた『 Why does SSH send 100 packets per keystroke? · eieio.games 』という記事が Claude Code を有効に使ってかなり興味深いデバッグを行なっていたので、要点の翻訳もかねつつ、コメントを行なっていければと思います
※ 本記事は一部 AI を用いて執筆しております。 内容に関しましては基本的に筆者が慎重にレビューや動作確認、ファクトチェックを行なっておりますが、万が一問題と思われる点ございましたら、コメント欄にてご指摘くださいませ。 1. イントロダクション:なぜ今更、自前で環境を構築するのか 1.1 プライベートクラウド回帰の潮流とセキュリティの課題 1.2 本記事の目的 2. アーキテクチャ設計論:防御と可用性の融合 2.1 全体像 環境 2.2 コンポーネント選定の技術的根拠 Proxmox VE:インフラの基盤 Keepalived:シンプルかつ堅牢なHA HAProxy:高性能ロードバランサ Suricata:マルチスレッドIPS 3. インフラストラクチャ構築 3.0 物理サーバー確保 3.1 Proxmoxネットワーク構成 3.1.1 Linux Bridgeの確認・設定 3.2 VMの
ABEJAでデータサイエンティストをしている藤原です。ABEJAアドベントカレンダー2025の17日目の記事です。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC(Generative AI Accelerator Challenge)」の1期、2期に続き、3期にも採択され、そこで大規模言語モデルの開発を行っています。3期ではエージェントとして用いるための基盤モデルを開発しており、特にロングコンテキスト処理性能とPlaning・ToolUseなどの Agentic な能力の向上に重点を置いて開発を進めております。 ロングコンテキストLLMに関する検証の一環で、以前にもロングコンテキストLLMの評価や分析に関するブログを公開しています。 tech-blog.abeja.asia tech-blog.abeja.asia 今回もロングコ
こんにちは。 株式会社ABEJAでソフトウェアエンジニアをしている近藤です。 この記事は、ABEJAアドベントカレンダー2025、16日目の記事になります。 📝 3 行まとめ 1. はじめに:NotebookLM を技術書の理解に使ってみようと思った背景 2. 初期理解フェーズ:NotebookLM が技術書の“読み始め”を支える インフォグラム:全体像を一瞬で把握できる スライド資料:章構造を整理する“地図”になる レポート(概要):文章で骨格を掴む NotebookLM 機能 × フェーズ別評価マトリクス 補足:音声解説の位置づけについて 3. フェーズ別に見る NotebookLM の使いどころ 3-1. 初期理解フェーズで役立った機能 インフォグラム スライド資料 レポート(概要 / 用語解説) 3-2. 深掘りフェーズで役立った機能 チャット(通常モード) チャット(学習ガイド
はじめに 皆さんお久しぶりです。 ABEJAでNotionの布教をし続けている齋藤です。 こちらは ABEJAアドベントカレンダー2025 の16日目の記事です。 引き続き弊社メンバーが面白い記事をどんどん投稿予定なので、是非チェックしてみてください❤️ 目次 はじめに 導入 新機能: ページレベルのアクセス制御 機能概要 利用方法 (4ステップで簡単設定) 注意点:設定の落とし穴に注意! 利用例 一般的な利用シーン: ITチケット管理データベースの場合 応用した利用シーン: 採用プロセス管理データベースの場合 データベースボタンを活用する場合 ボタンを活用する場合 データベースオートメーションを活用する場合 最後に一言 We Are Hiring! 導入 Notionはここ四半期でとても大きなリリースを複数実施しています。 2025年9月18日には、Notionというツールの転換期と言っ
この記事は、ABEJAアドベントカレンダー2025の11日目の記事です。 こんにちは。 株式会社ABEJAのシステム開発部でエンジニアをしている鈴木です。 他のメンバーががっつり技術に触れている中、今回はひたすらにバイブコーディングする話になります。 今年のアドベントカレンダーもバラエティに富んだラインナップになっているので他の記事もぜひご一読いただければと思います! 今回は以下の目次でお届けいたします! 新居が決まった! 熊が街にやってくる! バイブコーディングについて ここでタイトル回収 ここから本編 企画 運営 各モデルの成果物 Composer 1 Opus 4.5 GPT-5.1 Codex Gemini 3 Pro Grok Code 総評 まとめ We are hiring! 新居が決まった! 長野に住むのが、夫婦の長年の夢だったのですが、夏にとうとう物件が決まり、引越しも間
やぁ〜ん こんにちは、データサイエンティストをしている服部です。 ABEJAアドベントカレンダー2025の10日目の記事です。 LLMといえばロングコンテキスト大事ですよね(唐突) そんなLLMのロングコンテキストを支える重要技術である「YaRN」を紹介したいと思います。 https://arxiv.org/abs/2309.00071 脳内再生されるあれ 実際になんと読むのが正解なのか知りませんが、私の頭の中ではこれしか流れません。 「やぁ〜ん」 www.youtube.com どないやねん ヤドン ということで、「やぁ〜ん」っとヤドンを題材にしながらヤドンでも分かるようにYaRNを紹介したいと思います。 脳内再生されるあれ YaRNの正式名称 RoPE 回転による位置情報付与 同じトークン内のベクトルの中でも回転させる量を変えている 回転量が少ない部分 回転量が多い部分 RoPEの全体
こちらはABEJA アドベントカレンダー 2025の8日目の記事です! ABEJAでデータサイエンティストをしている岩城です。 最近はロボティクス関連のキャッチアップを行っています。 ロボットをやるにあたってROS2は避けては通れぬということで、最近ROS2初心者に入門しました。 今回は、ROS2を使ってロボットをVLAで動かす方法について、自身のキャッチアップも兼ねて書いていこうと思います。 シミュレーション環境で実施したのですが、筆者が手軽に動かせるPCはMacのみだったため、さまざまな制約と戦いながらの検証になりました。 この記事は、気軽にMacを使ってシミュレーション環境上でROS2 + VLAを試してみたいという方向けです。 ROS2とは VLAとは シミュレーション環境 実装 Mujocoを起動するノード SmolVLAを起動するノード 動作検証 手順 検証画面 最後に We
1. はじめに 2. 全体像 2.1 ハードウェア構成 2.2 ハードウェア詳細 2.2.1 電気コンロ 2.2.2 熱電対 2.2.3 Raspberry Pi 2.2.4 ソリッドステートリレー(SSR) 2.3 ソフトウェア構成 3. 実験 3.1 燻製器付属のアナログ温度計使用バージョン(途中で実験停止) 3.2 デジタル温度計(熱電対)を使用したバージョン(まぁまぁ成功) 4. 気づき・工夫など 4.1 アナログ温度計の読み取りが難しい 4.2 デジタル温度計の読み取りもコツが必要 4.3 温度が認識できない時の処理を定義しておく 4.4 GPIOの排他的ロックに気をつける 最後に 参考 We Are Hiring! 1. はじめに ABEJAの大田黒です。ABEJAアドベントカレンダー2025の3日目の記事です。今回はVision-Language Model(VLM)とAI
はじめに π0.5とは 実験計画 データセット作成 π0.5のファインチューニング 評価 追加学習なしの評価 追加学習ありの評価 データ収集とは違う環境での評価 Real-Time Action Chunkingの評価 結果まとめ 考察とまとめ We Are Hiring! こんにちは! ABEJAでエンジニアをしている宇留嶋です。 ついに今年もこの季節がやってきました、ABEJAアドベントカレンダー2025、開幕です! 今年も25日間、ABEJAメンバーが総力を挙げてテックブログを毎日お届けします。 2025年のABEJAを象徴する濃厚な技術記事を怒涛の勢いで公開していきますのでよろしくお願いします! そしてこの記事は、 ABEJAアドベントカレンダー2025 記念すべき1日目の記事です。 はじめに ロボットアームによる物体操作タスクでは、環境の変化や対象物の多様性に対して柔軟に適応でき
ABEJAでデータサイエンティストをしている藤原です。 今回は LLM のロングコンテキスト言語処理(Long-context language modeling; LCLM)に関連するブログになります。近年の LLM ではオープン・クローズド問わずより長大なコンテキストを正確に扱えるモデルが増えてきています。このようにロングコンテキストLLMが増えてくると、どのようにモデルのLCLM性能を評価すべきかが課題となります。 しかしながら、日本語の LCLM 評価のデータセットやベンチマークは現状なく、自作するにしても 128k トークンもある文章を人間が読んで品質を担保するのはかなり難しい問題だと思います。また、精緻な評価とはいかずとも、何かしらの方法で入出力・モデルの内部状態などを観察してモデルの LCLM 性能を分析できるとモデル開発・応用に役に立つと思っています。 そこで本記事ではLC
ABEJAでデータサイエンティストをしている藤原です。 今回も LLM のロングコンテキスト言語処理(Long-context language modeling; LCLM)に関連するブログになります。前回のブログはこちらです。 様々なコンテキスト長における LLM の Self-Attention の Query と Key の分析 - ABEJA Tech Blog 近年の LLM ではオープン・クローズド問わずより長大なコンテキストを正確に扱えるモデルが増えてきています。このようにロングコンテキストLLMが増えてくると、次はどのようにしてモデルのLCLM性能をどう評価すべきかが課題になります。しかしながら、たとえばモデルの生成結果を実際に自分で読んで確かめようと思っても、128kトークンもある入出力のテキストに目を通すのはかなり時間がかかってしまいます。 そこで今回は LCLM 評
タイトル こんにちは、ABEJA Platform に搭載しているアプリケーション、「ABEJA Insight for Retail」の開発と運用を担当している森永です。 今回は LangChain 社より公開されている local-deep-researcher という、ローカル LLM で動作する Deep Research を簡単に作成できる OSS を動かして、その構造について解説します。 ※ 本記事では Linux と Mac 向けの動作手順を記載しています。 Windows 向けの環境構築手順は下記レポジトリの README をご参照ください。 github.com こちらの OSS では OpenAI や Google をはじめ、各社が提供している deep research 機能に近しいアプリケーションを、ローカルの LLM モデルを使って実現しています。 OSS の名称
こんにちは!ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。 今年の CES2025 にて、 NVIDIA から Cosmos という自動運転やロボティクス用のプラットフォームをリリースしたという発表が大々的にありました。 blogs.nvidia.co.jp CES 2025での NVIDIA 発表動画は、以下を見ていただければと思います(Cosmos以外にも色々発表しています) youtu.be Cosmos は、NVIDIA が提唱している「フィジカル AI」の開発を促進するプラットフォームであり「世界基盤モデル」なるものを使っているとのことで、何やら凄そうな印象を受け、NVIDIA Omniverse との違いも気になったので、実際に Cosmos を動かしながらその機能を確かめてみました。 なお、本記事の動画は全体的に画質が悪いです
データサイエンティストをしている服部です。 OpenAIからgpt-ossというオープンモデルが登場しました。 早速ですが、このモデルを使いながら中身を理解していきたいと思います。 gpt-ossのモデル特徴 vLLM上で動かす 通常のtokenizerで動かす 最終出力と思考部分 chat templateも見てみる Tool Useを試す Built-in toolも試す Python blowser 複数のツールを同時並列で使えるか? まとめ We Are Hiring! gpt-ossのモデル特徴 openai.com 他にも紹介している記事はたくさんあるため手短に... 今回OpenAIからは2種類のモデル gpt-oss-120b と gpt-oss-20b がリリースされており、どちらもApache2.0ライセンスで提供されてます。 どちらのモデルもMoE(Mixture o
ABEJAでデータサイエンティストをしている藤原です。 今回は、株式会社ハイレゾ様のGPUクラウドサービス「GPUSOROBAN」で H200 GPU × 8基構成のシングルノードサーバを用いて、大規模モデルを使用した検証を実施しました。本記事では、その検証でのGPUサーバの使用方法や、検証内容の一つである Qwen2.5-VL-72B-Instruct を用いたOCRの結果についてご紹介します。 highreso.jp はじめに GPUクラウドサービス「GPUSOROBAN」について GPUサーバの使い方の方針と事前準備 Qwen2.5-VL-72B-Instruct を使った OCR を試してみる 条件 実装 実行時のGPU使用状況と処理速度 検証1. 通常の文書のOCR 検証2. チャート・グラフのようなテキストで表現されていない情報のテキスト化 検証3. 複雑なレイアウトのドキュメ
こんにちは!ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。 先日の記事では、NVIDIA のロボティクス用3Dシミュレーター「Isaac Sim & Lab」を使用して、物理演算が考慮された3Dシミュレーター上でロボティクスモデルを学習させたり推論させたりしながらロボットを動かす方法を紹介しました。 tech-blog.abeja.asia 今回の記事では、同じく Isaac Sim & Lab を使用して、シミュレーター上でのロボット遠隔操作や Isaac Lab Mimic により、ロボティクスモデルの学習用データセットを生成したり、生成したデータセットでモデルを学習&推論する方法を紹介します。 なお Isaac Sim & Lab の3Dシミュレーターを動かすための各種環境構築に関しては、前回の記事を見てもらえればと思います。本記事で
こんにちは。CTO室の村主です。 Claude Codeを日々使う中で思っていることをGeminiに言語化してもらいました。 Gemini製作物ですので、超最新トレンドを掴んでいなかったり、書き味がイマイチなところも敢えて残していますので、読み物として楽しんでください。 宣言的AIコーディングのススメ AIがコードを書く時代が本格的に到来しつつあります。しかし、「AIにコードを書かせたけどうまくいかない」「毎回指示の仕方に悩む」といった声も聞かれるのではないでしょうか。その問題の根底には、AIへの「指示の出し方」があるのかもしれません。 この記事では、AIコーディングの効率と品質を劇的に向上させる「宣言的AIコーディング」というアプローチについてご紹介します。 AIコーディングの落とし穴:「命令的指示」の限界 私たちは普段、人間に対して何かを依頼する時、「まずこれをして、次にこうして、もし
こんにちは!ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。 先日の記事では、いずれも Gymnasium というライブラリを使用して簡易的な環境でモデルを推論させながらロボットを動かしてみました。 tech-blog.abeja.asia tech-blog.abeja.asia しかしながら実際のロボティクス開発においては、できるだけ現実世界に近くなるように物理演算が考慮された3Dシミュレーター上で動かしながらシミュレーションする必要があります。 このような3Dシミュレーターには、MuJoCo, Isaac Sim, Genesis, Pybullet などがあります。MuJoCo については、以下の記事を見てもらえればと思います。 tech-blog.abeja.asia 本記事では、NVIDIA のロボティクス用の 3D シミュレータ
こんにちは。CTO室の村主です。 みなさん、Claude Code や Cursor で色々なアプリを Vibe Coding していると思います。いきなり本番環境をゴリゴリ Vibe Coding している人は限られていると思いますが、ひとまず社内系のアプリケーションなら品質は置いといて爆速で作っていけると思います。 そこで、要望からデプロイまでを爆速にするツールを作ったので公開します。 背景 Claude Code で開発するとサクサク機能追加できます。でも非エンジニア含めてみんながみんな Claude Code を使いこなせるわけじゃないです。 そこで Claude Code Action を実装すれば GitHub に Issue を登録するだけで自動的に開発が行われ PR 作成まで簡単に進められると考えました。 でも機能追加・改善したい時にいちいち GitHub Issue を開
はじめに SO-101の初期セットアップ 模倣学習の実践 タスク設定 カメラセットアップ データセット作成 学習プロセス 評価と結果 まとめと今後の展望 We Are Hiring! はじめに こんにちは!ABEJAでエンジニアをしている宇留嶋です。2025年5月SO-101 がオープンソースで公開され、ハードウェアの民主化によって「ロボティクス × AI」の実験速度は一気に加速し、研究室レベルだった試みが個人でも実践可能になりつつあります。今回はロボットアームSO-101とHugging FaceのLeRobotライブラリを使って模倣学習に挑戦してみました。本記事では、模倣学習の実験過程(セットアップから学習・評価)についてご紹介します。 SO-101の初期セットアップ 今回使用したキットは、Seeed Studioから購入したSO-ARM101 Kitです 。 具体的には、 SO-AR
ABEJAでデータサイエンティストをしている服部です。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC(Generative AI Accelerator Challenge)」の1期に続き、2期にも採択され、そこで大規模言語モデルの開発を進めています。 その中でQwen2.5をベースとして継続事前学習を行なったモデルをいくつか開発し、公開しています。 tech-blog.abeja.asia tech-blog.abeja.asia tech-blog.abeja.asia 1月に公開した32Bモデルのブログにも記載したのですが、時々中国語が混ざる課題が見つかっておりました。 そこでこの問題を定量的に測定する方法を考え、日本語の追加学習をしたモデルで改善しているかを含め確認してみます。 言語混ざり問題について そもそも言語が混ざっ
はじめに こんにちは!ABEJAのシステム開発部でソフトウェアエンジニアをしている関です。 日々の業務でLLMを活用する中で、「AIにどう指示すれば効率的に期待どおりの結果が得られるのか」という課題に直面していました。試行錯誤の繰り返しで時間を取られることも多く、このやりとりを効率化したいと考えていた時に出会ったのが、Googleが2025年2月に公開したプロンプトエンジニアリングに関するホワイトペーパーです。その内容は非常に実践的で、私のLLM活用スキル向上に大いに役立つものでした。 このホワイトペーパーは、プロンプトエンジニアリングの基礎から応用まで、実践的な手法を網羅的に解説しています。ホワイトペーパーが述べるように、「データサイエンティストや機械学習エンジニアである必要はありません—誰でもプロンプトは書けます」。しかし、より正確で有用な出力を安定して得るためには、やはり知識と体系的
ABEJA でデータサイエンティストをしている岩城です。 先日弊社は、京都大学大学院情報学研究科教授 谷口 忠大先生に顧問としてご参画いただきました。谷口先生は、記号創発システム分野において広範な研究を推進する第一人者でいらっしゃいます。 www.abejainc.com 本記事では、谷口先生が取り組まれている記号創発ロボティクスについて、自身の解釈も交えながら解説していこうと思います。参考にした中心的な論文は以下です。 doi.org 記号創発 記号創発システム 記号創発ロボティクス 場所概念獲得モデル 確率的生成モデルによる記号創発システムのモデル化 集合的予測符号化に基づく記号創発ロボティクスの新展開 記号創発ロボティクスの展望 最後に We Are Hiring! 記号創発 まず、ここでの記号とはそれ自体が何か意味を持つものではなく、それを通して何かの意味を表現する媒体とします。例
こんにちは!ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。 先日の記事で、ロボティクス領域の VLA モデル「π0」の内部の仕組みを解説しました。 tech-blog.abeja.asia 今回の記事では、この「π0」を LeRobot を使用して実際に動かしてます。(π0 を動かす分には、中身の仕組みは必ずしも知らなくても十分なので↑の記事はスキップしてもらってもOKです。) とはいえ、いきなり実機で動かすのは色々ハードルがあるので、この記事では Gymnasium でのシミュレーター環境上で動かしたり(推論させたり)、ファインチューニングしたりする方法を解説します。 使用ライブラリ LeRobot とは? Gymnasium とは? 環境構築方法 pushT シミュレーター環境上でπ0を動かす 学習用データセット モデルのファインチュー
ABEJAでデータサイエンティストをしている大谷です。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC(Generative AI Accelerator Challenge)」の1期に続き、2期にも採択され、そこで大規模言語モデルの開発を実施しました。 これまでにGENIAC2期の取り組みで3つのモデルを公開してきました。 これらのモデルはAlibaba社が開発したQwen2.5-32B-Instruct、QwQ-32B、Qwen2.5-7B-Instructをベースモデル、差分Vector用モデルとして用いています。 7Bと32Bのv0.1のモデルは事後学習を実施する前のものです。 これらに事後学習を行い更に精度をあげるべく 、SFT用データセットとDPO用のデータセットを2万件弱ずつ合成データ+人手によるアノテーションで作成し
はじめに こんにちは、Labsチームの藤本です。 弊社は、経済産業省とNEDOが実施する、国内の生成AIの開発力強化を目的としたプロジェクト「GENIAC(Generative AI Accelerator Challenge)」の1期に続き、2期にも採択され、そこで大規模言語モデルの開発を進めています。今回は、そのプロジェクトの中で実施した大規模言語モデルの蒸留(Knowledge Distillation)に関する技術的な取り組みをご紹介します。 本蒸留の成果については、以前の記事(https://tech-blog.abeja.asia/entry/geniac2-qwen25-7b-v0.1)で既に紹介しております。本記事では、特にNeMoフレームワークにおける蒸留の仕組みと、NeMoで大規模なモデルを効率的に蒸留する際の技術的課題およびABEJAではどのように実装したかについて紹
こんにちは!ABEJA で ABEJA Platform 開発を行っている坂井(@Yagami360)です。 近年の ChatGPT 等の LLM の飛躍的な発展とマルチモーダル化の流れに伴い、ロボティクス領域においても LLM を活用して、テキストでロボット制御できるようになってきているようです。 LLM に対して画像を入力もできるようにして{画像・テキスト}でのマルチモーダル化したモデルを VLM [Vision-Language Model] といいますが、ロボティクス制御等で LLM を活用できるように更にこれを拡張して、ロボットのアーム制御などの行動ベクトルも入力できるようにして{行動・画像・テキスト}でのマルチモーダル化したモデルを VLA [Vision-Language-Action] モデルといいます。 本記事では、そんな VLA モデルの中でもロボティクス領域におけるツ
次のページ
このページを最初にブックマークしてみませんか?
『ABEJA Tech Blog』の新着エントリーを見る
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く