こんにちは！ABEJAでデータサイエンティストをしている大谷です。 ABEJAは国立研究開発法人新エネルギー・産業技術総合開発機構（以下「NEDO」）が公募した「ポスト5G情報通信システム基盤強化研究開発事業／ポスト5G情報通信システムの開発」に当社提案の「LLMの社会実装に向けた特化型モデルの元となる汎化的LLM」が採択されたことを受け、LLMの事前学習を実施しました。 以降、本LLMプロジェクトをGENIAC（Generative AI Accelerator Challenge）と表記します。 開発内容は表題の通り、Mistral社のMIxtral 8x7Bをベースにした日本語の語彙拡張版継続事前学習です。弊社が調べた限り、Megatron-LMでMixtralモデルを継続事前学習するソースコードは2024年4月12日時点（執筆時）では存在していません。 GENIACの計算資源提供の

はじめに 完成品イメージ (Tagurobot v1) 3Dモデルの全体像 メイン構造体 制御系回路・バッテリー搭載用ボード 関節 アーム End Effector 電源・制御系の全体像 モジュール紹介 (LiPoバッテリー) モジュール紹介 (ヒューズ) モジュール紹介 (DC-DCコンバーター) モジュール紹介 (RaspberryPi) モジュール紹介 (サーボモータードライバー:） モジュール紹介 (サーボモーター) モジュール紹介 (加速度ジャイロセンサー) 制御系ソフトウェアの全体像 Tripod Gait(トライポッド歩容)の紹介 適切な関節角度を算出するための逆問題を解く 制御系ソフト 設計・作成しての学び 3Dプリント関連 機構・ソフトウェア設計関連 v2に向けた改善点 最後に ※3Dモデル・ソフトウェアの利用ポリシー We Are Hiring! はじめに こんにちは！

この記事はABEJA Advent Calendar 2023の12日目の記事です。 ABEJA のアジャイル開発チームでスクラムマスターをしている小川です。 今日はスクラムなどに代表されるアジャイルなチームに欠かせない「自己管理（自己組織化）」についてご紹介をさせていただきます！ また、失敗例という形で「自己管理型チームから遠ざかる危険シグナル」についてもご紹介をさせていただき、最後に自己管理型チームを実現するための（私の経験をベースに独断と偏見による）代表的なコツも挙げさせていただきます！ アジャイルなチーム作りをされている方の参考になれば幸いです。 （この記事では上下関係に対して否定的な表現を使っていますが、あくまでアジャイルなチームにおいては望ましくないという意図であることをご承知おきください。） 目次 はじめに なぜ自己管理型チームの実現にはフラットな関係が欠かせないのか？ フラ

TL; DR LangChainのメリデメを整理する過程で、今となってはopenai-pythonのうちChatGPTのAPIをを簡単に取り回せる程度のシンプルなライブラリがあるだけでも十分便利なんじゃないかと思ったので、ライブラリを個人で作ってみました。（バージョン0.0.1なのでちょっとお粗末な所もありますが） github.com はじめに こんにちは、データサイエンティストの坂元です。ABEJAアドベントカレンダーの13日目の記事です。世は大LLM時代ということで、ありがたいことにABEJAでも複数のLLMプロジェクトを推進させて頂いています。私自身もいくつかのLLMプロジェクトに参画しています。LLMといえばLangChainが便利ですね。OpenAI APIの利用だけでなく、各種ドキュメントのパースが出来たり、HuggingFaceやインデックスDBを扱う他のライブラリとインテ

DSチームの構成 DSチームの特徴 オンラインコミュニケーションの課題 ABEJAのDSチームとしてのアプローチ DS Dayとは？ その他チームビルディング施策 さいごに こんにちは。データサイエンス (DS) チームの真鍋と申します。 アドベントカレンダーでは限界野球オタク丸出し趣味全開の記事を執筆していましたが、今回は毛色を変えて、我々DSチームにおいて画期的な取り組みの1つであったDS Team Day (通称DS Day) を中心とした、チームコミュニケーションに関する施策をご紹介したいと思います！ …その前に、前提として、DSチームについて簡単にご紹介します。 DSチームの構成 DSチームは、私が入社する直前 (昨年頭) と比べ2倍近くまでメンバーが急拡大しており、4月には新卒が、5月･7月には中途入社でさらにメンバーが増える見込みです。 マネージャーの服部さん以下、チームリー

この記事は、ABEJAアドベントカレンダー2022 の 19 日目の記事です。 こんにちは！株式会社 ABEJA で ABEJA Platform 開発を行っている坂井です。 世間では Diffusion Model 使った AI による画像生成が流行っているみたいですね。 自分は元々 Computer Vision 系の機械学習エンジニアだったんですが、この１年くらいは AI モデル開発ではなくもっぱらバックエンド開発メインでやっていて完全に乗り遅れた感あるので、この機会に有名な Diffusion Model の１つである Stable Diffusion v1 について調べてみました！*1 では早速本題に入りたいと思います！ Stable Diffusion v1 とは？ Denoising Diffusion Probabilistic Model（DDPM） 学習時の動作 for

ABEJA Advent Calendar 2022 11日目の記事です。昨日は服部さんの夫婦で納得の土地探しをするためにLINE Bot作ったりデータサイエンスした話でした。 はじめに こんにちは、こんばんは、おはようございます、エンジニアの小笠原(@seiro-ogasawara)です。 去年の Advent Calendar で @toshitanian がオフィスDXを支える技術（バックエンド編）という記事を書いていましたが、本記事はそれの2022年版です。5日の記事で石川 (@ishikawa) がフロントエンド、というかネイティブアプリの機能紹介を行っているので、興味のある方はそちらもご覧ください。 この記事では、今年 Bizflex システムに追加した機能のうち、チャットツール連携機能、なかでも、(1) ゲスト来館時通知 (2) 勤怠サービス連携 についてご紹介します。 （ち

ABEJA Advent Calendar 2021 23日目の記事です。21日目のオフィスDXを支える技術（フロントエンド編）のバックエンド編の記事となります。 はじめに こんにちは、エンジニアの @toshitanian です。 ABEJAは2021年11月にヒューリック株式会社と資本業務提携を行い、その一環として「Bizflex By HULIC」という賃貸オフィスを支えるBizflexシステムの開発・運営しています。 Bizflexシステムでは、クラウドサービスと連携した共用会議室予約システム、取次対応を効率化するゲスト受付システム、社員の所在地・状況可視化システムなどの機能を提供しています。Bizflex システムは、オフィスDXを推進するためのプロダクトなので、インターネットサービスだけでは無く、オフィスに設置されているWiFiや、ビルのセキュリティシステム等とも連携を行ってい

初めに 会社・事業紹介 ABEJA Insight for Retailについて 技術スタック 全体アーキテクチャ図 ① 映像録画・解析システム ②データ基盤部分 ③ Webダッシュボード その他 (全体共通部分) 一緒に働く仲間を募集中！ 最後に 初めに こんにちわ。大田黒（おおたぐろ）です。暑い日が落ち着いてきて、秋(冬？）が来たなぁと感じるこの頃です。皆様いかがおすごしでしょうか。前回の「ABEJAの技術スタックを公開します (2019年11月版)」が公開されてからしばらく経ちました。 引き続きエンジニアの方とお話させていただく中で、 「ABEJAってよく聞くけど...実際どんなことやってるのかよくわからない」 「AIのお硬いSIerって感じなんでしょ？」 「社内は機械学習エンジニアばっかりなんでしょ...??」 といったご質問をいただくことが多いです。 今回の記事では､最新の会社や

ABEJA で Research Engineer をやっている中川です．普段は論文読んだり，機械学習モデルを実装したり，インフラを構築したりしています． 10/27-11/2 に韓国で開催された ICCV2019 に Researcher の白川と参加してきたので簡単に報告します． Summary 過去最大の ICCV で中国・アメリカの完全なる二強状態． ハードウェア機構から攻めたり，Non Deep をやり切る研究もあったが，やはり Deep が主流． 軽量で強いモデルを得るためには Distillation をするのが常道．Distillation 自体についても様々な手法が提案されていた． 3Dモデルや点群を扱った論文が増えてきた． 類似した課題について似たようなアプローチを取っている論文が多かった． ICCV2019 詳細については 11/14 に主催しました ICCV2019

はじめまして、外木です。ABEJAでは、約5年間日本の事業・組織・ファイナンスなどの責任者を担当して、1年半前から日本以外の責任者をしております。今回の記事は主に、①技術に苦手意識を持つ非エンジニア経営者や、②「AIで何とかしてくれ」と情報発信をする経営者に気付きの材料を与えたいエンジニアの方に是非読んでいただければ幸いです。（この記事はABEJA Platform Advent Calendar 2018の23日目の記事です。） 2019年は「経営者によるAI/MLモデル実装元年」 AI/ML含めた本場の最先端テクノロジーに触れるために、2018年11月末日から12月上旬にラスベガスで開催されたAWS re:Invent2018に参加しました。Keynoteで、AWSCEOのAndrew Jassyより、AI/ML活用をサポートする多数のサービスの紹介がありました。 SageMaker

ABEJAでResearcherしている白川です。 今回ご紹介するのは、Poincaré Embeddings [1]という手法です。その内容に驚愕し、個人的に調べたり実装したり勉強会でお話したりしていたところ、最近運良く自分の実装をredditで取り上げてもらえたので、これを機にその驚愕の内容を共有できればと思います。 正直、自分の中ではまだ煮詰まりきっていない技術なので、現況の共有はしますが、ところどころ私の憶測や展望、期待が入り混じっていることをご容赦ください。 www.reddit.com Poincaré Embeddingsは大雑把に言えばword2vecを異空間で実現する技術で、双曲空間（Hyperbolic Space）という、おなじみのEuclide空間（2点$x,y$の間の距離を$\sqrt{(x_1 - y_1)^2 + (x_2 - y_2)^2 + ... + (

梅雨の候, 梅雨空のうっとうしい季節となりました。お元気でしょうか、せーのです。 さて今日はIoT関係久々の大型更新をお送りします。あのgreengrassがついにGAです。 AWS Greengrassとは AWS GreengrassとはAWSのIoT系最新サービスになります。AWS IoTは「Device Broker」「Rule Engine」「Device Shadow」などのコンポーネントで成り立っていますが、Greengrassはそれらのコンポーネントの大部分がまるっとデバイスの中で構築できてしまう、という驚きのサービスです。なんとLambdaもデバイスの中で動きます。これらのコンポーネント類はコンテナにパックされており、ハードの条件さえ整えばどこにでもデプロイできます。AWSを使うのにもはやクラウドすら要らない時代になってきました。 ところで、どうしてこのサービスが必要なの

エンジニアの河崎です。 昨日、AWS GreengrassがGAになりました。 AWS GreengrassはLambda等のAWSで利用可能なサービスの一部をローカルデバイス上で実行できるようにする事で、エッジ側でのアプリケーション実行を簡単にできるサービスです。 ABEJAではエッジコンピューティングを行っていますので、さっそく調査をしてみました。 以降の検証は Raspberry Pi 3 Model B で行っています。 ※2017年6月9日時点の情報です。また、できるだけ正確な情報を書くようにしましたが、間違っている可能性もありますのでご留意ください。 調べてみた AWS Greengrassとは？ 公式ドキュメント What Is AWS Greengrass? - AWS Greengrass Developers.IOのブログエントリ 【新サービス】AWS Greengra

はじめに はじめまして、ABEJA最年少メンバーでリサーチャーをやっている日熊です。 普段は、Deep Learningに関する研究をやっています。 仕事ではPythonを使っていますが、実際はScalaとかRustとかHaskellに最近ハマっています。 本日は趣味で作ったPythonのライブラリについて紹介します。 この記事では主に以下の様なことが起こります。 PythonでScalaっぽいlambda式を書けるようにした どうやってlambda式を実現したのか説明 既存ライブラリより高速だった 目次 今回作ったもの Scalaのようなlambda式をPythonで実現するライブラリを目指して作りました。 Scalaでは以下のようなコードが書けます。 val numbers = Array(1, 2, 3, 4, 5) val sum = numbers.reduceLeft[Int]

グーグルやＩＢＭといったアメリカの大手ＩＴ企業が主導権を握りつつあるＡＩ＝人工知能のビジネス。２０１７年、日本がその主戦場になると言われています。ＩＢＭの日本法人の幹部は「２０１７年は勝つための重要な年」と語ります。日本市場への進出を着々と進めるＩＢＭ、それを迎え撃つ日本の大手企業、それぞれの戦略を取材しました。（経済部 江崎大輔記者） ２０１６年１０月、アメリカのラスベガスでＩＢＭは顧客企業１２０社を招いて大規模なイベントを開きました。人工知能「ワトソン」のビジネス展開を世界的に広げるためで、ＡＩを導入した企業が“成功事例”を相次いで披露しました。 ＩＢＭは２０１８年までに全世界で自社のＡＩのユーザーが１０億人に達すると予測し、世界市場で大きなシェアを占めると見込んでいます。そのＩＢＭがアメリカに次ぐ世界第２位の市場として力を入れているのが日本です。 ＩＢＭのＡＩ開発拠点はニューヨークの

去年の１２月２３日のアドベントカレンダーで「役員会通ってたら書ける」改め「さくらインターネットでやりたいIoT」というのを描かせて頂きました。 えぇ、1年間更新しませんでしたね…Medium…orz さくらのIoTとかって発表して1年なんですねぇ。 この頃はまだ江草くんは執行役員ではなかったし、現在のさくらのIoT責任者の山口さんもniftyに居られたんですよね。時間経つの速すぎ。 とか言っててもしょうがないので、いまさくらでやりたいなぁと思っていることを。 情報銀行と情報信託銀行 Real Data Bankなんのこっちゃと思われるかもしれませんが、情報銀行ってワードは結構前から様々検討されてまして、今になって復活の兆しです、はい。 さくらのIoT Platformは順当に行けば情報信託銀行の方を担うことになるのではないかと思っています。もちろんさくらだけがとかって話ではなく、いろんな企

はじめに ABEJAでフロントエンド開発をやっている清水です。 先月末から今月初にかけてラスベガスで開催された AWS re:Invent に行ってきました。 この記事は、12月14日に弊社が運営しているコミュニティ主催で開催されたイベントで話した内容の補足になります。 https://abeja-innovation-meetup.connpass.com/event/45987/ re:Invent について re:Invent は年に1度開催されるAmazon Web Service 主催の開発者向けカンファレンスで、 今年は11/28〜12/2までラスベガスで開催されました。 行く前の準備 今回はABEJAからは一人で参加しました。私は英語を話すのが得意ではありません。 そして最近はフロントエンドを専門にやっているため、たくさんあるAWSのサービスを全部キャッチアップするのは難しく

サービス終了のお知らせ NAVERまとめは2020年9月30日をもちましてサービス終了いたしました。 約11年間、NAVERまとめをご利用・ご愛顧いただき誠にありがとうございました。