本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。今回は、効率的にLLMのような事前学習済みモデルを再学習する手法(PEFT)についてご紹介します。 問題意識 ビジネスで利用する際に乗り越えるべき壁 PEFTとは何か？ PEFTのコンセプト分類 トークン追加型 Prefix Tuning P Tuning Prompt Tuning Adapter型 Adapter LoRA型 LoRA Ada LoRA まとめ 参考文献 こんにちは、アナリティクスサービス部の辻です。 今回は、LLMを効率的に再学習する手法として今後

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回、日本語LLMである「OpenCALM-7B」と日本語データセット「JGLUE」のポジネガ分析のデータセット（MARC-ja）を利用し、「ポジネガ分析」に特化したファインチューニングを実施したので、ご紹介します。 はじめに こんにちは。アナリティスクスサービス部の中山です。 この記事では、「株式会社サイバーエージェント」*1が開発した商用利用可能なライセンスの日本語LLMである「OpenCALM-7B」に対して、「ヤフー株式会社」が公開している日本語データセット「

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 5月16日から毎日更新を続けてきたLLM特集も、本ブログで第1弾が一区切りとなります。 最後を飾るブログでは、知りたいことを質問すると社内データから関連する内容を検索し、質問に対してよしなに回答をしてくれるSlack BotおよびWebアプリをChatGPT APIを使って作成したので、その内容をご紹介します。 こんにちは、アナリティクスサービス部の田中です。 社内には有益な情報が多くありますが、データ量が増えるにつれて調べたい情報に正確にアクセスすることが難しくなり

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、「copilotとしての生成AI」という視点で概況を捉え、LLM/Generative AIの可能性と実用段階における諸問題について考察していきます。 はじめに 生成AIを活用したサービス/プロダクトの分類 分類方針 入出力による分類結果を俯瞰する 入出力による分類とトレンド Text to Text (Text or Image) to Image Text (and Speech) to Speech, Speech to Speech copilo

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、ChatGPTなどで好ましい応答を得られるように、人間からAIモデルの応答に働きかける、ヒューマンフィードバックというプロセスを支援する「Transformer Reinforcement Learning（TRL）」という強化学習ライブラリを紹介します。 こんにちは。アナリティクスサービス部の橋本です。 ChatGPTの学習プロセスとして取り入れられているRLHF（Reinforcement Learning from Human Feedback、人間のフ

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、生成AIの中でも、テキスト、画像、動画、3Dデータ、オーディオデータ、モーションなど多岐にわたるマルチモーダル系のタスクについて、全2回の連載でご紹介します。【第1回目の記事はこちら。】 こんにちは、アナリティクスサービス部の八登です。 昨今話題をさらっている生成AIですが、その中でマルチモーダル系のタスクに大きな関心が集まっています。 ここでマルチモーダル系とは、AIが同時に複数の形式を扱うことができる、ということを表しています。 モーダルの例としては

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、さまざまなLLMにどういった特徴や違いがあるのかを検証するための、GUIで複数のLLMをお試し利用できるツールを作成したのでご紹介します。 こんにちは、アナリティクスサービス部の髙橋です。 ChatGPTが登場して以降、さまざまな大規模言語モデル（LLM）が発表されていますね。 使う側としては楽しみな反面、業務で使うとなるとそれぞれのモデルにどういった特徴、違いがあるのかを検証していく必要があるのかな、と感じています。 そこで今回は、いくつかの大規模言語モデル

ブレインパッドで働くさまざまな職種の社員を紹介するインタビュー企画。今回は、当社のプロジェクトマネジャー、シニアリードデータサイエンティストを務め、実はカムバック入社されている小田さんに、ブレインパッドでデータサイエンティストとして働く魅力をお聞きしました！ こんにちは、人事部のデータサイエンティスト採用担当です。 ブレインパッドでは2004年の創業以来、データ活用を通じて、小売・メーカー・金融・エンターテインメント・IT事業会社などあらゆる業界のお客様のビジネスを支援しています。 今回は、ブレインパッドへカムバック入社された経験をお持ちで、プロジェクトマネジャーでもあるシニアリードデータサイエンティストの小田さんからお話しいただきました。 小田大輔 シニアリードデータサイエンティスト 2021年中途入社 働き方： 普段は、なるべく子どもと関われるように在宅勤務を多めにして働いています。

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、議論を活性化する質問をLLM技術によって生成できないかと考え、『この分野は素人なのですが…Bot』を開発した内容を、ご紹介します。 こんにちは、アナリティクスサービス部の藤田です。 ブレインパッドでは、有志による社内勉強会がとても活発で、ほぼ毎日何かしらの勉強会が開かれています。社内勉強会では、参加者による質問が重要な役割を果たします。質問によって、質問者は理解を深めることができ、他の参加者や発表者にとっても新しい視点を得ることができます。しかし、参加者が多い

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 この記事では、ChatGPTとLLMを使って、プログラミングの知識なしでデータ分析（前処理、可視化、学習、検証）を行えるツールアプリケーションを構築してみたので、その内容をご紹介します。 こんにちは、私たちはアナリティクスサービス部の田中、林です。今回はLangChainとChatGPTを使ったアプリケーションを作成してみたのでその内容について説明します。データ分析を進めたい、進めないといけない人たちが、プログラミングの知識なしでデータ分析（前処理、可視化、学習、検証

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 今回は、LLMを制御するためのアプローチについてご紹介します。 問題意識 LLMが抱えるリスク LLMの振る舞いを制御するための技術 モデルを調整するアプローチ プロンプトエンジニアリング ファインチューニング アライメント モデルの前後を管理するアプローチ データクリーニング モデル監視 出力フィルタリング こんにちは、アナリティクスサービス部の辻です。 今回はLLM(Large Language Model、大規模言語モデル)の振る舞いを制御するためのアプローチに

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 LLMのビジネス利用に関する注意点を扱う連載の最後となる今回は、「海外の法規制」についてまとめました。 ！注意・免責事項 本ブログに掲載されている情報については、可能な限り正確な情報を提供するよう努めていますが、誤情報が混入する場合や、情報の最新性が損なわれる場合もあります。また、情報の正確性を鑑みた際に、予告なしでの情報の変更・削除をすることもありますので、ご了承ください。 また、本ブログの掲載情報をご利用頂く場合には、読者の方のご判断と責任においてご利用頂きますよ

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 ChatGPTなど高性能な会話型AIの学習プロセスとして採用されているRLHFとは、一体何者なのかをご紹介します！ こんにちは。アナリティクスサービス部の橋本です。 今回は、ChatGPTなど高性能な会話型AIの学習プロセスとして採用されているRLHF（Reinforcement Learning from Human Feedback、人間からのフィードバックを用いた強化学習）とは一体何者なのかをご紹介させていただきます。 ChatGPTなどの会話型AIが、どんな学

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 BERTとChat GPTの精度比較に関する記事を全2回でお届けします。連載の第2回はChat GPT(GPT4)を用いて同様のタスクに取り組んだ結果と、BERTとChat GPTの精度比較についてご紹介します。 1. はじめに 2. 概要 3. 使用データ 4. 精度確認の流れ 5. Chat GPTについて 5-1. プロンプトについて 5-1-1. 具体例を交えてシンプルに 5-1-2. 修正度合いの調整 5-1-3. 前回修正文出力の抑制 5-1-4. 使用し

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 このたびブレインパッドは、LLM/Generative AIに関する研究プロジェクトを立ち上げ、この「Platinum Data Blog」を通じてLLM/Generative AIに関するさまざまな情報を発信をしています。 BERTとChat GPTの精度比較に関する記事を全2回でお届けします。連載の第1回はBERTを用いた日本語の誤り文修正モデルについてご紹介します。 1. はじめに 2. 誤り文修正について 2-1. 問題 2-2. 概要 2-3. 使用例 2-4. 具体例 3. 誤り文修正の流れ 4. 学習データについて 4-1. ベースとなるデータセット 4-2. 句点抜け・読点抜けデータ 4-3. 全く誤りの含まれていない文 4-4. ラベル付け 4-5. ラベル付け後の処理

このたび、当社 代表取締役社長 草野隆史は、これまでビジネスネームとして使用してきた「草野」姓を、すべて戸籍上の「高橋」姓に統一していくこととなりました。 ブレインパッド創業から18年強の歩みを通じて各所に広まっている「草野」の名前が変わることを、オフィシャルブログとしてもお知らせしたいと思い、本記事を掲載いたします。 ※ 以下は、高橋本人が本決断の背景について2022年9月5日にFacebookへ投稿した内容を、一部編集のうえ、掲載しています。 「草野」を辞めました。 たいそうなタイトルをつけてますが、実際には、今後の人生、戸籍上では2010年末に切り替わっている母方の旧姓である「高橋」に自分の名前を統一していこうということです。 12年前に姓を変えた当時は、個人的にも38年間使ってきた「草野」という姓に愛着があったこともあり、ビジネスでは草野姓、プライベートでは高橋姓という使い分けをす

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 当社データサイエンティストが、高次元のデータをできる限り重要な情報を保持したまま低次元データに変換する「次元削減手法」について代表的な3つの手法をご紹介します。また、実際に画像データを用いて手法を試してみましたので、その結果もご紹介します！ こんにちは。アナリティクスサービス部の西條です。 今回は、高次元データを可視化する際に使用する手法の1つである次元削減についてご紹介します。 次元削減とは 次元削減の手法 PCA t-SNE UMAP 各手法の比較 おわりに 参考文献 次元削減とは 次元削減とは、高次元のデータをできる限り重要な情報を保持したまま低次元データに変換する手法のことです。我々が取り扱うデータの中には画像や音声といった高次元データが存在しますが、これらを直接可視化して特徴把握

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 ブレインパッドでは進化の激しいデータ分析業界で最新情報をキャッチアップしていくため、様々な勉強会が社内で開催されています。その中のKaggle Code輪読会について、その目的や活動内容、実際に発表された内容をご紹介します。 こんにちは。アナリティクスサービス部の諸橋と申します。 この記事ではブレインパッド社内で行われている勉強会の一つである「Kaggle Code輪読会」についてご紹介します。 また、輪読会で紹介されたKaggle Code（※データ分析プラットフォームKaggleに投稿された分析コードのこと）とその議論の内容についても紹介します。 今回紹介するKaggle Codeはセンサーデータとして取得された時系列データをグラフ化し、そのグラフに対して画像分類を行うことで元々の時系

数理最適化技術は、「データ活用の促進を通じて持続可能な未来をつくる」を企業ミッションとするブレインパッドにとって、必須の注力技術の1つです。 2021年4月15日（木）には、数理最適化技術の研究で大変著名な大阪大学の梅谷 俊治先生による社内向け講演会を開催しました。 本ブログでは、当社のデータサイエンティストが講演の模様をレポートします！ こんにちは、アナリティクス本部の日吉です。先日、当社では数理最適化に関する社内向け講演会を行いました。 当日は、データサイエンティスト以外の社員も多数参加しとても有意義な会となりました。本ブログでは、講演会の内容をレポートします！ 講演会の概要 ブレインパッドは、数理最適化を今後の必須技術の1つと位置づけ、社内の技術力向上に努めており、以前発表したプレスリリースの通り、大阪大学数理最適化寄附講座を開設しました。そしてその一環として、寄附講座教授の梅谷俊治

本記事は、当社オウンドメディア「Doors」に移転しました。 約5秒後に自動的にリダイレクトします。 発展を続ける「自然言語処理」技術。その中でも幅広く使用される深層学習モデルTransformerは、自然言語処理以外の音楽生成や物体検出などの領域でも適用できます。本ブログでは、 Transformerを時系列データに適用する方法をご紹介します。 こんにちは、AIソリューションサービス部の井出と申します。 この記事では、特に自然言語処理分野で幅広く使用される深層学習モデルTransformerを時系列データへ適用する方法に関してご紹介します。 以前の記事では、Transformerの構造や特徴などについて、自然言語処理分野の機械翻訳を例としてご紹介しております。はじめに、こちらの記事をご一読していただくことで、より本記事でご紹介する内容に対する理解が深まるかと思います。 Transform