ユーザーの立場ではAIネイティブな働き方が身近に迫っており、データサイエンティストやMLエンジニアにとってはGPTを活用した開発を意識する必要が出てくる中、マイクロソフトの取り組みやML開発のパラダイムシフトをご紹介する「ChatGPTによって描かれる未来とAI開発の変遷」。ここで日本マイクロソフト株式会社の蒲生氏が登壇。続いて、ML開発において、“学習させたかのように振る舞わせる”ためのアイデアを紹介します。前回はこちらから。 これまでのML開発は「学習」部分の工夫が肝だった 蒲生弘郷氏：残り20分になりましたが、ちょっとここからは重い、GPT開発についてです。「ML開発の今まで」。「GPTはすごいしAzureの説明はわかったよ」という話になるんですが、実際にどう作ればいいのか知っていかないとなかなか厳しいところもあるので、ここの説明をしたいと思います。 ここから先はけっこう専門的な内容
はじめに ML・データ部推薦基盤ブロックの佐藤（@rayuron）です。私たちはZOZOTOWNのパーソナライズを実現するために、機械学習モデルとシステムを開発・運用しています。本記事ではクーポン推薦のための機械学習モデルとシステム改善に取り組んだ話を紹介します。 はじめに 背景 課題 1. 古い基盤でシステムが運用されている 2. KPIに改善の余地がある 3. 機械学習モデルの評価体制がない 課題解決のために 1. Vertex AI Pipelinesへの移行 2. Two-Stage Recommenderの導入 プロジェクトへの導入 Candidate Generation 1. 過去の実績 2. 人気ブランド 3. 興味を持っているブランドの類似ブランド 評価方法 Reranking 学習データの作成 アンダーサンプリング 特徴量エンジニアリング 学習 バリデーション 推論 3
LLM開発のための環境構築
はじめに 株式会社Elithの大森一祥です。AIテックカンパニーの一員として、お客様の課題をAIを駆使して解決しています。 大規模言語モデル(LLM)が人間と匹敵する性能を発揮することもあり、弊社には多岐にわたるプロジェクトの依頼が寄せられています。最近は、情報漏洩のリスクを回避するため、独自のLLMの開発を希望されることが多いです。このような案件では、一般に公開されたモデル(ローカルLLM)を利用します。 ローカルLLMを活用して課題を解決する方法として、以下の4つが挙げられます。 プロンプトエンジニアリング：LLMに特定の出力を生成させるための入力文の工夫する手法 RAG：外部の文章データベースから、質問に類似した文章を取り出しLLMの入力として用いる手法 インストラクションチューニング：ユーザの指示に沿った出力を生成することを目的としたチューニング手法 継続事前学習：LLMモデルに対
データバージョンの管理とは？ データバージョンの管理とは、バイナリデータのバージョンを管理することを指します。データバージョンの管理は、Git 等でのコードのバージョン管理をバイナリデータに拡張しています。実験の再現性を高められるメリットがあります。 DVC とは？ データのバージョンを管理する機能をもつオープンソースソフトウェアです。データのハッシュをテキストファイルで保持し git でバージョン管理します。また、yaml ファイルで実行パイプラインを定義して監視対象データが更新された際にハッシュを更新することで、新しいハッシュ値を含んだデータをバージョン管理します。更新されたデータファイルはキャッシュディレクトリに保存され、必要なタイミングで自動的に復元されます。 データのリモートリポジトリを定義することで、データ一式を簡単なコマンド操作で S3 等へ push / pull すること
はじめに こんにちは、ティアキンで寄り道し過ぎて永遠にストーリークリア出来ない坂元です。データサイエンスチームに所属しています。LLMの一大ブームの中でLLMの記事を書かないのは若干憚られますが、高速に実験を回す用途で気軽に使える機械学習パイプラインライブラリって実はあまりない…？と思ったので、今回は機械学習パイプラインライブラリを個人で開発してみている話をします。なお、本記事では機械学習パイプラインを「データの加工・モデルの学習・推論を一連のワークフローとして実行出来るツール」とし、データ収集やデプロイ、分布シフトの監視などの工程については言及しないものとします。また、比較的小規模なプロジェクトの検証段階で利用することを前提とします。 開発したパイプラインのライブラリは以下のリポジトリでバージョン0.0.1として公開しましたので、実装の詳細はリポジトリをご参照ください。ドキュメントとかも
はじめに 背景 タスクランナーを導入するモチベーション パラメータ管理ツールを導入するモチベーション 実現したいこと モデルや環境に依存しないタスクによるパイプラインの操作 共通部分と環境特有部分を分離したパラメータ定義 パラメータ定義の構造化 実装方法 利用するツール パラメータファイル 構造化パラメータのマージ処理の実装 おわりに はじめに enechain データサイエンスデスク エンジニアの藤村です。 enechainでは市場活性化を目的として、機械学習や最適化アルゴリズムを用いて電力や燃料などの商品に関する指標を算出し、社内外に提供しています。本稿では、これらを算出するモデルの構築・運用を効率化するために作成した、タスクランナーinvokeとパラメータ管理ツールhydraを一体化したシステムを紹介します。 背景 タスクランナーを導入するモチベーション 機械学習モデルの構築・運用に
Nginx + OAuth2 Proxy + StreamlitでGoogleログイン後にStreamlitにアクセスする環境をローカルコンテナ環境で作ってみた | DevelopersIO
Nginx + OAuth2 Proxy + StreamlitでGoogleログイン後にStreamlitにアクセスする環境をローカルコンテナ環境で作ってみた こんちには。 データアナリティクス事業本部 機械学習チームの中村(nokomoro3)です。 今回は、Nginx + OAuth2 Proxy + StreamlitでGoogleログイン後にStreamlitにアクセスする環境をローカルコンテナ環境で作ってみます。 実行環境と準備 実行環境としてはWindows 10マシンを使います。 また前提としてRancher Desktopをセットアップ済みであり、Googleの認証情報作成のためにGoogle Cloudにログインできる環境を作成済みという前提で進めます。 Rancher Desktopのセットアップについては以下も参考にされてください。 Windows 11 に Ran
米AI企業のDatabricksは3月27日（現地時間）、“オープンな”汎用LLM「DBRX」を発表した。同社によると、DBRXは標準的なベンチマークで既存のすべてのオープンモデルより優れたパフォーマンスを発揮するという。ただし、マルチモーダルではない。 DBRXは、オープンソースプロジェクトMegaBlocksに基づいて構築されたMoE（Mixture of Experts；混合エキスパート）を採用した。このMoEは、他のMoEと比較してトレーニング速度が2倍以上、計算効率も最大2倍になるという。 サイズは1320億パラメータと米MetaのLlama 2のほぼ2倍だが、速度はLlama 2の2倍という。言語理解、プログラミング、数学、ロジックのベンチマークで、Llama 2 70B、仏Mistral AIのMixtral 8x7B、米XのGrok-1、米OpenAIのGPT-3.5を上回
This post is also available in 简体中文, 日本語, 한국어, Deutsch, Français and Español. Today, Cloudflare’s Workers platform is the place over a million developers come to build sophisticated full-stack applications that previously wouldn’t have been possible. Of course, Workers didn’t start out that way. It started, on a day like today, as a Birthday Week announcement. It may not have had all the bells and
CI/CD for Machine Learning in 2024: Best Practices & Tips | Qwak
CI/CD for Machine Learning in 2024: Best Practices to Build, Train, and Deploy Explore best practices for CI/CD in Machine Learning in 2024. Learn to build, train, and deploy ML models efficiently with expert strategies. Building and deploying code to production environments is a fundamental aspect of software development. This process is equally pivotal in the realm of production-grade Machine Le
社内規程集について回答してくれる生成AIを評価してみた〜生成AIのアーキテクチャ「RAG」の評価プロセス | LAC WATCH
こんにちは。AIプロダクト開発グループの青野です。 一昨年のChatGPTの台頭により、生成AIが注目を集めていますね。今はそれを社内でどう活用していくかというのが各社持ちきりだと思います。ラックでも生成AIを革新的な技術の一つとして、日々技術検証をしています。 今回は、生成AIのアーキテクチャの一つであるRAGの評価についてご紹介したいと思います。 ラックの生成AIの取り組み ラックでは、Azureでセキュアかつ容易に再現可能なインフラを構築し、ChatGPTと同じようなチャットUIを開発しました。これは社内で使えるChatGPTとして機能しており、業務効率化に繋がっています。 そのチャットアプリは「LACGAI powered by OpenAI（以下、LACGAI）」といい、社内ではコストを意識せずGPT-4を使うことができ、社内で共有できるプロンプト事例集も搭載しています。 また、
LLM（大規模言語モデル）単体ではなく、複数のLLMに検索システムなどを組み合わせた「複合AI（人工知能）システム」がこれからの主流になる――。そう指摘するのは、データ分析基盤を提供する米Databricks（データブリックス）の共同創業者、Matei Zaharia（マテイ・ザハリア）CTO（最高技術責任者）だ。 ザハリアCTOはカリフォルニア大学バークレー校（UCバークレー）の博士課程に在籍していた2009年に、ビッグデータ分析のオープンソースソフトウエア（OSS）である「Apache Spark」の開発プロジェクトを始めたことで知られる。データブリックスはSparkをベースにしたデータ分析基盤を提供するスタートアップで、ザハリアCTOは今もUCバークレーの准教授を務める。 複合AIシステム（Compound AI Systems）とは2024年2月に、ザハリアCTOがUCバークレーの
MLOps roadmap 2024
The MLOps engineer role is different from an ML engineer role. Even though the role varies from company to company, in general, ML engineers focus more on bringing individual projects to production, while MLOps engineers work more on building a platform that is used by machine learning engineers and data scientists. To build such platforms, lots of different skills are required. Here is a roadmap
How To Organize Continuous Delivery of ML/AI Systems: a 10-Stage Maturity Model | Outerbounds
BlogHow To Organize Continuous Delivery of ML/AI Systems: a 10-Stage Maturity Model This article outlines ten stages of operational maturity for deploying ML/AI systems to production. Which stage are you at? Every production-oriented ML/AI team grapples with the same challenge: how to work with data, code, and models effectively so that projects are readily deployable to production. The challenge
1. はじめに RAGとは? RAG (Retrieval Augmented Generative)は文章検索で関連文章を抽出してLLMにプロンプトとして渡す手法で、検索拡張生成ともいいます。 情報を外部のベクトルデータベースに保存しておき、ユーザーの質問あった際に、質問に関係しそうな文書データを検索して、その参考情報(Context)を追加したデータをもとにLLMが回答を生成する仕組みとなっています。 https://zenn.dev/pipon_tech_blog/articles/92ab7ee5abdc06 RAGはLLMに参考情報として文書データを渡すため、データの品質が悪い場合やそもそも情報がない場合には適切な回答が得られません。 精度が下がるにことに加えて、事実に基づかない情報を生成する幻覚(Hallucination)と呼ばれる現象を起こす可能性があります。 このため、R
Amazon SageMakerでマネージドなMLflowが使用できるようになりました | DevelopersIO
こんちには。 データアナリティクス事業本部 機械学習チームの中村(nokomoro3)です。 今朝目が覚めたら、Amazon SageMakerでマネージドなMLflowが使用可能になっていました。 アナウンス Amazon SageMaker now offers a fully managed MLflow Capability - AWS 公式ブログ Announcing the general availability of fully managed MLflow on Amazon SageMaker | AWS News Blog ドキュメント Manage machine learning experiments using Amazon SageMaker with MLflow - Amazon SageMaker 料金 Machine Learning Service
データブリックスはApache Spark、Delta Lake、MLflow等のOSSを牽引しつつ、現在ではデータ基盤から生成AIまでプロダクション利用できる統合プラットフォーム、データインテリジェンスプラットフォームをAWS、Azure、GCP上で提供しています。SRE・インフラ安定運用向けのリアルタイムなログデータ監視・分析から、WebアプリへのLLMエージェントの組込みなど様々な事例・経験値をもとに「データとAI」を支えるオープンかつシンプルな技術・サービス・実装例の現在地と今後のトレンドなどを紹介します。
最新のMlflowによるLLMの実験管理
最近LLMを使った実験をする機会があったので，その実験管理に最新バージョン（2.9.2）のmlflowを使ってみた．そのバージョンではLLMに対するいくつかの便利機能があったので，今回はそれについて書いてみる． Mlflow MLflowは、機械学習のライフサイクルを管理するためのOSSで，モデルのバージョニング、データセットの管理、実験の追跡、デプロイメントなど、機械学習プロジェクトの全体的なプロセスをサポートしている． ドキュメントも充実しており，Mlflowの使い方というより，機械学習の実験管理のベストプラクティスを学ぶ際にもとても有用なものだと思う． MlflowのLLM用機能 Mlflowの最新バージョン（2.9.2）では，LLMの実験管理用の機能がいくつか追加されている． 内容は大きく分けて以下の3つで，それぞれについて紹介していく． デプロイメント ロギング（トラッキング）
大規模ネットワークにおける障害可視化のためのアーキテクチャについて - JANOG53 Meeting in Hakata
JANOGプログラム佐藤 亮介(株式会社NTTフィールドテクノ) 野中 健吾(株式会社NTTフィールドテクノ) 森野 雄也(株式会社NTTフィールドテクノ) 榊原 寛紀(株式会社NTTフィールドテクノ) |15:00|15:45 概要 私たちの部署では、西日本地域における“The Internet”を支える大規模なWAN設備の運用保守を24時間365日行っています。30府県で提供するWAN回線は、設計構築に協力会社も含めて数万人レベルにも及ぶメンバーにより日々構築されており、現在、約11万台の装置により構成されています。コロナ禍を通してリモートワークが普及したことや、昨年度、数百万人の規模でインターネットが使えなくなるという大規模なネットワーク障害が相次いだことから、改めて重要インフラとしてのインターネットとそれを支えるNW設備の運用保守の重要性が社会的に認識されています。 ネットワーク障
Azureで社内文書から回答可能な生成AIチャットサービスを作った話 - techtekt
はじめに 本記事では、Azure環境で、社内文書から情報を抽出し、ユーザーの質問に対する回答を生成する機能を開発した件についてお話しします。 以前以下の記事でリリース当初の話を記載しているので興味のある方はご覧ください。 Azure OpenAI Serviceで社内版ChatGPTのChatPCAを構築した話 目次 リリースの背景 結論 概要の説明 取り組んだこと 今後の課題 まとめ 注釈 リリースの背景 弊社では兼ねてより社内イントラ用のボットサービスが利用されていました。 ただ、こちらはルールベースで読み込ませた定型の資料内容以外のことには回答ができないものとなっていました。 そのため、日々蓄積する社内データに対して柔軟に対応して回答することは現実的に難しい課題点がありました。 そういった中、昨今話題になっているChatGPTを初めとした生成AI技術を活用してこうした課題を解決してい
こんにちは。12月からInsight Edgeに参画したData Scientistのカイオと申します。 入社してから早速、ChatGPT案件やデータサイエンス案件をいくつか担当しています。 今回は、とある案件で使用したMLパイプライン管理ツール「Kedro」について紹介したいと思います。 目次 Kedroとは なぜKedroを選んだか メリット デメリット 他のツールとの違い まとめ Kedroとは まず、Kedroとは何かの説明から始めましょう。 パイプラインを表示する機能もあります（引用元：https://docs.kedro.org/en/0.17.7/03_tutorial/05_visualise_pipeline.html） Kedroとは、データサイエンスのパイプラインを管理するツールです。データ収集、変換やモデル学習、ハイパーパラメータ調整の管理から精度評価までまとめて簡
Amazon Web Services ブログ 週刊AWS – 2024/6/17週 みなさん、こんにちは。ソリューションアーキテクトの杉山です。今週も 週刊AWS をお届けします。 先週は幕張メッセで AWS Summit Japan を開催しました。ご参加頂けた方は楽しめたでしょうか？ 私は GenU (Generative AI Use Cases JP) の展示ブースに立ちながら、多くのお客様と直接お話しする機会がありました。その中で、お客様の AWS や生成 AI への関心の高さ、そして技術への情熱を肌で感じることができ、私自身も大いに刺激を受けました。 AWS Summit Japan の各セッションについて、オンデマンド配信がすでに開始されています。7/5 まで動画閲覧や資料ダウンロードができますので、ぜひご覧ください。 それでは、先週の主なアップデートについて振り返っていき
Apache Spark、MLflow、Delta Lakeを使いこなすための中級入門書 『Apache Spark徹底入門』発売
本書はビッグデータを主な対象とするデータ分析フレームワーク「Apache Spark」「MLflow」「Delta Lake」を使いこなすための中級者向け解説書です。 Apache Sparkの導入から説明し、Spark SQLとデータフレーム、データセットを紹介。Apache Sparkを用いたデータ分析においてどのように機械学習を利用すればいいのか、アルゴリズムの採用から実装まで解説します。 データベースエンジンの最適化やバージョニング（Delta Lake）、モデルを管理するMLflowについて詳しく取り上げているので、データ分析基盤を構築するための知識をひとまとめにして学べます。 また、日本語版のオリジナルコンテンツとして、pandas DataFrameとSparkDataFrameに関する各種データフレームの使い分け、LLMやEnglish SDK for SparkなどAIを
技術書を書く - Qiita
前置き 2023年Advent Calendar集まれ文系エンジニア！1日目の投稿です。 私はこれまでに2冊の技術書を執筆し、現在はSoftware Designという雑誌でMLOpsに関する記事を毎月連載（2023年8月号〜）しています。 AIエンジニアのための機械学習システムデザインパターン（翔泳社） 現場で使える！機械学習システム構築実践ガイド デザインパターンを利用した最適な設計・構築・運用手法（翔泳社） ソフトウェアデザイン2023年12月号（技術評論社） いずれの本も出版社から出していて、執筆にあたって編集者にご協力いただいています。この場を借りて御礼申し上げます。 漫画や小説を出版する流れを書いた作品は多々ありますが、技術書を書くことについてまとまった記事は多くない印象です。本記事では技術書を書くことについて、私の経験した手順や知見を共有します。 なお、私は自費出版の経験はな
2023前半kaggle参戦記
はじめに 今年開催された2つのテーブルコンペであるGoDaddy、PSPにて、それぞれソロ参加で銀メダル(152/3547位、49/2051位)を獲得し、Competitions Expertに昇格しました。この記事ではコンペで得られた知見や、自分がどのように戦ったかなどをまとめていきたいと思います。Expertを目指して頑張っている方や、機械学習コンペに興味を持っている方などの参考になれば幸いです。 目次 はじめに 誰ですか？ コンペ概要 参戦前の筆者のスペック 参戦記 金を取るために まとめ 誰ですか？ はじめまして、tonicと申します。人生初記事投稿なので軽く自己紹介しようと思います。僕は普段フリーランスとしてデータサイエンティストやら機械学習エンジニアやらをやりつつ、kaggleのコンペに参加したり勉強したりといった生活をしています。kaggleでは主にテーブルコンペをやっていま
顧客および国内パートナー企業が 2 倍以上に拡大し、事業成長は前年比 100% 超 データと AI の企業である Databricks（本社：米国カリフォルニア州サンフランシスコ、以下「データブリックス」）は、日本における企業のデータおよび AI 活用に対する需要の急増を背景に、2023年度の日本事業の成長率が、前年比 100% 超となったことを、本日発表しました。 データブリックスの2023年度（2023年2月～2024年1月）のグローバルにおける収益は16億米ドルを超え、前年比50％以上の成長を達成しました。これは、迅速な製品イノベーションがけん引したことによるものです。昨年度、データブリックスは、日本における新規顧客を大幅に増やしました。イオン株式会社、全日本空輸株式会社（ANA）、株式会社ブリヂストン、コスモエネルギーホールディングス株式会社、コニカミノルタ株式会社、ネットワンシス
MLflow上でOptunaによって生成される大量のrunを整理する | フューチャー技術ブログ
はじめにこんにちは、SAIG/MLOpsチームでアルバイトをしている齋藤です。 MLflowは機械学習の管理を扱うツールとして、Optunaはハイパーパラメータを自動調整するツールとしてともに広く使用されているツールです。MLflowとOptunaを同時に利用した際に、Optunaが複数回試行することによってMLflow上にrunが大量に生成され、MLflow上で試行結果が見づらくなります。 本記事では、大量に生成されるrunに親のrunを付与することで、MLflowのWebUIから見やすくする方法を提示します。 課題Optunaは事前に指定した範囲の中からハイパーパラメータの組み合わせを自動的に選択してモデルを学習して評価するという試行を繰り返すことで、良いハイパーパラメータを探索するツールであり、これにより手作業でハイパーパラメータを調整するのを省けます。 MLflowは機械学習の管理
データブリックス - Wikipedia
Databricksは、Apache Sparkの生みの親であるマテイ・ザハリアと共に、アリ・ゴディシが2013年に設立した企業である[1] 。 AI/機械学習をはじめとするビッグデータを扱うためのクラウド型の統合データ分析基盤である「レイクハウス・プラットフォーム」を提供しており、データエンジニアリング、データサイエンス/機械学習、データ分析の領域に強みがある。 2022年に上場予定と言われているユニコーン企業であり、2021年8月に発表したシリーズHの資金調達後の市場価値は約4兆円となっている。[2]。2021年12月現在、世界で7,000社を超える企業に利用されており[3]、テクノロジー販売パートナーは約450社となっている[4]。 2021年ガートナー「マジッククアドラント」において、データサイエンスおよび機械学習プラットフォーム部門のリーダーとして評価されている[5]。また、20
英Canonicalは、機械学習の工程管理に向けたツール群「Charmed MLFlow」の提供を9月26日（現地時間）に開始した。Charmed MLFlowは、オープンソースの「MLFlow」をCanonicalがサポートなどを付けて提供するもの。同社の「Ubuntu Pro」サブスクリプションの契約者に提供するほか、ノードごとの料金を支払うことでも利用できる。Canonicalは、Charmed MLFlowについてセキュリティ・パッチを10年間提供し続けることを約束している。 Charmed MLFlowは、機械学習モデルを動かすたびに、コードやパラメーター、結果などを自動的に記録し、どのような条件でどのような結果が出たのかを容易に見直すことができる環境を提供する。機械学習実行時のさまざまな条件は、すべてを手入力で記録するのが難しいほどの量になる。実行時の条件と結果をセットで管理で
この記事では、Databricks での大規模な言語モデル (LLM) の開発とデプロイを容易にする LangChain 統合について説明します。 これらの LangChain 統合を使用すると、次のことができます。 PySpark DataFrame ローダーを使用して、PySpark DataFrame からデータをシームレスにロードします。 Spark DataFrame エージェントまたは Databricks SQL エージェントで自然言語を使用してデータを対話的にクエリします。 Databricks で提供されるモデルを LangChain で大規模言語モデル (LLM) としてラップします。 ラングチェーンとは何ですか? LangChainは、大規模な言語モデル(LLM)を利用するアプリケーションの作成を支援するように設計されたソフトウェアフレームワークです。 LangCha
「ー」は時期が不明（調査しきれていない）であることを示します。「未」は未定であることを示します。「Soon」はSnowflakeのイベントなどで直にリリースすることを表明している場合を示します。 上表はわかりやすさのためカテゴリ別にまとめていますが、ここからは時系列順に紹介していきます。みんなにも、怒涛のリリース感を味わってほしい。 2022年末のリリース状況 2023年のアップデートを見ていく前に、ベースとなる2022年末のリリース状況について確認します。 2022年6月 Snowpark for Python 基本機能群（👀Public Preview） Snowpark for Pythonの基本機能が一気にPublic Previewとなりました！2021年末にPrPrだったので、長かったような、短かかったような・・・。とても期待感を持ってリリースを待っていたので、私個人としては
Pinterestの広告ランキングの仕組みを解き明かす
ユーザーがプラットフォーム上の特定の要素を操作すると、多くの場合、様々な類似コンテンツが提示される。これは、ターゲット広告が登場する重要な瞬間である。これらの広告は、プラットフォーム内のユーザーと広告主のコンテンツのギャップを埋めることを目的としている。その目的は、関連性の高いコンテンツでユーザーを引き付け、プラットフォームから広告主のウェブサイトに誘導することだ。 これは双方向の市場である。Pinterest、Meta、Googleのような広告プラットフォームは、ユーザーと広告主や関連コンテンツを結びつける手助けをする。ユーザーはコンテンツに関与するためにプラットフォームを訪問する。広告主は、ユーザーがコンテンツを表示してユーザーに興味を持ってもらうために、これらの広告プラットフォーム料金を支払う。プラットフォームは、ユーザー、広告主、プラットフォームの価値を最大化したいと考えている。
前回はRAGの検索で、正しい文章を見つけてきているかの評価について書きました。今回は生成される文章に注目して、その評価方法を考えます。 ライター：荒牧 大樹 2007年ネットワンシステムズ入社し、コラボレーション・クラウド製品の担当を経て現在はAI・データ分析製品と技術の推進に従事。最近では次世代の計算環境であるGPU・FPGA・量子コンピュータに注目している。 LLMを活用した評価について LLMのシステムを構成する場合に、RAGであれば、文章検索の方法、Chunk Size、含めるDocumentの数、使用するLLMの種類等の様々な選択肢があります。質問(Prompt)に対して、理想的な回答を作っておき生成された文章と比較して定量的な評価が出来れば一番良い組み合わせを選択する事が出来ます。自然言語処理の世界では、従来は性能指標としてROUGEやBLUE等が利用されてきましたが2つの文章
翻訳：Junichi Maruyama. - Original Blog Link MLflow 2のLLMOpsサポートの一環として、MLflow 2.7のプロンプト・エンジニアリングをサポートする最新のアップデートをご紹介します。 インタラクティブなプロンプト・インターフェイスでLLMプロジェクトの実行可能性を評価する プロンプトエンジニアリングは、ユースケースが大規模言語モデル（LLM）で解決できるかどうかを迅速に評価するための優れた方法です。MLflow 2.7 の新しいプロンプト・エンジニアリング UI を使用すると、ビジネス関係者はさまざまなベースモデル、パラ メータ、プロンプトを試して、出力が新しいプロジェクトを開始するのに十分有望かどうかを確認できます。新規のブランク・エクスペリメントを作成するか（既存のエクスペリメントを開く）、「新規実行」をクリックするだけで、インタ
Amazon Web Services ブログ 週刊生成AI with AWS – 2024/6/17週 みなさん、こんにちは。AWS ソリューションアーキテクトの小林です。 6月20日から21日にかけてAWS Summit Japanが開催されました！たくさんの方にご来場頂き、本当にありがとうございました。初日の基調講演では生成AIに関するニュースをお届けしました。お客様事例登壇も大変興味深いものでしたので、ご覧になっていない方は7/5までオンデマンドで配信中の動画をぜひご覧ください。ここではサービス関係のお知らせをまとめていきましょう。 7月中に、東京リージョンのAmazon BedrockでAnthropic Claude 3をご利用可能に 2024年中に、Amazon Q Businessの日本語正式サポートと東京リージョン対応を実施 生成AI実用化推進プログラムを発表。基盤モデル
はじめに エーピーコミュニケーションズでは現地参加メンバーと日本から視聴するメンバーで連携しDATA+AI SUMMIT2023に関するポータルサイトを展開し、イベントに関する情報をお届けしています。是非とも[こちらの特設サイト]のチェックもよろしくお願いいたします！ 2023年6月29日 Data +AI Summit 投稿一覧 Keynote Data + AI Summit 2023 Keynote Day 1 最新発表情報 Data Analytics Visualization and BI What's New in Databricks SQL -- With Live Demos（Databricks SQLの新機能 - ライブデモ付き） （モビリティデバイスをお持ちのお客様にも旅をより身近に） AI Regulation is Coming: The EU AI Act
プロンプトエンジニアリングの新たなUIとAIゲートウェイのアップデート MLflow 2系のLLMOpsサポートの一部として、MLflow 2.7でプロンプトエンジニアリングをサポートするための最新のアップデートを発表できることを嬉しく思います。 インタラクティブなプロンプトインタフェースによるLLMプロジェクトの実行可能性の評価 プロンプトエンジニアリングは、あるユースケースを大規模言語モデル(LLM)で解決できるかどうかをクイックに評価できる優れた手法です。MLflow 2.7の新たなプロンプトエンジニアリングUIによって、ビジネスのステークホルダーは、新規にプロジェクトをスタートするのに十分なアウトプットを得られるのかどうかを確認するために、様々なベースモデル、パラメータ、プロンプトを用いて実験することができます。インタラクティブなプロンプトエンジニアリングツールにアクセスするには、
セミナー・研修 | NEXT SKILL
各種テーマでのセミナー・研修もお受けしております。 過去のセミナー2023/10/26(木) 【書籍出版記念vol2】LangChainでAIアシスタントを動かすハンズオン【オフライン開催】2023/10/05(木) 【書籍出版記念】LangChainから学ぶLLMを使ったアプリケーションの工夫2023/08/10 (木) 「シェル」ってなに？から改めて学ぶLinuxの基本2023/06/29 (木) LangChainソースコードリーディング／テーマ：OpenAI Chat APIを「ちゃんと」使う2023/04/20 (木) プロンプトエンジニアリングから始めるLangChain入門2023/03/23 (木) 改めて整理するWebアプリのビルド・デプロイの基本【コンテナ編】2023/03/09 (木) 改めて整理するWebアプリのビルド・デプロイの基本2022/12/22 (木) A
Data + AI Summit 2024のキーノートが日本時間での昨夜0時頃からスタートしました。なんとなく目が覚めたのでリアルタイム視聴していました。 Databricks + Tabular Unity CatalogのOSS化 Mosaic AI Model Training Fine-tuning / Mosaic AI Tool Catalog / Mosaic AI Agent Framework / Mosaic AI Agent Evaluation / MLflow 2.14 / Mosaic AI Gateway NVIDIAとのパートナーシップ強化 Liquid Clusteringのクラスタリングキーの自動選択 Databricks AI/BI などなど盛りだくさんであっという間に3時になっていました。Mosaic周りは別記事でカバーするつもりですが、まずは最後に
機械学習は現代社会において多くの分野で利用されています。 しかし、モデルの設定やハイパーパラメータの調整など、そのプロセスは非常に煩雑であり、多くの時間と専門知識が要求されます。そこで登場するのが「自動機械学習（AutoML）」です。 この記事では、AutoMLの中でも比較的人気のあるライブラリであるAuto-Sklearnを使って、誰でも簡単に機械学習モデルを構築できる方法を解説します。 基本的な使い方から応用例まで、Pythonの実行例付きでご紹介。機械学習に新しい風を吹き込むAuto-Sklearnで、あなたもデータ解析のプロになりましょう！ はじめに なぜ自動機械学習（Auto ML）が必要なのか？ 機械学習は今や多くの業界で応用されています。医療から金融、製造業まで、データを解析して有用な情報を引き出す力は計り知れません。 しかし、その一方で、機械学習モデルを設計、訓練、テストす
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
例示で精度を高める「Few-shot Learning」、思考の連鎖「Chain of Thought」… 新しいパラダイム「プロンプトエンジニアリング」に対するアイデア
クーポン推薦モデルとシステム改善の取り組み - ZOZO TECH BLOG
実験の再現性を高めるデータバージョン管理（DVC）の紹介 - techtekt
実験を高速化する機械学習パイプライン開発の挑戦 - ABEJA Tech Blog
タスクとパラメータの一元管理で実現するMLOps - enechain Tech Blog
Databricks、“オープン”な汎用LLM「DBRX」リリース 商用利用可
The best place on Region: Earth for inference
LLMは「複合AIシステム」へ進化する、データブリックスCTOの主張を読み解く
RAGを使ったチャットボットの成功を見極める評価手法を解説
データブリックスエンジニアが語るデータ・AI基盤の現在地とこれから
Kedroを使って感じたこと - Insight Edge Tech Blog
週刊AWS – 2024/6/17週 | Amazon Web Services
データブリックス、企業による AI 活用の急増により、 日本での記録的な成長を達成
Canonical、機械学習の工程管理に向けた「Charmed MLFlow」を提供開始
LangChain on Databricks for LLM development
2023年のSnowpark for Python関連のリリースを振り返る - Qiita
LLMを活用した生成AIの評価(LLM as a Judge) | ネットワンシステムズ
新しいLLMOps機能を備えたMLflow 2.7のご紹介
週刊生成AI with AWS – 2024/6/17週 | Amazon Web Services
DATA+AI Summit2023に関する投稿まとめ（2023年6月29日分） - APC 技術ブログ
MLflow 2.7と新たなLLMOps機能のご紹介 - Qiita
Databricks AI/BIのウォークスルー - Qiita
Auto-Sklearnでらくらく自動機械学習（AutoML）超入門