ハイブリッド学習時代にそなえる、定量データ解析AIのためのエッジデバイス活用パターン - OPTiM TECH BLOG
まえがき R&Dチームの徳田(@dakuton)です。本ブログの副編集長を兼任しています。普段の業務では機械学習などを用いて定量データの解析を行っています。 今年の6月に、Androidのイベント(ABC 2018 Spring)でエッジデバイス(主にモバイル)に関する機械学習の動向についてお話させていただきました。 今回はこちらのアップデート版として、ここ数ヶ月での取り組みについて軽く紹介したいと思います。 エッジ学習の利用目的と課題 利用目的 主に以下の3点です。 クラウド側にかかる計算リソースの分散 ネットワーク転送コストの高いデータ送信を回避(音声データなど) プライバシー保護 課題 たとえば3に関して、米国においてApple WatchでECG(心電図)が取れるよう準備中との情報もありますが、クラウドでの処理は技術的な面以外での障壁があります。 バイタルデータというのはセンシティ
GitHub - kubeflow/fairing: Python SDK for building, training, and deploying ML models
You signed in with another tab or window. Reload to refresh your session. You signed out in another tab or window. Reload to refresh your session. You switched accounts on another tab or window. Reload to refresh your session. Dismiss alert
はじめに AIの発展に伴い、MLOpsに関する話題も盛んになってきています。ただ、ほとんどは本番環境用の話題で、開発環境整備についての話題が少ないように感じました。本番環境と違い、開発環境の整備はあまり重要視されてない場面も多いような気がしますが（Notebookで全部やってるなど）、研究開発環境も整ってないとすぐに深刻な状況になっていってしまうと思います。 そこで本記事では、開発環境整備の重要性と方法について書いてみようと思います。話題のKubeflow Pipelines（GCP AI-Platform Pipelines）、CloudTPU、TensorFlow等、これらの技術を使って環境構築を行なってきたのでその話をします。（互いに親和性が高く、やりたいことが十分に行えるため選定しました） 要約：現在の研究開発環境 これらの技術を使えば、簡単に以下のことができるようになります。 1
Machine Learning Casual Talks #12 (Online)は、機械学習を用いたシステムを実運用している話を中心に、実践的な機械学習に関して気軽に話せる会です。メルカリのバーコード出品機能を例に、TensorFlow Liteを使ったエッジAIの実装・運用のポイントについて、大嶋氏が語りました。前半は実装について。 メルカリのエッジAIチームのテックリード 大嶋悠司氏（以下、大嶋）：『使われる機能を目指して測ったり試したり』という内容で発表していきます。私は運営をしている上田さんと同じメルカリでエッジAIチームというチームのテックリードをしています。 メルカリに入る前は、OSS活動を中心にしていて、例えばさっきも話に出ましたKubeflowの中でハイパーパラメータチューニングをするKatibのオーナーをしていました。メルカリに入ってからは、OSS活動というよりかはサ
KueCon 2020 NA Recap - Building a Global Supercomputer with Virtual Kubelet /...
Kubeflow Central Dashboard
Kubeflow Central Dashboard
ChainerMN on Kubernetes with GPUs By Shingo Omura May 10, 2018 In General Kubernetes is today the most popular open-source system for automating deployment, scaling, and management of containerized applications. As the rise of Kubernetes, bunch of companies are running Kubernetes as a platform for various workloads including web applications, databases, cronjobs and so on. Machine Learning workloa
受託分析屋がKubeflowを使って思うこと_KubeflowMeetup_1.pdf - Speaker Deck
Kubeflowでモデルをデプロイする時に必要になってくる、学習(実験)の管理やモデル管理について話しました
Introducing Kubeflow - A Composable, Portable, Scalable ML Stack Built for Kubernetes
This article is more than one year old. Older articles may contain outdated content. Check that the information in the page has not become incorrect since its publication. Introducing Kubeflow - A Composable, Portable, Scalable ML Stack Built for Kubernetes Kubernetes and Machine LearningKubernetes has quickly become the hybrid solution for deploying complicated workloads anywhere. While it starte
Kubernetes の開発環境や周辺ツールについて、Google Cloud のエンジニアである Megan O'Keefe さん (@askmeegs) による記事 "A Kubernetes Development Workflow for MacOS 💻" が非常に参考になったので和訳しました （公開にあたっては著者の許可をいただいています）。 💻 MacOS での Kubernetes 開発ワークフロー Kubernetes 開発というのは「フリーサイズの服」ではありません。ローカルマシン上の Minikube で Kubernetes を勉強中という人もいれば、たくさんのクラスタを持つ大規模組織で働いている人もいるでしょう。クラスタはオンプレミスの実験環境かもしれませんし、クラウド上に構築されているかもしれません。 しかし、クラスタのポリシー管理をしているオペレータであれ、
Kubeflow Central Dashboard
Kubeflow Central Dashboard
※この投稿は米国時間 2020 年 9 月 1 日に、Google Cloud blog に投稿されたものの抄訳です。 AI を活用する組織は、特に困難な課題の解決にデータと機械学習を利用し、その成果を得ています。 「自社の価値を生み出すワークフローに 2025 年までに AI を完全に取り込んだ企業は、120% 以上のキャッシュ フロー成長によって、2030 年の世界経済で優位に立てることになる」1と McKinsey Global Institute は述べています。 しかし、これは現時点では容易なことではありません。機械学習（ML）システムは、適切に管理されないと技術的負債を生み出してしまうという特異な性質を備えています。従来のコードのメンテナンス上の諸問題に加えて、ML 固有の別の問題を抱えているのです。すなわち、ML システム特有のハードウェアとソフトウェアの依存関係があり、コー
CIU Tech Meetup #1 (https://cyberagent.connpass.com/event/283317/) で発表した資料です。
Kubeflow Central Dashboard
Kubeflow Central Dashboard
「Ubuntu 20.04
英Canonicalは4月23日、Linuxディストリビューション「Ubuntu 20.04 “Focal Fossa”」の正式版公開を発表した。長期サポート（LTS）版となり、2025年4月まで5年間サポートする。 2019年10月に公開した「Ubuntu 19.10」（「Eoan Ermine」）に続く最新版。LTSとしては2018年4月公開の「Ubuntu 18.04」（「Bionic Beaver」）以来のリリースとなる。 Linuxカーネルはバージョン5.4をベースとし、セキュリティと性能に大きくフォーカスした。セキュリティでは、カーネルロックダウンモードとKernel Self Protectionが加わった。stack-clashに対する保護につながるとしている。また、Secure Bootを追加、ローレベルの攻撃とルートキットを保護するという。ソーシャルエンジニアリング攻撃
RISELabのStack上の図のオレンジと緑の部分が彼らが作っているフレームワークになるのですが、その中でも以下のものについての紹介がありました。 RAY, RLlib, Tune: Pythonの分散処理フレームワークRAYと、それを使った強化学習ライブラリRLlib、パラメータチューニング用のライブラリTuneFlor: MLのモデル作成のための実験をtrackingするためのライブラリClipper: MLモデルのServing用のAPIサーバを立てたり管理するためのライブラリPyWren: AWS Lambdaを使った並列処理のためのライブラリOpaque: Apache Sparkを使った暗号化したDataFrameを処理するライブラリWAVE: Decentralised authorization for IoTtl;drという名の感想機械学習エンジニアリングは複雑で、モデ
Thanks to insights from our ODSC West researchers, attendees, and instructors we’ve pulled together some of the trending machine learning topics of 2021. We’re excited to host some of the leading experts and top contributors in each of these topics. Here are a few of our top picks. MLOps Everywhere MLOps has been featured at ODSC since 2018, but it really took off in 2020. It seems every company i
1 億ユーザー 1 億商品棚の実現に向けた、パーソナライズされた商品レコメンド機能の裏側（Part2 実装編）｜Tatsuya Shirakawa
こんにちは、カウシェの AI チームの tatsuya（白川達也）です。 2022 年 11 月に入社してから検証・実装していた商品レコメンド機能がついにリリースされました（現状 iOS 版でのみ先行配信されています）。カウシェでは初めての機械学習を使った機能だったこともあり、リリースまでこぎつけるには超えないといけないハードルがいくつもあってそれなりに大変だったのですが、そのあたりの背景や経緯を踏まえ、実装の裏側を公開してみたいと思います。 本記事は「Part 2 実装」編です。カウシェで始めての機械学習系の機能である商品レコメンド機能の実装の裏側をお伝えします。 背景や経緯を詳しくお知りになりたい方は「Part 1 背景・経緯編」をご覧ください。 今回実装したパーソナライズされた商品コレクション（タイトルは変更される可能性があります）商品レコメンドで目指す体験「Part 1 背景・経緯
Announcing Kubeflow 0.1
By Jeremy Lewi (Google), David Aronchick (Google) | Friday, May 04, 2018 Since Last We MetSince the initial announcement of Kubeflow at the last KubeCon+CloudNativeCon, we have been both surprised and delighted by the excitement for building great ML stacks for Kubernetes. In just over five months, the Kubeflow project now has: 70+ contributors20+ contributing organizations15 repositories3100+ Git
OptunaとKubeflow Pipelinesを用いた並列ハイパーパラメータチューニング | MoT Lab (GO Inc. Engineering Blog)
はじめに こんにちは。AI技術開発部 MLエンジニアリング第1グループの築山です。 以前、社内でOptunaとKubeflow Pipelines（以下KFP）を用いて並列ハイパーパラメータチューニングを行い、とあるプロダクト（後述する『お客様探索ナビ』の経路推薦システム）のパラメータに適用する機会がありました。 その際は社内向け勉強会のためにスライドをまとめ、以下のツイートとともにSlideShareで公開しており、多少の反響もいただいていました。 https://twitter.com/2kyym/status/1256147262738018304?s=20 そのスライドがOptunaの開発者の方の目に留まり、「テックブログを書いて欲しい」と打診をいただき、今回執筆している次第です。 公開済みスライドと被る部分もありますが、基本的には 今回のユースケースOptunaとKFPの紹介・チ
はてなブログ独自の集計による人気記事のランキング。5月16日（日）から5月22日（土）〔2021年5月第4週〕のトップ30です*1。 # タイトル／著者とブックマーク 1 「スタートアップだからテストを書かない」は正しいか - An Epicurean by id:Songmu 2 マーソ株式会社を退職します - ikasama over technology by id:ikasamak503 3 2.4GHz帯無線LANのチャネルはぶつけてしまった方がよい - hgot07 Hotspot Blog by id:hgot07 4 ワクチン予約接種関連のシステムトラブルについてまとめてみた - piyolog by id:piyokango 5 世田谷区長の保坂展人氏がツイートした6月末期限のワクチンが、なぜか「デマ」あつかいされている件について - 法華狼の日記 by id:hokke
Unleashing ML Innovation at Spotify with Ray - Spotify Engineering
February 1, 2023 Published by Divita Vohra, Sr. Product Manager, Keshi Dai, Sr. ML Engineer, David Xia, Sr. ML Engineer, & Praveen Ravichandran, Staff Research Scientist As the field of machine learning (ML) continues to evolve and its impact on society and various aspects of our lives grows, it is becoming increasingly important for practitioners and innovators to consider a broader range of pers
Best Practices for Optimizing Distributed Deep Learning Performance on Amazon EKS | Amazon Web Services
AWS Open Source Blog Best Practices for Optimizing Distributed Deep Learning Performance on Amazon EKS 中文版 – In this post, we will demonstrate how to create a fully-managed Kubernetes cluster on AWS using Amazon Elastic Container Service for Kubernetes (Amazon EKS), and how to run distributed deep learning training jobs using Kubeflow and the AWS FSx CSI driver. We then will discuss best practices
What our customers are sayingHere are a few of our favorite sound bites from day three: “Not only do we believe that Google Cloud is the right cloud for our customers, but we’re also migrating our infrastructure over to Google Cloud. Together, we’re making it easier for you to build and operate your connected experiences.” —Suhail Dutta, VP of Cloud Services, Unity “Kubernetes Engine had exactly t
以下のように Job のマニフェストに .spec.ttlSecondsAfterFinished を追加する。 apiVersion: batch/v1 kind: Job metadata: name: myjob spec: ttlSecondsAfterFinished: 30 # こちらのフィールドを追加 template: spec: containers: - name: busybox image: busybox command: ["date"] env: - name: TZ value: "JST-9" restartPolicy: Never $ kubectl get jobs,pods NAME COMPLETIONS DURATION AGE myjob0 1/1 19s 112s myjob1 1/1 23s 111s myjob2 1/1 21s 111
Merpay Advent Calendar 2020 の12日目は、メルペイで MLOps を担当している ML Platform チームの Mai Nakagawa がお送りします。 今回は、機械学習の実験を効率よく実行・管理するために Polyaxon という OSS のツールを導入した話をします。 Polyaxon 導入前の課題 Polyaxon について言及する前に、まずは Polyaxon 導入前に抱えていた課題について話します。それは機械学習の実験フェーズが属人化してしまっていたことです。下の図のように機械学習のワークフローを大きく実験フェーズ（Experiment Phase)、本番環境に機械学習モデルをデプロイするフェーズ（Productionize Phase）、本番環境で機械学習モデルを運用フェーズ（Operating Phase）の3フェーズに分けると、Produc
この記事でやること ワークフローエンジンであるAirflowの使い方のポイントを書きます 私はGCPのCloud Composerで使っています ※ワークフローエンジンについては以前こちらに書きました https://qiita.com/elyunim26/items/15db924e4c9833e5050a MWAA来ましたね ちょうど、AWSのフルマネージドAirflow(MWAA)も来ましたね 使い始めるかたもいらっしゃるのではないでしょうか https://dev.classmethod.jp/articles/amazon-managed-workflows-for-apache-airflow-mwaa-ga/ AWS MWAAの利用料としてはGCPのCloud Composerと似たようなレンジで400-600$/月くらいはかかってしまいそうです https://aws.am
こんにちは、GMOアドマーケティングのS.Rです。 前回は機械学習開発の標準戦略MLOpsを皆さんへ紹介しました。 今日はKubeflowを実践する為にGoogle Cloud のMLOps サービスAI platform pipelines で 簡単に手書き数字の分類システム（MNIST）を開発する例を紹介させていただきます。 ※なお、この記事中の図示は、特に断りが無い限り筆者が作成したものです。 AI platform pipelinesとは AI platform pipelinesはGoogle Cloudが提供している、機械学習開発の標準戦略MLOpsを自動化するクラウドサービスです。 AI platform pipelinesとKubeflow AI platform pipelinesはKubeflowに基づいて開発されたクラウドサービスです。AI Platformを利用する
EKS/Kubernetesで画像カテゴリ分類のGPU推論環境をProduction Readyにするまで - nariのエンジニアリング備忘録
こちらは Eureka Advent Calendar 2021の12/20の記事となります. English Version: medium.com はじめに こんにちは、エウレカSREチームのnari/wapperと申します👋 最近は、データライフサイクル・プライバシープロジェクト/データプラットフォームの移行/審査サービスのMLシステムのインフラなどを担当したりしています(Site Reliability Engineerなのかわからなくなってきた) その中で今回は、審査サービスにおける画像カテゴリ分類モデルを、EKSで本番環境にリリースした話を紹介したいと思います。 EKS Clusterの本番環境設定のポイントは、セキュリティ項目も含めてたくさんありますが、今回はGPU推論環境ならではのポイントにフォーカスしてみたいと思います。 対象読者 Kubernetesに関する基礎知識（
MLOps aims to unify ML system development | Google Cloud Blog
Craig WileyDirector of Product Management, Cloud AI and Industry Solutions AI-driven organizations are using data and machine learning to solve their hardest problems and are reaping the rewards. “Companies that fully absorb AI in their value-producing workflows by 2025 will dominate the 2030 world economy with +120% cash flow growth,”1 according to McKinsey Global Institute. But it’s not easy rig
コンテナ管理基盤であるKubernetesは、kubectlコマンドを用いてCLIから操作したり、Kubernetes DashboardなどのWeb UIを使って操作し、管理することが一般的です。それに対して今回紹介する「Lens」は、そんな複数のKubernetesクラスターを管理できるスタンドアローンのアプリケーションとなっています。そこで今回はMicroK8sでさくっと構築したKubernetesクラスターを、ローカルマシンにインストールしたLensで管理してみましょう。 MicroK8sでKubernetesクラスターを構築する Lensを使うためにはまずKubernetesクラスターが必要です。もちろん既存のKubernetes環境でもかまわないのですが、まずは動作確認も兼ねてMicroK8sでシンプルな環境を構築してみても良いでしょう。もし既に存在するKubernetesを使
フィードバックを送信 Vertex AI Pipelines の概要 コレクションでコンテンツを整理 必要に応じて、コンテンツの保存と分類を行います。 Vertex AI Pipelines では、ML パイプラインを使用して ML ワークフローをオーケストレートすることにより、サーバーレス方式で機械学習（ML）システムの自動化、モニタリング、管理を行うことができます。Kubeflow Pipelines または TensorFlow Extended（TFX）フレームワークを使用して定義された ML パイプラインをバッチ実行できます。ML パイプラインを定義するためのフレームワークを選択する方法については、パイプラインを定義するインターフェースをご覧ください。 このページでは、次のトピックの概要を説明します。 ML パイプラインとは ML パイプラインの構造 パイプラインのタスクとコンポ
人気の高い何百もの Kubernetes CRD の YAML を Cloud Code で簡単に作成 | Google Cloud 公式ブログ
※この投稿は米国時間 2020 年 10 月 17 日に、Google Cloud blog に投稿されたものの抄訳です。 Kubernetes にデプロイするサービスを開発する際に、アプリケーションの開発よりも YAML ファイルの作成に手間がかかっていると感じることはありませんか。また、YAML を作成するにあたり、開発プロセスの早い段階でエラーを検出しにくくはないでしょうか。Google では、アプリケーションの構成よりもコードの記述により多くの時間をかけられるように、Cloud Code を開発しました。これにはインライン ドキュメント、補完、スキーマ検証（lint チェック）などのオーサリング サポート機能が含まれます。 しかし、Kubernetes YAML の作成は年々複雑になってきています。Kubernetes の人気が高まる中、数多くの開発者が新しい Kubernetes
Kubeflow Central Dashboard
Kubeflow Central Dashboard
Architecture for MLOps using TensorFlow Extended, Vertex AI Pipelines, and Cloud Build | Cloud Architecture Center | Google Cloud
Accelerate your digital transformation Whether your business is early in its journey or well on its way to digital transformation, Google Cloud can help solve your toughest challenges.
Introducing PyTorch across Google Cloud | Google Cloud Blog
Rajen ShethDirector of Product Management, Cloud AI In conjunction with today’s release of PyTorch 1.0 Preview, we are broadening support for PyTorch throughout Google Cloud’s AI platforms and services. PyTorch is a deep learning framework designed for easy and flexible experimentation. With the release of PyTorch 1.0 Preview, the framework now supports a fully hybrid Python and C/C++ front-end as
TFXの歴史を振り返りつつ機械学習エンジニアリングを提案する論文「Towards ML Engineering: A Brief History Of TensorFlow Extended (TFX)」
TFXの歴史を振り返りつつ機械学習エンジニアリングを提案する論文「Towards ML Engineering: A Brief History Of TensorFlow Extended (TFX)」 2021-01-17 この記事はMLOps Advent Calendar 2020の 25 日目の記事です。(盛大に遅れました) KDD2019 の招待講演で Google が TFX の歴史について発表されており、TFX 信者の自分としては発表内容が以前から気になっていたが、公開はされておらずなんとかして見れないかな~と思っていましたが、TensorFlow の Blogで該当の招待講演が論文化されたことを知ったのでメモがてら抄訳として残しておく。 注意)この翻訳記事は原著論文の著者陣からレビューはされていませんShunya Ueta, are providing a transla
MLエンジニアとML Opsが協力してサービスの運用負荷を劇的に改善した話 | メルカリエンジニアリング
MLエンジニアとML Platformが協力してサービスの運用負荷を劇的に改善した話 こんにちは、メルペイのMLエンジニアのshuukと、ML PlatformチームのMai Nakagawaです。 今回は、複雑化・肥大化していた機械学習（以下：ML）サービスの運用コストを、いかにして削減したかについて、共同で執筆していきたいと思います。 課題感 メルペイは、メルペイスマート払いという後払いサービスを提供しています。 その裏側では与信額を決定するMLモデル（以下：与信モデル）が運用されており、下記のようなリリースオペレーションが毎月行なわれています。 最新のコードベースによるモデルのビルドとデプロイ デプロイされたモデルによる再学習 再学習モデルによる予測結果データのお客様への適用 与信モデル自体はリリース当初から高い精度とビジネスインパクトは出せていたものの、リリースから1年程経った頃か
こんにちは、taisaです。2018年5月31日（木）～6月2日（土）にかけて行われた「PyCon APAC 2018 in Singapore」に参加してきました。本レポートでは最後の2日間に行われたカンファレンスデイの様子やセッション以外の現地滞在の様子などを2回に分けて、当日参加したPyCon JPスタッフや元スタッフのメンバーがお届けします。 PyCon APACとは （taisa） PyCon APACとは、Pythonユーザの情報共有や交流を目的として世界各国で開催されているイベント「PyCon」のアジアパシフィック版のカンファレンスです。PyCon APACは2010年に初めてシンガポールで開催され、今年で9回目の開催となります。 PyCon APACはアジア太平洋の各国で年に1度開催されます。近年では、台湾・韓国・マレーシアで開催されました。私は昨年が初めての参加でした
メルカリのEコマースプラットフォームである「メルカリShops」を開発するために作られた株式会社ソウゾウ。今回、組織体制や採用を強化していくなかで、CEOの石川佑樹氏と CTOの名村卓氏が、今後のプロダクトの展望やソウゾウの中身について共有しました。 2020年に起こった2つの変化 石川佑樹氏（以下、石川）：じゃあまず「メルカリShops」について、僕から20分ほど簡単にお話しさせていただければなと思います。よろしくお願いします。ここでは、「メルカリShops」というサービスを作るにあたって、どういう考え方で進めて来たのかをご紹介させていただければと思います。 「メルカリShops」を作るにあたって、何点か考えたことがあったんですけど。その中でも、特に2020年の1年間で起こったことを受けて非常にいろいろ考えました。 2020年に起こったことは、大きく2つあったかなと思います。一番大きかっ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
Kubeflow Pipelinesで快適なAI研究開発環境の整備を進めた話 - Qiita
エッジAIを実装しても使われなければ意味がない メルカリアプリの実例で見る実装・運用のポイント
KubeFlowでどこまでいける？
ChainerMN on Kubernetes with GPUs
（和訳）MacOS での Kubernetes 開発ワークフロー - Qiita
MLOps 基盤の主な要件 | Google Cloud 公式ブログ
Evolving ML Platform with OSS Upstream Community
RISECampに参加した – Aki Ariga – Medium
2021 Top Trending Machine Learning Topics
今週のはてなブログランキング〔2021年5月第4週〕 - 週刊はてなブログ
What happened at Google Cloud Next ‘18
Kubernetes で Complete/Failed となった Job を自動削除する - Qiita
Polyaxon を機械学習の実験プラットフォームとして導入した話 | メルカリエンジニアリング
Airflowの使い勝手と他のワークフローエンジンの紹介(2020年) - Qiita
GCP:AI platform pipelinesで MLOpsを実践した
第670回 Kubernetes IDEであるLensをMicroK8sで使う | gihyo.jp
Vertex AI Pipelines の概要 | Google Cloud
Day1：プライバシーを機械学習でどう守るか？／機械学習の基礎と応用 | gihyo.jp
誰でも使いやすいECショップを メルカリShopsと、それをつくるソウゾウのエンジニア文化