GitHub - webdataset/webdataset: A high-performance Python-based I/O system for large (and small) deep learning problems, with strong support for PyTorch.
WebDataset format files are tar files, with two conventions: within each tar file, files that belong together and make up a training sample share the same basename when stripped of all filename extensions the shards of a tar file are numbered like something-000000.tar to something-012345.tar, usually specified using brace notation something-{000000..012345}.tar WebDataset can read files from local
Pythonばっかり書いてたエンジニアがGoに入門して感動したこと - MicroAd Developers Blog
こんにちは。マイクロアドで機械学習エンジニアをしている大庭です。 マイクロアドの機械学習チームでは機械学習関連のメイン言語として長らくPythonを利用していました。 しかし最近は機械学習の成果物をAPIとしてリリースすることも多くなり、並列処理に強い言語のGoを利用することも多くなってきました。 私自身、Goは学び始めの段階で慣れない静的型付け言語に苦戦しているのですが、使えば使うほどGoの洗練された文法や機能が好きになり、最近ではPythonと同じくらいに好きな言語になっています。 今回の記事では、「Python ばっかり書いていたエンジニアGo に入門してみて感動したこと」と題して私が最近感じているGoの素晴らしさを何点か紹介させていただきます。 この記事で Go を学ぼうか悩んでる方に少しでも Go の魅力を伝えられれば幸いです。 テストが標準コマンドラインツールで行える Goはg
"気の利いた"擬似データを生成したい - Qiita
この記事は NSSOL advent carendar 12/23担当分です。よろしくお願いします。 昨日は研修を運営してみて思ったことでした。 研修対応すると、その後も割と忙しくて、振り返りの時間がちゃんと取れなかったりします。 まとまった現場知見・感想が読めるのって、ありがたいなと思いました。 さて、今回のテーマは、「疑似データ生成」です。 背景：実データの取得は大変 擬似データが使えるかも データ分析やシステム開発のために、実データかそれに近いデータが欲しくなることは多々あります。 ただ、顧客情報や営業秘密といった機微な情報が含まれる場合は、データ取得までに高いハードルがあることが多いです。 結果、試してみたいアイディア/製品/分析手法などの適用ができないこともあるかと思います。 解決策の1つとして、擬似データの利用、が挙げられそうです。参考 実データを入力して、データの形式や統計量
“Probabilistic machine learning”: a book series by Kevin Murphy
"Probabilistic Machine Learning" - a book series by Kevin Murphy Project maintained by probml Hosted on GitHub Pages — Theme by mattgraham “Probabilistic machine learning”: a book series by Kevin Murphy Book 0: “Machine Learning: A Probabilistic Perspective” (2012) See this link Book 1: “Probabilistic Machine Learning: An Introduction” (2022) See this link Book 2: “Probabilistic Machine Learning:
七声ニーナを支えるバックエンド技術 | BLOG - DeNA Engineering
データ統括部AI基盤部の竹村( @stakemura )です。本記事では、このたびリリースされた、自分の声をキャラクターの声に変換できるWebサービス VOICE AVATAR 七声ニーナ を支えるバックエンド技術についてお話しします。 本サービスはDelight Boardという部署横断型のプロジェクトにて、1000人を超える社員投票により自分の案がまさかの採択となったことがきっかけとなります。幸運にも、百戦錬磨のプロジェクトメンバーに助けられ今日のリリースを迎えましたが、採択当時は人脈も信用貯金も何もない入社一年目の思いつきにすぎず、言い出しっぺである自分の力不足によりタイトなスケジュールでの開発となってしまいました。本記事では、その限られた開発期間の中で、自分が何を考えて実装したかを中心にお伝えします。 サービングに求められる要件 七声ニーナの音声変換はブラウザから受け取った入力音声
GitHub - ludwig-ai/ludwig: Low-code framework for building custom LLMs, neural networks, and other AI models
Ludwig is a low-code framework for building custom AI models like LLMs and other deep neural networks. Key features: 🛠 Build custom models with ease: a declarative YAML configuration file is all you need to train a state-of-the-art LLM on your data. Support for multi-task and multi-modality learning. Comprehensive config validation detects invalid parameter combinations and prevents runtime failu
機械学習なdockerfileを書くときに気をつけとくと良いこと - nykergoto’s blog
みなさん機械学習系の環境構築はどうやってますか? 僕は最近は Docker を使った管理を行っています。 特に師匠も居なかったので、ぐぐったり人のイメージを見たり手探りで docker をつかいつかいしている中で、最初からやっとけばよかったなーということがいくつかあるのでメモとして残しておきます。 大きく2つです。 キャッシュは消す テストを書く キャッシュは消す ライブラリをいろいろと install すると大抵の場合ダウンロードしたファイルを保存されている場合が多いです。何かのタイミングで再びそのライブラリをインストールする際にはダウンロードしたファイルを使って、素早くインストールすることができます (この仕組みがキャッシュです)。 キャッシュがあると容量が重くなるという欠点があります。重たいイメージは pull に単に時間がかかりますから、システムとしてデプロイする時にトラフィックが
仕事でPythonコンテナをデプロイする人向けのDockerfile (1): オールマイティ編 | フューチャー技術ブログ
BusterとかStretchという名前が見慣れない方もいるかもしれませんが、これはLinuxディストリビューションとしてシェアの大きなDebianのコードネームです。 Debianバージョンが少し古いStretchの方がちょびっとサイズが小さかったりはしますが、まあ実用的にはサポートが長い方がいいですよね。slimを使ってGCCとかのコンパイラを自前でダウンロードしている記事とかもたまに見かける気がしますが、マルチステージビルドであれば、そんなにケチケチしなくていいのと、パッケージダウンロードは逐次処理なので遅く、処理系が入ったイメージのダウンロードの方が高速です。並列で処理されるし、一度イメージをダウンロードしてしまえば、なんどもビルドして試すときに効率が良いです。また、多くのケースでネイティブのライブラリも最初から入っており、ビルドでトラブルに遭遇することはかなり減るでしょう。 Py
This one weird trick will simplify your ETL workflow | Stitch Fix Technology – Multithreaded
The first and most important step towards developing a powerful machine learning model is acquiring good data. It doesn’t matter if you’re using a simple logistic regression or the fanciest state-of-the-art neural network to make predictions: If you don’t have rich input, your model will be garbage in, garbage out. This exposes an unfortunate truth that every hopeful, young data scientist has to c
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
GitHub - gradio-app/gradio: Build and share delightful machine learning apps, all in Python. 🌟 Star to support our work!
GitHub - edublancas/ml-testing: 🐍 Material for PyData Global 2021 Presentation: Effective Testing for Machine Learning Projects
GitHub - pykeen/pykeen: 🤖 A Python library for learning and evaluating knowledge graph embeddings
GitHub - yiskw713/pytorch_template: Pytorch Implementation example of Image Classification with flowers recognition dataset
「Python」×「株価データ」で学ぶデータ分析のいろは
GitHub - google/ml_collections: ML Collections is a library of Python Collections designed for ML use cases.
GitHub - uber/orbit: A Python package for Bayesian forecasting with object-oriented design and probabilistic models under the hood.
GitHub - awslabs/gluonts at v0.7.6
GitHub - probml/pyprobml: Python code for "Probabilistic Machine learning" book by Kevin Murphy
GitHub - awslabs/gluonts: Probabilistic time series modeling in Python
10 Useful Machine Learning Practices For Python Developers - KDnuggets