【論文読み会】Deep Clustering for Unsupervised Learning of Visual Features
2. ©2018 ARISE analytics 2 概要 タイトル: Deep Clustering for Unsupervised Learning of Visual Features 著者: Mathilde Caron, Piotr Bojanowski, Armand Joulin, Matthijs Douze https://arxiv.org/abs/1807.05520 一言で言うと すごい点 感想 CNNで特徴抽出してK-meansを繰り返す 教師なしでもCNNで特徴抽出ができる DeepClusterを使って教師なしで pre-training → 少量の画像で fine-tuning というやり方は現実の問題でも使えそう モチベーション 学習データへのラベルづけが大変なので教師なしでやりたい
YOTO(YOU ONLY TRAIN ONCE)を不均衡データ対策の損失関数に適用して画像分類してみた - statsuのblog
この記事は、YOTO(YOU ONLY TRAIN ONCE)の雰囲気を掴むことを目的として、不均衡データ対策の損失関数にYOTOを適用して画像分類してみた記録です。 YOTOを使うことで、1つのモデルでMajorクラスの性能が良いモデル or Minorクラスの性能が良いモデルをテスト時に選択できました。 検証に使ったコードはgithubにあります。 GitHub - statsu1990/yoto_class_balanced_loss: Unofficial implementation of YOTO (You Only Train Once) applied to Class balanced loss 記事の概要 YOTO(YOU ONLY TRAIN ONCE)について ICLR2020でGoogleから発表されたDeep learningに関する技術。 YOTOを適用したモ
階層型Metric Learningを試してみる
こんにちは、SREホールディングス株式会社にてデータサイエンティストをやっております吉田です。 本記事ではMetric Learningを用いた階層型の学習について、背景や実験を交えて紹介します。 対象読者 階層的なMetric Learningに興味のある方 OpenMMlab(mmpretrain)でSupervised Contrastive learning、Hierarchical Multi-Label Contrastive Learningがしたい方 背景 Metric Learning Metric Learningでは特徴量の学習を通常のクラス分類ではなく、特徴量間同士の距離を学習する形で行います。これにより類似した入力の検出や、未知のクラスへの対応が可能となります。 実例として、kaggleのGoogle Landmark Recognition 2020では与えられ
Vision-Language Modelを活用した「見た目が近い商品」レコメンド改善の取り組み | メルカリエンジニアリング
こんにちは、メルカリのAI/LLMチームで機械学習エンジニアをしているarr0wとshoです！ 本テックブログでは、Vision-Language Modelの一つであるSigLIP [1]を、メルカリの商品データ（Image-Text Pairs）でファインチューニングし、メルカリの商品画像Embeddingの性能を大幅に改善したプロジェクトについて紹介します。 今回作成したSigLIPの性能を評価するために、商品詳細ページの「見た目が近い商品」のレコメンド機能でA/Bテストを実施しました。 この「見た目が近い商品」のレコメンド機能は、社内ではSimilar Looksと呼ばれています。作成したモデルをSimilar Looksの類似画像検索に適用し、既存モデルとの比較のためのA/Bテストを行いました。 そして、その結果として、主要なKPIにおいて以下のような顕著な改善が確認できました。
「モデル」とは何か，について考えていたことを，DSIRNLP(データ構造と情報検索と言語処理勉強会)で発表してきました - a lonely miner
先日， @overlast さんから，DSIRNLP(データ構造と情報検索と言語処理勉強会 )という会にお誘いを頂きまして，以前から考えていたことをちょこっとお話してきました．当日の様子は， @mamoruk さんが togetter にまとめてくださっていますので，そちらもご覧ください． 第5回 データ構造と情報検索と言語処理勉強会 #DSIRNLP - Togetterまとめ 私の発表スライドは slideshare に置いておきました．いくつか直したいところがあるので，そのうち差し替えるかも． いまさら聞けない “モデル” の話 @DSIRNLP#5 from Koji Matsuda 他の方々がものっそい最先端な話ばかりのなか，私一人だけがひどくぼんやりとした内容でたいへん恐縮でしたが，問題意識を共有するきっかけを頂けたことに感謝しています． そもそもこの話をしようと思ったきっかけ
[Package] 最適輸送問題のパッケージを試す | POT, OTT-jax, OptimalTransport.jl
最適輸送 (Optimal Transport) は近年機械学習などの分野で注目されているトピックです． 私も前世に，Optimal Transportに関するPDFファイル (というか本?でしょうか) を読んだ記録を書いていたことがあります (以下のQiita検索を見てください)． これまでPythonの代表的なパッケージとしてPOT (Python Optimal Transport)，JuliaのパッケージとしてOptimalTransport.jl などがありましたが，最近ネットサーフィンしていると Google Research謹製のJAXパッケージ Optimal Transport Tools (OTT) と呼ばれるものが登場していたことに気付いたので比較をしてみました．またPOTとOTT-jaxの比較については公式ドキュメントが公開しているものを実行して挙動を確認しました．
![[Package] 最適輸送問題のパッケージを試す | POT, OTT-jax, OptimalTransport.jl](https://cdn-ak-scissors.b.st-hatena.com/image/square/a81c6eb0117d3bbf03bf5c0c8e6c2d3075c7457e/height=288;version=1;width=512/https%3A%2F%2Fres.cloudinary.com%2Fzenn%2Fimage%2Fupload%2Fs--p8ECjPgc--%2Fc_fit%252Cg_north_west%252Cl_text%3Anotosansjp-medium.otf_55%3A%25255BPackage%25255D%252520%2525E6%25259C%252580%2525E9%252581%2525A9%2525E8%2525BC%2525B8%2525E9%252580%252581%2525E5%252595%25258F%2525E9%2525A1%25258C%2525E3%252581%2525AE%2525E3%252583%252591%2525E3%252583%252583%2525E3%252582%2525B1%2525E3%252583%2525BC%2525E3%252582%2525B8%2525E3%252582%252592%2525E8%2525A9%2525A6%2525E3%252581%252599%252520%25257C%252520POT%25252C%252520OTT-jax%25252C%252520OptimalTranspor...%252Cw_1010%252Cx_90%252Cy_100%2Fg_south_west%252Cl_text%3Anotosansjp-medium.otf_37%3A%2525E3%252581%25259F%2525E3%252581%25258D%2525E3%252582%25258D%2525E3%252581%252590%252Cx_203%252Cy_121%2Fg_south_west%252Ch_90%252Cl_fetch%3AaHR0cHM6Ly9zdG9yYWdlLmdvb2dsZWFwaXMuY29tL3plbm4tdXNlci11cGxvYWQvYXZhdGFyLzllMzkzOGE3OGUuanBlZw%3D%3D%252Cr_max%252Cw_90%252Cx_87%252Cy_95%2Fv1627283836%2Fdefault%2Fog-base-w1200-v2.png)
Connect Fourをちゃんと強化学習できた話 - threecourse’s blog
アルファ碁ゼロの手法で、Connect FourというゲームのAIを強化学習で作成させてみました。 Connect Fourは、「重力付き四目並べ」のようなゲームです。（四目並べ - Wikipedia） そこまで探索空間が大きすぎず、またソルバーもあるため、強化学習が正しくできるかのテスト用としては妥当なゲームでしょう。なお、正しく打てば先手必勝です。 参考文献の「AlphaGo Zeroの手法でリバーシの強化学習をやってみる」のコードをforkしたものを元に作成しました。 Connect Four用に直し、自分の好みで構造を整理しています。 コードは以下にアップロードしました。細かい工夫がたくさんあり複雑な割には分かりやすくなったはず・・ github.com 学習結果 環境： OS: Ubuntu 18.04, CPU: Core i9-9900K, RAM: 32GB, GPU:
Apex Legendsによる文化的背景の違うユーザの交流に関する分析(#1)｜shimasan0x00
こんにちは，Shimasan(@shimasan0x00)です． 皆さんはApex Legends（エーペックスレジェンズ）遊んでますか？ 遊んでいなくてもどこかでその単語を目にすることがあることかと思います． この基本無料バトロワゲームを介して最近，顕著な変化が起きていると私は感じています． それは「APEX」を介した文化的背景の違うユーザの交流です． 最近，APEXをメインで配信している配信者やプロゲーマーがアイドル，漫画家やアーティスト，クリエイター，芸能人と共にプレイすることが各種配信サイトで確認することができます． 通常，これらの多様なユーザ(特に配信者)は特別なキッカケがなければ交流することが難しいと考えられます． 現在はそれらのユーザが「APEX」を介して交流する機会というのが増えています． さらにこの現象によってそれらのユーザに興味・関心を持つ一般的なユーザも違う分野のコミ
iALSによる行列分解の知られざる真の実力
以下では、この表データは \(X\) という行列にまとめられているとします。上記テーブルに含まれる user_id 数を \(N_U\) , item_id 数を \(N_I\) とするとき、 \(X\) は \( N_U \times N_I\) 行列であり、その第 \(i\) 行は user_id として \(\mathrm{user}[i]\) を持つユーザーに、第 \(j\) 列 は item_id として \(\mathrm{item}[j]\) を持つアイテムに対応するとします。このマッピングのもと、 \(X\) の \(i\) 行 \(j\) 列の要素は、以下の式で与えられます。 $$ X_{ij} = \begin{cases} 1 & (\text{if } \mathrm{user}[i] \text{ and } \mathrm{item}[j] \text{ had
「機械学習を解釈する技術」のここがすごい - まずは蝋の翼から。
はじめに 弊社の森下が書籍を出版することになりました。 「機械学習を解釈する技術 ~ 予測力と説明力を両立する実践テクニック」 gihyo.jp 本書のレビューに関わらせてもらったのでここが良かったぞ！という部分を書こうかなと思います。 はじめに 本書の特徴 ここがすごいぞ！① 線形回帰モデルを起点に「解釈」について各手法を説明している ここがすごいぞ！②数式に対応するアルゴリズムをコードでも書いて説明している ここがすごいぞ！③ 実際の値を確認しつつ解説する ここがすごいぞ！④ 手法の特徴・メリット・デメリットが腹落ちしやすい まとめ 本書の特徴 本書の概要としては、以下のような書籍となっている ・機械学習モデルは予測精度が高い一方で、何故そのような予測になったかがブラックボックス(解釈性が低い） ・しかし昨今は説明責任を果たすためにモデルの振る舞いの把握が求められている ・このような予
情報推薦アルゴリズムの効果をどう評価するのか - 図書館情報学を学ぶ
以前このブログでも紹介した『集合知プログラミング』を読みつつ、細々とデータマイニングの勉強を続けているこの頃です。それに関連して情報推薦についての研究動向についても調べていたりしているのですが、そうしていくうちに疑問に感じることがありました。 それは、情報推薦アルゴリズムの有効性を正しく評価できるのか？ということです。アルゴリズムというと、素数の判定やソートなどが思い浮かびますが、その場合の有効性はいかに少ない時間で計算結果を出せるかという、定量的な尺度で評価することが可能です。しかし情報推薦の場合は効率性ではなくユーザーの明示化できない欲求に応えることという数値化しにくい目的であるので、果たしてそこで導入されるアルゴリズムの有効性はそもそも評価できるのだろうか？と思うのです。 情報検索のアルゴリズムの場合は、適合率と再現率の2つの尺度によって評価することができます。適合率とは「検索結果中
Deep SVDDに基づく外れ値検知をPyTorchで実装した - 備忘録
はじめに 外れ値検知の機械学習モデルの一つとして"Deep SVDD" が知られている。 今回はこれを、異常検知/外れ値検知のためのPythonパッケージPyODの仕様に沿った形で、PyTorchにより実装したということである。 外れ値検知は1クラス分類と捉えることができ、「通常」クラスか「それ以外（＝外れ値、つまり異常）」という分類が行われる。 "Deep SVDD"は、外れ値検知の既存手法であるOne-Class SVM / Support Vector Data Description (SVDD) の非線形カーネルをニューラルネットワークで置き換えたものである。 準備 PyODはpipでインストール可能である。 pip3 install pyod ほか、torch, sklearn, numpy, tqdmのインストールを済ませておく。 Deep SVDDについて 概要は以下の記事
日本語 BERT RetroMAE モデルの公開と、後続検索タスクでの評価 - A Day in the Life
結果として、ほぼ全てのスコアにおいて性能向上が確認されており、RetroMAEの有益性が確認された。また学習方法も、教師なしでテキストのみを与えれば良いという手軽さも実用性が高いであろう。 RetroMAE について RetroMAEの特徴は、Masked Auto-Encoderの手法を採用しながら、以下の3つの設計を取り入れた点である。 入力文に対して異なるマスクを適用する新しいワークフロー エンコーダーとデコーダーで非対称な構造を採用 エンコーダーとデコーダーで異なるマスク率を使用 これらの工夫により、文書の意味をより深く理解し、効果的な検索を可能にする表現学習を実現している。実際の評価においても、BEIRやMS MARCOなどのベンチマークで優れた性能を示している。また高性能のマルチリンガル密ベクトルモデルの BAAI/bge-m3 も RetroMAE を用いた事前学習を行なって
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
劣モジュラ最適化と機械学習1章
言語と数理の交差点：テキストの埋め込みと構造のモデル化 (IBIS 2024 チュートリアル)
[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions![[DL輪読会]Glow: Generative Flow with Invertible 1×1 Convolutions](https://cdn-ak-scissors.b.st-hatena.com/image/square/b838326c40277954c65b0e7395606175ca4f6ee1/height=288;version=1;width=512/https%3A%2F%2Fcdn.slidesharecdn.com%2Fss_thumbnails%2Fdlreadingpaper20180720-180723071258-thumbnail.jpg%3Fwidth%3D640%26height%3D640%26fit%3Dbounds)
[ICML2021 論文読み会] Mandoline: Model Evaluation under Distribution Shift
解説: Metadata Normalization
自己教師あり学習の新しいアプローチ / SimSiam: Exploring Simple Siamese Representation Learning
The Web Conference2020 参加報告会
