ソートの微分とソートの一般化 - Qiita

0. はじめに この記事では「ソート」を「微分」する方法と、ソートの一般化について説明します。ソートの一般化を考えることで、quantile関数の「微分」も計算できるようになります。 また、実際にソートの微分と一般化を利用して、least quantile regressionという機械学習のタスクの実験を行います。 最近Googleが発表し注目されている次の論文の内容の紹介になります。 Differentiable Ranks and Sorting using Optimal Transport 輸送問題を微分する記事と似たようなテクニックを用いるので一部説明がかぶります。 ソートの微分？ 我々がソートを利用するとき、次のような2つの関数、ソート関数$S(x)$とランク関数$R(x)$の形で利用することが多いと思います。 x=(x_1,\dots ,x_n) \in R^n \\ S(