はじめに FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidenceを読んだのでメモ. FixMatch FixMatchは基本的にpseudo-labelingという感じ. ReMixMatchと同様にweak data augmentationを使い,擬似ラベルを作りstrong data augmentされたデータに対するモデルの推論結果と擬似ラベルのクロスエントロピーの最小化を行う. ReMixMatchと違い擬似ラベルを作る際にごちゃごちゃと細かいことはせず,単にをするだけ. MixMatch,ReMixMatchと今までやってきたのはなんだったのか. なので損失関数としてはラベル付きデータに対する教師あり損失に加えて以下のクロスエントロピーが入る. はラベルなしデータのバッチサイズ