まとめ記事の不適切表現を検出するためにLLMを活用した話 - Gunosy Tech Blog

こんにちは、プロダクト開発部のimaiです。 こちらの記事は Gunosy Advent Calendar 2024 の 22 日目の記事です。 この記事では、まとめ記事の不適切表現を検出するためにLLMを活用した取り組みについて紹介します。 背景 グノシーアプリでは、ユーザーに様々な記事を提供しており、その中にまとめ記事も含まれています。まとめ記事とは2ch等のまとめサイトの記事のことです。 これらのまとめ記事の中には不適切なコンテンツが含まれる可能性があるため、そういった記事の露出を防ぐためにまとめ記事を監視して定められた判定ルールに基づき、人の目で記事の露出可否を判定していました。 こういった人手による目視確認を行っておりましたが、運用コストが大きな課題となっていました。 そのため、LLMを活用して不適切表現を検出し、運用者の判断を支援する仕組みを実装することにしました。 システム概