悪質な暴言からスタッフの心を守り,“冤罪”を減らすために採用されたのはAIの合議制だった[CEDEC 2025] ライター:箭本進一 オンラインゲームでは,しばしば悪質なプレイヤーによる暴言(不適切投稿)が問題となる。単純にNGワードをフィルタリングするだけでは,問題のない投稿をNGとする“冤罪”も起こり,これをチェックし続けるスタッフの心も病んでいく。 開発者向けカンファレンス CEDEC 2025では,AIに自動で暴言を摘発させる取り組みに関する講演「『使える!』不適切投稿自動摘発AIモデルを作る - トレーニングデータをどう作成するか」が行われた。 なお,講演で取り上げている事例は,セガに所属する登壇者の経験から再構成されたもので,同社のタイトルとは一切関係ないとのことだ。 左から,村上宰和氏(セガ 技術本部 開発技術部 アドバンストテックスペシャリスト),横島太志氏(セガ コーポレ
![悪質な暴言からスタッフの心を守り,“冤罪”を減らすために採用されたのはAIの合議制だった[CEDEC 2025]](https://cdn-ak-scissors.b.st-hatena.com/image/square/ea69d2fd9f3eb9edcbaadf9f3e84535c25dcfe0f/height=288;version=1;width=512/https%3A%2F%2Fwww.4gamer.net%2Fgames%2F991%2FG999104%2F20250805011%2FSS%2F009.jpg)