はじめに Zennチームの吉川(dyoshikawa)です。 2024年6月頃より、Zennにいわゆるスパム投稿が急増したため、LLM(生成AI)を活用してのスパム投稿自動検出の仕組みを構築しました。 目的の性質上、あまり詳細については開示できないのですが、技術的な知見の共有のため、そして可能な限りコミュニティへ運営チームの取り組みをオープンにしたいという思いがあり本件の概要を紹介したいと思います。 課題 2024年6月頃より、Zennにスパム投稿が急増しました。それに伴いユーザの違反報告が増加したことで我々Zennの運営メンバーも事態を認識することになりました。 スパム投稿が読者の目に触れることが定常化することは避けたいですし、その都度違反報告をしてくださるユーザの負担も大きなものだろうという思いがあり、対策を進めることになりました。 解決策 この状況に対して、ある程度自動でスパム投稿を
宮崎県で震度6弱の揺れを観測した地震や、その後出された南海トラフ地震臨時情報について、Xでは注意喚起を装ったスパムの投稿が数秒に1件といったペースで相次いでいます。 画像をクリックするとアダルトサイトなどにつながるため、出どころが分からない投稿のリンクをクリックしたり、拡散したりしないよう注意が必要です。 大量のスパム 数秒ごとに Xでは地震の後、南海トラフ地震臨時情報や震度の情報、津波の避難の呼びかけなどに関する報道を無断で切り取った投稿が大量のアカウントから数秒ごとに繰り返されています。 投稿には「これから気をつけることは?この記事にまとめてあります」、「今後の余震に注意してください」、「南海トラフ地震臨時情報の内訳です」などといった文言が添えられていますが、画像をクリックするとアダルトサイトなどにつながるようになっています。 なかにはNHKの放送や記事の画像を無断で使っているものもあ
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く