ヤフー、“ヤフコメ”のパトロールAIを外部提供へ 1日に2万件の誹謗中傷を削除可能

ヤフーは6月1日、「Yahoo!ニュース」コメント欄の健全化に向けて使用しているAIを、外部の事業者に提供する方針を明らかにした。ヤフーでは現在、深層学習を用いた自然言語処理モデルによって、個人への誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除している。この技術を横展開し、他社を含めた投稿型サービスの健全化を図る。 ヤフーは2019年11月に、コメントデータを学習させたAIと、ディープラーニングに特化した独自のスーパーコンピュータ「kukai」を組み合わせた判定モデルを導入。悪質な“ヤフコメ”を大量に検知・削除する仕組みを整えてきた。今後はこうした自社での対策もさらに強化するとしている。 同社はこの他、悪質なコメントへの対策強化に向け、法律家や有識者を交えた検討会を6月中に開催。企業が悪質な投稿を削除する際に生じる法的・実務的課題と、その対処法について議論するという。検討

[and_hyphen]

今の状態でも1日2万件削除してるんや...

[sakana315]

今の惨状をみると、精度が足りて無いんじゃない？と感じてしまう

[mutinomuti]

ヤフコメって誹謗中傷なくなったん？(´･_･`)

[misshiki]

“深層学習を用いた自然言語処理モデルによって、個人への誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除している。この技術を横展開し、他社を含めた投稿型サービスの健全化を図る。”

[quick_past]

それで最近はすこしばかりマシになってんのかな。それでもギルたしきれてないけど

[hatayasan]

ヤフコメは以前に比べるとまともになってきた感がある。

[x100jp]

こっちは批判的なのね。別のコメ欄は、ハテナもヤフーを見習えって論調だったけど。

[nazoking]

件数だけじゃ判断できない。再現率と適合率を開示して欲しい

[meloso]

2万件消してアレなんや…

[bml]

あれで削除してるんだｗ　削除されるのどんだけ酷いんだ。

[megazalrock]

コンテンツの検閲ってもう各社が個別に対応するのが無理ゲーになってきてるので、いい加減各社が共同してオープンに開発した方がいいんじゃないかなと思う。

[xorzx]

SNSでの誹謗中傷の発信者の特定や規制に関して大臣が発言した事で需要があると見込んで事業化するんでしょう。/ヤフコメは1日に平均2万件削除して今のレベルなのか？他のサービスも自動化は必須だろうね。