このページの本文へ

AIなどのテクノロジーを最大活用して健全化を目指す

Yahoo!ニュース、記事単位でコメント欄非表示など誹謗中傷対策を強化

2021年10月20日 18時30分更新

文● ASCII

  • この記事をはてなブックマークに追加
  • 本文印刷

Yahoo!ニュース、コメント欄の健全化に向けた取り組みを強化

 ヤフーは10月19日、Yahoo!ニュースのコメント欄において、「投稿停止措置」の厳格化や、記事単位でコメント欄を自動的に非表示とする機能の導入など、健全化に向けた取り組みを強化すると発表した。

 Yahoo!ニュースでは、24時間体制の専門チームによる人的なパトロールに加えて、自社で開発した「深層学習を用いた自然言語処理モデル(AI)」や、独自に開発した深層学習特化型スーパーコンピュータ「kukai」を活用しながら、誹謗中傷をはじめとする違反コメントを1日平均およそ2万件削除するなどの対策を行なっている。

注意メッセージの比較

 Yahoo!ニュースでは2020年7月より、AIによって違反と判定されたコメントを複数回投稿しているユーザーに対して注意喚起し、投稿するコメント内容の再考を促すためのメッセージを掲出している。今回、この注意メッセージの表現をより強めて、「コメントの投稿ができなくなる可能性がある」と警告する内容を掲出する。

 また、違反コメントを複数にわたって投稿したユーザーに対して、2018年6月より「投稿停止措置」を行なっているが、この対象を拡大し、誹謗中傷などの違反コメント投稿を繰り返す悪質なユーザーへの措置をこれまで以上に厳格化していく。

 なお、投稿停止措置を受けたユーザーについては、異議申し立てのための問い合わせ窓口を用意し、措置の内容についてあらためて確認する。

 今後、実施した非表示対応を検証して、適切に行なわれているか適宜確認をするとともに、有識者やユーザーなど外部の意見を取り入れて、改善を積み重ねていく予定。

コメント欄が非表示になった場合の通知画面(イメージ)

 また同日より、一定以上の投稿数のある記事のコメント欄を対象に、AIが判定した違反コメント数などの基準に従い、コメント欄を自動的に非表示とする。

 対象となるコメント欄の非表示においては、客観的かつ恣意性のない基準を設けるとともに、個別の違反コメントの削除および違反コメント投稿者に対する厳正な対処も同時に進めていくとしている。

選挙期間中に掲出される注意メッセージ

 第49回衆議院選挙の選挙運動期間中(10月19日〜10月31日)には、Yahoo!ニュースの政治カテゴリに掲載されるすべての記事において、コメント投稿時に公職選挙法に基づいた特別な注意メッセージを掲出する。

カテゴリートップへ

注目ニュース

ASCII倶楽部

最新記事

プレミアムPC試用レポート

ピックアップ

ASCII.jp RSS2.0 配信中

ASCII.jpメール デジタルMac/iPodマガジン