LINEヤフーが運営するインターネットニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」（以下、コメント欄）において、「Yahoo!ニュース コメントポリシー（以下、コメントポリシー）に違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。これにより、コメント欄における、さらなる健全な言論空間の創出を目指す。
「Yahoo!ニュース」は、ユーザーがニュースに関する多様な意見を共有しあい、新たな視点を得るきっかけを創出することを目的として、コメント欄を2007年から提供している。
「Yahoo!ニュース」では、ユーザーの表現の自由を尊重するとともに、より安心して利用できるサービス環境を目指すべく、以前より誹謗中傷などの内容を含む投稿を禁止し、コメントポリシーに違反投稿の具体例をわかりやすく明示している。24時間体制の専門チームによる人的なパトロールに加えて、LINEヤフーが開発したAI「深層学習を用いた自然言語処理モデル」などのテクノロジーを駆使しながら、誹謗中傷をはじめとする違反コメントの削除などの対策に努めている。また、建設的なコメントとしてのスコアが高いものをAIが判定し上位表示させる「建設的コメント順位付けモデル」や、AIが多様な切り口のコメントを上位へ優先的に表示する「コメント多様化モデル」の導入など、コメント欄の健全化のため複数の独自のAIを取り入れてきた。
そして今回、「Yahoo!ニュース」は「コメントポリシーに違反するコメント」やコメントポリシー違反に該当しないもののコメント閲覧者が「不快と感じる可能性のある表現」に対して、ユーザーがコメントを投稿完了前にAIが表現の見直しを提案する「コメント添削モデル」の導入を開始した。コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起されており、「コメント添削モデル」はそのような意見も踏まえての導入となる。
「コメント添削モデル」により、ユーザーが投稿完了前にコメントを見直す機会を提供することで、該当の記事にまつわる人々やほかのユーザーが不快と感じる恐れの少ない表現への改善を促し、コメント欄のさらなる健全化を目指す。
具体的には、コメント投稿フォームにコメントを入力し「投稿する」ボタンを押下した際、「コメント添削モデル」が「コメントポリシーに違反するコメント」や「不快と感じる可能性のある表現」と判断した場合、該当箇所をハイライトで示し、表現の見直しを提案するポップアップが表示されます。ユーザーはコメントを投稿完了前に表現の見直しを行うことが可能。
今後も言論空間へ与える影響や、有識者の意見などをふまえ、より良いものとなるよう、「コメント添削モデル」の適宜改善を検討していく。
「Yahoo!ニュース」は今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、日本のインターネットにおける健全な言論空間を構築し、より良い社会の実現に向けて全力を尽くしていく。
