ChatGPTを活用した悪意のあるコメント抽出AI開発の可能性

ChatGPT を活用した悪意のあるコメント抽出AI開発の可能性 研究背景・目的 研究対象 ・S N S で の 誹謗中傷によって自 ら 命 を経 ってしまった人がいることを ニ ュ ー ス で 知 った ・実際，誹謗中傷に よ る 被害者は減少しているが，削除申請を し た コ メ ン ト の未削除率は増加している 誹謗中傷の被害者数と該当コメント等の未削除率 760人 738人 40.00% 37.30% 740人 30.00% 720人 27.00% 700人 20.00% 676人 680人 10.00% 660人 0.00% 640人 2022年 2023年 人数 容姿等に対する誹謗中傷が多 いと考 え ら れ る 美容系Yo u Tu b e r が 投稿した動画を 対 象 とした 動画再生回数は10 万回以上、コメント数は10 0 件以上とする 研究方法 1本の動画に対 する全 てのコ メ ン ト を 収集する 協力者に提供していただいたプ ロ グ ラ ム を 活用し， A P I を 用 いて合計5 0 本 分 の コ メ ント を 分析する C h a t G P T に コ メ ン ト を 入力する 項目ごとに0～1 0 の整数で判別した結果を出力する 未削除率 ・コ メ ン ト 投稿者の「表現の自由」を制限してはいけない → 現在、人が判断するのが難しい「誹謗中傷」と「批判」 それらを区別できるAIを開発したい ポ ジ テ ィ ブ コ メ ン ト と ネ ガ テ ィ ブ コ メ ン ト の割合を分析する ※ グ ラ フ は 一 般 社 団 法 人 セ ー フ ァ ー イ ン タ ー ネ ッ ト 協 会 誹 謗 中 傷 ホ ッ ト ラ イ ン 活 動 報 告 (2022年 1月 1日 ～2022年 6月 30日 ) 誹 謗 中 傷 ホ ッ ト ラ イ ン 活 動 報 告 （ 2023年 1月 1日 ～ 2023年 6月 30日 ） よ り 作 成 分析１ 動画全体のポジ・ネガ割合の把握 2 0 2 3 年9 月1 3 日～ 9 月2 4 日 における「美容系」と検索したときの 上位5 0 本の動画を 対象に調査を行 った ネ ガ テ ィ ブ 度の判断は， C h a t G P T が ０～10と判 断 した数値において， 0 〜4 を ポ ジ テ ィ ブ コ メ ン ト , 5 〜1 0 を ネ ガ テ ィ ブ コ メ ン ト と し た ． ネ ガ テ ィ ブ コ メ ン ト について，詳細に解析する 分析２ ネガティブコメント分析 C h a t G P T が 出力した「誹謗中傷」と「批判」の相違点に基づき， ネ ガ テ ィ ブ コ メ ン ト を ①攻撃的度②主観的度によって分別した。 内容に 関係する 単語が多い 出現頻度順ワードクラウド コ メ ン ト 1 0 段階評価値分布 [ コ メ ン ト 数] 8000個 6000個 4000個 主観的度 2000個 0個 0 1 2 3 4 ポジティブコメント 5 6 7 8 9 10 ネガティブコメント （動画本数） 感情分析 感情分析結果より Ch a tG PT の判断が 正しい可能性あり 攻撃的度 （ポ ジ テ ィ ブ 割合） 主観的度 １つ の 動 画 の ポ ジ テ ィ ブ コ メ ン ト 割合の本数 １つ の 動 画 の ポ ジ テ ィ ブ コ メ ン ト 割合の箱ひげ図 ・5 0 本の動画中ポジティブコメントの方 が多 い ・ネガティ ブコ メント には誹謗中傷コメント以外に批判 コ メ ン ト 、 動画投稿者を心配す る コ メ ン ト 等が含まれる まとめ・今後の展望 C h a t G P T を活用し，『攻撃的な コ メ ン ト 』の 判別可能 ※ユ ー ザ ー ロ ー カ ル A I テ キ ス ト マ イ ニ ン グ に よ る 分析（ h t t p s : / / t e x t m i n i n g . u s e r l o c a l . j p / ） 考察 ・ワ ー ド ク ラ ウ ド に つ い て ，動画の内容に即した 単 語 が 多 く、使われた単 語 だ け で は 「誹謗中傷」と 「 批判」 の コメント の識別は 難しい ・成果として，『攻撃的であるかどうか』 は感情分析から 判断可能で あ る こ と が わ か っ た 攻撃的と 判断し た コ メ ン ト か ら ，「誹謗中傷」と 「批判」を 選別する特徴を 見抜く A I 開発を 行 う 協力 一般社団法人デジタル人材共創連盟 一般社団法人 i - R o o B O N e t w o r k F o r u m 猪熊祐斗