ネット上の誹謗中傷・不正をAIの力で解決。テキスト解析と心理学を組み合わせた新しい技術を特許出願

ヒトに関係するセンサー、IOTの受託開発を行う株式会社toyouは、SNS等で発生する誹謗中傷の低減に関する「WEBコミュニケーション最適化技術」の特許を出願いたしました。

感情解析と社会心理学、応用行動分析を組み合わせ誹謗中傷をの低減

■背景
SNSやオンラインゲーム、レビューサイトなどのWEBコミュニケーションは私たちの生活に欠かせない存在となりましたが、一方で誹謗中傷や不正が社会的な問題となっています。

その問題解決のため、近年急速な進化を遂げるChatGPTをはじめとしたAIの中でもテキストへの感情解析と社会心理学、応用行動分析を組み合わせた新しい技術を開発し、このたび特許出願いたしました。

■展開内容
(1) 感情解析で社会課題の解決
このWEBコミュニケーション最適化技術は、感情解析用に事前学習させた自然言語処理モデルを使用します。独自の解析フローで衝動的な誹謗中傷、捨てアカウントなどの悪質なユーザーを分類することが可能です。

(2) 誹謗中傷対策の新しい選択肢
従来のブロックや通報は不特定多数からの誹謗中傷には有効ではなく、開示請求は費用と時間がかかる課題がありました。本特許はテキスト解析をもとに攻撃的な投稿を目にする事なく非表示が可能です。一方表現の自由にも配慮しており、全ての表現はこれまで通り認められます。

(3) 加害者にならないための心理的アプローチ
誹謗中傷は、匿名性、群集心理、確証バイアス、認知的不協和など様々な心理要素が関係しています。このため、本特許は加害者にならない行動変容を促すことも目的としております。

(4) WEB広告の最適化
この特許はWEB広告においても新たな可能性を示します。

広告の配信先から無駄なアカウントを除外することが可能になり、WEB広告のコンバージョン率アップの一助になります。

【本件に関するお客様からのお問い合わせ先】
株式会社toyou
お問い合わせフォーム： https://www.toyou.co.jp/toiawase

（画像はプレスリリースより）