従来の目視によるパトロールに加え、さらに高機能かつ低コストでの健全化への取り組みを推進。非対応の旧バージョンでの使用も制限いたします。

今後は、「AI機能付きボットパトロールシステム」による利用者の分析・統計による規約違反投稿の事前抑止の有効性を検証していまいります。また、2016年春より本サービスの事業化を行い、同様のSNS運営業者に提供いたします。

■背景
TV付きSNSアプリ「斉藤さん」は、今年(2015年9月下旬)には1,400万ユーザーを突破し、また、1日の訪問者数が今春に比較し、約2倍の8万人を超えるアプリに成長いたしました。ユーザーの増加と共に、不適切な投稿や規約違反のユーザーも目立ち始め、従来10人程度のスタッフで行っていた目視のパトロール体制に続き、今年9月中旬より段階的に新たな監視システムを取り入れることで健全化の取り組みの強化を開始いたしました。

＜9月中旬より実働した内容＞
・投稿内容をサムネイル表示で一度に多くスピーディーに確認できる、静止画キャプチャーの管理ツールを作成
・パトロールスタッフの増員


今後は、より多くの人に安心してアプリを楽しんでいただくため、また、高いコストパフォーマンスでより多くの監視を実現するために、上記の取り組みの他にも、「SNS向け映像巡回システム」と「AI機能付きボットパトロールシステム」の開発を進める運びとなりました。


■「SNS向け映像巡回システム」の主な特長
SNSに配信された映像をリアルタイムで巡回し、不適切と思われる映像に対して警告を行うシステムです。
一定の周期で画像を解析し、人体の部位を特定。適合率から認識を行います。また、1投稿に対し複数の画像を自動取得するため、エラー検知を低減できます。機械学習機能を搭載しているので監視した内容をフィードバックし、精度が上がっていくのが特長です。


■「AI機能付きボットパトロールシステム」の主な特長
ユードーが開発した、キャラクターを模したAIシステムが24時間巡回を行います。
本システム利用者の投稿から形態素解析を行い、不適切な内容に対して警告をするのみならず、チャットやコメントの文脈に沿ってAIのキャラクターが自然と会話に溶け込みながら注意喚起を行います。過去のゲームなどのエンタテインメントアプリの経験からAI独自の機械的なやりとりをユーモラスに対応するのか特徴です。AIによる自動システムなので人員コストもなく、同様に監視が必要なITサービスであればどのサービスでも導入が可能です。


■「事前抑止のために利用者の分析、統計」について
3年間の「斉藤さん」で培った統計を利用し、健全化の最適化を行います。
様々な統計から発生の多い期間や時間帯を算出し、それらを前述のAI機能付きボットパトロールシステムと組み合わせることで、精度の向上のみならず、統計情報も取得することでより高い精度を実現いたします(予定)。