Metaは8月13日、Instagramで10代の利用者が短期間に自殺や自傷行為に関連する言葉を繰り返し検索しようとした場合、ペアレンタルコントロールを利用する保護者へ通知する機能を日本でも提供すると発表した。
対象になるのは、自殺や自傷行為を助長する表現、自分を傷つけたい意図を示す表現、「自殺」「自傷」といった言葉の検索だ。1回ではなく、短期間に複数回検索を試みた場合に通知する。具体的な回数や期間は公表していない。
Instagramのアプリ内に加え、メール、SMS、WhatsAppでも通知が届く。通知を開くと、子どもが自殺や自傷に関連する言葉を繰り返し検索しようとしたことが示され、会話の仕方などを案内する専門家の助言などを確認できる。
ひとこと：Instagramはこれまで、自殺や自傷を助長するコンテンツや関連検索を制限し、支援窓口を案内してきた。今回の新機能はそれをさらに推し進めた形で、未成年者保護の観点では評価できる。
一方で、懸念もある。子どもが親から虐待を受けており、苦しさから自殺や自傷に関する言葉を検索していた場合、通知先の親自身が加害者ということもありうる。その場合、安全のための通知が逆に子どもを追い詰める可能性がある。
検索内容の扱いにも慎重さが必要だ。検索ワードは極めてプライベートなもので、通信の秘密との関係も無視できない。親子双方に通知の仕組みがあるとしても、どの情報を保存し、どこまで第三者に伝えるかは明確であるべきだ。
命を守るための機能であることに異論はないが、「親に知らせれば安全」という前提での運用はやや危険だ。親以外の信頼できる大人や相談機関につなぐ選択肢と、検索情報をどこまで扱うのかについての透明性が必要だ。
本記事はアフィリエイトプログラムによる収益を得ている場合があります
