• メ~テレNEWS LIVE 24
  • 新型コロナウイルス 東海3県の関連ニュースはこちら

「自撮り写真」は要注意 子どもを“SNS被害”から守るには… Vtuber・AIを活用で産官学が連携

2022年8月11日 17:07
子どもがスマホを手にする機会も増えて、親が気づかぬうちに、犯罪などに巻き込まれるリスクもあります。子どもが自ら撮影した「自撮り写真」は特に注意が必要で、子どもを“SNS被害”から守るアプリの開発が進められています。
 夏休みを前に、愛知県小牧市の小学校で、授業をしていたのは、警察官とVtuber。小学生たちが「ひいろちゃーん」と呼びかけると、Vtuberが「トラブルに巻き込まれないために、インターネット5つの約束を覚えましょう!」と答えました。続いてVtuberが話したのは。

「お店の看板、公園の名前などから、ハナちゃんが住んでるところとか通ってる小学校が、わかっちゃったんだ」(Vtuberきらめきひいろ)

 この日のテーマは、SNSで起きやすいトラブル。実際に子どもたちとSNSとの接点について聞いてみました。

 小学生は「スマートフォンを持ってます。LINE使ってます」と返答。

「YouTubeやTikTokを見るのに使ってます。家族やクラスでの友達と(LINEで)連絡してます」(小学生)

 最新の調査では、6歳から12歳の約43%が自分のスマホを持っているといいます。

 小学生同士のコミュニケーションで、SNSが使われることも珍しくなくなってきた今、子を持つ親は…

「今は、男の子でも被害にあう状況なので、少し怖い」
「LINEは触らせたくないというのが正直なところで、YouTubeとか以外はやらせないようにしてる」
「不特定多数の人と連絡を取り合うのは良くないので、母親同士の許可を得た子だけつながるようにしている」(小学生の親)
 

愛知で性被害にあった18歳未満の数

子どもが被害者となる性犯罪は増加傾向 アプリ開発へ
 SNSがきっかけで、子どもが被害者となる性犯罪は、ここ最近、増加傾向にあります。

 愛知県内では、強制わいせつや盗撮などの性犯罪で被害に遭った、18歳未満の子どもで、2021年は97人でした。このうち、子どもが自分で撮影した「自撮り」写真などがきっかけで被害に遭ったケースは41人で、半数近くを占めます。

 そこで、愛知県内の大学では、ベンチャー企業と協力して、あるアプリの開発に乗り出しています。

「AIを活用したコンピューターによる自動の選別によって、危ない“わいせつ画像”などをすべて除去してくれる。そういう意味では、非常に特徴があります」(藤田医科大学 村川修一准教授)

 子どもを犯罪から守る、その名も「コドマモ」。

 いわゆる「自撮り」など、子どもがスマホで撮影をした写真が、露出度が高い画像かどうかをAI(人工知能)が判定し、他人に送信されることを防ぐアプリです。

 問題がある画像だと判断された場合、画像自体が削除され、保護者へ通知される機能もあります。
 

アプリについて話し合う大学生たち

産官学が連携して対策へ
「子どもから性犯罪から守るアプリ、『コドマモ』は学生たちも意見を出し合い、開発が進められています」(記者)

「わいせつはどこで判断するのか…赤ちゃんは露出が高い。赤ちゃんはおむつしかはいてない、露出が高くてわいせつな可能性が中程度。赤ちゃんの写真撮れないじゃん」(大学生)
「赤ちゃんの裸の写真は親にとって将来の宝物なのに、一方で小児性愛が強い人は違う見られ方をするから悩ましい」(村上准教授)
「どこまでをデッドラインにするのか」(大学生)

 さらに、少年犯罪の事件を手掛ける警察官が、実際にあった被害について説明する“出前授業”も

「交際していた当時に彼女の性的な写真を送ってもらったと。それが拡散されてしまう」(中村署生活安全課 鈴木信宏さん)

 警察もアプリの開発を後押しします。

 学生たちは、アプリの実用化を目指す上で何が必要かを話し合います。

 大学生たちは「何かメリットがないと(アプリを)入れないよね」と話し合い、「アプリを入れたら、まずポイント形式にして、スタンプがたまったら自販機の(飲み物)1本無料みたいな…」と意見を出し合いました。

 アプリを長く使ってもらう工夫など、学生たちから飛び出すいろんなアイデア。

「中学生どころか小学生にまで、スマホが日常生活に入り込んでいる以上は、何らかの対策が必要だと考えています。1日も早くという、いろんな方面から社会実装をお願いしますという声が届いているので、可能であれば年内を目標に搭載したい」(村川准教授)

(8月11日 15:40~放送 メ~テレ『アップ!』より)
 

これまでに入っているニュース

もっと見る