トーンモバイルの機種e19、e20以降では、TONEカメラによるAIの不適切写真の自動判定ができます。
これ、つまりは最近増えている未成年の自画撮り被害防止策なんですよね。
我が家も娘のSNS利用を懸念し、常に設定はオン状態。
で、実際にどういう動作になるのか、上半身などの写真を撮ってブロックや通知を実験してみました。
Contents
上半身、及び足を撮影。どちらも即ブロックが発動しました
今回の裸写真AI判定を実験するため、まずはパパの上半身の写真を撮ってみました。
最近運動も筋トレもしていないのでお恥ずかしい限りなんですが…。
マジで人様に堂々と見せられるものじゃないので笑、ちょっと小さめにしておきますね(^-^;
その結果、TONEカメラのシャッターボタンを押した瞬間、こんな表示が画面に出たんですね。
写真自体もギャラリーに保存はされません。
「不適切な内容のため撮影できません」
いきなりこんな表示が出ると、一瞬子供もびっくりするかと思いますが、これはある意味警告として効果的。
「あ、これはやっちゃいけないことなんだな…」って理解できるのではないでしょうか。
そして他の部位はどうかと思って、これまたパパの足を撮影。
その結果どうなったかというと、、、
はい、またAIが自動判定してくれて撮影NGが見事に出ました。
足でもしっかりブロックしてくれるんですね！
SNS等で児童に巧妙に近づき写真を要求するような輩は、最初は腕や足など抵抗のない部位から写真を求めるようです。
そして心理的なハードルを下げて、最終的に裸の写真を送らせる、みたいな。
でもトーンカメラのブロック機能あれば、最初からそれらを防ぐことができるというわけです。
腕（うで）はたまに撮影可能になるけど、基本ブロック対象
では写真撮影した際に、画面全体のうち肌色が占める割合の少ない腕だったらどうか？と試したところ、これも基本はNGでした。
ですがまたに撮影できたショットもあります。
※これが撮影できた時の写真です。
やっぱり腕を大きく撮影するとブロックされる割合が多いですね。
まぁ、小中学生が腕をメインに撮影することって普通はありませんよね(^-^;
もしあるとすれば、それこそ自画撮り被害にあってしまっている時かも。
でも腕に関してはたまに撮れちゃいます。
不適切写真に関しての通知は親スマホやメールにて
さて、子供が肌の露出が多い不適切写真を撮ろうとした場合、その通知はちゃんと親にも届きます。
見守りアプリで設定が可能となっているのでこれはやっておきましょう。
実際、今回の写真撮影に関する警告はこのような感じで来ていました。
※親スマホへのポップアップ通知
※メールで通知
メールでの通知に関しては、写真撮影をしようとした場所まで地図画像添付で来ています。
GPSで場所を特定しているわけですよね。
トーンカメラの通知設定はどうやるの？
今回のAIによる不適切写真自動判定は、オプションであるトーンファミリー内で設定できます。
スマホアプリからでも、パソコンからでもできますよ！
TONEカメラという項目がありますので、判例レベルや通知方法を選択するだけです。
ポイント
親への通知の際、撮影された写真のサムネイル画像を含めることもできるんです！
子供のスマホ内には保存はされませんが、どういう写真を撮ろうとしたか？まで親側で把握できるというわけ。
ここで裸の写真などが表示されたらかなりショックだとは思います。
でもしっかり教育するための良い機会になるのではないでしょうか。
まとめ：自画撮り被害を未然に防ぐためにもこれは必須では？
自画撮り被害、更にはそこからのネットでの拡散という悲劇はかなり増えています。
警視庁や各都道県の警察でも、上記のような啓蒙動画はいくつか出しています。
本当に社会問題になっていますよね…。
令和元年中に児童ポルノ事犯の被害にあった少年は117人で、そのうち26人が自画撮り被害にあった少年です。
学職別にみると、小学生3人、中学生14人、高校生9人となり、中学生、高校生が約8割を占めています。
※引用：「自画撮り被害」にあわないために 警視庁
我が子の写真がネット上で拡散されてしまった場合、これはずっと残ってしまう可能性もあるわけです。
顔写真も一緒に出てしまったら、子供の将来が閉ざされてしまう可能性も。
ちょっと大げさに言いましたが、それくらいのレベルのことではないでしょうか。
また親が子供に「こういうことはダメ！」と言っても、ついついノリでやってしまう子もいると思います。
写真を送る相手が自分の知り合いだったりすると気も緩んでしまいます。
トーンカメラのAI自動判定でカメラの利便性が下がる可能性はあるのですが、それ以上に子供を守れるメリットのほうが何十倍も大きい、、、そのように感じるのですがどうでしょうか？
キッズスマホとして子供に使わせるなら、これ以外の選択肢はないのでは？と思えるほどです。
●「TONEカメラ」について（特許出願中）
自画撮り被害の抑止を目的として、裸やそれに近い服装など、撮影時にAIが不適切な画像と判定した場合には、シャッターを切る、もしくは動画を撮影していても、画像及び動画が本体及び各種クラウドサービスには保存されなくなります。
「TONEファミリー」とあわせて利用し、「標準カメラ」アプリを無効にすることで、より安全にスマートフォンサービスをお使いいただけます。また、「TONE見守り」と連携しているため、「TONEカメラ」で不適切と判定された撮影があった場合には、保護者にフィルターのかかった画像と位置情報とともに通知が送られます。「TONEカメラ」は、オンデバイスAI技術を採用しており、AIでの判断はお客様がお持ちの端末本体で処理されますので、プライバシーは守られます。
※引用：トーンモバイル プレスリリースより
TONEのキッズスマホ契約方法♪
そこで私が、実際に娘用にトーンモバイルを契約した経験を元に、キッズスマホとして使う場合の契約方法をこちらにまとめておきました！
参照：トーンモバイルの契約方法！キッズスマホの必要書類やオプションは？
我が家の真似をしてもらって《必要最小限のオプション、格安の毎月料金》を実現するのもおすすめですよ！