【恐怖】AIによる誤判定も含めたGoogleアカウント凍結が増加 育児の記録が「児童ポルノ」扱いに…全サービス停止=「社会的な死」のリスクを軽減する対策とは

スマホが生活必需品となった現代、米Googleの提供するサービスと無縁で過ごすことは極めて困難だ。無料メールの代名詞である「Gmail」を筆頭に、経路検索に不可欠な「マップ」、写真データを預けるための「フォト」、業務資料の保管先にもなる「ドライブ」、そして日常の娯楽である「YouTube」。

これら生活のあらゆる局面を支えるインフラは、すべて単一の「Googleアカウント」によって統合され、その背後ではＡＩが利用者の行動を克明に記録し続けている。

各サービスの利便性を、多くの利用者は基本的に無料で享受している。しかし、これらの機能が突如として利用不能に陥るリスクが存在する。

「怖いのはそこなのです。Googleの〝憲法〟ともいうべき『利用規約』には、規約やポリシーに著しく違反した場合、サービスへのアクセスを停止（アカウント凍結）・アカウントを削除する権限を有すると明記されています。

ハッキング行為やコンピューターウイルス作成、児童ポルノの保存や共有などが違反行為の代表例ですが、これらを行ないGoogleアカウントの凍結や削除＝〝垢BAN〟されれば、サービスが利用不能となります。

仕事でGmailやドライブを使っていれば死活問題ですし、他サービスの多要素認証にGmailを設定している場合、ネット上の活動自体が困難になります」

規約違反による停止であれば自業自得だが、実際にはシステムの誤判定によってこの措置が下される事例も報告されている。三上氏が続ける。

「規約違反かどうかの判定はAIが行ないます。この段階で人間の判断が入る余地はありません。異議申し立ても可能ですが、人的リソースの限界もあり、回復の可能性はかなり低いと考えられます」

【育児の記録が「児童ポルノ」扱いに】
実際にアカウント凍結の憂き目に遭った人物がいる。サウンドデザイナーの沖田純之介さんだ。

「自分は音楽が本職ですが、仕事でもプライベートでも写真や動画を多く撮っていて、データはたまる一方でした。Googleフォトは、写真や動画を人物や場所といったキーワードで検索してソートできるのが便利なので、撮ってそのままそちらにアップロードするのが日常でした」

ある日、沖田さんは、長女の成人という節目に加え、Googleフォトの空き容量を増やすため、データの整理に着手した。

「正月休みを利用して過去のデータを整理し、一部の動画ファイルをYouTubeに非公開設定で移動させる作業を進めていたのです。元のファイル名は基本的に日付だったので、わかりやすいファイル名にしてアップロードする作業を続けていました。

すると突然、Gmailがどんどんメールを受信し始めました。ただ、最初はスパムメールかと思い、放っていました」

しかし沖田さんは、すぐに異変に気づくこととなる。

「アップロードしたばかりのYouTubeの動画が、次々に消えていくんです。あれっ？と思いGmailに届いたメールを開くと、『Googleは児童への性的虐待の画像を公開、配信していることが判明したユーザーのアカウントを停止します』と書かれていて。まずいことになったと思いました。その後、YouTubeにアクセスできなくなり、最終的にGoogleの全サービスが使えなくなりました」

沖田さんはしばし考え、ある結論に達する。大量のデータ整理とその過程でアップロードした「沐浴動画」が、AIの検知網に抵触したのだ。

詳しくはこちら
https://news.livedoor.com/article/detail/31187959/

まぁ、最近はストレージ高騰気味でキツイだろうけど…ｗ

ロリコン界隈では
幼稚園のボディペインティングイベントが大流行したよ