Googleドライブの検閲

Googleドライブに保管しているファイルがポリシー違反だと判定された場合、ファイル名の横にフラグが表示されて共有不可になり、所有者以外はアクセスできないようになるとのこと。不正と判断されたファイルの所有者には、そのことを通知する以下のようなメールが送信されます。

ブラックボックスなのがなぁ

TechRadarがGoogleにコンテンツを審査するプロセスを明かすよう問い合わせたところ、Googleは「Googleドライブはプライバシーを常に尊重しつつ、ユーザーと社会のセキュリティの安全を守るために努力し続けています。Gmailが長年にわたりフィッシングやマルウェアの脅威からユーザーを守ってきたように、Googleドライブに同様の保護を導入するのは、すべてのユーザーを可能な限り安全にし続ける上で非常に重要です」と回答して、審査に関する詳細は伏せました。

誤検出されたら成す術がない

乳幼児息子の性器の写真送った

米サンフランシスコ在住の40代男性が、乳幼児の息子の性器に腫れがあり痛がっていることに気づき、診察のためAndroidスマートフォンで患部を撮影。2021年のコロナ下であったことから遠隔診療で相談したところ写真を送るよう指示され、妻が iPhoneで医療機関に送信。

インフラレベルで多用していたのが死んだ

男性は10年分以上のメールや連絡先、写真、個人ファイル等を保存していたが、すべてアクセス不能になった。

警察が調べたけど問題なし

警察「知らんがな。Googleとの問題だろ？

男性が警察に問い合わせたところ、嫌疑が晴れたタイミングで男性に連絡を試みるも不通で伝えられなかったこと、アカウントとデータを削除されても、それはGoogleとの間で解決すべきことであり警察は何もできないと説明された。

一個人が裁判するのもきっちー

男性はGoogleを相手にした訴訟も検討したものの、多額の費用がかかることから断念したとされています。

Google「（認めるわけにはいかないっ！こじつける何かが……ふむ、これでいこう）幼児と女性の裸のショットが映ってるで？（二人同時で裸ってベットってのはレアだからいけるやろ）これ虐待やろ？」

そちらは煎じ詰めれば「目視で確認した際に腫れや赤みは認めなかった(ため性的虐待と判断した)」「問題の写真の6か月前に撮影された動画に、幼児と裸の女性がベッドにいるものがあった」「性的虐待であったとの判断は正しいと考えており、見直しはしない」。

ブラジル南部サンタカタリーナ州で7月31日、診療中に盗撮した小児患者の性的画像1万3千枚を所持していたとして内科医の男が逮捕された。男は画像をグーグル社のクラウド・サービスに保存しており、同社による違法コンテンツ監視システムによって発覚。彼のアカウントは即座にブロックされ、保存データは検察局のサイバー犯罪課に提出され、刑務所に収監されることになった経緯について9月11日付G1（1）が報じた。

情勢

デジタル領域における児童性的虐待は年々増加しており、23年にはブラジル国内で7万1867件の通報があり、それまで最高記録の08年を28％も上回った。グーグルの顧問弁護士カミラ・ローザ氏によれば、同種の犯罪は国境を超え、ブラジルは報告件数が最も多い10カ国の一つだという。

仕組み

グーグルによって特定されたCSAMは、米国の民間非営利団体「全米行方不明・被搾取児童センター（NCMEC）」に報告され、全世界の法執行機関に通報される。同社は人工知能を用いた自動検出ツールと、訓練された審査担当者よる監視の両方を組み合わせて違法コンテンツの検出と対応を行っている。

同社は捜査を行う権限を持っていないため、ポリシーに明白に反するコンテンツが検出されれば当局に通報し、その後、裁判所の決定に従って対応を行う。バルビエロ検察官は「グーグルは本人のクラウドにあるデータを暗号化されたクラウドに転送し、暗号化パスワードを持つ正式な捜査官だけがアクセスして資料を分析できるようにする」と説明する。

同検察官によれば、NCMECが犯罪画像の追跡を行っており「ハッシュ」と呼ばれる一種のコードを用いて違法コンテンツを特定し、追跡する。児童性的虐待画像が広く流通する場合、これらの犯罪は連邦検察局の支援の下、連邦司法機関で捜査される。アクセスが制限されている場合、州検察局や市警が捜査を行う。

違法ファイルXがあるとしたら、XのハッシュHを求めておけば、同じHが見つかった＝それXやろ！、ができる