CSAM
Child Sexual Abuse Material の略称。児童への性的虐待記録物のこと
日本では過去の立法経緯から児童ポルノと呼ばれることが多いが、ポルノと言う扱いは不適切と言う流れもあって児童への性的虐待記録物と言う名称にすべきと言う主張がある
nyarla.icon
Web サービス運営において、画像投稿や動画投稿、ライブ配信で頭が痛いのがこれ
画像投稿サイトや動画投稿サイトは、その原理上、CSAM投稿の事前抑止が難しい
投稿サイト一般に言えることだけど、投稿内容を事前にフィルタリングすること自体が技術的に難しい
無論、生成AIや機械学習を使えばある程度までは半別できる
ただしCSAMの場合、存在自体が違法なため、許諾を得た専門機関などによってしか学習モデルが作れない（はず）
投稿を事前にフィルタリングせよ、と言う要件は投稿を検閲性にせよ、と同義
投稿を検閲性にする場合、機械学習なしだとモデレーターの人海戦術で投稿を検閲することとなる
これは中小では無理
大手でも人件費の安い国外へ外注しているらしい
あと過酷な業務なので労働者の人権問題としても報道されたことがあったはず
ライブ配信では児童当人が性器を配信すると言う事案もある
成人でも同じだけど、大概はBANされる
ただ事前に検知と即BAN体制を整えておかないと即BANは難しい
ざっくりと調べたところ Cloudflare が CSAM Scanner を提供していた
これも含め、Microsoft Azure でもAPI があるっぽい
hoagecko.icon
CSAMの検出ソフト
これコミュニティベースの生成AIサービスっぽい？nyarla.icon
↑ はAI Horde にリンクが貼られていた時のコメントですnyarla.icon
開発者は「CSAMを検出する唯一のサービス」
撤回.iconリンクを間違えてましたhoagecko.icon
元のリンク
2023年7月のスタンフォード大学の研究が確かあったはず
他の主張は賛同できたが、これだけは本当に無理だった
非常に考えさせられる記事
虐待を受けるような子供の最後の居場所はインターネットだった、という記事