Appleの「児童保護」対策、批判集まる - すまほん!!

プライバシー軽視や検閲行為？ Appleは児童保護対策として、児童性的虐待資料（CSAM）と照合検知し警察に通報する機能を発表しました。米国では2021年内に開始。米国外には各国法律に基づいて拡大予定。 しかしこうした機能はEdward Snowden氏や暗号研究者Matthew Green氏など多数の識者が批判。電子フロンティア財団はバックドア拡大と批判しています。 No matter how well-intentioned, @Apple is rolling out mass surveillance to the entire world with this. Make no mistake: if they can scan for kiddie porn today, they can scan for anything tomorrow. They turned a tri

[augsUK]

児童保護を建前に巨大なバックドアを開けて独裁政権の検閲に提供するのはあり得るし、なにより独裁政権側が要求してくる

[kuro_pp]

スーパーボウルの「1984年」CMでIBMをおちょくった Apple がビック・ブラザーと化している、

[m50747]

プライバシーにうるさいAppleがこの手の検閲を導入するのは意外。自分の子供に写真で逮捕される未来が来るのか。 AIも結局人が作るから必ず誤検知はある。

[theatrical]

icloudにアップロードするタイミングでしか動作しないと言っているが、当然任意のタイミングで処理可能。ユーザーの私的なデータは全て任意に検閲可能であり、当局に自由に情報提供できる。独裁政権に最適なテクノロジ

[rgfx]

当面は「iPhoneなんか捨てろ」でいいけど、これがOKなら他も「社会的にOKっぽいしウチでも」ってなるよなあ。ロリコンダークウェブ相手におとり捜査頑張るほうが良さげ。／Apple、中国はDCを現地政府に任せてるのよな…。

[nakakzs]

そら建前は反対しづらい児童虐待対策としても、システム的には政治発言やプライバシーや企業秘密なんかも閲覧できることになり得るしとてもビジネスや社会活動で使えなくなる。

[rag3]

iCloud設定で写真同期をoffにすれば動作しないと明言してくれないと怖くて使えない。天安門事件の例の写真があったら連行される未来は勘弁。

[circled]

実は大昔からMicrosoftやGoogleでは既に実装されてて、OneDriveに児童ポルノ保存して垢BANされてる人もいる。Appleは機械学習モデルを用いてiPhone/iPadの内部処理のみで(外部データ送信無しに)判定が可能になる。

[b1sh0p]

誤検知1兆分の1が小さな数字だとは思わない

[mongrelP]

ド直球のバックドアでしかないでしょ…

[miyasakura]

昔はGoogleが「自分はevilでないから自由に情報を利用する」だったけど最近はevil化を自覚してるのかやり過ぎないようになった。そしたら今度はAppleがそうなってきた。昔はGoogle、今はAppleを信頼してるけど今後はどうなるか

[toaruR]

他人のスマホで……

[hemon]

そもそもやるならAndroidもやらないと、児童性的虐待を行う性犯罪者はAndroidに逃げるだけなのでは。そして、何も知らない一般人の親が通報される。また、一度こういった検問を許すと、他の検問にも範囲拡大される。

[verda]

"児童性的虐待資料（CSAM）に登録された画像に対して「1ピクセルの加工」を施した場合でも機能する"ハッシュの一致でやるのかと思ったが違うんか どちらにせよ端末上で計算するなら検閲とは言えないと思うが