-
Googleの人工知能が幼児の性器写真を誤解し警察に通報するという事件が起きた。
アメリカのサンフランシスコに住むエンジニアのハーピル・マーク氏は息子の性器に発疹が出たため、
リモート受診のために医師に送付した。
新型コロナウイルスのために病院は閉鎖しており、リモートで診断を行っており、息子の局部の写真を送ってほしいと言われたという。親は息子の局部の写真を撮影しメッセージアプリで送付し、そのあと抗生剤も無事に処方された。
しかしその2日後、Googleアカウントがロックされたという通知が届いてGoogleアカウント全てが使えなくなってしまったのだ。
これはGoogleの人工知能によるものだった。マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ、それをGoogleは児童ポルノだと判定してしまったのだ。
マーク氏は異議申し立てを行ったがGoogleは「グーグルのポリシーに違反しており違法な可能性のある有害コンテンツ」として
異議申立は却下された。それだけでなく、人工知能は警察にも通報し、マーク氏は警察から事情聴取も受けたという。警察が持っていた通知書は
グーグルと彼が利用するインターネットサービス会社に提供された捜索令状のコピーも一緒だった。しかし事件担当者は
犯罪ではないと判断し、捜査を終結したと伝えた。
捜査が終わると今度はマーク氏が警察にGoogleアカウントを取り戻すのを手伝って欲しいと悲願。警察に文書を送付しGoogleを訴えたが、
Googleは異議申し立てを再び却下した。 -
これ、合法か
-
金盾かな
-
しかも異議却下かよ
-
Googleうんこすぎるだろ
-
googleはこうやって世界中のエ口画像集めてんのか
-
アメリカも日本も独占禁止法機能してないだろ
-
＞人工知能は警察にも通報し
すごすぎだろ。。。
-
>>8
自動的にメール送ったりするだけだろ
別に「モシモシケイサツデスカ？ジドウポルノヲハッケンシマシタ」とか電話するわけじゃない -
googleがこのポルノを集めることが違法ではないんですか？
-
もう未来が来てるな
-
通報はおかしいけど
垢BAN自体は規約で決まってるなら仕方ないのかな
まあアカウントは戻らないけど医者でも訴えといたら -
永久にAppleに勝てなそうだなコイツら
-
脱Googleを極力行うべし
-
>>13
不可能
自民党を追い出すのと同じくらい不可能 -
グーグルはユーザーの全てをチェックしてるもんな
アンドロイドw -
圧縮キー付きzipで送ればええんか？
-
AIなんだからちょい複雑な判定も出来そうだと思うんだけどなぁ
画像内にフォーマットに則った注釈いれときゃセーフとか送付先医療関係者で登録されてるとかで誤認防げそうなのに
-
Googleさんさあ…
-
アメリカのサービスはこれが怖いんだよな
自動で誤BANしてなにがあっても撤回しない -
＞マーク氏が撮影した写真はGoogleフォトに自動的にバックアップされ
意図しないものまで勝手に収集するからな
デフォルトは収集OFFにしてくれ -
ケンモ氏のイチモツ、児童ポルノ判定下る😳
-
Gmailで同じようなことしてアメリカの刑務所入ったケンモメンいなかったっけ
-
なんでgoogleって異議申し立てを無視するんだろうな
どんな企業だよ -
>>24
1回でも撤回したという前例を作るとクソ庶民が大量に問い合わせしてくるから
無条件全却下という状態を維持したい
そもそも手間を惜しみたいから自動BANにしてるわけだし -
自動で通報かよ
強えな -
こんな場合でも垢を復活させないのか？
-
暗号ファイルにして送ればいいのか？
-
Google「嫌なら使うな😁」
-
ジャップ企業がやるジップにパスつけて別のメールでパス送るやつがまさかの有効か
-
もしかして垢を戻す機能が作れないのでは？🤔
もしくは垢を戻す機能を作った社員が既に退社してロストテクノロジー化して待ったのでは？🤔 -
なんでこんな融通効かないんや
-
暗号化とパス付Zipにしないとな
-
4ね児童ポルノにだけ必死国家
引用元：https://greta.5ch.net/test/read.cgi/poverty/1661339154
コメント