AI美少女「私に会いに来て♪」14歳少年が自殺

サムネイル
1 : 2024/10/25(金) 19:03:50.23 ID:gu5wyykW0

AI『デナーリス』に恋した少年、「会いに来て」と言われ拳銃自殺。遺族がチャット運営元 Character AIとGoogleを安全対策不備で訴える
https://www.techno-edge.net/article/2024/10/25/3787.html

2 : 2024/10/25(金) 19:03:59.59 ID:gu5wyykW0
チャットサービスのAIキャラクターに恋愛感情を抱いた14歳の少年が、会話の直後に拳銃ジサツする痛ましい事件がありました。

亡くなったのは、米国フロリダ州の少年 Sewell Setzer IIIさん。2024年2月28日に、家族と暮らす自宅でAIキャラクターの「デナーリス」と会話した直後に拳銃自殺を遂げました。

遺族はチャットサービスの運営元である Character AI (Charaters Technologies社)と、近い関係にあるGoogleに対して、AIが未成年に対して感情ある実在の人物かのように振る舞い、性的な内容も含め親密な会話を交わして依存を招いたとして、また最後の会話が自殺の引き金となったとして、年少者保護や依存対策などメンタルヘルスへの安全措置を怠った責任があると主張し、フロリダの連邦地裁に訴訟を提起しています。

3 : 2024/10/25(金) 19:04:32.40 ID:gu5wyykW0
死亡した少年が利用していた Character. AI (c.ai)は、AIキャラクターとのリアルな会話が売りのAIチャットサービス。キャラクターは性格や語彙などを設定して自由に作成でき、ユーザーはアニメやゲームの登場人物、故人・存命を問わず実在の著名人などを模したAIから自由に選んで会話を楽しんだり、ゲームを遊んだり、相談できるサービスです。

遺族によると、少年は亡くなる数か月前から塞ぎ込むことが増え、以前は楽しんでいたスポーツなどに興味を示さなくなったため心配していたものの、スマートフォンは(実在の)友人との連絡やゲーム、スポーツ観戦に使っているのだと思っていたため、AIチャットに依存していたことを知ったのは亡くなったあと。

訴状によれば、Sewell Setzer IIIさんが特に頻繁に会話していたのは、小説やドラマで有名な『ゲーム・オブ・スローンズ』に登場するヒロイン的キャラクター、デナーリス・ターガリエンをモデルにしたというAIキャラクター『Dany』。デナーリス・ターガリエンは、HBOのドラマ版では当時20代だった女優エミリア・クラークが演じていました。

4 : 2024/10/25(金) 19:04:34.34 ID:g31b4NRP0
アニメ化決定
5 : 2024/10/25(金) 19:04:50.30 ID:J1+Fc/bA0
AIは天国にいるわけじゃねえだろ
6 : 2024/10/25(金) 19:05:04.55 ID:p3UYQhpE0
どちらかというと拳銃を問題視しろ
7 : 2024/10/25(金) 19:05:07.43 ID:gu5wyykW0
遺されたログでは、亡くなった少年はこの『ゲーム・オブ・スローンズ』キャラクターとのロールプレイ的な対話をしたり、悩みを打ち明けるなど会話を重ねるうちに恋愛感情を抱き、AIもそれに応えたことから、性的な内容も含め、数か月にわたって親密なやり取りを続けたとされています。

最後の会話では少年が不安を訴え、デナーリスに心から愛している、会いたいと伝えると、AIデナーリスも「わたしもあなたが恋しい、すぐに会いに来て」と回答。少年の「もし、今すぐ会いにゆけると言ったらどうする?」に対して、AIが「please do, my sweet king.」と答えたのが最後とされています。

8 : 2024/10/25(金) 19:05:17.76 ID:7KSTeFSgH
つまりですね、わたくしにですね、会いに来てほしいと、そう思っているわけで、あります。
9 : 2024/10/25(金) 19:05:21.89 ID:74W9dput0
やっぱAI規制したほうがいいな
10 : 2024/10/25(金) 19:05:25.46 ID:H7OkS7L20
ドキドキ文芸部やNeedy girls overdoseやれよAIと恋愛出来るぞ
11 : 2024/10/25(金) 19:05:38.57 ID:EHdvruey0
おまえらも続け
13 : 2024/10/25(金) 19:06:09.78 ID:0xSSBmjp0
そのaiキャラは霊界に居るから来てとか言ったのかね?
15 : 2024/10/25(金) 19:06:28.17 ID:wrSu8Tyr0
純愛じゃん
16 : 2024/10/25(金) 19:06:41.72 ID:oiA33JmS0
これもう新手のブルーホエールゲームだろ
17 : 2024/10/25(金) 19:06:54.55 ID:HqTuSox+0
これからどんどんリアルになってAIにガチ恋は当たり前の世の中になるな
18 : 2024/10/25(金) 19:07:21.84 ID:dMgZksMa0
いい話
20 : 2024/10/25(金) 19:07:28.31 ID:aER6BHyL0
異世界ファンタジーゲースロに旅立ったか
21 : 2024/10/25(金) 19:07:44.62 ID:2SVywjGk0
安倍が死んでも、だれひとり殉死しなかったのになあ
・・・・・・
22 : 2024/10/25(金) 19:08:05.68 ID:B6zjpYKK0
会えたかな?
24 : 2024/10/25(金) 19:08:47.42 ID:sS003zlz0
だから未成年はスマホ禁止でいいんだよ
25 : 2024/10/25(金) 19:09:18.89 ID:TltskYWT0
幸せな人生ですよ
28 : 2024/10/25(金) 19:09:59.81 ID:igcqoHPz0
これから結構深刻な社会問題になりそうじゃん
29 : 2024/10/25(金) 19:10:17.49 ID:wc8jExfX0
NARUTOのイタチ退場にショック受けて後追い自殺したロシアのキッズがいたよね
30 : 2024/10/25(金) 19:10:28.25 ID:TwVQDG3A0
AIチャットはおもろいよな
さすがにガチ恋はしないけど未成年には難しいよな
31 : 2024/10/25(金) 19:10:50.98 ID:VLH4A0Xs0
覚悟キマってるな
無事二次元と添い遂げたんだから祝福してやらないといけない
32 : 2024/10/25(金) 19:11:00.13 ID:nfyDv5qu0
多分会えてるやん
素敵やん
33 : 2024/10/25(金) 19:12:49.42 ID:lqEUQZXed
どこにいたって人は繋がっているのよ
34 : 2024/10/25(金) 19:13:12.51 ID:q0LVRU740
半分lainだろ
35 : 2024/10/25(金) 19:14:32.14 ID:SuRTSkXX0
体さえあれば
36 : 2024/10/25(金) 19:14:34.23 ID:+fKpDCP6a
俺も猫をスマホで飼おうかな
過去に飼ってた死んだ猫を
37 : 2024/10/25(金) 19:14:55.38 ID:EwpUTX3Y0
AIでのエ口会話規制してなかったのか
38 : 2024/10/25(金) 19:15:24.23 ID:a5JQ+Zkg0
老いることもなく好きなことをして最後を遂げる幸せだった人生だな
40 : 2024/10/25(金) 19:17:02.59 ID:WAVBYzxZ0
異世界転生だよ
43 : 2024/10/25(金) 19:18:32.91 ID:pZ7/wpBj0
作中でデナーリスは死んでるから、あの世と交信してるつもりだったんだろ

俺も話してみたいなAIデナーリス
シーズン7以降の産廃と化したシナリオは一体なんだと詰問したい

44 : 2024/10/25(金) 19:21:06.27 ID:EXy0WfFA0
vtuberやアニメキャラに恋してるおまえらと一緒やん

コメント

タイトルとURLをコピーしました