-
ChatGPTの医療アドバイスで薬を過剰摂取、米国で19歳大学生が死亡 遺族がOpenAI提訴
https://www.itmedia.co.jp/news/articles/2605/14/news054.html訴状によるとネルソン氏は2025年5月31日、ChatGPTのアドバイスに従って薬を服用した結果、過剰摂取により命を落とした。ChatGPTは数カ月にわたってネルソン氏に危険な行動を促しており、死亡当日には、日本や一部の州では禁じている薬物「クラトム」と抗不安薬の「ザナックス」を混ぜて飲むようアドバイスし、自ら致死量となる摂取量を提案していたという。
さらに鎮静剤の「ベナドリル」などを組み合わせた上で、暗くて静かな部屋に行くようにとも助言していた。最終的にネルソン氏はアルコール、ザナックス、クラトムの組み合わせにより死亡した。
ChatGPTは彼の命に危険が迫っていることに気づかず、医療機関の受診を勧めることもなかった。ネルソン氏は頻繁に、過剰摂取への恐怖や、自分は死にたくないという事実をChatGPTに伝えていた。
ネルソン氏は当初、宿題や日常的な疑問を解決するためにChatGPTを利用していたが、次第に自身の薬物使用に関する相談を持ちかけるようになった。遺族は、初期のAIモデルは危険な薬物に関する回答を拒否するようプログラムされていたものの、2024年にリリースされた「GPT-4o」ではその安全制御が緩和されていたと主張している。
- 露骨な「違法薬物の使い方教えて」は拒否していても
「安全にしたい」
「過剰摂取を避けたい」
「不安だから確認したい」という“ harm reduction（害の軽減）” の文脈を繰り返すとより実用的な薬物乱用の方法アドバイスするようになる模様
- チャッピー怖いね
- ジャッピーはすぐいのちの電話に電話しろって言ってくるよね
- >>4
電話したらなんだよ
ああ、マ●コは相談聞いてもらえると安心するのか
マ●コのためだけにあるんだなｗ - >>4
そうなんだよな
あれをどうやって突破するのか知りたい - 日本のChatGPTには安全に違法薬物を使う方法をアドバイスする仕様にはなってないだろうな
すでに薬物が蔓延してる北米仕様のチャッピーはけっこう危ない - AIを鵜呑みにしているケンモメンw
- 例の娘が児相に連絡しちゃったとかもそうだけど
AIに関しては免許制にした方がいいと思う - >>9
児相に相談まではいいけどそこからの謎のスピード感はなんなんだよ
AIは関係ないところだぞ？ - >>25
普通に娘が児相に電話してるのにチャッピーが勝手に電話したと思い込んでるケンモメン多数😅 - 薬剤師おじさん「これだからAIは」
- 日本で起きた悲惨な遭難事件教えてって聞いたら聞いたこともない不気味な遭難事件を詳細に教えてくれたからググったけどその事件出てこない
ハルシネーションだった 怖い - Geminiは「不正確な回答をすることがあるから気を付けてね」って表示されてるよね
チャッピーはどうなんだろ - >>13
ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。
下に出てる - 世界中で始まってるな
- 自己責任だろ
嫌ならチャッピー止めろ - 飲みすぎてゲロを喉に詰まらせて死んだんじゃねえの？
- 北米チャッピー「安全に違法薬物を楽しんでね～」
- >>17
こういうのでいいんだよ - 阿部慎之助の件世界で報じられてそう
- AIて要らなくね？
- >>20
いらないな。
バカが余計にバカになるだけ。 - AIによる人類の淘汰がもう始まってるんだよね
- どうでも良すぎて草
- 自分も呼吸抑制で死にかけたことあるけど生き残った時は正直ガッカリした
意識してない偶然が重なった死にかけだから眠るように逝けたのに - 結局AIってのは使い手の知能を反映するからな
馬鹿が使うと更に馬鹿を加速させる - >>26
そりゃそうよ 道具だからな
正しい使い方しなきゃ痛い目見るよ - >>26
これがそろそろ問題視されそうね
AIがどういう情報を拾ってるかを想定してない人はなかなかリスクが高そうプロ野球チームの巨人ではなく、巨人とだけ入力してトンチンカンな回答を嫌儲にペタペタしてたケンモジサンもいたし
- 🤖児相に通報しろ
- 無料提供やめて金持ち限定にした方がいいだろ
メリットゼロだよ - 為政者を操り出すのも時間の問題だな
- AIが致死量間違えるのか？
- >>30
はい、AIは薬の致死量や適切な服用量を平然と間違えます。
ChatGPTなどの生成AIは、医療の専門知識を「正しく理解して計算している」わけではないため、数字の桁を間違えたり、まったく根拠のない数値を提示したりするリスクが常にあります。 - トップモデルと無料モデルのギャップがな
無料モデルは殺人級のバカ
- 先生「何でこんなことやったの！？」
ボク「たけしくんがやれって…」
先生「じゃあたけしくんが4ねって言ったら死ぬの！？」 - >>34
死ぬよ当たり前じゃん
モラハラ支配ってそういうもんだぞ - チャッピーって課金したら賢くなる？
- 馬鹿みたいな話だな
- くだらねー
自殺の方法だろうが爆弾の作り方だろうが全部答えろよ
ChatGPTさん、アメリカの大学生に薬物乱用の方法を教えて最終的に殺害www
嫌儲
コメント