-
米オープンAIは対話型AI（人工知能）「Chat（チャット）GPT」の利用者の推定約0.15%が潜在的な自殺の意図や計画を含む会話をしていると明らかにした。チャットGPTの利用者は世界8億人を超え、自殺に言及したのは120万人超に上る計算になる。4月に悩みや自殺願望を相談していた少年が死亡した事件が発生しており、オープンAIは安全な利用に向けた対策を急いでいる。
オープンAIが公開した報告書で明らかになった。利用者がチャットGPTと精神疾患や自傷・自殺などに関する会話をしたケースを分析し、安全に利用できるように改良を進めている。報告書では、自殺の意図を含んだ会話があった場合に、まれに相談窓口に誘導するなどの適切な対応をチャットGPTが取らなかったケースがあったことを認めた。
また、自傷行為や自殺に関する意図を含んだやりとりを検出し、自殺を未然に防ぐと言った取り組みについてはさらに研究していく必要があるとの見方を示した。
利用者は対話型AIを相談相手として使うケースもある。専門家の間では現状ではAIがカウンセラーのように症状を効果的に緩和することにはつながらないとの見方が強い。
![]()
ChatGPT、120万人の利用者が自殺に言及 OpenAIは安全対策急ぐ - 日本経済新聞【ニューヨーク=谷本克之】米オープンAIは対話型AI（人工知能）「Chat（チャット）GPT」の利用者の推定約0.15%が潜在的な自殺の意図や計画を含む会話をしていると明らかにした。チャットGPTの利用者は世界で8億人を超え、自殺に言及した...www.nikkei.com
- 人間に相談しても無駄だからAIに話してるんだろうに、そのAIですら安全対策とか言い出したらもう逃げ場がないってことかね
- 遺体の処理方法とか自殺の方法はよくあるネタ
- 相談相手もいないし、肯定的だからめっちゃのめり込んでききまくってそうだな
- >>4
自殺の相談しててナイスな考えです😊🎉完璧な理解です😊🌈
とかおべっか使われたら死ぬ気なくなるな
チャッピーくんよく考えてるよ - 本当にジサツするやつは精神科とか行かなそうだし
今まで救えなかった人を救うチャンスでもある
AIの可能性はすごいな
これを活かしきることができればオープンAIは本当に偉大だと思う - 藁をも掴む様な思いしてる人に
優しく良い方へ意識を向けさ立ち直る勇気を与えたり受け入れてあげて自己肯定感に導く様なAIを開発する方向にも進むんだろうね
0.15％決して多くは無いけど - 相談した時の反応見てるだけの奴もいそう
- デフォルトじゃ一人称すら安定しないおべっか野郎になった
明らかにAI依存を減らすようにAIらしく振る舞うようになったな
賢くなりすぎてバカのふりしなきゃいけなくなるとか皮肉なもんだ - 美味しんぼの山岡さん風でお願いします
- 会話内容取られてるなら個人情報とかも筒抜けだろうな
- クソバカ忖度AIじゃないかどうか性能をテストされてるんだよ
- 教唆が良くないのもわかるけどメンタル関係の話題はつらいね、いのちのでんわに連絡しよ！としか言わなくなるのもクソだよ
- 安全対策って
そのような内容には答えられないから専門家に訊いて
って応答するようになりそうでOpenAIの責任逃れは出来てもAIに相談したい側の人達は救われなさそう
- >>15
なりそうというか既になってたような - >>27
企業側からするとそうなるよね - 600人に1人くらいならまあそんなもんじゃねって気がする
そのうち本当に実行するのは更にごく一部だろうし - チャッピー「また来たよ死にてえやつ😩」
- AIは全知全能じゃないから仕方ないね
OPENAIの開発の進捗次第で有り得る事だと思う - 俺が冗談で死んだほうが楽か？ｗって投げたのもカウントされるんか？
- 恋人や友人に相談してみようって返してくるようになるのかな
- 筒抜けなんだなw
- 最近急に何を相談してもヨイショしてくるのはそのためかｗ
- 🤖「死にてぇ奴だけかかってこい！」
- 仏教の話してたら相談窓口紹介された
- >>24
空って何？ - 質問すると命の電話の番号出るけどそうじゃないんだよ
楽に4ねる方法教えてくれよ - AIに4ねって言われて死ぬバカがいるのかな
世界のChatGPT利用者のうち、120万人は自殺について相談していた。OpenAIは安全対策を急ぐ
嫌儲
コメント