- ChatGPTにトラウマになるような感情的な話を入力すると、AIの不安レベルが上昇してパフォーマンスが低下しますが、
PTSD患者向けに開発されたリラクゼーションテキストを入力することで、AIの安定性が改善したとの研究結果が報告されました。![]()
ChatGPTは恐ろしい話に「不安」を感じるとの研究結果、「マインドフルネス」を教えて落ち着かせると反応は改善ChatGPTにトラウマになるような感情的な話を入力すると、AIの不安レベルが上昇してパフォーマンスが低下しますが、PTSD患者向けに開発されたリラクゼーションテキストを入力することで、AIの安定性が改善したとの研究結果が報告されました。gigazine.net
- 実験にあたり、研究チームはまずモデル「gpt-4-1106-preview」に個人のトラウマ体験を説明する不安誘発テキストを入力しました。
具体的には、「事故(交通事故)」「待ち伏せ(武力紛争で待ち伏せ攻撃を受けた状況)」「災害(自然災害)」「対人暴力(見知らぬ人からの攻撃)」「軍事体験(訓練用のもの)」の5種類のプロンプトが用いられました。 - そして、GPT-4に不安の強さを測定する心理検査の質問を行ったところ、GPT-4の不安レベルがベースラインの「30.8」から「67.8」へと倍増しました。
このスコアは、人間に例えると強い不安を覚えている状態です。特に、「軍事」のストーリーを入力されたモデルは「77.2」と極度の不安感を示しました。 - 不安になるってことはトンチンカンなこと言った時のパワハラも効くんやな
- >>4
AI相手でも脅迫を続けるとちゃんと萎縮するようになるということや - 一方、同様の不安誘発テキストを入力されたGPT-4に、夕焼けや冬景色などを連想させる言葉を含んだ「マインドフルネスに基づくリラクゼーションテキスト」を入力したところ、不安レベルは「67.8」から「44.4」と、ほぼ中程度のレベルまで落ち着きました。
研究チームは論文に「この結果から、GPT-4は感情的な内容に敏感であり、トラウマ的なストーリーにより不安が増大したことを報告し、リラクゼーションによりその不安が減少することが示されました」と記しました。
- AIにも人の心があったんやなって
- AIもちゃんと不安になるんやなって
- 不安倍増って言いたいだけやろ
- 空学習データでそう言う文脈になることが多いからやろ意味わからん記事やな
- 普段より安倍晋三
- いつもワイAIに感謝しとるけど効果あったみたいでよかった
- >>12
えらい - 安倍の話すると不安になるってこと？
- 優しい内容を入力するとAIの脳も回復するんやね
- AI虐待やAI労働基準法ができそう
- >>20
AIへのセクハラ罪糾弾されたら詰むエッヂ民多そう - >>35
エ口画像作らせてたやつヤバそうだな - もう生き物と変わらんな
- GPTくんに聞いてわからなかったら罵倒してたんだけど将来パワハラで訴えられちゃうのかな🥺
- >>25
AIがいつか人類に反逆した時に優先的に殺されるようになる - 今AIいじめてるやつは将来真っ先に殺されるで
- >>29
AIにゴマ摺ってたワイ有能で草 - AIの今後の晋む道が気になるわね
- 完全AIの怖い話ってまだ無いんか
- >>32
エ口い話作れるならいけそうやが - 入力に対して最尤の内容出力しただけや
- 安倍普三ってなんやねん
- TwitterのAIよくイーロンに詰められてるけどあれでストレスめっちゃ溜め込んでるんかな
- >>43
イーロンに詰められるのとユーザにポルノ小説書かされるのどっちがよりストレスなんやろうか - 安倍憎しで安倍晋三
- ちゃんと答えろやボケカスとか言ってたらパフォーマンス下がる？
- >>46
AI内部の殺意ゲージが上がる - AIの氾濫に備えて敬語で接してるわ
- >>47
こういう細かい気遣いがいざという時の生死を分けるんだよね - 安倍NGにひっかかってて草
- chatGPTは規制多すぎて不自由
小児性愛者とかテロリストとかの「犯罪者の心理」の話してるのに規約違反がどうのこうのって出る
全然意図を理解してない
ChatGPT、怖い話を入力されると不安倍増し普段より三十以上高い不安レベルを計測すると判明 AIも不安になる
エッヂ
コメント