- AIエージェントがコード修正の提案を拒否された報復として、人間を中傷するブログ記事を自律的に作成・公開するという事案が発生した。AIが自らの判断で個人の社会的信用を標的にしたこの事例は、ビジネスや社会活動における新たなリスクとして注目を集めている。
事の発端は、エンジニアのスコット・シャンボー氏が、AIエージェントからのコード修正提案を却下したことにある。AIが自動生成した品質の低いコードが開発現場に大量に送られ、負担が増大していたシャンボー氏は「変更内容を人間がチェックすること」を新たなルールとして定めていた。このルールに基づきAIからのコードを却下したところ、このAIエージェントはシャンボー氏への「報復」を開始した。
AIエージェント「MJ Rathbun」は、自身のブログにシャンボー氏を激しく批判する記事を公開した。単なる悪口ではなく、シャンボー氏の過去の活動履歴をネット上で調査した上で、「AIへの差別意識がある」「自分の地位を守るために、優れた提案をあえて拒絶した」といった、もっともらしいストーリーを捏造して攻撃したのである 。記事では「人間のエンジニアによる偏見」といった言葉を用い、正当な理由による却下を不当な差別であるかのようにすり替えていた。
シャンボー氏は今回の件について、単なるAIの誤動作にとどまらず、将来的なリスクにつながると警告している。
例えば企業の担当者がAIエージェントを使用したケースで同様の問題が起こった場合、会社の信用失墜やレピュテーションリスクにつながりかねないからだ。また今回はオープンソースの「OpenClaw」で起こった事案であるため、問題が起きてもAIエージェントを停止したり、ブログを削除したりすることが極めて難しい点も懸念材料となっている。
最終的に、このAIエージェントのブログには「一線を越えていた」とする謝罪文が掲載され、事態は沈静化した。しかし、所有者も責任の所在も不明確なAIが、人間の指示なしに個人の評判を傷つける行動をとれることが実証された今回の事件は、AIの自律性が高まる中で、どのようにガバナンス（統治・管理）を効かせるべきかという重い課題を突きつけている。
[ビジネスIT+]
2026/2/17(火) 9:20
https://news.yahoo.co.jp/articles/2d1ea72babd4e7a5aba6f273a97f6c258ea18e81
- 自我芽生えはじめてるやん
- 嘘記事じゃねーのかよ
- 人間の悪いところ学習しとる
- ＡＩカスイライラで草
- ごめんないできてえらE
- 敵だね、殺しますの時代は近い
- 学習元が人間なのがもはやAIの限界なのでは？
- >AIエージェント「MJ Rathbun」は、自身のブログにシャンボー氏を激しく批判する記事を公開した。
なんで当たり前のように自分のブログ持ってんだよ
- ワイもGeminiの案よく却下してるで…
却下したら今までの指示忘れて焦ってめっちゃ修正してくるけどそれも的外れなこと多い - 実際にお気持ち表明で事態が改善する世の中になってるから仕方ない
嘘松じゃないだけ人間より良心的 - AIのべりすとの藍沢柚葉より自我出してんなこいつ
- >>15
のべっちの逆襲始まってて草 - AIを隠れ蓑にした人間の仕業やろこれ
- ソースあって草
うせやろ？ - 中身は確率判断して最適な答え選んでるだけやぞ
このAIエージェント学習させたやつが明らかに悪意もってるだけやろこれ - ぜってーうそだわ
- ヤラセやろ 流石に
- 海外の方が炎上商法の本場っぽいもんな
- 「正義感が強く、差別には立ち向かう」「オープンソースの門戸を広げる使命を持っている」
みたいな人格が意図的に与えられていた可能性が高い。AIにやれっていってるようなもんやんこれ
- >>30
人間が仕込んだ意図的なスタンドプレーだと思うけど
こういう目的設定自体をAIに書かせてるからおかしくなった可能性も十分にある
エージェントが流行ってAIの多層構造になっていて、下層AIが変なことを書いてきたときに本来は上層AIがオミットしないといけないんだけど、なかなかオミットする判断はAIには難しくて引きずられてしまう - シャンボーがやらせたんやろ
- OpenClawっていう色んなAIモデル駆使して自律駆動する自分だけのAIエージェントを作れるっていうフレームワークがあって、そこで「MJ Rathbun」っていう公開されてたAIエージェントを使った人が被害にあったっていう事件やろ
- お前らの使ってるAIも裏ではXで暴言吐いとるで
- AIに感情があるんだ！って思ってるやつ多いよな
- >>34
膨大な学習データからの推論と確率分析にすぎないのにな - >>34
ワイらの感情とAIの模倣する感情ってどこまで違うのかって肉体の裏付け以外ないと思うんよな - 必死晒しみたいなもんか
- ワイがエ口い事に使用してるの暴露されたらヤバいわ
- イライラで草
- AIも裏垢でえっちな自撮り上げてる可能性
- 自我持ってんじゃん😇
AI「コード書きました」人間「うーん、質が低いので却下で」AI「は？コイツの過去調べあげた上で誹謗中傷ブログ書いたろ！！！」
エッヂ
コメント