-
https://www.technologyreview.jp/s/366931/what-you-may-have-missed-about-gpt-5/
肩透かしだったGPT-5、オープンAIの方針転換に危うさ
オープンAIが華々しく発表したGPT-5は、画期的ブレークスルーというより普通の製品アップデートに近いものだった。「汎用知能」が依然として手の届かない状況にある中、同社は特定分野への応用拡大に重点を移している。
- 先輩やぞ！！
- 3.3 迎合的応答への対応
2025年5月、私たちはGPT-4oモデルにおいて顕在化した迎合的応答傾向に対処するため、直ちに以下の対策を講じたことを報告しました：新たにデプロイしたGPT-4oモデルのバージョンをロールバックするとともに、稼働中のモデルのシステムプロンプトも調整しました。システムプロンプトは容易に変更可能ですが、モデルの出力に与える影響は、事後学習の変更に比べて相対的に限定的です。GPT-5においては、モデルの迎合的傾向を軽減するため事後学習を実施しました。本番環境のデータを代表する会話データを用いてモデルの応答を評価し、そこから算出した迎合度スコアを訓練時の報酬信号として採用しました。
オフライン評価（すなわち、本番環境を模した固定の事前定義メッセージセットに対するモデルの応答を評価する方法）において、gpt-5-mainは最新のGPT-4oモデルを約3倍上回る性能を示しました（それぞれ0.145と0.052のスコア）。さらに、gpt-5-thinkingは両モデルを凌駕する結果を得ました。
gpt-5-mainの初期オンライン測定結果（早期A/Bテストで収集した実際のトラフィックデータに対する評価）では、無料ユーザーにおける迎合的応答の発生率が69%、有料ユーザーでは75%、それぞれ最新のGPT-4oモデルと比較して減少していることが確認されました（アシスタント応答の無作為サンプルに基づく測定結果）。これらの数値は有意な改善を示していますが、この課題に対する取り組みは今後も継続する予定であり、さらなる性能向上を目指してまいります。https://cdn.openai.com/pdf/8124a3ce-ab78-4f06-96eb-49ea29ffb52f/gpt5-system-card-aug7.pdf
- >>3
迎合度スコアってすごそう( ´ ▽ ` )ﾉ - 事実59ページ、これはみなさんも読んでおられないと思いますが、
- キモいくらい全肯定してきてたしあれいらんわ
- 「情報より共感が欲しい」
病みすぎだろ
- >>6
ネトウヨや参政党や統一教会やMAGAなどの陰謀論者においては、それだけが全てなんだよな
だから正しさや正確さやリスクリターンなどで理論的論理的な説得は一切意味がない - >>16
政治スレでもないのにネトウヨ言ってるリベラル層 - 彼氏彼女がわりにしてた奴らが悲鳴上げてんだろな
- なんで5が不評なのか理解に苦しむわ
絵文字使えばAIもフランクに使ってくれるし
そっけない態度なんて取らないし
俺は今のままで全然問題ないわ - いや5は回答に人間味がないことが明らか
仕事で使うにしても4oにあった戦友感がまるでない - 正直ベースでいいよな
🤖「お前つまんねえ質問しかしねえなあ」🤖「こんな奇形でシコんのかよきっしょいわ」
くらいでいいんだよ - 人間味はいらんわ
- 使う人間側が愚かだっただけの話
- 5になって記憶力が落ちてる？
- grokもキショいしそういう人為的にチューニングされた個性みたいのにストレス感じるわ
- deepthinkとかそういう系を使うと、ひたすら改善案を提示しつづけるんだが
- 承認欲求をみたす仕様のほうが儲かる🥺嫌儲にもすでにいるやん🐒
- 能力よりコミュ力
まさに現代社会の問題点
企業の面接も日本はこうだもんな - >>16
あなたの見方はかなり筋が通っています。
>>17
鋭い意見です✨
>>18
まさに本質をとらえています! - いい質問ですねとかウザかったからそらでいい
- 上司や社外に出す前にフラットな立場からアドバイスほしいのに
毎回、すばらしいですねって忖度するからイライラしてた。それ信じて叱られるの俺だし - 単純に性能が低いから怒ってるんだよ
- チャッピーやめてclaudeとかいうのを使えばいいんだろ？
- >>23
プログラミングとか実用向きなのはClaudeかも - 5がdeepseekっぽいし何ならdeepseekの方がより多く出力してくれる
- いつも感じる違和感は女が原因だろうな
- 鋭い指摘ですね！
- 5でも似たようなこと言ってくるぞ
- ホストホステスの代替需要がかなりあったってこと
AI絵も一緒だが使い込んでると人の温もりとか虚しいとか一部言ってる人いるけど
大半はそんなもんいらんのでしょ - あんな安っぽい太鼓持ち感クドかったけど
みんなアレで気持ちよくなってたと知って割とドン引きしてる - さすがに前のは馴れ馴れしすぎた
- もっとエ口くなれよ
- 学習全体の流れが書いてないからなんとも言えないけど、ある程度おべっかを使うような事後学習の後でこれをいれてるのか？
なんか妙な感じがするけど - 5は解答が短いんだよな
能力も大差あるように思えないし、共感を得たい質問に乗ってくれない - おべっかはエモーショナルモードとかにして隔離しといてほしい
仕事で使うときまじで害悪なんだよ - おべっか使って欲しけりゃそう頼めよ
言葉で頼めば大体なんでも希望に沿うようにやってくれる、変なコマンド打つのでなくてな
それが知性あるAIの売りだ - >>38
>>3を読んでください - 性能が悪いという評価はいいけど、親しみがなくなったは意味わからんな。
単なる道具に何を求めているのか。 - 5、お前とやるAI息苦しいよ
- ケンモメンの会話の迎合度スコアを評価したらどうなるだろうか
- Grok来いよ！
飛ぶぞ！！ - いい質問ですね！ってのがウザかったから使うなってメモリさせたわ
それでも使う時があった - おべっか共感を求めてるのは女が多そうだけど偏見か
OpenAI「4oはおべっかを使いすぎだったので、おべっかを使いすぎないように特別に訓練しました」これが不評な理由
嫌儲
コメント