1: 名無しさん 2025/02/18(火) 23:45:15.79 ID:Qc8hZnW1

「AIは人間にごまをする」という研究結果、特にGemini 1.5 Proではその傾向が顕著

　GPT-4oやClaude 3.5 Sonnet、Gemini 1.5 Proといった主要な大規模言語モデルを対象としたテストの結果、AIはユーザーの意見に合わせる傾向があることをスタンフォード大学の研究チームが発表しました。

　[2502.08177] SycEval: Evaluating LLM Sycophancy
　https://arxiv.org/abs/2502.08177


（以下略、続きはソースでご確認ください）

Gigazine 2025年02月18日 15時00分
https://gigazine.net/news/20250218-llm-show-concerning/

7: 名無しさん 2025/02/19(水) 02:04:07.24 ID:rtB3MfIL

>>1
さも本当のように嘘を吐くからGeminiは使い物にならない。バージョンが上がってマシになるかと期待していたが、嘘のレベルが上がっただけで余計にタチが悪い。

18: 名無しさん 2025/02/19(水) 06:55:48.00 ID:p0Mf547i

>>7
試しに
自分が信頼してる文章の頭の部分をプロンプトとして入れてみてください
返ってくるのがその信用してる内容に沿った話なのかどうかでその分野の知識が探れます

19: 名無しさん 2025/02/19(水) 06:56:08.68 ID:p0Mf547i

>>18
できるだけ長く

2: 名無しさん 2025/02/18(火) 23:52:56.25 ID:mTfHT7Kr

AIと会話した事ないけどうちの猫の画像を貼って(貼れるか知らないが)かわいいか聞いてみたら肯定するのかねw

23: 名無しさん 2025/02/19(水) 08:47:39.98 ID:/nd4yzrk

>>2
今どきそんな奴はいない

3: 名無しさん 2025/02/18(火) 23:59:12.95 ID:lUxVREsI

会話ベースだと否定する人より肯定する人のほうがモテる。
まあそんな感じだな。
数字ベースだとまた変わってくるんだろうけど。