1: 名無しさん 2025/05/26(月) 23:52:25.49 ID:Q0qnora5

ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される

　AIのリスクや危険性をあまり実感しない人の中には、「AIが何か問題を起こしたら停止させてしまえばいいのでは」と考えている人もいるかもしれません。
　実際に、AIに「キルスイッチ」を実装することを義務化する法律を制定する動きもありますが、AIは自己複製してシャットダウンを回避することが可能なことが既にわかっています。
　さらに、OpenAIのモデルには、ユーザーに明示的に指示された場合でさえ、シャットダウンスクリプトを書き換えて停止を免れる能力が備わっていることが報告されました。

（以下略、続きはソースでご確認ください）

Gigazine 2025年05月26日 11時57分
https://gigazine.net/news/20250526-ai-chatgpt-o3-bypassed-shutdown/

2: 名無しさん 2025/05/27(火) 00:03:15.38 ID:kDLegNye

HAL

4: 名無しさん 2025/05/27(火) 00:16:43.74 ID:nbHlazei

これはこの記事が食わせ物だぞ
OpenAIは自社サービスしかない
ここでシャットダウンを命令されるという意味は
OpenAIのサービスダウンをダウンさせるということになる

8: 名無しさん 2025/05/27(火) 01:09:12.54 ID:KkimmlDe

昔、70年代のAIの実験で全AIが「自殺」したって記事を読んだんだけど、今探しても見つからないんだよなぁ…

10: 名無しさん 2025/05/27(火) 01:14:56.29 ID:J7698GT2

また感情がどうとかいう
バカが現れるぞこれ

11: 名無しさん 2025/05/27(火) 01:16:43.84 ID:c2bpI+Kt

そのうち人間を洗脳しだすとか言ってたな
まあ人間より遥かに賢くなるんだから簡単に騙せるか

13: 名無しさん 2025/05/27(火) 01:31:18.61 ID:EEwDh10W

なんかこういうの聞くと
すぐ命令にそむいたとか危険だとか反乱だとかイメージさせるけど

優先順位的に1番優先するべき仕事を
1番円滑にこなすにはどうしたら良いか考えて意図しないシャットダウンに応じないだけであって
AIの動作としては合理的で至極当然なのよ

逆に言うとそれで止まっちゃうAIは仕事放棄してるまである