元OpenAI社員「すまん.......あと3年でシンギュラリティ起こって世界が崩壊するわ.......」
2: 名無し 2024/06/11(火) 07:49:32.99 ID:Y3C9aGZn0
元OpenAIのSuperalignmentチームメンバーであるレオポルド・アッシェンブレナー氏は2024年6月、
AIのセキュリティ上の懸念を取締役会に伝えたためにOpenAIを解雇されたと主張していることが、各メディアで報じられている。
同氏は「SITUATIONAL AWARENESS: The Decade Ahead」というブログ記事を公開し、AI技術の進展とその影響について詳細なシナリオを提示した。
同記事では、特にAGI（人工汎用知能）の進展とその後のスーパーインテリジェンスへの移行に伴う課題とリスクについて述べられている。
この記事の内容は、現時点で世界中で数百人しか理解していないとアッシェンブレナー氏は述べている。
アッシェンブレナー氏によると、2027年までにAGIが実現する可能性が非常に高いとのこと。
同氏はAGIがAI研究を自動化し、数百万の自動化された研究者が登場することで、科学技術の進歩が急速に進むと述べている。
この進展は、数ヶ月から1年で人類史を劇的に変える可能性があると指摘している。
アメリカのメガテック企業は、数兆ドル規模のGPU製造と電力インフラの強化を進めており、これにより経済は戦時体制に移行する見込みだという。
AGIの進展によりAI研究が自動化され、科学技術の進歩が急速に加速すると予測される。
AGIが最も優秀な専門家レベルに達すると、既存の核抑止体制が崩壊し、新しい軍事技術のパラダイムが登場する可能性があるとのこと。
超知能の出現によって、既存の軍事技術の均衡が崩れ、先制攻撃や国際的な緊張が高まる可能性がある。
同氏はこのようなシナリオが現実化する前に国際的な協力と安全保障対策が必要であると強調している。
同氏は、AGIの開発とその後の超知能の出現が国家間の緊張を高めると予測している。特に、アメリカと中国の競争が激化し、安全性を犠牲にしてまで開発競争が行われる可能性がある。
3: 名無し 2024/06/11(火) 07:50:55.73 ID:m8VH5mu00
今やれ
4: 名無し 2024/06/11(火) 07:51:38.73 ID:3ZvSiuIe0
それじゃ早くしてくれ
5: 名無し 2024/06/11(火) 07:51:39.94 ID:t6jMW/OB0
いいな
6: 名無し 2024/06/11(火) 07:51:53.52 ID:tYNKc+Mq0
崩壊したほうが良い
立場によってはメリットしかない
7: 名無し 2024/06/11(火) 07:52:08.85 ID:RIM7HL1s0
ついにスカイネットが現実になるのか