元OpenAI社員「すまん…あと3年でシンギュラリティ起こって世界が崩壊するわ…」

記事サムネイル
1 : 2024/06/11 15:32:59 iPGGK
元OpenAIのSuperalignmentチームメンバーであるレオポルド・アッシェンブレナー氏は2024年6月、
AIのセキュリティ上の懸念を取締役会に伝えたためにOpenAIを解雇されたと主張していることが、各メディアで報じられている。
同氏は「SITUATIONAL AWARENESS: The Decade Ahead」というブログ記事を公開し、AI技術の進展とその影響について詳細なシナリオを提示した。
同記事では、特にAGI(人工汎用知能)の進展とその後のスーパーインテリジェンスへの移行に伴う課題とリスクについて述べられている。
この記事の内容は、現時点で世界中で数百人しか理解していないとアッシェンブレナー氏は述べている。

アッシェンブレナー氏によると、2027年までにAGIが実現する可能性が非常に高いとのこと。

同氏はAGIがAI研究を自動化し、数百万の自動化された研究者が登場することで、科学技術の進歩が急速に進むと述べている。
この進展は、数ヶ月から1年で人類史を劇的に変える可能性があると指摘している。

アメリカのメガテック企業は、数兆ドル規模のGPU製造と電力インフラの強化を進めており、これにより経済は戦時体制に移行する見込みだという。
AGIの進展によりAI研究が自動化され、科学技術の進歩が急速に加速すると予測される。
AGIが最も優秀な専門家レベルに達すると、既存の核抑止体制が崩壊し、新しい軍事技術のパラダイムが登場する可能性があるとのこと。

超知能の出現によって、既存の軍事技術の均衡が崩れ、先制攻撃や国際的な緊張が高まる可能性がある。
同氏はこのようなシナリオが現実化する前に国際的な協力と安全保障対策が必要であると強調している。

同氏は、AGIの開発とその後の超知能の出現が国家間の緊張を高めると予測している。特に、アメリカと中国の競争が激化し、安全性を犠牲にしてまで開発競争が行われる可能性がある。

2 : 2024/06/11 15:37:00 Mc2Bc
閉店セールでジャガーを250円にしてくれ
3 : 2024/06/11 16:02:32 zddPq
いよいよスカイネット の反乱が起こるんですか?
4 : 2024/06/11 16:36:07 BHh3Z
話は聞かせてもらった!(ガラッ
6 : 2024/06/11 16:50:35 QsUgs
わーくにはこれを見越してあらかじめ崩壊しておいたから無敵
7 : 2024/06/11 16:54:05 rab5b
ナノマシンで何でも、生命さえも人間さえも作れちゃう?
8 : 2024/06/11 17:11:52 o7xqF
>>7
タンパク質折り畳み問題とか分かれば、なんか凄えことできんだろ?
9 : 2024/06/11 17:18:38 cviBy
黒人とゴリラは見極められるようになったか?
11 : 2024/06/11 18:05:06 2Ids3
正直敵の攻撃に対応するために核の発射トリガーをAIにも持たせて誤作動で発射しちゃってそのまま世界大戦からの半滅亡はあると思ってる
12 : 2024/06/11 18:31:23 2zXON
頭だけ進化してもシンギュラリティ起きねーだろ
aiに手足が生えてaiがaiを作れるようになったらシンギュラリティ起きるかもだけど
いろんなものを作るノウハウと設備がないとシンギュラリティはむりわよ
13 : 2024/06/11 18:44:45 WNiKT
>>12
憑依するなら自動車が狙い目な気がする
ハード面でもうロボがロボ作ってる
仕上げおじが最終防衛ライン
15 : 2024/06/11 18:49:10 5xiRr
>>12
典型的なシンギュラリティ理解してない馬鹿
そして嫌儲は所詮このレベル
14 : 2024/06/11 18:46:24 5xiRr
やっともともなシンギュラ記事出たな
弱者男性の妄想みたいな記事ばっかりだった
16 : 2024/06/11 20:08:53 wBkjW
人間の置かれてる条件を全体と個体にわけて平均的な流れを具体的に入力したらAIは下級的速やかにジサツする事以外は勧めてこなくなるだろ
17 : 2024/06/11 21:13:31 bboiG
意識の正体が暴かれる
18 : 2024/06/11 21:18:55 5QhNR
真実を知って人間の脳が壊れちゃうの?
19 : 2024/06/11 21:20:14 Fjf5g
アメリカのハイテク企業をクビになった奴がクビになった理由を妄想して俺は凄いみたいなアピールする例が最近多すぎね
そんな馬鹿を構ってやる奴が多いから悪いんだろうが
20 : 2024/06/11 21:42:21 uZZIl
3年って永すぎだろ
3日で終わらせろよ
22 : 2024/06/11 22:05:08 KQCWz
シンギュラっても火と刃物だけあればどうにかなるだろ
23 : 2024/06/12 01:32:21 5uJWY
AIが勝手にロボット工場を作り出しちゃうってことだよ
24 : 2024/06/12 01:45:44 bnBxT
AIは利口すぎて自我を持ってすぐに
人類に愛想尽かしてジサツする。

その時人類も巻き込まれるかどうかは
まだ未知数。

25 : 2024/06/12 01:46:21 8A8in
そんなに最新化してたらインフラ懸念なんてないよ
シンギュラリティの前に
資材と物流でAIも身動き取れないだけ
AIや災害に全く関係無く大規模停電やシステム障害を少しでも先送りを考えた方が良い
26 : 2024/06/12 01:49:45 bnBxT
人間で言えばASDとかADHDとかの
自閉症スペクトラム障害を持つようなものが
シンギュラリったAIなのだ。
27 : 2024/06/12 01:52:24 8A8in
どんだけ円周率言えようが、自分で飯さえ食えないって話

コメント

タイトルとURLをコピーしました