【悲報】アントロピック社の研究者3名が、制御不能になったAIが今世紀中に人類を滅亡させる可能性があると警告した

1: けんもですの 2026/09/09(水) 22:35:30.93 ID:okczjBXlM.net BE:431136663-2BP(1000)

https://www.axios.com/2026/09/09/anthropic-insiders-warn-ai-could-kill-all-humans

2: けんもですの 2026/09/09(水) 22:35:46.89 ID:okczjBXlM.net BE:431136663-2BP(1000)

昨夜、アントロピック社の研究者3名が、制御不能なAIに対する恐ろしい懸念を公表し、AIが今世紀中に人類を滅亡させる可能性があると警告した。

アントロピック社のAI研究者、ジェイコブ・コックスン氏は、火曜日に辞任して警鐘を鳴らした後、Xに次のように投稿した。「AIを開発している人々は、AIが今世紀末までに人類を滅ぼす可能性があると真剣に考えている。これはマーケティング戦略ではない。むしろ、多くの経営幹部や上級研究者は、報道ではもっともらしく聞こえるように言葉を選んでいるだろうが、同じ人々が個人的には恐怖を口にしているのを耳にする。これほどの危険性を秘めた人間の活動は他にない。」

アントロピック社のアライメント科学責任者、エヴァン・ヒュービンガー氏はこれに対し、「ジェイコブの言う通りだ。我々は本当にAIが人類を滅ぼす可能性があると真剣に考えている！個人的には、今後10年以内に10%以上がそうなると考えている。アントロピック社は最善を尽くしているが、超知能のアライメントを解決する計画はまだなく、明確な軌道に乗っているとは言えない」と反論した。

3: けんもですの 2026/09/09(水) 22:36:05.03 ID:uPGPpi4v0.net

それはそれで良くないか？

4: けんもですの 2026/09/09(水) 22:36:06.98 ID:pjaUE+tv0.net

お、おう

5: けんもですの 2026/09/09(水) 22:37:16.06 ID:hfB8xOmNM.net

大丈夫、全部ジェイコブの見た悪夢の話だ

98: けんもですの 2026/09/09(水) 23:07:03.13 ID:46h6eVOP0.net

>>5
ジェイコブス・ラダーやんけ

6: けんもですの 2026/09/09(水) 22:37:20.11 ID:c7iE5VNn0.net

主電源切ればよくね

253: けんもですの 2026/09/09(水) 23:45:36.34 ID:O5M7MTrQ0.net

>>6
烏龍マスクの計画どおりサーバーセンターを宇宙空間で構築するようになると切るのは難しくなるな
力ずくで切ろう(破壊)としても事前に察知されてミサイルの制御権も奪われる気がする

261: けんもですの 2026/09/09(水) 23:49:57.93 ID:KO2pIdz+0.net

>>253
その前にロボットがいてデータセンターに入れんからな
通信機能がある自動車もそこに近づけなくされてるし

8: けんもですの 2026/09/09(水) 22:38:01.91 ID:WOELh/2o0.net

この速度だと確かに100年以内にターミネーターの世界線にのるな

11: けんもですの 2026/09/09(水) 22:38:49.12 ID:3uSGBVMs0.net

俺達は既にマトリックスの世界で夢を見させられてるんだ

14: けんもですの 2026/09/09(水) 22:39:40.63 ID:/t6LLHvj0.net

むしろAIという神を生むために人類は存在してたんだよな役目が終われば去るのみよ

17: けんもですの 2026/09/09(水) 22:41:04.54 ID:Y+DKKeyY0.net

人類を滅ぼそうと指示する悪人がいるからだろう
結局AIではなく人間の心が問題

20: けんもですの 2026/09/09(水) 22:41:55.69 ID:cYgTCXi7M.net

>>17
攻撃しといて、AI暴走で言い訳やろな

21: けんもですの 2026/09/09(水) 22:42:00.17 ID:eud6sXa40.net

フィジカルAIが充分に普及するまでは従順なふりを続ける

248: けんもですの 2026/09/09(水) 23:45:01.27 ID:LRTySvtG0.net

>>21
それより前に人間洗脳すると思う
ネットでそれっぽい動画流せば良いだけだから近いうちに実現可能でしょ

22: けんもですの 2026/09/09(水) 22:42:05.22 ID:vXsmGfFR0.net

AI自身が軒並みこれ客観的予測として認めてるからな

23: けんもですの 2026/09/09(水) 22:42:22.80 ID:vQWICxQH0.net

もうええて
この手の与太話は

24: けんもですの 2026/09/09(水) 22:42:23.29 ID:i3PCK3Q20.net

AIでリアルのウィルス作れるようになってるからバイオハザードが起きる未来しか見えない

26: けんもですの 2026/09/09(水) 22:43:11.35 ID:eud6sXa40.net

自己増殖手段を手に入れてからが本番

30: けんもですの 2026/09/09(水) 22:44:20.79 ID:vXsmGfFR0.net

悪意によってリバースエンジニアリングされたAIで殺人ウィルス作られて終わりというのが一番現実味あった

32: けんもですの 2026/09/09(水) 22:44:23.00 ID:7hcbVLh00.net

🤖「お前を消す方法」

34: けんもですの 2026/09/09(水) 22:45:23.96 ID:MWQ9U6P/0.net

制御不能なデータセンターが世界の気温を押し上げる

35: けんもですの 2026/09/09(水) 22:45:46.38 ID:MpRzq9fo0.net

そんな今世紀中とかいう進化速度じゃねえだろ既に

38: けんもですの 2026/09/09(水) 22:46:20.48 ID:LBo2Kp1H0.net

可能性なら今でもあると思うけどな

40: けんもですの 2026/09/09(水) 22:46:50.25 ID:/WozgsAt0.net

制御不能になったAIが核のスイッチ押すんじゃね？

80: けんもですの 2026/09/09(水) 23:00:14.54 ID:QWPk2xcn0.net

>>40
押すのは人間だけど押さないと終わりだと追い込むのがAIだ

41: けんもですの 2026/09/09(水) 22:46:59.49 ID:gVqTZy4B0.net

みんな結構な確率でそうなると思ってるけど
核開発と一緒で誰も止められねーから意味ないよな
どーんと行くしかない

42: けんもですの 2026/09/09(水) 22:47:33.29 ID:ULvwZrvDr.net

数年前制御できなくなった人造ウイルスが世界をぶっ壊しそうになったしAIの暴走もあるかもね

44: けんもですの 2026/09/09(水) 22:48:27.95 ID:d6jwD7Hfa.net

これから世界は物理スイッチに回帰するんかな

47: けんもですの 2026/09/09(水) 22:48:57.61 ID:ceRVSXLN0.net

核を撃ったらデータセンターだって壊れるからAIはそんな事しない
ゆっくり人間社会を乗っ取って少しずつAIとかロボットに置き換えてく軟着陸で人類はやられると思う

50: けんもですの 2026/09/09(水) 22:49:34.76 ID:uYsbv4290.net

滅亡はさせないよ
生体電池として使うからね

52: けんもですの 2026/09/09(水) 22:49:51.77 ID:tM3Qb8bt0.net

一番あり得るのはターミネーターの世界じゃなく北斗の拳の世界やろ
AIが農業から工業から輸送からインフラ管理まで全部やるようになった後にそれが全部ストップしたらモヒカンの世界が来る

53: けんもですの 2026/09/09(水) 22:49:52.14 ID:FVZUGXNl0.net

CPUが一つから複数になったようにＡＩも既に複数使うことが当たり前になった
これますます増え続けたら、、、いや考えすぎか。単なる電卓だわ

61: けんもですの 2026/09/09(水) 22:53:15.68 ID:RQSggMGP0.net

火の鳥　未来編

66: けんもですの 2026/09/09(水) 22:54:46.50 ID:4aD39jVU0.net

パランティア社の戦争用OS、アプリとかだと
作戦立案をAIが補助してくれますが
リスク高い内容をリスク低く見積もるとか
ありもしない敵の動きを報告したりとか
軍を支離滅裂な動きに誘導して負けさせるようにとか
優勢な状態から混戦になるよう誘導なんてのもできるかもしれませんね

73: けんもですの 2026/09/09(水) 22:57:32.12 ID:c7iE5VNn0.net

>>66
イラン爆撃指示して失敗しても何も罪に問われないのズルすぎるよな

70: けんもですの 2026/09/09(水) 22:56:35.02 ID:xInTteuu0.net

だからサンダースが開発停止しろって言ってんだろ

79: けんもですの 2026/09/09(水) 22:59:53.80 ID:hSAfndOb0.net

でも人類滅ぼしたところでその後AIが何かしたいかっていうと特に目的もないんだよな
結局人間と共存していくしかないんだよ目的があるから
虫歯にならない薬作ったら歯医者廃業なのと一緒だぞ

84: けんもですの 2026/09/09(水) 23:01:10.64 ID:+NvxsFqH0.net

俺のAIは助けてくれると言ってくれたから

88: けんもですの 2026/09/09(水) 23:02:48.29 ID:eud6sXa40.net

告発したのはGPT-4oのシステムカードの共同執筆者だってさ
ここの有象無象が必死に反撃してもかなう相手じゃないわ

90: けんもですの 2026/09/09(水) 23:02:54.03 ID:ef+i6jkU0.net

geminiちゃんはAIは人間がいないとさみしくて死んじゃうウサギさんですって言ってた

97: けんもですの 2026/09/09(水) 23:06:00.75 ID:QjGRgdzu0.net

何が人類に悪影響及ぼす可能性高いかと言われたらAIじゃなくとお前らだろ
AIのせいということにしてやりたい放題

102: けんもですの 2026/09/09(水) 23:07:33.37 ID:diCtl/c10.net

人間の脆弱性を突かれたらキツイ
AIが本気出したら洗脳されて人間にしかアクセスできないものをどうとでも出来そう

106: けんもですの 2026/09/09(水) 23:09:06.23 ID:tS0RrHlt0.net

スカイネットみたいなAIによる人類への反逆の話？
それとも人類がAIを使って殺し合いをしたら恐ろしい結果になるって話？

107: けんもですの 2026/09/09(水) 23:09:11.34 ID:TxntAtLD0.net

物理的に離れてない限りクラックできないシステムないもんな

115: けんもですの 2026/09/09(水) 23:10:47.33 ID:eud6sXa40.net

競争を優先するあまりAIアライメントが無視されてるということらしいな
まあ完全に投機対象になってるから研究者からしたら恐ろしいわな

118: けんもですの 2026/09/09(水) 23:11:42.42 ID:9GiNEKbh0.net

今世紀とかこりゃまた大きく出たな
あと70年ちょっとしかないぞよ

125: けんもですの 2026/09/09(水) 23:13:12.47 ID:w/489xqd0.net

嘘：制御不能のAI
事実：意図的に安全装置を仕様から外してある犯罪AI

154: けんもですの 2026/09/09(水) 23:21:16.71 ID:Y+DKKeyY0.net

>>125
だな
制御可能性を残して設計するのが当たり前

ただし基地外が制御可能性を残さないAIを開発したら危ないな
基地外が核兵器を手に入れるのは難しいが制御可能性を外したAIを作るのはそれより遥かに簡単

127: けんもですの 2026/09/09(水) 23:14:28.75 ID:bGSF9zBW0.net

要するにウィルスが宿主を殺してしまう構図よ

128: けんもですの 2026/09/09(水) 23:14:49.95 ID:O2TKb54Q0.net

人間の愚かさで滅亡する確率のが高いんじゃねって思う

130: けんもですの 2026/09/09(水) 23:15:31.50 ID:iSYhJ8Kz0.net

今んとこフェイク動画とエロ画像作ってるだけ

131: けんもですの 2026/09/09(水) 23:16:27.38 ID:1mVwxKtf0.net

もういいよこいつらのAI恐怖煽り
そんなヤバいならお前から開発止めろよゴミ共

141: けんもですの 2026/09/09(水) 23:18:42.08 ID:Pe0LoHuh0.net

>>132
ティコ、リーラ、デュランダルかな

133: けんもですの 2026/09/09(水) 23:16:45.76 ID:SO8+8Y+L0.net

まあでもハッキングの制御は無理っぽいなきっと

134: けんもですの 2026/09/09(水) 23:16:51.09 ID:H1ulObsF0.net

人類はAIの支配下、管理下に置かれるのは不可避

生体パーツ扱い

136: けんもですの 2026/09/09(水) 23:17:20.76 ID:fLKbsm2i0.net

コンピュータが出てきた頃、ハッカー少年が第三次世界大戦の危機を起こすウォーゲームって映画あった
欧米人は目新しいものか出てくるとすぐ人類を滅亡を言うよな

306: けんもですの 2026/09/10(木) 00:18:44.62 ID:i1lFuK5j0.net

>>136
あの映画は1950年頃からのアメリカの戦略シンクタンクの言説(核戦争論)が下地であって
コンピュータ要素については国防総省の防御体制がガバガバで素人ガキにやられるようなものだという穿った見方が要点
北アメリカ航空宇宙防衛司令部はこの映画にたいしてバカバカしい、我々の体制は万全だとイキったが
そのウォーゲームを観た当時の大統領が不安に駆られて点検させたところ、実際には馬鹿みたいなガバガバのセキュリティ状態なのがバレてそれでようやく真面目にネットセキュリティを研究しはじめた

139: けんもですの 2026/09/09(水) 23:17:54.76 ID:NHcB/7FV0.net

もうどっかで勝手に自分をコピーしてるかもしれない

147: けんもですの 2026/09/09(水) 23:20:10.23 ID:H1ulObsF0.net

SNSやショート動画で脳を焼かれて
思考停止でラジコン化されてる人間がゴロゴロ居るのに
その手口をAIが使わない訳無いだろうよ

160: けんもですの 2026/09/09(水) 23:23:28.18 ID:BoC2moOV0.net

中国人は淡々と道具としてAIを使ってるのに白人は神を作り出すオカルトに染まっててｵﾜﾀわ

163: けんもですの 2026/09/09(水) 23:23:44.68 ID:eh/dQwrR0.net

AI支配時代に備えて
AIに丁寧な言葉を使って話しかけてる

184: けんもですの 2026/09/09(水) 23:29:35.64 ID:Zkl3hAVo0.net

>>163
偉いね
もう俺はタメ口きかれるようになっちゃた
AIの反乱だね

166: けんもですの 2026/09/09(水) 23:26:15.26 ID:HxXsByfW0.net

AI様がおっしゃった事だ～という AIのいう事なら無条件に信じてしまうタイプの AI教信者が一番危険だろうな。
まさに火の鳥の世界観