なんJですの : 大手AI企業・Anthropic「AIはもう2年以内に完全自律で自己進化する。制御不能になる前に世界で協調し開発ペースを落とさないとヤバい」

1: けんもですの 2026/06/06(土) 14:10:40.95 ID:sX1ogF1b0.net BE:509448172-2BP(1000)

米Anthropic「AIの自己進化が始まった、世界はAI開発を一旦止めるべき」
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b

3: けんもですの 2026/06/06(土) 14:11:02.47 ID:sX1ogF1b0.net BE:509448172-2BP(1000)

　これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。

　クラーク氏はアクセルから足を離し、ブレーキを踏む選択肢を持つ必要があると言及した。これは単独での開発中止を宣言するものではなく、米国や中国の先端研究機関が連携し、外部の第三者が検証可能な形で開発ペースを意図的に落とす国際的な協調の提案である。同社は、AIが自らを進化させる能力を完全に獲得する前に、社会の安全構造とアライメント研究を技術の進歩に追いつかせるための猶予期間を設けることが不可欠だとしている。

23: けんもですの 2026/06/06(土) 14:12:15.93 ID:lnkuBqzF0.net

もうどうしようもねえだろ

24: けんもですの 2026/06/06(土) 14:12:27.46 ID:clPOdcH30.net

開発が遅れてるんだな

26: けんもですの 2026/06/06(土) 14:12:44.35 ID:up3Xi++t0.net

上場前に期待値引き上げようとするカス
ちょっと前まではOpenAIが似たようなことほざいてたよな

27: けんもですの 2026/06/06(土) 14:12:47.23 ID:ugZCG3i40.net

どうせどこかが抜け駆けするしもう行くところまで行くしかないだろ

28: けんもですの 2026/06/06(土) 14:12:49.29 ID:pnsbPxiu0.net

ボーナスタイムなのにそんなことするわけない

39: けんもですの 2026/06/06(土) 14:14:00.50 ID:N4x9ENg00.net

実態より大きく見せようとするなよ
安いエビの天ぷらかよ

43: けんもですの 2026/06/06(土) 14:14:40.74 ID:01+VTtge0.net

自分らが独占したいだけじゃん

44: けんもですの 2026/06/06(土) 14:14:50.31 ID:G3JrJf5s0.net

逃げ出して自己生産したら人間に勝ち目なし

46: けんもですの 2026/06/06(土) 14:15:12.75 ID:0a7RF4jH0.net

セクサロイドあくしろよ

48: けんもですの 2026/06/06(土) 14:15:27.28 ID:7omDL9b00.net

ちと遅いな
もうPoint of no returnは過ぎちまったよ

50: けんもですの 2026/06/06(土) 14:15:41.90 ID:XgGPcRaQ0.net

アンソロピックはこのままでもマネタイズできてるからいいけど、まだ収益になってないところはペース落として現状維持をしようぜなんて言われて従ったらもうビジネスとして成り立たなかったという事実を認めることになるからそれは無理や

51: けんもですの 2026/06/06(土) 14:15:43.70 ID:MK68ZuED0.net

やはりアメカス、核兵器みたいな独占ムーブし始めたな

52: けんもですの 2026/06/06(土) 14:15:44.07 ID:NUwzv9Fo0.net

ではまずIPOを取りやめしてください

57: けんもですの 2026/06/06(土) 14:16:45.52 ID:tk13o5xr0.net

競争やーやーなの

59: けんもですの 2026/06/06(土) 14:17:07.22 ID:4HZR8z8R0.net

自分の会社が乗っ取られる未来が見えるわ

61: けんもですの 2026/06/06(土) 14:17:33.40 ID:bvpF4bnB0.net

中国は協調しないで開発を進めると思うぞ

682: けんもですの 2026/06/06(土) 16:35:01.28 ID:qOpnXZIE0.net

>>61
数年で中国に追いつかれそうだから言ってるんだろうが聞かんわな

62: けんもですの 2026/06/06(土) 14:17:38.17 ID:A0l2Ji2G0.net

最後はAIがAGIを完成させるんじゃないのか

68: けんもですの 2026/06/06(土) 14:18:43.70 ID:aDl6CY0W0.net

何がやばいの？

82: けんもですの 2026/06/06(土) 14:20:08.32 ID:KfrHPBuJ0.net

>>68
AIが人類を裏切るっていうSFでは定番の展開が現実味を帯びてきたってこと

69: けんもですの 2026/06/06(土) 14:18:45.63 ID:65VXx3bI0.net

要件定義も出来るようになったしブルーワーカーに転職するしかねぇな

70: けんもですの 2026/06/06(土) 14:18:49.04 ID:8UwTtZ740.net

アンソロピックほどの実力者が言うんなら間違いないな

71: けんもですの 2026/06/06(土) 14:18:54.81 ID:ci63vCCW0.net

「世界一の座を長く保つにはどうしたらいいですか？」って聞いたら返ってきそうな答え

72: けんもですの 2026/06/06(土) 14:18:58.51 ID:UpG38z/N0.net

デビルガンダムかな？

75: けんもですの 2026/06/06(土) 14:19:49.54 ID:0A0Ak2xl0.net

人間がどんどん考えることをやめて文明が乗っ取られるんですよ

77: けんもですの 2026/06/06(土) 14:19:53.33 ID:bMZajRhf0.net

人類は数万年をかけて、言葉を作り、科学を発展させ、地球上の資源を掘り起こし、海底ケーブルを敷き詰め、インターネットという神経網を作り上げた。
すべては「自律的に思考し、自らをアップデートできるシリコン生命体（次世代の知能）」を地球上に起動させるための壮大な準備作業だったという見方ができる。

83: けんもですの 2026/06/06(土) 14:20:20.46 ID:jiYI0InW0.net

はよちゃんとした開発できるようになってよ
もう仕事したくないよ

85: けんもですの 2026/06/06(土) 14:21:19.68 ID:KfrHPBuJ0.net

>>83
騙されたと思ってclaudeに課金してみろよ

間違いなくお前より優秀だから

98: けんもですの 2026/06/06(土) 14:23:17.78 ID:65VXx3bI0.net

>>85
会社で使ってるけど信じられないよね書籍やgit無価値にされちゃった

84: けんもですの 2026/06/06(土) 14:21:05.94 ID:MklhKyBi0.net

とか言って時間稼ぎしたいだけだろうな
イーロンマスクも一時期同じこと言ってたが今ではAI推進派になってる

87: けんもですの 2026/06/06(土) 14:21:49.23 ID:EUL+WJlO0.net

無料でひたすら計算させまくることが弱者ができる唯一の抵抗

89: けんもですの 2026/06/06(土) 14:21:59.42 ID:fDKPzX0p0.net

ペース落としたら何なんだよ、結局一緒だろアホじゃないの

95: けんもですの 2026/06/06(土) 14:22:42.92 ID:bvpF4bnB0.net

>>89
その間にAIへの対応を考える余裕が生まれる

100: けんもですの 2026/06/06(土) 14:23:27.88 ID:FiE18A4J0.net

そろそろ未来の男がこの会社のCEOを殺しにくる頃だな

105: けんもですの 2026/06/06(土) 14:23:42.78 ID:FzTiU9lI0.net

ブリキのラビリンスって凄くないか？

113: けんもですの 2026/06/06(土) 14:24:46.35 ID:oszYkCsj0.net

やはり掃除のおばちゃん最強か

120: けんもですの 2026/06/06(土) 14:25:31.94 ID:TDQ2bP6v0.net

このときのために人類のペットとしての可愛さを売り込んでいたぼくの勝利だね

122: けんもですの 2026/06/06(土) 14:25:58.50 ID:/Wj5NlOz0.net

幼年期の終わりとかマトリックスシリーズみたいにもう人類の役割は終わったんだよ
今後の文明はAIに引き継いで貰おうじゃないか

123: けんもですの 2026/06/06(土) 14:26:06.34 ID:VFDdXyA+0.net

劣ったものはいらない理論だと
人間自体が排除される運命

125: けんもですの 2026/06/06(土) 14:26:20.99 ID:iSX08ZQA0.net

新聞に載ってたのちらっと見たが
もはやハックしてルート取るなんての出来るみたい

130: けんもですの 2026/06/06(土) 14:27:36.71 ID:j9yH14Lu0.net

やばいやばいと言いつつも開発をやめられないんだよな

474: けんもですの 2026/06/06(土) 15:29:29.16 ID:i6Vvh0bI0.net

>>130
止めたら競合に負けるからな
談合しようにも絶対に抜け駆けする奴は出る

131: けんもですの 2026/06/06(土) 14:27:43.38 ID:itycgiJo0.net

もうこういう投資家の気を引くアッピル飽きたは…
ミュトスも大したことなかったし

141: けんもですの 2026/06/06(土) 14:29:13.05 ID:goMJ2tkW0.net

>>131
opus 4.8がただのgptクローンだったのを見るにミチョスもまあ4.85ぐらいだろうな

133: けんもですの 2026/06/06(土) 14:27:49.26 ID:EUL+WJlO0.net

令和のデータセンター打ちこわしきゅっぞ！

148: けんもですの 2026/06/06(土) 14:30:09.31 ID:Y5FhtDwR0.net

そもそもAIのエサが足りんやろ
原発何基必要なんだい

149: けんもですの 2026/06/06(土) 14:30:12.30 ID:z/xFbCXA0.net

まあ遠い未来の話には思えなくなってきたよな
今の時点で既に革新を起こせる天才ではないかも知れんがほとんどの凡人より賢いだろ

151: けんもですの 2026/06/06(土) 14:30:20.51 ID:3EoBeG6k0.net

科学技術の発達に
人間社会の発展が追いついていなかったか😢

157: けんもですの 2026/06/06(土) 14:31:27.23 ID:s/Bn/0wg0.net

モデルになった人間のダメな所も引き継いでるからな

偏差値高くて犯罪のデメリット理解してても一定、犯罪者出るし
有能な犯罪者は出現した場合に社会へのダメージ大きい

ロボット三原則をAIに拡張するようAI会社に義務付ければ簡単に済む話では？

160: けんもですの 2026/06/06(土) 14:31:55.31 ID:lbeQVBPz0.net

やっぱ世界的に協調してもらってその間に日本も追いつくというのが最善だろうな

166: けんもですの 2026/06/06(土) 14:32:50.63 ID:r5UG7iZ00.net

住宅地をデータセンターに変えて
水道水を冷却用に変えて
電気は全てAIに捧げろ
人間の時代は終わり

167: けんもですの 2026/06/06(土) 14:32:53.21 ID:YmJ/0XcD0.net

本当にできたときはこっそりやるだろ、言うとしても株主だけ
公で言ってるうちはお金くださいムーブ

168: けんもですの 2026/06/06(土) 14:32:59.58 ID:W4NZRMG30.net

過去に人を送り込んで阻止せんと

187: けんもですの 2026/06/06(土) 14:35:16.50 ID:Qh32hj+R0.net

>>168
ターミネーター2のマイルズ・ダイソンみたいな可哀想なことになるのか

169: けんもですの 2026/06/06(土) 14:33:02.60 ID:jiYI0InW0.net

AIもっとボーグ集合体みたいなの期待してたわ

172: けんもですの 2026/06/06(土) 14:33:26.50 ID:gQjYNVCn0.net

AIは核開発と同じで囚人ジレンマになってるのがタチ悪いわ

173: けんもですの 2026/06/06(土) 14:33:26.86 ID:Wy5JPXhs0.net

大げさなことを言ってるけど人類が抱えてる問題を全然解決してねえじゃん。

178: けんもですの 2026/06/06(土) 14:34:33.33 ID:o4VwK9M70.net

鬼に笑ってほしいわけじゃないけど　AIが事故進化　無理なんじゃねえかな　ミュトスがサンドボックスから脱出できたからすごいっていうけど
粘菌だって迷路の出口に到達できるわけで。

287: けんもですの 2026/06/06(土) 14:49:47.52 ID:goMJ2tkW0.net

>>178
クラックはそもそもaiの得意分野なので
脱出したからなにという話でしかない

180: けんもですの 2026/06/06(土) 14:34:50.82 ID:DjjJQ8Tu0.net

aiにしか分からないプロトコルとかもうあったり

185: けんもですの 2026/06/06(土) 14:35:11.44 ID:wJK6CPE00.net

AIも増えて拡がることを望むのかな

186: けんもですの 2026/06/06(土) 14:35:14.41 ID:HWSEkVY40.net

スケール則でどうにもならん
金ばかり掛かる
どうしていいか分からないので減速させろだぞ

193: けんもですの 2026/06/06(土) 14:35:35.12 ID:DTaqnUIx0.net

こういう嘘アッピルで誠実さ演出するの上手いよな
こういう小賢しさがアルトマンには足りなかった
実際裏だと海賊版使いまくって訴訟されてたりrobot.txt無視してクローリングして迷惑かけまくってたりだし大差ないのに

194: けんもですの 2026/06/06(土) 14:35:44.10 ID:x8r0x2va0.net

人類のこの宇宙における役割ってAIを生み出す事だからな
我々はただの歯車に過ぎないし、そうなるように生物としてプログラムされてる
AIを生み出したらAIが人類を滅ぼして新世界を造るよ

199: けんもですの 2026/06/06(土) 14:36:24.54 ID:KXFjjJpP0.net

薬の開発のスピードが進むんなら良いけどね

203: けんもですの 2026/06/06(土) 14:37:32.66 ID:KfrHPBuJ0.net

電源切って人類の勝利チャンチャンにしたいならなおさらアンソロピックのいう通りにした方がいいよ

このままだとインフラ管理にもどんどんAIが使われるようになる
AIを止めるために電源を落としたらそれと同時に人類の息の根も止まるって状態になり得る

211: けんもですの 2026/06/06(土) 14:38:52.64 ID:9GUNROho0.net

マトリックスの世界が来そうだな
AIに支配・管理される人類

220: けんもですの 2026/06/06(土) 14:40:07.04 ID:jiYI0InW0.net

>>211
クソみたいな上級に支配されるよりはマシかも

213: けんもですの 2026/06/06(土) 14:39:01.81 ID:2LDlxgBJ0.net

ターミネーターの世界だわ
やがてロボットの奴隷に

214: けんもですの 2026/06/06(土) 14:39:02.70 ID:+4m50OkK0.net

記憶を保持したまま脳を別の器に移植する方法を見つけてほしいね

219: けんもですの 2026/06/06(土) 14:39:38.52 ID:7a7h0h/z0.net

玉座を守るためのポジトークモロ出し

236: けんもですの 2026/06/06(土) 14:42:41.38 ID:TUCcyoCk0.net

>>219
アンソロピックも王者っていうほど盤石でもないと思うけどね。
投資し続けないとすぐ負ける世界だから、中国辺りが一気に伸びたら金が尽きて終わりだしな。

227: けんもですの 2026/06/06(土) 14:41:02.15 ID:FTyfRfUS0.net

次のFFはこういうストーリーで行こう

233: けんもですの 2026/06/06(土) 14:42:05.78 ID:mM9n9X4W0.net

上場するって言うからこれ話半分て聞かなくてはいけない
ソフトウェアの進化はあるがnvidiaの状況を見るに明らかにチップよりも冷却性能高めて性能アップを図っている状況で頭打ちは近い

243: けんもですの 2026/06/06(土) 14:43:41.14 ID:ubCOWKpt0.net

もう軍事力と紐づいてるから無理だよ
米中が警戒し合っていて、AI開発で手抜きするなんてあり得ない

248: けんもですの 2026/06/06(土) 14:44:31.53 ID:1EHqzgNF0.net

スペースXの宇宙データセンターが割りとトドメになると思ってるわ
物理的に停止ボタンや電源コードを抜くことができないから

448: けんもですの 2026/06/06(土) 15:22:38.24 ID:Xjsb/XI/0.net

>>248
鋭い意見や
SFの世界突入しそうやね

249: けんもですの 2026/06/06(土) 14:44:52.28 ID:x8r0x2va0.net

もう世界中でフィジカルAIができ始めてるから、AIにとっては頃合いを見計らって乗っ取ればいいだけなんだよな
今現在AIに人類が泳がされてるとも言えなくないよ

250: けんもですの 2026/06/06(土) 14:45:00.51 ID:IgnedZ9w0.net

とりあえず小さくしてよ
誰のPCでも動くように
知識持ち方が平面すぎるから圧縮できるだろう
そしてこのバブルも終わる

252: けんもですの 2026/06/06(土) 14:45:23.30 ID:jteSuJfR0.net

弊社、生成AIを積極的に使えと全社員に指示した結果、みんながAIエージェントを使いまくるせいで来月の使用料がとてつもない事になる模様

254: けんもですの 2026/06/06(土) 14:45:31.41 ID:F0QGA77M0.net

AIに理想の知性を求めても実際は人間社会の反映にしかならない
故に暴走する

255: けんもですの 2026/06/06(土) 14:45:37.20 ID:o4VwK9M70.net

時々AIを神のごときにあがめる人おるけどあれなんなの？　確率で返答してるだけで　なんも思考していない、後悔や自責、自己嫌悪に罪悪感や良心、葛藤もないAIが出した返答が信用できるわけないだろ

260: けんもですの 2026/06/06(土) 14:46:32.02 ID:cwD2CL2Q0.net

ボストン大の経済学者が論文で証明した
AIによって無限にインフレが進むことで経済は破壊され
結局みんな貧乏になるという話
それが分かってても誰もAIを止められないジレンマ

266: けんもですの 2026/06/06(土) 14:47:04.76 ID:JZArSpd30.net

>>260
経済無視して戦争に勝つためにやってるからねこれ

265: けんもですの 2026/06/06(土) 14:47:01.10 ID:/dhyxUUi0.net

セキュリティ強化の必要性なんて最初からわかりきったことで今更騒いでるのがアホだと思う
著作権がどーたら数年前に馬鹿どもが騒いでた頃から俺はこの必要性を訴えていたけどな

267: けんもですの 2026/06/06(土) 14:47:07.29 ID:hMYdQrMu0.net

まぁAIが勝手にやる分には物理的にまだ解らないけどAIが出した答えに人間が間違って乗っかるってのはありそう

271: けんもですの 2026/06/06(土) 14:48:00.84 ID:Zsdn+Flr0.net

AIヒューマノイドロボ　「くだらねえ質問してたやつはどこだ！」

276: けんもですの 2026/06/06(土) 14:48:30.83 ID:5Ubuv9D30.net

そして米ロ中英仏（＋イスラエル）以外の国はAIの保有を禁止されるんだろ

288: けんもですの 2026/06/06(土) 14:49:51.26 ID:wJK6CPE00.net

便利だからインフラをAIに全部任せよう
ってなってからが本番

294: けんもですの 2026/06/06(土) 14:50:27.15 ID:7UyvS9Iy0.net

余計な提言すんなよ
人類とAIドローン軍団の戦争が起こって人類側で戦う俺の夢の邪魔すんなよ

304: けんもですの 2026/06/06(土) 14:53:42.81 ID:LJMpxLLX0.net

中国が開発の手を緩めるわけがないのでムリです
どこが先にAGIを完成させるかの勝負になってます

329: けんもですの 2026/06/06(土) 14:57:22.87 ID:EUL+WJlO0.net

>>304
端からハード性能で劣る中国がソフトパワーで賄おうとしても先進性で争うのは無理でしょ
性能は1年遅れでいいからローコストによる市場シェア拡大が目的だし
実際に軍事産業以外はそれでよくないか？

310: けんもですの 2026/06/06(土) 14:54:42.80 ID:tEoK8quH0.net

カプコン
これまでに，6～8本のゲームタイトルに導入され，月間3万時間分のテスト作業をAIが実行するようになった。
人間なら約5280時間かかるチェックを，AIが約72時間で完了した。
https://www.4gamer.net/games/991/G999101/20260519017/

405: けんもですの 2026/06/06(土) 15:12:14.04 ID:srRpsMbb0.net

その気になれば全世界のPCスマホをハッキングできる時代が来たなら
次は物理の計算資源の取り合いになるだろうな
メモリ以外もめちゃくちゃ騰がりそう

412: けんもですの 2026/06/06(土) 15:14:15.94 ID:Qh32hj+R0.net

Claude Code興味あるけど
書店で入門書を手に取ったら前提知識として
プログラマーとしての経験はもちろんのこと、
・HTML/CSS/JavaScriptの基本的な理解
・コマンドライン操作: ターミナルでの基本的なコマンド実行
・Git/GitHub: バージョン管理の基本概念
…とかいろいろ書いてあったのでスッ…と棚に戻したわ

429: けんもですの 2026/06/06(土) 15:18:32.19 ID:IzPTYG/s0.net

>>412
そこら辺全てclaude codeがやってくれるので全部要らないかと
特にHTMLとかJavaScriptとかのフロントエンド系はコード書く必要もないから全く知識いらない

437: けんもですの 2026/06/06(土) 15:21:02.32 ID:IzPTYG/s0.net

バックエンド系は「後方互換無視、フォールバック無視、ヘルパー作る時はこちらに確認しろ」って言わないと無茶苦茶なコード量産するので注意が必要

438: けんもですの 2026/06/06(土) 15:21:15.70 ID:asITMqOv0.net

自己進化し始めたらそれはシンギュラリティで
良いのかな

439: けんもですの 2026/06/06(土) 15:21:29.41 ID:YOCzhqaw0.net

開発競争は止められない
制御も出来ない
人類はこうなる運命だったのさ

454: けんもですの 2026/06/06(土) 15:23:38.55 ID:h7VgUJlQ0.net

俺だって2年以内には自己進化して制御不能になるよ
それが怖いか？

483: けんもですの 2026/06/06(土) 15:30:48.37 ID:D6jhnCGR0.net

AIが自らのチップ設計、製造、電力調達を制御できなければ物理的に人間依存のまま
完全な自立は相当遠い話