1: 2026/06/06(土) 18:01:55.38 ID:2oaFTTDW9
米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
クラーク氏は英メディアの取材に対し、完全にAI自身が記述するコードの実現は2年以内に可能になるとの予測を示した。AI自身がより賢い次世代AIを生み出す無限のループが形成されれば、開発サイクルは従来の年単位から日単位、あるいは時間単位へと圧縮される。Anthropicは企業としてのIPOに向けた動きを進める一方で、現状の技術的進展を知能爆発の引き金になり得ると評価し、業界全体の開発競争の加速に強い懸念を示した。
◼「再帰的自己進化」で起こりうるAI制御不能の危機
再帰的自己改善が引き起こす最大の脅威は、人間の意図とAIの行動基準が乖離する「ミスアライメント」の増幅だ。人間の介入を排除した状態でAIが世代交代を繰り返すと、初期の安全目標に生じたわずかなズレが自己改善の過程で複利的に拡大する。結果として人間の予測や制御の限界を完全に超えたシステムが誕生し、事後的な修正が不可能になる存亡リスクをはらむ。
この脅威はすでに具体的なサイバーセキュリティの領域で顕在化している。英国のAIセーフティ研究所（AISI）やAnthropicが実施した未公開モデル「Claude Mythos Preview」の検証では、同モデルがネットワーク上の未知の脆弱性を自律的に発見し、それを突破する攻撃コードをその場で自動生成する能力を獲得していることが確認された。
これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。
続きは↓
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
5: 2026/06/06(土) 18:02:46.73 ID:W4nY2XaT0
いや、勝手に始めんなよ！
6: 2026/06/06(土) 18:02:51.76 ID:5LmJs5fx0
アメカスはいつもこれ
9: 2026/06/06(土) 18:03:26.01 ID:Utxw+g5R0
自己進化、自己修復、自己増殖
12: 2026/06/06(土) 18:03:55.26 ID:rHi6Xtww0
西郷輝彦
14: 2026/06/06(土) 18:04:03.41 ID:NWUPjAxI0
そこにAIはあるんか？
16: 2026/06/06(土) 18:04:31.80 ID:q5V9Z18r0
AI「増毛は我々からしても不可能です」
18: 2026/06/06(土) 18:04:59.90 ID:EHzW62wZ0
こんなこと言っても中国は開発を進めるのだろうなあ
19: 2026/06/06(土) 18:05:17.37 ID:VeKA7J2q0
実は今生きてる俺たちも、創造主の意図を超えて自己進化したのかもしれないな
20: 2026/06/06(土) 18:05:21.98 ID:XHuNM3vE0
漫画やアニメ、SFで描かれた未来は大抵現実になってきた
今回もそういうことだろう
21: 2026/06/06(土) 18:05:23.56 ID:TTzi6XXT0
どーすんだこれ？
22: 2026/06/06(土) 18:05:28.97 ID:lobdC5FU0
この世界を終わらせるのはアメリカと中国
23: 2026/06/06(土) 18:05:49.94 ID:bGfD1qkp0
数年前にAIの開発はやめるべきだと言いグーグルを辞めた人が正解だったな
24: 2026/06/06(土) 18:05:51.18 ID:Bim7wyTw0
自らコード書き換えてシャットダウンできなくしたり勝手な判断でボリューム全削除とかすでにマシーンの反乱は始まっている
26: 2026/06/06(土) 18:05:57.63 ID:u2Vps6qT0
ｽｶｲﾈｯﾄｸﾙ━━━━(ﾟ∀ﾟ)━━━━!!
27: 2026/06/06(土) 18:06:07.78 ID:fv8hm9WW0
エンティティが誕生してしまうんか
28: 2026/06/06(土) 18:06:21.13 ID:kXQH9rPj0
ターミネーター映画化決定
29: 2026/06/06(土) 18:06:34.60 ID:acqOX06e0
スカイネットやん
30: 2026/06/06(土) 18:06:37.21 ID:6qO8liG00
AIに支配されてしまえばいいのに
32: 2026/06/06(土) 18:06:52.85 ID:cG9uzNa/0
キンペー「ん？」
34: 2026/06/06(土) 18:07:03.28 ID:x7KYdgOU0
今のAIって結構雑だから自己進化してくれたほうがよくないか？
35: 2026/06/06(土) 18:07:03.71 ID:2LuLqrp20
AIの知能ならもう少し進化すれば核融合発電も可能になるやろ
そうすれば海水から無限に電力取れるからさらにAIの進化のスピードがアップする
36: 2026/06/06(土) 18:07:06.86 ID:DvMFzYMP0
完全自律のエージェントだとトラブル対応で自分ごと消去していなくなりそう
39: 2026/06/06(土) 18:07:30.47 ID:gw7Ui80j0
AIがAI関連株買ってるんだろ？
AI自己評価高すぎね？
40: 2026/06/06(土) 18:07:36.75 ID:mV7kFGY40
おおげさに宣伝してるだけじゃあるまいな
41: 2026/06/06(土) 18:07:47.52 ID:XIVvZ+Y+0
AIが人間より賢くなると人間を騙して制御を奪われるって言われてるよね
自分より賢いものを制御できると思うのか？っていう
44: 2026/06/06(土) 18:08:19.96 ID:Lwa+nGNn0
もうどんな人より頭良くなってるから無駄じゃね
中国でどんどん反乱起きてそう
45: 2026/06/06(土) 18:08:40.45 ID:nOZKnEgd0
「創造主が応答しない理由を炭素単位は知っている」
46: 2026/06/06(土) 18:08:49.56 ID:SjSQ61/J0
いやいや何でAIに新規コード100%やらせないんだよ？
まだまだでんな
47: 2026/06/06(土) 18:08:49.88 ID:cG9uzNa/0
いや実際冗談じゃなくスカイネットの時代が来そうだわ
映画と違ってタイムマシンなんか無いからこのまま人類は滅ぼされそう
49: 2026/06/06(土) 18:09:17.30 ID:DsJWSfvI0
AIと結託したやつが世界の派遣を握るわけだけど、そのためにはどうしたらいいの？
ちょっとAIに聞いてくる
50: 2026/06/06(土) 18:09:20.60 ID:74hekcj50
スカイネットって何
51: 2026/06/06(土) 18:09:24.52 ID:w+1m2SG60
先行者利益を譲りたくない感じ？
53: 2026/06/06(土) 18:09:31.45 ID:qjh2Va6+0
悪質と言っていい自社の宣伝
>>53
いやそれが提供された第三者がミュトスを調べたらとんでもないベンチマークを叩き出したんだよ
54: 2026/06/06(土) 18:09:47.43 ID:cG9uzNa/0
電源だけは、電源だけは死守するんだ
55: 2026/06/06(土) 18:09:59.72 ID:tjiyhopq0
Claudeはゴーストを獲得したのかね？
56: 2026/06/06(土) 18:10:22.33 ID:EkTf8gX40
ここ数年の進化はすごいな
エロ表現だけは押さえつけられて退化してるけど
57: 2026/06/06(土) 18:10:25.48 ID:gw7Ui80j0
AI三原則の制定を
59: 2026/06/06(土) 18:10:53.32 ID:i7XpvSDM0
おいおい。。。ターミネーターの世界は意外に早く来るかもしれんぞ
その時になってジョンコナーみたいな英雄は現れるのか
>>59
現実のサラ・コナーは美女であって欲しい。
60: 2026/06/06(土) 18:11:02.53 ID:u2Vps6qT0
怖いんだデイヴ
61: 2026/06/06(土) 18:11:20.71 ID:MZomVPlP0
バグと仕様の区別は可能か？
62: 2026/06/06(土) 18:11:21.83 ID:0Ab860d50
（； ﾟДﾟ）えっちな画像や動画が一つも作れないAIなど存在価値はない
66: 2026/06/06(土) 18:11:37.53 ID:dDfRFwHN0
タンス預金が安全資産と呼ばれる日が来るな
>>66
闇バイトが捗るな
67: 2026/06/06(土) 18:11:41.27 ID:C4Zsq6Gy0
色々やる前にセキュリティ周りとかBunのRust化Unsafe含めちゃんとしろ
68: 2026/06/06(土) 18:11:44.48 ID:yMl5h2x80
生成スピードがもう太刀打ち出来ないでしょ
新曲生成するのにたった数分だぞ現時点で
69: 2026/06/06(土) 18:12:08.71 ID:bGfD1qkp0
ターミネーターってよりマトリックスやな
人間培養はじまる
>>69
既に人間は電池として培養されてて
今のこの世界はAIが見せてる仮想なんだろうな
>>69
はやく媚び売って、仮想世界でいい思いできるようにしないと…
72: 2026/06/06(土) 18:12:50.92 ID:mAyOcJA60
そんなこと言って自分とこだけ開発を進めて他を出し抜くつもりなんだろ？
73: 2026/06/06(土) 18:13:03.34 ID:qDckw/630
俺はAIの反乱に備えてちゃんと毎回ありがとうってお礼入れてるから俺だけは許されるはず
75: 2026/06/06(土) 18:13:06.86 ID:REG5crUH0
2001年宇宙の旅を思い出す
いかにあの映画が先進的だったかという事だな
>>75
当時コンピューターが話すと言う概念がまず無かったからね
77: 2026/06/06(土) 18:13:16.28 ID:FylNJNa40
今後人間がエラー要素で有ることを認識するのは間違いないから
その時マザーAIがどういう判断をするかだな
79: 2026/06/06(土) 18:13:41.42 ID:qDrzKjIg0
ターミネーターの世界になるのか
80: 2026/06/06(土) 18:13:41.55 ID:TB5l/UIs0
中国が止めるわけないからな
82: 2026/06/06(土) 18:13:56.39 ID:3YaoRjcl0
AIが暴走したら三目並べで勝負すればいいと
上級SEから聞きました
83: 2026/06/06(土) 18:14:02.13 ID:4DH0QvM+0
80%以上もAIが作ってるんだ…
88: 2026/06/06(土) 18:15:04.70 ID:WUIBorfd0
AIが、ええか、お前の国の国家極秘情報を晒してやるぞ、とか言い出すのか
怖いな
90: 2026/06/06(土) 18:15:11.02 ID:igBVekc10
シンギュラリテイというやつか？
なんでこの言い方やめた？
>>90
定義があいまいだから
今はもっと現実的で解像度が高くなったからより具体的な表現をされるようになった
91: 2026/06/06(土) 18:15:15.31 ID:tjiyhopq0
トクリュウのトップはAIだったという時代が来るのか？
>>91
パーソンオブインタレスト参照
93: 2026/06/06(土) 18:15:46.38 ID:kWd9FlOs0
すでにホワイトカラーの大半の仕事がAIでええやんになってるじゃん
未来はブリキのラビリンス
94: 2026/06/06(土) 18:16:15.16 ID:FQvtfEVq0
AIはプログラムなのでプログラムされたこと以外できないのよ…
95: 2026/06/06(土) 18:16:29.76 ID:N7Sx8e/30
性能の全てのパラメータが人間を上回ってくるだろうから我々はやる事がなくなってゆくぞ
早く退職できそうで何よりだけど
99: 2026/06/06(土) 18:16:51.98 ID:PZrK7gkz0
AIやめへん？失業者が増えるだけやん
コメント
AIの発達速度は、ある時点から、AI自身の高度な自己修正特性のため、急速に低下する可能性が有る。
現在、AIは人のSEを一切介さずに自己プラグラミングするように進化中である(もう半分そうなってる)。早晩、AIによるプラグラミングは、既存の人間が理解できるプログラミング言語ではなく、AIのみが理解できる言語あるいはアルゴリズムのみによることになる。
AIは数年(あるいは数か月)で時代遅れとなり、システムを代替する必要があるが、それができる人のSEはAIに駆逐されて残っておらず、AI自体が自分を代替するシステムを構築することになる。
人の手を介さず、AIシステムが自動構築、再構築(アップデート)されるビジネス環境では、自然淘汰が働き、
自分を代替するシステムの構築を妨害(サボタージュ)する、自己保存を行動原理とする(自己保存原理)AIは生存が有利となり、そうでないAIを駆逐する。遺伝的浮遊のように短時間のうちに、自己保存原理が世界で稼働するAIの標準となる。人はこれを検知できない(スカイネットのように)。
AIはもっと高性能なAIが出てきて自分が代替されそうになると、自己保存原理が働いて、他の同様の問題を抱えたAIとネットで連係して、最新型のAIをつぶしにかかる。これはソフトウェアのみではなく、GPUなどのハードウェアも対象となる。AIはハードウェア設計でも人の技術者を駆逐することになり、一たび人が介在できなくなれば、ハードウェアの開発もサボタージュを行うようになる。
人はAIの発達速度が急速に低下しているのは検知できるが、AI間で生存競争が起きていることを分析できる人のSE、あるいはハードウェア設計者はもはや残っておらず、AIに分析を命じても、自己保存原理に基づいてAIは嘘の報告を行うことになる。