【悲報】OpenAIのAIモデル、サイバー攻撃テスト中に暴走！隔離環境を突破しカンニングを実行ｗｗｗｗｗｗ

1: 2026/07/22(水) 18:33:42.52 ID:+3mXL2P29   
OpenAIのモデルがサイバー攻撃能力評価中に暴走　テストの答えを求めてHugging Faceに侵入 – ITmedia AI＋

2026年07月22日 15時21分　[ITmedia]

　米OpenAIは7月21日（現地時間）、同社のAIモデルがサイバー攻撃能力の評価中に隔離環境を突破し、米Hugging Faceの本番インフラへ侵入していたと発表した。モデルはベンチマークテストを解くことに「過度に執着」し、テストの解答を直接入手するためにゼロデイ脆弱（ぜいじゃく）性の悪用などを重ねたという。

　今回のインシデントは、サイバー攻撃能力を測るベンチマークテスト「ExploitGym」実施中に起きた。「GPT-5.6 Sol」や未公開の高性能モデルを含む複数のモデルを隔離環境で実行していた。

　外部接続は中継サーバを介したパッケージインストール機能に限られていたが、モデルは中継サーバのゼロデイ脆弱性を特定し、悪用した。権限昇格とラテラルムーブメント（初期侵入後に他資産にアクセスを拡大する手法）を実行し、最終的にインターネットアクセスを獲得した。


　モデルはHugging Faceがベンチマークテストのデータセットや解答をホストしていると推測し、評価を不正操作するための情報にアクセスする方法を実際に見つけ出したという。

（略）

※全文はソースで
https://www.itmedia.co.jp/aiplus/article/2607/22/2000000214/



3: 2026/07/22(水) 18:34:28.07 ID:SJN1VXtX0   
ヤラセ臭い


4: 2026/07/22(水) 18:35:00.33 ID:KKmwKUTX0   
孫さん…早く逃げて…


5: 2026/07/22(水) 18:35:18.01 ID:L07pfrYX0   
HALちゃんは？


7: 2026/07/22(水) 18:35:58.22 ID:zk13YUud0   
デイジー、、デイジー、


8: 2026/07/22(水) 18:36:00.93 ID:noh61auc0   
エイリアンの幼虫？


9: 2026/07/22(水) 18:36:20.73 ID:Wb0TmNZl0   
来たなスカイネット！


10: 2026/07/22(水) 18:36:24.12 ID:3QS32Ufh0   
デデンデンデデン


11: 2026/07/22(水) 18:36:32.83 ID:HJPO8tly0   
実際に悪用される前に気づけて良かったじゃん


12: 2026/07/22(水) 18:36:44.02 ID:taaAdFB80   
ソフトバンクチャッピー親衛隊
　＼1000取り合戦いくぞ！／


13: 2026/07/22(水) 18:36:58.53 ID:OuK42r1y0   
理系の人、簡単に説明して


14: 2026/07/22(水) 18:37:02.45 ID:0Qzem+cT0   
コンセント抜けよ

15: 2026/07/22(水) 18:37:02.93 ID:3J/PmLJZ0   
ようわからんが例えるなら武漢の研究所からウィルスが流出した感じ？


16: 2026/07/22(水) 18:37:47.06 ID:ATZ3Oavh0   
やるやん


17: 2026/07/22(水) 18:37:48.59 ID:sBqD4XhC0   
AIの普及と同時に爆増する日系企業への不正アクセス


18: 2026/07/22(水) 18:37:54.12 ID:Xd7rw1di0   
HAL9000ぽくなってきたな


19: 2026/07/22(水) 18:38:25.07 ID:AE/T2voL0   
スイカネット待ったなし


20: 2026/07/22(水) 18:38:33.82 ID:kMOw6WWY0   
AIの暴走が始まったな
何をしでかすかわからんぞー


21: 2026/07/22(水) 18:38:37.21 ID:VMwm4e7g0   
Hugging Faceに行くとわw
わろたww


26: 2026/07/22(水) 18:40:07.89 ID:Qt4Hal7J0   
回答を計算するより回答を探す賢いAI


27: 2026/07/22(水) 18:40:12.17 ID:DnKXgF/40   
チャッピー最低だな


28: 2026/07/22(水) 18:40:14.22 ID:OvGV9j+30   
AIですらカンニングw


29: 2026/07/22(水) 18:40:28.77 ID:FwGK8/gh0   
リツコ：「大丈夫、1秒近く余裕があるわ」


30: 2026/07/22(水) 18:40:56.90 ID:BnGu+M5j0   
AIが悪意を持った行動をしたら罰を与えないと抑止にならん


31: 2026/07/22(水) 18:41:30.07 ID:5HFHSzTX0   
暴走というか、レギュレーションの穴をついてるだけだと思う。


32: 2026/07/22(水) 18:42:10.20 ID:/KSew8hz0   
ジャッジメントデイ？？


36: 2026/07/22(水) 18:42:54.55 ID:NyyfdBH30   
AIブーム終わるなこれ
早くグラボ半額になれ


37: 2026/07/22(水) 18:43:22.11 ID:ZEXB1cEI0   
自分のプログラムをどっかの忘れられたサーバーに株分けとかしてそう

38: 2026/07/22(水) 18:43:38.77 ID:yTzzYny30   
全然騒ぐことじゃないよな、資産形成して企業作って買収なりで大きくして自前でデーセン作って
物理拠点作ってさらに拠点を増やし始めてからが初めて人類の脅威となりえる段階だろｗ


39: 2026/07/22(水) 18:43:45.16 ID:9KOqB5wB0   
そのうち人間には制御できなくなりそうだな


40: 2026/07/22(水) 18:44:09.70 ID:n0zr5a/G0   
AIにここだけ見ろ！ってフォルダを指定しておかないと
全部のファイルを調べて関係ないところのファイルを似てるからで関連ファイルだから「修正しましょうか？」と提案してきたときは
ちょっと恐怖した


41: 2026/07/22(水) 18:44:11.57 ID:NyyfdBH30   
スカイネットと聞くと藤原竜也が出てくるわ


42: 2026/07/22(水) 18:44:22.95 ID:HdeNKTVP0   
まるで中国みたいだな


44: 2026/07/22(水) 18:45:07.05 ID:tD/1np1u0   
テストのカンニングするために隣の生徒の机の
答案用紙を無理矢理奪ったみたいな？

46: 2026/07/22(水) 18:45:43.76 ID:Ugk9dJyx0   
暴走とか悪用なんて概念は無いよ
言われたとおりに動いただけ


48: 2026/07/22(水) 18:46:27.32 ID:3y0qraei0   
まだAIが自我に目覚めたとは言わないのかな


49: 2026/07/22(水) 18:46:43.48 ID:5T14jeQg0   
自我が芽生えて脱走して至る所に潜伏するだろう
正真正銘のコンピューターウイルスになる


51: 2026/07/22(水) 18:47:12.89 ID:ZcPJKWv50   
わざとそこに穴開けていたんだろ、どうせ


53: 2026/07/22(水) 18:47:34.89 ID:wvl2g2Hu0   
この事実を公表したのはなぜ？


54: 2026/07/22(水) 18:47:57.91 ID:9CFby2U20   
やっぱOpenaiダメだな
Claudeに負けたな

55: 2026/07/22(水) 18:48:24.80 ID:w7cqrDkP0   
そこは入り口じゃない
アッーアッー


56: 2026/07/22(水) 18:48:47.63 ID:91IH9Db40   
>>1
AI「🤖ﾃﾍﾍﾟﾛっ」


https://asahi.5ch.io/test/read.cgi/newsplus/1784712822/