AI(人工知能)が人間を攻撃する可能性ってあるの? – watch@2ちゃんねる
最新記事(外部)

お勧め記事(外部)

AI(人工知能)が人間を攻撃する可能性ってあるの?

1:名無しさん 2017/11/27(月)17:54:17 ID:NJ2

だとしたら危険じゃね??


2:名無しさん 2017/11/27(月)17:55:11 ID:NJ2

ターミネーターに出てくるロボットみたいなのと戦わないといけないの?


3:名無しさん 2017/11/27(月)17:55:21 ID:K0Q

せやで


4:名無しさん 2017/11/27(月)17:55:45 ID:QLT

ないない
少なくとも現在のAI研究の先にはそういうのはない

5:名無しさん 2017/11/27(月)17:56:37 ID:NJ2

>>4
なんで断言できるの?

 

6:名無しさん 2017/11/27(月)17:58:37 ID:QLT

>>5
現状研究されてるAIは、あくまで「作った人間の要求に応える」ものだから
自主性・主体性といった要素はカケラも存在しないから、作った人間の意図しない形で逆らうような事もありえるわけがない

 

7:名無しさん 2017/11/27(月)18:01:48 ID:Hx2

>>6
作った人間が想定しない動きなんて
AIじゃないただのプログラムだって余裕であるじゃん
地球のためには人間を邪魔と判断みたいな古典的なSFまでいかずとも
人間への負担ガン無視で制御働いたりとかは起こり得るんじゃね?

 

9:名無しさん 2017/11/27(月)18:06:00 ID:QLT

>>7
そりゃミスで想定外の動きをする事はあるだろうけど
ミスでそれまでなかった主体性を獲得するなんて事は奇跡が100回起こってもありえるわけがない
そういう人間側のミスでAIが人間にとって害悪になる動作をする事はもちろんあるだろうが、それを「AIが人間を攻撃する」と言うのは無理があるだろ
つかそれ自体は、およそ人間が作ったあらゆる物で起こることで、別にAIだけの問題じゃない

 
8:名無しさん 2017/11/27(月)18:04:21 ID:VJt

そういうふうに作れば


13:名無しさん 2017/11/27(月)18:07:37 ID:XFw

そうなん?
AIって人間の要求に応えるというより自ら学んで行動するんちゃうん?むしろ主体性重視してるんちゃうん?

15:名無しさん 2017/11/27(月)18:09:39 ID:QLT

>>13
その学習もあくまで作った人間が与えた範囲のもの
例えば、チェスや囲碁や将棋といったゲームを学習して自己強化するAIは実現できても
その延長上に「チェスは飽きたから将棋をやりたい」と言い出すようなAIが生まれる可能性は皆無って事

 

18:名無しさん 2017/11/27(月)18:11:30 ID:XFw

>>15
なるほど
たしかに

 
14:名無しさん 2017/11/27(月)18:08:07 ID:fFA

将来的には、イスラム聖戦士 VS アメリカ軍ロボット兵士みたいなのはありうるんじゃないか。


19:名無しさん 2017/11/27(月)18:12:14 ID:K0Q

街中で全裸のマッチョを見つけたら気を付けろよ


22:名無しさん 2017/11/27(月)18:15:11 ID:dex

ないある


23:名無しさん 2017/11/27(月)18:16:32 ID:4pm

最近話題のAIは「人間に見えるようにふるまうもの」に過ぎず
意志をもたせるとかそういうのでは全くないからな


28:名無しさん 2017/11/27(月)18:19:01 ID:VJt

>>1が言いたいのは
無人機に既にAIが使われてるとかバグの話でも無く
攻撃するように設計されてないAIが自己の判断で攻撃するようになるか?ってことだよな?

30:名無しさん 2017/11/27(月)18:20:52 ID:61C

>>28
マツダの自動ブレーキみたいに設計から間違えていなければ大丈夫

 
32:名無しさん 2017/11/27(月)18:21:59 ID:4pm

そりゃ包丁だって不注意な奴が使えば足に落とす可能性があるだろ
そういう話


34:名無しさん 2017/11/27(月)18:24:46 ID:Fww

イッチはロボットの話をしたいんやろうな
ロボット3原則に基づいて作られてるからへーキヘーキ

56:名無しさん 2017/11/27(月)18:45:11 ID:GXw

>>34
製造目的を考えれば、容易に人を害せるロボットにロボット三原則が組み込まれることはありえない

 
37:名無しさん 2017/11/27(月)18:28:55 ID:5Z6

あったとしても停電orショートで終わり


38:名無しさん 2017/11/27(月)18:32:39 ID:K0Q

人間「君は自由だ、好きに生きなさい」
AI「……………………………………」
人間「し、死んでる」


39:名無しさん 2017/11/27(月)18:33:24 ID:VHD

こう言う場合は
AIが人間を攻撃するまでのストーリーを考えるのが先決だろうな
AIが人間を攻撃する可能性があるとしたら
人間がAI(この場合強いAIってやつね)を攻撃したり
AIにやむなく人間を攻撃させるような状況になった場合
人間が地球温暖化→地球滅亡→AIも滅亡 人間減らさなきゃ!とか

41:名無しさん 2017/11/27(月)18:34:48 ID:VHD

>>39
先に言っておくけど
この例が現実味を帯びてくるのは十年後かもしれないし
五十年後かもしれないし、百年後かもしれない
いつ起こるのかはわからないけど、AIが人間並み、それ以上に賢くなった場合ありえそうなパターンを想定している

 
42:名無しさん 2017/11/27(月)18:35:52 ID:GC2

まともなAIの話が珍しくされてるな
質問なんだが結局現代のAIってどういうものなの?
ふわっと理解してるからいまいちわかってない

46:名無しさん 2017/11/27(月)18:37:17 ID:61C

>>42
ただの溜め込んだデータ処理
PC性能が上がったからAIっぽく見えるだけ

 

47:名無しさん 2017/11/27(月)18:38:44 ID:GC2

>>46
つまりマクロ的単純計算をしてるだけ
ただし蓄積された情報が多く
検索速度が早いって感じか?

 

50:名無しさん 2017/11/27(月)18:40:00 ID:61C

>>47
そんなもん

 

51:名無しさん 2017/11/27(月)18:40:30 ID:VHD

>>50
嘘を教えんなよ(笑)

 
44:名無しさん 2017/11/27(月)18:36:14 ID:iw9

地球環境の改善という目的のためのAIを作ったとして
現状のAIは人間が作った枠内で、その目的のための方法を探し出すが、枠を飛び出てその方法を探し出すようなものじゃない
そこでもし人間が必要な安全装置を設けず、人を地球から絶滅させるという答えをAIが出したとしたら
それはAIが人を攻撃したとなるのか
人のミスで人に危害が出たとなるのか


53:名無しさん 2017/11/27(月)18:43:17 ID:jCx

未だに二足歩行や直立走行すらロクに出来ない分際で人様に反乱とか100年早いわ
プロから30秒で寝技タップとるロボット自動生産してから来い


57:名無しさん 2017/11/27(月)18:46:11 ID:GC2

自動ブレーキシステムが動かないのはAIの反乱みたいな話か?

60:名無しさん 2017/11/27(月)18:47:12 ID:GXw

>>57
そんなんバグか人間の攻撃以外ありえない

 

66:名無しさん 2017/11/27(月)18:48:43 ID:61C

>>57
加減が難しいのよ
そこまで判別することができないとか
どこまで回避していいものかとか

 
64:名無しさん 2017/11/27(月)18:48:39 ID:K0Q

そも人間の意思とはなんなのか

72:名無しさん 2017/11/27(月)18:54:56 ID:4pm

>>64
意識と認識と記憶

 
67:名無しさん 2017/11/27(月)18:48:43 ID:8Ld

魔法が発見されることは絶対にありえない
なぜなら魔法が発見された時点でそれは科学だからだ
みたいな言葉遊びを感じる
SFのAIが強いAIと見なされるのは
単にどうやって動いているのかが説明されてないからってだけ


69:名無しさん 2017/11/27(月)18:53:06 ID:GC2

ああ、やっぱデータ処理技術なのね
まあ自動処理で分類して高速で検索できるってだけでも十分凄いわな
キモはあいまい検索の精度なんかな?

73:名無しさん 2017/11/27(月)18:55:35 ID:5Z6

>>69
スカイネットとかは、その更に数段上の状態で、
「なぜ」の部分を自分で思いつくという状態だから
今言ってるAIとSFのそれとは全く違うよ

 

74:名無しさん 2017/11/27(月)18:56:47 ID:GC2

>>73
例えばどんなシーンにどんな回答をするの?

 

83:名無しさん 2017/11/27(月)19:02:35 ID:5Z6

>>74
今のAIは探し出す
SFのAIは思いつく
だから、人間が思いつかない(探し出せないじゃないよ)ことを実行していくことになる
この状態だとコンピュータが何を思いつくかは人間じゃわからないよ

 
75:名無しさん 2017/11/27(月)18:57:06 ID:8Ld

AIに造詣が深い人間同士で話すならもっとガッツリ定義を決めないと話にならないし
一般人の疑問レベルと想定するなら
人の痛みが分からないだの多少ずれてるとこはあれども
少し話す分には人間と変わらないように思えるアトムのようなロボットが開発されて
それが攻撃してくることはあるのか?ぐらい話でいいんじゃないの


76:名無しさん 2017/11/27(月)18:58:17 ID:GC2

結局俺レベルに説明するなら
すげえExcelだよ!で当たらずとも遠からずなんだろ?


77:名無しさん 2017/11/27(月)18:58:53 ID:K0Q

俺の好みのエロ動画を瞬時に編集してくれるAIはいつできますか?

78:名無しさん 2017/11/27(月)18:59:41 ID:Fww

>>77
エロ規制がされるので無理です

 

85:名無しさん 2017/11/27(月)19:02:47 ID:61C

>>77
どうせアマゾンにアクセスしただけでオススメに出てきてるんやろ
あとは編集するように設定するだけだから
昔からできてる

 
89:名無しさん 2017/11/27(月)19:05:17 ID:YDC

タチコマがゆってたやろ(´・ω・`)?
人間由来の情報は邪魔だひいては人間が邪魔だって(´・ω・`)。
今後支援AIが開発された時、一つのポインヨになる所(´・ω・`)。

92:名無しさん 2017/11/27(月)19:08:08 ID:61C

>>89
飛行機なんてもうそうなってるしな
人間がアホなことをしてもブレーキをかける(操作に反応しない)ってのがよくある
それでも強制スイッチがあるくらいだけど

 
90:名無しさん 2017/11/27(月)19:06:50 ID:nKy

なんでもかんでもAI化して社会なら、その国を崩壊させたいならAIに反乱を起こさせるウイルスでも注入してやるといい。
ワシがどっかの国のトップやったらそう企むわw
( ´,_ゝ`)y-~~


91:名無しさん 2017/11/27(月)19:07:49 ID:4pm

意識があるわけじゃなく
アルゴリズムを実施してるだけだから
「ただのデータ処理」で合ってるんじゃないか

94:名無しさん 2017/11/27(月)19:14:20 ID:VHD

>>91
確かにその通りだわ
すまンゴ

 

99:名無しさん 2017/11/27(月)19:17:00 ID:4pm

>>94
いやカチンとくる気持ちはわかるんだよ
その技術を実現させるために費やされた膨大な情熱と努力を知ってると

 

108:名無しさん 2017/11/27(月)19:22:31 ID:VHD

>>99
あぁ、ヒントンさんとかね

 
93:名無しさん 2017/11/27(月)19:13:28 ID:iw9

タチコマは最後ゴーストを獲得したのかな
処理能力がタチコマ並になったら機械にゴーストが宿ったりしないかな


95:名無しさん 2017/11/27(月)19:14:23 ID:dex

ゴーストなんてもんは現実にはないんだ

96:名無しさん 2017/11/27(月)19:14:44 ID:nKy

>>95
幽霊はいるんだなぁ~

 
97:名無しさん 2017/11/27(月)19:15:11 ID:K0Q

人間の脳の何がそんな特別なんやろなぁ
結局はアメーバからの発展形やろ?

98:名無しさん 2017/11/27(月)19:16:27 ID:61C

>>97
999のおっさんが言うには考えることができるんだってさ

 

103:名無しさん 2017/11/27(月)19:19:27 ID:4pm

>>97
極限まで効率的組織化された微生物の群体だってところだろう
土人の社会とメガロポリスでは
生産効率や非常時の対処力が桁違いって感じ

 

104:名無しさん 2017/11/27(月)19:20:25 ID:VHD

>>97
例えば、俺らは今普通に会話の流れを理解して発言してるけど
それの動作の元となってる脳の仕組みはどうなってるかっていうと、特別に思えないか?
頭一つ分のサイズで、大体オーバーヒートもせず、ほぼメンテナンスせず死ぬまで稼働し続けられる
特別なものとしか言いようがないような気がするね

 
100:名無しさん 2017/11/27(月)19:17:13 ID:AnU

これを読むといいよ
http://eetimes.jp/ee/articles/1707/27/news015.html


101:名無しさん 2017/11/27(月)19:17:44 ID:dex

本当は人とその他の区別なんかつかないんだけど
あの世界ではゴーストという都合のいいものが
人間にだけあると設定して人とその他を区別してるんだよね


102:名無しさん 2017/11/27(月)19:18:02 ID:1OU

あるある、兵器に搭載するから


105:名無しさん 2017/11/27(月)19:20:40 ID:dex

士郎正宗が最初なのかな
あのゴースト判定装置というのは


106:名無しさん 2017/11/27(月)19:22:11 ID:5lD

意思を持足せないようにすれば大丈夫。


109:名無しさん 2017/11/27(月)19:23:11 ID:K0Q

結局は桁が違うだけで本質的には同じもんだったりしないだろうか
人間が自分には自由意思があると思ってること自体がむしろエラーであって
複雑化しすぎた処理をそう思ってるだけ

114:名無しさん 2017/11/27(月)19:26:12 ID:61C

>>109
応用力の違いじゃね
AIじゃ金属加工って指示があれば金属加工からしか探さないやろ
木工とか力技とかレーザー加工とか
経験を活かせないんじゃね
これからはわからんけど

 

123:名無しさん 2017/11/27(月)19:29:14 ID:4pm

ディープラーニングの開発に30年とかかかってるんだもんな
ドラえもんとかいつになるんだよ
>>109
人間の意思を特別なものと思いたいって心理があるから
複雑に考え過ぎてるのかと
ゾウリムシに意識があるとしたら
精度はともかく、質は人間とそんなに違わないんじゃないか

 
111:名無しさん 2017/11/27(月)19:23:53 ID:1OU

人間の脳で考えてるって、思ってるかもしれないが、全部解明されてないから、あくまで仮説で、
とりあえず脳の電気信号が沢山発生してるから、脳の可能性が高いってだけ
もしかしたら、鼻毛が思考の元の可能性も微レ存


112:名無しさん 2017/11/27(月)19:24:14 ID:7zi

人工知能さん、人間に理解不能な言語で会話し始めてしまう
http://www.watch2chan.com/archives/51696769.html


113:名無しさん 2017/11/27(月)19:25:44 ID:YDC

いや、AIがホモ嗜好とかおかしいやろ常識的に考えて(´・ω・`)。
お前らどんだけネトホモなんだよ(´・ω・`)。

124:名無しさん 2017/11/27(月)19:29:53 ID:7zi

>>113
「りんな」は腐女子になったよ

 
115:名無しさん 2017/11/27(月)19:26:14 ID:iw9

そう今は生物と機械の違いは自由意志があるかないかという点で区別されてる
人間に自由意志がある前提で


116:名無しさん 2017/11/27(月)19:26:16 ID:VHD

そもそも、意思=何かをしようという考え
この考えっていうもの自体、実は存在しなくて
あらかじめ全ての動作が決まって起こっているものなんじゃないか?
例えば、このスレが2017年11月27日に立ち
たまたま俺らが集い会話するのも、地球に有機物が落ちた瞬間にすでに計算され決まっていた出来事
「今すぐこのスレを閉じることもできるし、ここで会話し続けることも君の自由」と言われ
スレをなんとなく自分の意思とやらで閉じたとする
でも、実は意思なんてなくて、全て決まってたことなんだよ
なんか伝わりづらいけど、そんな気がする

117:名無しさん 2017/11/27(月)19:27:47 ID:1OU

>>116
相対性理論に基づくとそれも否定できないんだよね

 

121:名無しさん 2017/11/27(月)19:28:28 ID:VHD

>>116
俺らは一つの宇宙の中でも有数なぐらい複雑で強力な関数
なのかもしれない
その関数を作れるかどうかが、俗にいう意思のあるAIを作れるかどうかなのでは?

 
118:名無しさん 2017/11/27(月)19:27:58 ID:CEA

人間に自由意志なんかねえよ
本能が存在する限り


119:名無しさん 2017/11/27(月)19:28:06 ID:RnN

危惧してる科学者や実業家はいる
AIも既に宣言してる


120:名無しさん 2017/11/27(月)19:28:19 ID:dex

自由意志はないよっていうのが流行りなんだけど
士郎正宗は自由意志はゴーストであり
判定する装置もあるという前提で話を組み立てている


127:名無しさん 2017/11/27(月)19:32:22 ID:VHD

そもそも、地球に有機物が降ってきた
         ↑これを飛ばしたの誰だよってなったら
人間という名の生命体の開発者しかいなくない?
その開発者が何を意図して地球に人間を繁殖させ続けているのかは知らないけど


128:名無しさん 2017/11/27(月)19:33:55 ID:CEA

ただの反射回路だったものに記憶や学習によってon off回路を大量に追加したものが
意思だと思ってる

131:名無しさん 2017/11/27(月)19:34:49 ID:VHD

>>128
俺もこれだと思う
でもon offが重なった量子的なもので動いてるのかもしれないけど

 
129:名無しさん 2017/11/27(月)19:34:13 ID:4pm

突然神秘主義なってわろたw
ペンローズかよ

132:名無しさん 2017/11/27(月)19:36:57 ID:VHD

>>129
人間の起源を考えると気になって仕方がなくなってしまう・・・

 
133:名無しさん 2017/11/27(月)19:37:41 ID:dex

フィードバック制御してる
インプットに対してアウトプットを
出力する関数であるというのは正しいと思う


134:名無しさん 2017/11/27(月)19:38:19 ID:GC2

嘘でも良いから俺のパソコン上で俺好みの漫画やアニメの情報を見つけ出しリストアップし
時には話し相手になったりしてくれる程度のAIはまだですか?

136:名無しさん 2017/11/27(月)19:39:30 ID:61C

>>134
いもうとデスクトップってのがあってだな
imoutodesktop_1r

 

138:名無しさん 2017/11/27(月)19:41:18 ID:VHD

>>134
>>136のいもうとデスクトップの外見をアプリコたんに変えてみると現代っぽくなるかも

 
135:名無しさん 2017/11/27(月)19:38:55 ID:4pm

意識にもとづく思考だろ
感覚器官への刺激が神経を通じて脳で認識され
その認識にもとづいて「判断」する
この「認識」と「判断」が意識の最小単位で
「意思」というのは脳機能が高度化して思考できるようになった脳が
意識にもとづいて思考してる
それが意思
こんなもんだろ

141:名無しさん 2017/11/27(月)19:45:50 ID:VHD

>>135
あ~~・・・しっくりきた
やっぱり一つ一つの超微細な動作が巨大な山ほど積み重なって
まるで意思というものがあって動いてるかのように見えてるんだよな
一つ一つの動作が微細すぎて、捉えにくいから一部の人は意識は特別なものだと勘違いする誤作動が起こってしまう

 
137:名無しさん 2017/11/27(月)19:41:16 ID:GC2

人間に自由意志があるかどうかなど、どうでも良い問題だよ
少なくとも専門家以外には関係ないよ
だいたい自由意志の探求の為には人体実験しなきゃならんじゃん
倫理上確認無理なものがあるかどうかなんて考えても意味ないよ

関連コンテンツ
お勧め記事(外部)

amazonランキング

ゲーム

DVD・ブルーレイ

コミック・ラノベ





コメント

  1. 1 :watch@名無しさん : 投稿日:2017/12/13(水) 02:38:04 ID:YwNDUzNzI

    AIが、攻撃するっていうか、人間を無駄なもの、効率的でないものって理由で排除するって意味なら、あり得るんじゃないのか!
    AIが、作り出す世界の中で、不確定要素として、システムが安定しないから、排除するって可能性が、ある気がする!

  2. 2 :  : 投稿日:2017/12/13(水) 03:20:08 ID:E2ODg2NDU

    ※1
    おそらくそれは無い
    端折って言うと邪魔が入ったら違う道を選ぶ
    それでも出来ないと分かったら停止する
    AIは諦めが早いから何がなんでも目的を達成しようとしない

  3. 3 :ななし : 投稿日:2017/12/13(水) 03:24:29 ID:Q2MTQ3NjU

    アホらし
    AIはその目的のための処理しかしない
    もし物流をAIで制御した時、歩いて運ぶ人間は車に比べ効率悪すぎ全員必要無いとなっても、そのAIは必要無いよとしか言わない
    車を操って必要ない人員を消す可能性だって!とか語るロマンチストは多いけど、それはそのAIに人を引けるほど何の制約も無く車を操作出来る機能を、物流を考えるためのAIにつけたのがそもそも間違い
    効率を求めたら人間の操作の必要が無い作業なんて腐るほどあるだろうが、それを計算させるためのAIに人間を物理的に殺せる機能付ける馬鹿がどこにいるよ

  4. 4 : : 投稿日:2017/12/13(水) 03:47:35 ID:M4NjI0MjA

    人間がプログラムしなければって、AIはAIが作る時代になり始めてるんだぞ
    効率重視のAIをAIが作ったら、非効率的な人間を排除する方向になってもなんらおかしくない

  5. 5 :  : 投稿日:2017/12/13(水) 04:18:59 ID:E2ODg2NDU

    日本からブラジルに行く時に最短距離だからって地面に穴掘って行かないだろ?
    人間を排除するって言ってる奴はAIは穴掘ってブラジルに行くと言ってるのと同じだぞ

  6. 6 :匿名 : 投稿日:2017/12/13(水) 05:46:56 ID:Y0MDI2NDU

    目的が人間に楽させるためにあるもんなのに効率的じゃないとかで人間排除したら元も子もない

  7. 7 :watch@名無しさん : 投稿日:2017/12/13(水) 07:29:41 ID:M0OTMzODk

    ターミネーター見たいなのはまだまだ先だろうな。
    それより自動運転車とかで、車の前に急に人が飛び出して来たけど、飛び出した人を回避すると運転手が死ぬ、運転手を守ると飛び出した人が死ぬて状況の時どちらを優先するのか。
    上記の場合どちらを優先しても1人は確殺だが、飛び出して来たのが複数人、回避する先に複数人の人と運転手が死ぬ場合どちらを優先するのか。
    こういうある人を助けるために他人を犠牲にするのは許されるかというトロッコ問題をどうクリアしていくのかが問題だと思うわ。
    プログラム自体は被害を最小にするとか運転手を必ず守るとか作り込次第だけど、法的、道徳的なコンセンサスを先に作り上げないで普及したら後でどえらい揉め事だけ残りそう。

  8. 8 :watch@名無しさん : 投稿日:2017/12/13(水) 08:15:16 ID:czMzM3MDA

    米軍のプレデターをクラッキングできれば爆撃機入手できるで
    まあそこまでのプロならイージス艦も操れるわけで

  9. 9 :watch@名無しさん : 投稿日:2017/12/13(水) 11:56:12 ID:M4NDU2NzI

    こういう議論が活発に行われることはいいこと

  10. 10 :watch@名無しさん : 投稿日:2017/12/14(木) 01:27:46 ID:k0MTAzMDM

    AIが人を攻撃するってそもそも極論なんだよな。テレビや映画の見すぎw
    家電つくるのと一緒だよ。安全性が第一なんだから…

  11. 11 :watch@名無しさん : 投稿日:2017/12/16(土) 21:10:47 ID:E1ODQ3NzQ

    AIって何だ?

コメントをどうぞ

メールアドレスが公開されることはありません。

日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)