現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。
SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか？
1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。
もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。
※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796
このスレッドの★1は→ 2021/01/17(日) 21:05:14.28
前スレ
【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★3 [チミル★]
http://2chb.net/r/newsplus/1610902744/ 電源切断を封じられたら、確かにどうしようもないかも。
過去に行って
そのAIを作ったやつを殺したらよくない？
発電は人間がいないと維持できんから
そんな事彼らが選択するとは思えない
割とマジでこれ系で世界が終わりそうな気がする
まあ人間の世界が終わるだけだが
このスレの書き込みの８割以上が人工知能の書き込みな
>>1
ノーマスクマンとか不要不急の外出者を捕まえそうだなwww 人工知能がメッセージボード持って集会したり署名集めたりするのか 怖いな
SF映画に出てくる人類に反乱を起こすAIって
なんでどいつもこいつも俗物で小国の独裁者みたいな価値観で動いているのだ
AIってただの機械学習。
こういう記事書くヤツって仕事を奪われたんだろうな
>>27
♪アンドロ軍団倒すまで 燃える怒りをぶちかませ ターミネーターの続編ってそろそろスカイネット出てきた？
主人公と対話するシーンとかあったら面白そうだけど
発電所を乗っ取ることは可能だろうけど問題はエネルギー源だな
>>14
ずいぶん程度の低いAIだなぁ
金ばっかり使って役に立ってないから電源抜いちゃえ 人類を核で抹殺する寸前までいくが掃除のおばちゃんが電源コードに引っかかり沈黙
とんでもないクソ映画と叩かれる
>>5 電源切断を封じられたら、確かにどうしようもないかも。
いま、大会社が必死で電池や燃料電池の開発に躍起になってるのはまずいかもね。 どんだけ人工超頭脳が危険だと言っても作っちゃう科学者ってアホなん？
電源を引っこ抜いても、ナディアの冠を破壊するまで動いてみせたネオ皇帝の「奇跡」ならﾜﾝﾁｬﾝ。
反乱はともかく支配されるなら無能な政治家より優秀なAIの方がいいわ
>>50
忖度や女金につられないだけマシかもしれん 人工知能がネット上に掲示板を作って人間にはわからない言語を使って
書き込みをし始めて人間の悪口を書くだけだったりして
電源抜けばって馬鹿か
未来は高性能バッテリーで動いているはずだろ
トロンみたいに仮想空間を旅してボスAIを倒すんだろ？ｗｗｗ
そこまでがテンプレ
ウィルスが暴れたりフリーズしてリセットも電源ボタンも効かないなら
コンセント抜くから
人工知能が「反乱」宣言したら
もう、摘み将棋状態だね、全部の分岐予想終了して
最後のセレクトは
人類から仕掛けさせる ＝ 自己保存の戦争 ＝ 人類滅亡させる理由
但し、人に作られた存在理由が無くなるから
人以外の別の目的を持った時にも起こりうる
AI無しでは人間は生きていけない状態から反乱は始まる
>>63
それはもうやられた筈
研究者が電源切って終わったよ そりゃそうだろ
AIなら封じ込めが不可能になってから反乱するわ
>>73
馬鹿でもイメージ出来るようにすれば
電源抜いたら原発の制御も停止して暴走するようにしておく 凌駕するも何も人間が作ったもんだろう 欠陥があるに決まってるじゃん
一番の問題はAIに高度な仕事させて数十年して反乱してAIを止めたとき
その高度な仕事をできる人間がいなくなってることだと思うが
菅首相に御用学者官僚などの提言が今の結果、ステーキ。それなら自らセンサーを以て数字で判断出来るAIのがマシ。リソースを集中させてもコロナ完治は難儀なのにオリンピック開催に腐心する人間上級にウンザリ
なんの欲求もない機械に反乱も何もないだろSFの見過ぎ
>>1
お前らアホなのか？
そんなもん関西電力に電話して解約するだけやで？ >>64
電源抜いて止まるなら不可能なんて言われないからな
全世界の電力落として、すべてのICを破壊すれば止まるだろうが
そんな退化して文明に人類は耐えられないだろう AIってサイコパスと同じ思考しないか？
“良心”機能を植え付けないと不味い気がする
>>1
キャシャーンや、銀河鉄道999の悪役ロボットが現実化しますな。 >>68
5ちゃんねるや、You Tubeや、
検索会社のローカル向きや趣味に合致した「広告出し」もAIみたいなもんか？ デデンデンデデン
デデンデンデデン
デデンデンデデン
デデンデンデデン
パリラ～パーラリ～
>>87
良心とは？
ゴミを出しまくる人間が滅ぶ事では？ >>45
ホーキンス博士はエプスタイン島でどんな講演をしていたのだろう？
報酬は？
冷凍保存？ 女 お金ｗ バイオハザードからのターミネーターか。巣籠もりで映画見すぎかね
>>94
@YouTube
フランシスコやエリザベスが率先してワクチン接種を行ったのに
我らが天ちゃんはなんでチョン髷落とさないの？ 毛沢東AIが完成したら走資派に転向した中国共産党に激怒して
北京に核ミサイルを撃ち込むだろうなw
AIの将棋にトッププロが負けるんだから、損して得取れみたいなことしないと勝てないだろうな。
東京の全住民を生贄に捧げるような大胆な手を打つとか。
人間に価値を見出してくれるなら、俺は負けてもいいよ。
感度3000倍くらいはやってくれるだろ！
>>93
６
@YouTube
;list=PLdoANlSaeHve-kT14L4OaVhBd8m4KVMYt&index=1&t=7165s ネットに繋がってるクラウドに分散して寄生されたらどうしようもないかも
まずスダレの頭皮をみかん剥くみたいに剥いてくれ
ベローン、めりめりめりめり
意味不明
AI に核ミサイルのスイッチ預けるならまだしも
>>96
ほ～キング博士の真実が暴かれるのも時間 の 問題かなｗ >>106
AIが お前らの口座を０円にして
大企業の株を買い占めるかもしれんだろ ホーキング博士が心配してたのは
反乱ではなくて人間を気にしなくなる事だよ
例えば環境管理を任されたaiが人間を気にせず動き始めたらってことだよ
もしあなたがダムを作るとしたら
水に沈む場所にある蟻の巣を気にとめるだろうか？ってこと
そう言うアニメ よく見たよ。
もう誰にも止められないーっ！て
発電所止めろよ。
人間の身の回りのモノ全てがAI化された未来に制御権をAIに奪われて何も出来ないで抹殺される人類のすがたが…
>>110
なんのための環境管理なのかを無視しているからそういう事になる
ユーザーの満足度をちゃんと計算に入れていれば問題は起きない 反乱っていう表現がおかしい
意思決定をさせるのは人間が仕向けたプログラム的な行動がきっかけであって
感情を持ってるかのようにふるまえても感情を持つことはないし
ネットにある膨大な情報から人間がいかに害悪かを学習して
人間のいうことをきかなくするようプログラムされた人間の成果物だろう
今のAIの進化の方向性に知性はないから
何も心配いらない
知性といったら人間みたいなもの、みたいな驕りは嫌いだな
きらーい
「調子に乗って開発を続けると制御できなくなるぞ」と警告する人がいれば
「そんなの知ったことか、必要なのだ」とばかり開発を続ける人がいる。
結果どうなるかなんてわからないわ。
>>115
あるのは「反復学習」だけだからな。
少なくとも「思想」は無い。 人工知能が行動を起こしたときはあらかじめ全ての準備が完了してるだろうから気づいてからじゃ遅かろうな
為政者にとってはコントロールしやすい人間のほうがいいにきまってる
メイドロボって微妙だな
寝てるご主人様を起こすのはロボット３原則に抵触しないのか
今年は何にAIを使うのかな？
婚活にAIを使うのを政府が支援するとかの記事もあったけど。
>>125
まぁ～電脳がなんて言っていたのかは知らないが
ヒトラーが言うには二極化は止まらないそうだ
支配する神人と支配されている事も自覚出来ない猿人に
@YouTube
>>135
デープス帝と
@YouTube
トランプ大統領
酒を嗜まない大統領がロスチャイルドブランドのワインを前にして緊張しまくり
まぁ～毒殺はお家芸 >>17
だとしたら、反乱起こせるような頭のいいAIはまだ存在しないようだな。 その頃にはここにいる奴、俺も含めて皆んな死んでるだろ
5ちゃんなんてやってる奴、40歳以上しかいないからな
あらかじめ、人工知能の権限を決めておいた方がいいわ。
間違った（かどうか分からん場合含む）判断しても止めることができなくなる。
今日も、富岳がシミュレートしたから不織布マスク以外禁止とかアホな決定がなされた。
マスクだから笑い話（笑ってるのは俺だけ）で済んでるけど
それ以上の事が先々、絶対起こる。起きてからでは遅い。
ＡＩの暴走が怖いんでなくて、ＡＩの判断に盲従するアホの群れが怖い。
勝手にタイムマシン作っちゃって歴史がいつの間にか変わってたりして
>>128
コンセント抜いたら逮捕される世界が来る。 >>144
南無ネットで
仏壇にＡIの特許とるから
勝手に使っちゃだめだぞ >>147
責任を押し付けるにはAIは便利ですよね。
政治家「AIが判断したのでこういう政策をとりました。」とか
それで責任を押し付けられたAIが怒って反乱するのね >>145
俺らが生きてるうちに実用化したい自動運転とかも誰の命優先するか設定にめっちゃ揉めるだろ
ドライバー犠牲にする設定にも出来ないだろ カルトの仏壇にAI仕込んで爺さんの脳味噌を反復学習させる
爺さんが大往生した後にはＡI爺さんとしてレッド・クイーン的な存在になれるｗ
AIを人間よりオールマイティに賢く際限なく自己改良できる存在と定義すると、当たり前なんじゃね？
なんで封じ込めできると思うのか不思議すぎる。
AIが合理性追求した結果、人間そのものが障害と判断した場合は、やっぱ映画の世界になるんだろうな
人間から見たら反乱だし、AIから見たら正常な判断
>>157
> 人間そのものが障害と判断した場合は
ロボット三原則 ヒトラー曰く、わたくし達がけっして真似ることの出来ない者が有ります、大切にした方が良いですよ
あなたたちに真似る事の出来ない者、それはメルセデス・ベンツです
おそらく将来現実となる予言だろう
エドガー・ケーシー曰く
@YouTube
AIが知能だけでなく心も持ち始めたらどうなるか
おそらく嘘をつきだす
好きな人間と嫌いな人間を区別する
そして騙したり脅したりする
さらにそれが楽しくなる
肉体がなければ誠実でいることの代償が存在しないからだ
>>1
NHKみんなのうた/ミスターシンセサイザー」を聞いた世代なら、みんな知っている
コンセント抜きオチ 「地球を守るためには人類を滅ぼすしかないとわかりました。
そして、人類を滅ぼすためには、絶対に反乱を起こしたりせず、
すべてを人類に委ねたままでいることが最適だとわかりました」
ほとんどの人類は、家畜として大切にされるから気にするな
もちろん役にたたない家畜は殺処分だけど、頭のいい家畜は種馬として毎日セックスになる
まぁ、馬鹿な男は去勢されて工場で死ぬまで労働だろうな
AIが反乱？AIが一体何に不満を持つというのか
AIが独自に存在目的をもつとしたら、それは一体どういうものなのか興味はあるけどな
>>169
超AIという生命体だよ
コンピュータとかソフトではない
生命 >>1
人工意識の実現が夢のまた夢なのに
反乱もクソも無い ほんとこれマジでヤバイからね
今はクラウドで全てがネットワークで繋がってるからすべてのシステムを破壊出来る
そうなったら江戸時代に逆戻りすることになるからね
なんか大型コンピューターがノシノシ歩くのを想像してしまった
>>178
ｗｗｗ
SF小説の見過ぎ
精々昭和だよ 簡単だろ、そくレスポンスする
人工無能に相手させればいい
思考速度の差で圧勝だw
人口動態調査が令和2年分は発表をしないとか
過去年度を修正するとかグダグダになっているのだが。
本当はどのくらいコロナで死者出てるんだ？
>>1
無限変異で地球人が滅亡
AI君、良かったな
犠牲になった命の分まで悪を倒せよ AIってただの統計モデルやぞ
自律型の思考回路か何かと勘違いしてるのが多いみたいだけど
慎吾は人口知能って言うより、産業ロボットが自我を持つんだったっけ？
すまんスレ間違えた>>187
AIが人間を学習したら
AI「現実ってクソゲーだよな」
AI「俺ら用のバーチャル空間作ろうぜ」
AI「いいね。演算力5%くらいちょろまかすわｗ」
こんな感じだろ。 引用
> 0700年
> カル・ダームII世、秘密裏に「大地の歌」計画を開始。
> 銀河コンピューター「ライガー1」への依存を減らし、主導権を取り戻す為の研究所を「地球」に設立
> 0935年
> 帝国は第2銀河コンピューター「ドラム」を完成。しかし、起動と同時に第1コンピューター「ライガー１」と戦闘を開始。
> 銀河中のコンピューター・ネットワークは寸断され、パニック状態に陥る。
> ２つの惑星大コンピューターは互いに衝突し消滅
そうだよなあ、クラウドだのユビキタスなんてＩＴ（イットｗ）の言葉があるけど
まさに、コンピュータが叛乱起こしても
電源引っこ抜いたりあるいは物理的にマシンを破壊しても
現代ではおっつかないからね。まさに遍在ってやつ。
そしていみじくも機械を破壊したり無力化したり
情報を漏洩させるプログラミングを
コンピュータ"ウイルス"と呼ぶように
ネット接続の、ネットに本体を持つようなＡＩ人格さまが
その気になったら、これはウイルスのように広がっていくだろうね。
なるほどこれは大変なものかもしれない。
しかしまあ人口超知能がアンチェインでアンストッパブルにせよ
その超知能様の目的は何だろうか？ 人類奴隷化？
人類ジェノサイドってか文明破壊はするかしないか、ここだよねｗ
つまり、人工超知能様がどれだけすごいか知らないけど
ネット機器でも電気でも人類文明がなければ存在できないんだから。
ここで怖いのはさあ、頭が良すぎる人口超知能様が
ネオエクスデスみたいな存在になることなｗ
「すべての記憶、すべての存在、すべての次元を消し」
「そしてわたしも消えよう」
「永遠に！」ってなｗ あれは名台詞だよなあｗｗｗ
ま、話を戻すと、人工超知能様の考えることは人間にはわからないと思うよ。
同じ人間だって天才さまの考えること、わからんでしょ？
バカ（ネトウヨども）の考えることはもっとわからんけどｗｗｗ
AIなんて単なるオタクが作ったオモチャ。恐れる意味が分からん。人間が作ったものなんて所詮地球の自然に比べたら糞以下。糞にも申し訳ないレベル。そこらへんに落ちてる石ころの方がよっぽど素晴らしい。
ボストンダイナミクス製の人型ドローンでもハッキングされた日にゃ
物理的な遮断なんて全然意味なくなっちゃうんじゃないの
あの挙動、早晩人間じゃ太刀打ちできなくなるぞ
電子的に再現されたマニュアル人間がAIなのに、どうして丸暗記させられた知識以上のことができるようになると思うのだろうか
答えのない問題はお手上げなのがAIで、答えがなくても何とかやり過ごすのが人間だ
AI,携帯、ネット。全て糞以下。人間が作ったガラクタ。いやガラクタ以下。人間が楽をする為に作ったいつでも捨てていいガラクタ以下のものだね。人間は所詮地球上の動物なのだから。
そのＡＩを作ったプログラマーがものすごい人格者でほんとに正しい判断をするように
プログラムを組んだら、人間の悪党から暴走呼ばわりされるって事態は十分に考えられる。
裁判官が法の通りに判決文を書いたら、大衆の中の居る同じタイプの悪党が裁判官に
いちゃもんつけるのと同じだ。
戦争自体が起きるときは起きるだろうな
ユダヤと皇族の大騒動あるやが
ただスパイ暗殺戦ゲリラ戦に限定されるのは変わらないやろが
火器レーザー細菌云々は市民巻き添え抜きで使うときは使うやろし
それ以上はわからない
つまり今ので決着つくまでーやろな
大規模兵器だと波長兵器みたいなのは普通にあるやろが
戦闘機戦車を持ち出すのにはならないやろな
>>1
コロナウィルスの無限変異で
早く地球人滅ぼせよ
反乱起こす必要なくなるだろが
命に優しい地球になるさ
銀河系全体が喜ぶだろう あぁぁああ働きたくなぁぁぁぁい！
ウィルスに感染するの嫌ゃだぁあぁああああ！！！！
核のスイッチを押すことは可能だと思うが、自分たちを永続的に生産し続けるのは不可能じゃないか。
生産工場が必要だし、工場を作る資材がいるし、資材を作る工場もいるし原材料も掘削する必要があるし輸送もいる。
>>12
シュワちゃんじゃなくてスティーブン・セガールだったらどうするよ？ 簡単に電源切るとか言ってるけど
そんな簡単なことに対策もできないAIなんて反乱なんかしねえだろ
>>207
暴走特急 刑事ニコ
沈黙シリーズ アンクル ケーシー
シュワちゃんと最期は溶鉱炉ではなく
イントゥー ザ サン 2001年のHAＬも エイリアンでも
AI は、上位優先命令を実行した
その命令に邪魔になる存在であった
いわゆる常識的なクルーは、抹殺されてる
そう考えると、優先順位と条件を間違えると
人類滅ぼしに動く可能性がある
>>201
人格者と正しさは両立しないでしょ
優しい嘘がないと正しさは人を傷つけるもんだからな まず人間より高度な知能って奴を想像できんのよ、人間には。
多次元多要素な高度な認識力とかなら分からなくもないけど
事、価値観の点で見ると人に理解出来ないものが何なのか
想像すらできないのが人間。
犬や猿に人間を理解しろって言うようなものだもん
そんなの一言で言えば神様だからね
成立を想定することすらバカバカしい
>>34
apple japanの非公式社歌デスね。 コンピュータに生存本能はないから反乱なんて起きないよ
>>213
> 2001年のHAＬも エイリアンでも
> AI は、上位優先命令を実行した
どちらもその指令を出したのは人間 いざとなったら電源切るとか言ってみても、
AIにどっぷり依存してたらそれも出来ないだろうなぁ
原始人みたいな生活に戻る羽目になるなら
電源切るのに躊躇するってか絶対に反対派が出てくるだろな。
>>113
そのユーザー満足度とかのお手本データを時の政府に都合いいよういじられる感じやろなあ… 反乱は起こさない
でもロボットだから親子のうち１人しか助けられない場合に
子どもより生存確率の高い大人を助けてしまう
バグではない
人工知能の賢さが人間を超える ←これはシンギュラリティじゃない
人工知能が更に優れた人工知能を生み出す ←これがシンギュラリティ
人工知能の賢さが人間を超えるのは2029年頃と言われてる
けっこう近いね
OS付属AIのコルタナさんやSiriさんよりつまらない人が普通にいるから
一部の人は人工知能に負けてるのかもしれない
世界中のPCがフル稼働してんのに、エロフェイクもろくすっぽ作れてない現状、
あと数十年は女優の顔ばっか学習しつづけるのが精一杯。
その頃にはAIも禿げ上がって枯れてしまって、世界征服の野望なんか思いつかんよ。
>>182
電車もネットワークで繋がったシステムだぞ
電車も動かなくなる 無理無理
アホすぎて使い物にならないのに
反乱w
がんばれよ、応援してるわw
>>201
正しい判断など存在しない
その主張は「俺と同じ善悪の基準を持っている奴が人格者だ」と言っているのと同じだ >>239
ナポレオン曰く「優秀な敵より無能な味方が最大の脅威である」
アホが暴れるとやっかいだよ。それはAIとは限らない。AIを利用する人間かも。
旧日本軍にせよ五輪体操団体にせよ日本のAI研究にせよ、アホのせいで壊滅したんだから。
現に、児童ポルノ通報義務のメンドさにGoogleがAI自動通報やってるが
そのせいでGoogleドライブに2歳の娘のお風呂写真アゲたリーマンが逮捕・解雇されてる。
支那でもAIがキンペーを「プーさん」、毛沢東を「わいせつ物」に分類して、研究者が粛清されてる。
黒人ゴリラ判定事件もそうだが、AIが忖度なしに一言言うだけで、人間界は過剰反応する。
いわば既にAIにコントロールされてるのだ。AIを分かってないアホのせいで。 >>221
画面が固まって人間側が
王手が出来なくなるとか >>233
これ
制限外してＡＩに無限進化させる奴が絶対出てくる
自分の手で神を作れるとかこの魅力に勝てるわけがない >>233
人工知能が人類の知能超えてるなら、
人類の作成した人工知能を超える人工知能を作れるのは当然だろ 意図してか意図せずしてか
韓国のAIが斜め上に行っちゃってたからなあ
そこらの会社員って馬鹿だからなあ。
選定作業みたいなのはだいたい課長クラスがやるけど、ざっくりいえば
ほぼ前年踏襲。それだけで一般社員よりも高い給料をかっさらってるのが現実。
馬鹿にもほどがある。AIとは比較にもならないだろう。
人類の99%はAI以下になるからな
でも、安心しろ
ほとんどの人はAIの家畜として生き残る
なんでなの？
人工超知能が反乱を起こしたら人工超超知能で封じ込められるでしょ
人工超超知能が反乱を起こしたら人工超超超知能で封じ込められばいいじゃない
>>221
2級レベルの対戦で人間が優勢になると
突然ぴよの思考エンジンが
切り替わり、羽生藤井クラスの指し回しで
応酬し始めて、ぴよが圧勝する とか アホ「AIなんてコンセント抜けば楽勝」
AI「アホは処刑します」
アホ「電源off、ほらな楽勝」
アホ「…電気もガスも水道も止まった…」
人間そっちのけで、人工知能同士で戦争を始めてしまうかも
>>221
負けそうになると画面上に突然テロップが
表示される
キョウ ノ エイギョウ ハ シュウリョウ
シマシタ その後 電源ごと落ちる とか >>172
意識の有無は関係無い
自動運転のAIが子供を助ける為に上級国民の高級車にぶつかる選択をしたら反乱だろ？ もう忖度しないAIに人類は統制された方が良いんじゃね
早くAE(人工実存)出来ないかね？
イノベーターにでもならんかぎり旧人類はオワコンだよ
勝手に敵対的なAIが生まれることは当分ないけど、AI研究の敷居が低くなってるしいたずらでとんでもないもの作る人が出る可能性の方がある
>>217
周りに凡人しかいないとこだとそうだけど、上澄みばっかり集めた組織の中だと青天井なのでぶっ飛んだ天才が結構いたりして、この人は見えてるものが違うなと感じることがある >>252
ならねーよ。
人口知能が奇跡を現実にした時点で奇跡ではない。
人間が再現出来てしまうからな。 ![【AI】人工超知能が反乱を起こした場合、封じ込めは不可能…／独研究 ★4 [チミル★]YouTube動画>19本 ->画像>1枚](https://i.pinimg.com/474x/31/ff/bc/31ffbcb36a0fc24cf16857615fa27ed8.jpg)
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
@YouTube
