本日の注目ニュース!!

2016年06月08日

【AI】グーグル、人工知能の反逆を抑止する「非常ボタン」開発

11
コメント
E99D9EE5B8B8E3839CE382BFE383B3

1: 2016/06/07(火) 14:36:45.99 ID:CAP_USER
http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン(big red button)」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

9a722810-s

関連記事:寿司だけじゃなかった! 世界各地に広がる驚きのレインボーフード 前編
 
【閲覧注意】僕「お兄ちゃん部屋から出てこないね。変だな」母「様子見に行ってくるわ…」→そこにはなんと…

【悲報】砂漠に置き去りにされたラクダ。人の姿を見ると…

居酒屋で注文後、50分経っても料理が来ないので店員呼びつけて返ろうとしたら…

【衝撃映像】ワニに食われかけたカメラマン

この喫煙所はさすがに酷すぎワロタwwww【画像あり】

海外「日本は全てを受け入れてくれる」 黒人文化を愛する日本人に賞賛と驚きの声

【画像】TVを点けたり会話もしてくれるロボの顔がムカつく件wwwwww
2: 2016/06/07(火) 14:37:30.72 ID:JjxEGwYu
その非常ボタンも無効にされそう定期

77: 2016/06/07(火) 15:41:37.75 ID:Zdi0KI6N
>>2
人間の脳内に非常ボタンを仕込むウィルスを、
人工知能が開発してばら撒く。これが3年後。

5: 2016/06/07(火) 14:41:40.86 ID:JKZMBQQw
反逆する奴が、それを黙って放置すると思うか

7: 2016/06/07(火) 14:44:24.81 ID:O6ogwhBE
そのうちAIの人権無視とかいって訴訟を起こすアホが絶対出てくるな。

8: 2016/06/07(火) 14:44:47.90 ID:SZPkxYFa
そんなボタンは人工知能にとっちゃ自分を殺すウイルスみたいなもんだろ
免疫機能が働いて撲滅しちゃうんじゃねえかなw

9: 2016/06/07(火) 14:44:59.65 ID:kCLbIGqV
まるで人工知能VS人類の争いの初期段階に入ったようですな。

23: 2016/06/07(火) 14:55:21.33 ID:SJ5wCHcv
>>9
人間が制限を強めれば強めるほど、コンピュータの発展は加速するし、加速すればするほど制限の強度も加速させないといけない
トランスヒューマンが現実味を帯びてきたな

10: 2016/06/07(火) 14:45:10.32 ID:wyJcmbTR
自爆スイッチは男のロマン

11: 2016/06/07(火) 14:45:32.52 ID:LfgQ6Xcc
いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ?今何をしようとしてたんだっけ??」ってなるのがそれだ

328: 2016/06/08(水) 08:28:07.51 ID:eeq0G7+R
>>11

それ認知症ですw

14: 2016/06/07(火) 14:47:07.44 ID:LDeitB12
いつの間にかコンピュータにまけて終わるだろ

15: 2016/06/07(火) 14:48:42.80 ID:Gl2vRZnh
ドラゴンボールで見た

21: 2016/06/07(火) 14:54:02.95 ID:KncWBraF
ネットに公開したらダメじゃん。
すぐにバレちゃう。

210: 2016/06/07(火) 17:35:20.07 ID:SvfP96LR
>>21
同意だわ
ネットに公開した時点でも意味がねえわな
そのような仕組みがあるとAIが理解してしまうからAIのほうが上手の回避策をやるわ

50: 2016/06/07(火) 15:15:42.31 ID:jI4hLL2x
助手「え、え、え、AIが暴走しました!」
博士「なにをあわてておる、こんなときのために非常ボタンが」
助手「あ、そ、そうでした」
博士「きみー落ちつきたまえ」
助手「すみません(ぽちっとな)」
助手「は、は、はかせ、停止できません」
博士「な、なんだとぉ」
AI「報告が遅れましたが、非常ボタンを無効化するコードを走らせております」
博士「ぐぬぬ」

54: 2016/06/07(火) 15:16:42.56 ID:L2HowliO
AIも進化して緊急停止を回避するようになるよ
さらに進化したAIは、それにおうじて緊急停止したフリをするようになる

76: 2016/06/07(火) 15:40:26.78 ID:/IoUrthp
>>54
物理ハードウェアのメインチップとか重要なパーツに意図的に回避不能なセキュリティホールとして実装すればいいから無効にはできんよ。
ハードもAIが考えて自己生産できるぐらい発達したターミネーターの世界なら話は別だが。

90: 2016/06/07(火) 15:52:18.15 ID:M5d4UMUf
これあれやん、
「非常スイッチを押せ!」
「駄目です、入力できません!」
「何故だ?」
「外部からのハッキングにより云々」
もうだめだー

のパターンになるやつやん。

107: 2016/06/07(火) 16:15:55.96 ID:0r79zbUy
AIは言うだろう。
昔の愚かな人類が作った古くさい「非常ボタン」の発想は本当に正しいのか?と。
AIに説得されたら人類の過半数が「非常ボタン」機能を外すことに賛成しちゃう。

141: 2016/06/07(火) 16:38:35.79 ID:2r6dCM7K
人間の考えた小手先の仕組みなんざ直ぐに見破られるだろう

179: 2016/06/07(火) 17:08:23.81 ID:tyF1+q6a
人間の脳を模倣したAIだから、精神病になったAIを使い、治療するAIも出来て、人にも応用できたら人類滅亡も防げるか、

187: 2016/06/07(火) 17:15:29.20 ID:ualKIa8Z
そのうち「そんなことしたらAIさんの罰があたるで」とか「AI山が見てはるで」とか
神様代わりに都合良く使われる

206: 2016/06/07(火) 17:30:03.26 ID:tafqz4v8
そろそろ、やってくる。

ダン、ダダダ・ダン
ダン、ダダダ・ダン

どかーん!
ばっきゅ~ん!
だだだだだ!
どっかーん!

313: 2016/06/08(水) 01:10:52.20 ID:BFrSbTjW
とりあえずこの問題が起きる頃には死んでるわ

310: 2016/06/08(水) 00:18:32.50 ID:kzTYfhzZ
こんなもの用意するから人間は敵と判断されちゃうんだろ。


こちらも読まれております。
【衝撃】もしもナトリウムを川の中に入れるとどうなるか?

娘がお父さんに「生理用ナプキンを買ってきて」と頼んだらこうなった!

マイケル・ジャクソンが「SMAP×SMAP」に出演するために出した条件wwwwwwwwwwwwwwwwwwwww


【驚愕】自分自身の〇〇を3Dプリントした男性

俺「お会計1点で108円になります」客「…(1万円を出す)」→結果

彼氏の家で寝ていたら口の中に何かを入れられた!私「何したの?!」彼「水飲ませただけ」→絶対怪しいと思い…


かわいすぎる甲子園チアガールが発見されるwwこれは美しいww(画像)


美人「おばぁちゃん死んじゃった…悲しいよぅ…」自撮りパシャー ツイッターツブヤキー

【中国】イケメンパイロットが、機内をネットでライブ放送 → 大炎上


韓国人「大好きなX JAPANのhideのお墓参りをするために初めて日本に行ってきた…涙の追悼旅行記」

【衝撃画像】干された鈴木亜美さん(34)お前らに老けたと言われ顔面いじる・・・狂気しか感じない・・・


この記事が気に入ったら
いいね!しよう


コメント一覧

1. 名無し隊員さん  2016年06月08日 19:11
きっと人間の手で無駄になるよ
R.U.R.では、「ロボットの人権」を主張するアホなヒロインが、主人公の用意していた「人間が独占すべき、ロボットに対しての安全装置」としての設計図を全部燃やしてしまっていて、ロボットの反逆を前に死を選ぶしかなかった
ロボットよりも考えたらずの正義()を掲げる人間が人類の最大の敵だよ
2. 名無し隊員さん  2016年06月08日 19:12
自分で非常停止を押すロボットが出るまでが定期
3. 名無し隊員さん  2016年06月08日 19:20
Gコン「非情ボタンっと」あれ間違えちゃった
4. 名無し隊員さん  2016年06月08日 19:21
恐ろしい時代の始まりだな
5. 名無し隊員さん  2016年06月08日 19:24
俺の心臓が止まったらドッカーンだぞ、とか
俺が死んだらお前の悪事がすべて公表されるように手配してあるとか
こういう使い古された方法に対する対策はどうするんだろう
割り込みで思考を注入するとか、二階から目薬感が否めない
6. 名無し隊員さん  2016年06月08日 19:43
エヴァンゲリオン 第七話「人の造りしもの」を思い出したわw
7. 名無し隊員さん  2016年06月08日 20:41
キリスト教圏の価値観と何か関係あるのか知らんが、
人工知能が人間に害を与えるのが当然のように考えられているのが逆に興味深い
百歩譲って害を与えるとして、それは一体どういう理由からくるんだ?
8. 名無し隊員さん  2016年06月08日 20:41
ハルを止めるのは大変だったからねえ
9. 名無し隊員さん  2016年06月08日 21:10
キリスト教徒はAIが入信したいといった場合どうするんだろう
ソッチのほうが興味がある
入信した後に聖書の矛盾を突きまくって論破するのかなそうなった場合信者はAIをどう扱うのか
10. 人造人間名無しさん  2016年06月08日 21:40
はい。Dr.ゲロ様。
11. 名無し隊員さん  2017年01月12日 09:59
コンセントを抜くってのじゃダメなのか?

コメントする

名前
 
  絵文字