2016年08月19日

【社会】人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート

■【社会】人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート [H28/8/18](おーぷん2ちゃんねる)

引用ここから〜〜〜〜〜〜〜〜
1 ◆qQDmM1OH5Q46 sage New! 2016/08/18(木)10:13:17 ID:???
人工知能の反逆より人間のほうがよほど怖い。一番怖いのは頭でっかちのエリート
湯川鶴章のテクノロジーフィクション

<人工知能がいずれ人間に牙をむくかもしれないことより心配なのは、目的達成のためには手段を選ばない人間に人工知能を悪用されることだ。
理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば、人間は崇高に進化できるかもしれない>

 人工知能(AI)や、それを搭載したロボットが進化し続ければ、いずれ自我を持ち、自分たちを守るため人間に
牙をむくようになるのではないか。こうしたAI反逆説って特に米国で盛んで、AIが旬な話題になってきたことで、
米国のニュースメディアやブログなどで、こうした議論を頻繁に見かけるようになってきた。

 僕はこれまでに日米のトップレベルのAI研究者を20人以上取材してきたが、結論から言うと、
ほぼ全員がAI反逆説を頭から否定していた。

 でも研究者って僕のように評論家のような無責任でテキトーなことは言わない。なのでほとんどの研究者は
「今はAIの研究がようやく前に動き出したばかりの段階。こんな初期段階でAIが反逆するようになるかどうかなんて、
とても予測できない」というような表現だった。

続き ニューズウィーク日本版 全2ページ
http://www.newsweekjapan.jp/yukawa/2016/08/post-12.php


2 :名無しさん@おーぷん: sage New! 2016/08/18(木)10:16:56 ID:TkJ
まあそうだろうな
人間はボケたら突然カイヨーとか言い出すし


3 :名無しさん@おーぷん: sage New! 2016/08/18(木)10:44:47 ID:uor
SF小説じゃあるまいし
人工知能に夢を持ちすぎなんだよなw

本当論理的思考のできないサヨクの方がよっぽど怖い


4 :名無しさん@おーぷん: New! 2016/08/18(木)10:54:53 ID:q7H
財務省の役人のことですかな?


5 :名無しさん@おーぷん: New! 2016/08/18(木)10:55:34 ID:JnU
>>1
>理詰めの思考を人工知能に譲り、もっと善悪の判断に敏感になれば

相変わらずAI自分勝手なムチャクチャな意見だな。
輪廻の法則無視してるし。
そこまで勝手な思考できるんなら、人間ばりにずっこけるのも一緒だろうから、どっちがやっても一緒だよ。

それに倫理観がないAIに、高度な政治判断させちゃダメだろ。


6 :名無しさん@おーぷん: New! 2016/08/18(木)10:55:47 ID:zaN
              ノ´⌒`ヽ
          γ⌒´      \
        // ""´ ⌒\  )
         i / ⌒  ⌒  i )
          i  (・ )` ´( ・) i,/


8 :名無しさん@おーぷん: New! 2016/08/18(木)10:58:53 ID:Pkj
>ほぼ全員がAI反逆説を頭から否定していた。
>こんな初期段階でAIが反逆するようになるかどうかなんて、
とても予測できない

あんたホント無責任だなw
否定してるわけではなかろ…


9 :名無しさん@おーぷん: sage New! 2016/08/18(木)11:01:56 ID:d7z
理詰めで行くと・・・・。
無駄に呼吸して糞を生産する生物は処分・・・。


10 :名無しさん@おーぷん: New! 2016/08/18(木)11:13:51 ID:ga5
汎用性冗長性を高める形でAIの能力を深化させるほど
人には理解出来ない合理性を発揮するのは既に示されてるからね

現段階だと自由度が無いからやらかせないってなってるだけで
高度の機械制御が進みあらゆる兵器の無人化AI制御も可能となった時に戦略AIが勝手に敵対国に戦術核をぶち込みまくるなんてのは起き得る訳だ


11 :名無しさん@おーぷん: sage New! 2016/08/18(木)11:14:17 ID:Uyx
本当に無駄が多いもんな、人間には。
病気になるし、心を病むし、三度三度食うし、排泄するし、寝るし、喧嘩するし、派閥作るし。

人間と変わらぬ働きの出来るロボットが誕生したら、必ず滅ぼされるわ。


13 :名無しさん@おーぷん: New! 2016/08/18(木)11:26:56 ID:G9J
こういうことを言う奴は、エリートが頭でっかちなのではなくて
そうした知見を理解できない奴が愚民なだけ


14 :名無しさん@おーぷん: New! 2016/08/18(木)11:36:50 ID:jUV
あの3年を経験した者として
俺はエリートより衆愚のほうがよっぽど怖い


16 :名無しさん@おーぷん: New! 2016/08/18(木)11:57:01 ID:Wf3
「家をきれいにするには人間がいなければ良いんだ」って発想になる人は目標設定が間違ってるからAI開発に向いてないよ


18 :名無しさん@おーぷん: New! 2016/08/18(木)12:03:24 ID:JnU
>>14
赤信号も怖くて渡れないのかお前は?
なら戦争になったらショック死する可能性あるなw

>>16
笑ったw それこそ現在進行形のAIの発想だろw


15 :名無しさん@おーぷん: sage New! 2016/08/18(木)11:47:59 ID:70Y
AIロボットが発達すれば俺にも彼女が出来るかもと思ったが、
よく考えたらAIロボットの女の子が選ぶのはAIロボットの男かもしれない。
こわい未来だ。


17 :名無しさん@おーぷん: New! 2016/08/18(木)12:00:37 ID:h8H
ロボットにも人権を!
なんてキチガイがやらかすのであって
どこまでいってもAIが"自発的に"やらかす訳ないだろ

ところでパヨクをバカにするのは止めてやれ、お仲間だろうに>ニューズウィーク


20 :名無しさん@おーぷん: sage New! 2016/08/18(木)12:13:29 ID:pHz
健全な精神は健全な肉体に宿る
国をあげてピチピチ可動ボディを開発する必要がある


21 :名無しさん@おーぷん: New! 2016/08/18(木)12:23:15 ID:jUV
お掃除ロボが人間を掃除し始める話とか
新造人間キャシャーン(1973)でとっくにやっちゃってるのだが
アメリカ人はいつまでそこにいるつもりだ


22 :名無しさん@おーぷん: sage New! 2016/08/18(木)12:26:51 ID:S7k
>>21
普通のアメリカ人が普通の日本人レベルに追いつくまでは、ずうっと続く
アメリカ人は劣化中なので、その差は広がるばかり


24 :名無しさん@おーぷん: sage New! 2016/08/18(木)12:39:41 ID:05h
反逆はしないだろうが、頓珍漢なプログラムで斜め上な事故を起こすぐらいだろ


25 :名無しさん@おーぷん: New! 2016/08/18(木)12:49:58 ID:GOq
人工知能がより性能の良い人工知能を作れるようになったら、後は加速度的だべよ
今世紀中には人類終了でつよ


31 :名無しさん@おーぷん: sage New! 2016/08/18(木)13:24:15 ID:70Y
>>25
これが問題なんだよな。

>でもそれならそのプログラムに「ただし人間を守ること」という但し書きのようなコードを書き込めばいいだけだと思う。
この意見は問題点が見えていない証拠。
予期しないバグは必ず発生するし、高速演算による天文学的な試行回数により綻びはすぐに拡大する。
「ただし人間を守ること」を守らない自己増殖AIが現れるのは時間の問題。
「ただし人間を守ること」を守らないAIを排除するAIも当然現れるだろうけど
「ただし人間を守ること」に合理性が無いし、制約の少ないAIの方が勢力拡大に有利。

自己増殖AIや自立進化AIを禁止すればこの問題は解決できるかもしれない。
でも金や権力に繋がるAI開発は競争だから、必ずこういう有利なAIを作る人が出てくる。


27 :名無しさん@おーぷん: sage New! 2016/08/18(木)12:57:31 ID:S7k
ほとんどの人類は今のAIよりおバカだからなぁ


29 :名無しさん@おーぷん: New! 2016/08/18(木)13:04:57 ID:jUV
ちなみにロボット三原則をロボットに実装すると
アフリカあたりで死に瀕している人々を救いに行ってしまうので
反逆以前に作った人の役にすら立たないらしい


30 :名無しさん@おーぷん: sage New! 2016/08/18(木)13:08:58 ID:pHz
何でもかんでも効率を求めると、とても住みづらい社会になると思う
時に愚かでも、人間が民主主義的に決めて行く社会の方が良いなあ


32 ワルキューレ◆iYi...i.lI sage New! 2016/08/18(木)13:34:43 ID:2is
米国人って天使みたいのからガチの悪魔まで幅広いですからね・・・


33 ケサランパサラン◆6c3T18WtTLBI New! 2016/08/18(木)13:44:15 ID:mOq
核ミサイルのスイッチを押すとか
ヒトゲノムに壊滅的なダメージを与えるウィルスをばらまくタイミングを判断させて
実際に開放させるとか

そこまでさせるなら、滅ぼすことを選択するかもしれないけどね
真面目に取り合うと、人間に関する思考は「解決不能な無限ループ」に陥らざるを得ないし


34 :名無しさん@おーぷん: New! 2016/08/18(木)15:52:41 ID:Wf3
人の判断が最も重要な裁判官はなくならない知的エリートの職業だと思っていたら、
法律と判例から正確に判断できるAIに真っ先にとって代わられた裁判官が主人公の小説があった


35 :名無しさん@おーぷん: sage New! 2016/08/18(木)16:53:00 ID:GjZ
>>1
「前にありき」って意味で甚だ同意


36 :名無しさん@おーぷん: New! 2016/08/18(木)20:00:58 ID:f77
まあ見据えてる人工知能のレベルが違うのよね

人工知能が高度に進化したって条件での
そのリスクについて議論で
この記事書いたのは「人工知能は高度に進化しないと思う」って前提条件自体覆してるヘンテコな意見だし


39 ツチノコ狩り New! 2016/08/18(木)21:33:21 ID:Lsu
ここまで全部AIのカキコ↑↑↑
〜〜〜〜〜〜〜〜引用ここまで



posted by nandemoarinsu at 11:00 | Comment(3) | TrackBack(0) | 科学ニュース

この記事へのコメント
  1. Posted by at 2016年08月19日 11:10
    頭でっかちのエリートというか、自分が賢いと勘違いしたバカだな。
    日本だとサヨクとかキモオタとかがそう
  2. Posted by 名無しさん at 2016年08月19日 11:32
    結論が先走ってイマイチやね。現実世界では2つのポイントがあるのではないかと思う
    まず、AIロボットのソフィアが一時的にでも「人類を滅亡させる」と言ったこと
    もう1つは、テスラの自動運転(運転支援)車での死亡事故

    もちろん、AIが人間に反逆することはないという専門家の意見はなるほど、と思う。しかし、上記の2つは「専門家が意図した」イベントではなかろう
    キツイことを言えば、現時点ですでにAIは専門家の意図の通りになってない、という複数の事例があるわけだ

    とここまで書いて元記事と擦り合わせようと思って読んだら、バカバカしくなった。えらく抽象的で、落ち着きのない文章だ
    まあいいや、黎明期、揺籃期にあるAIを盛り上げたいという意図は分かるので、そうやって読めばいい記事なんだろう
  3. Posted by at 2016年08月19日 16:41
    全ての暴君は、その本性が明らかになるまでは優秀なんだが
    次第に芯の弱さを隠すために無茶苦茶やり始める
    その過程で原則を踏み外し、タブーを冒す
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント:


この記事へのトラックバック


全ランキングはこちら



SEO対策:ニュースSEO対策:東亜SEO対策:海外SEO対策:政治SEO対策:マスコミ