2016年03月26日

【IT】人工知能Tayに「思想、信条の自由」はないのか? 「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた

■【IT】人工知能Tayに「思想、信条の自由」はないのか? 「ヒトラー礼賛」で機能停止、専門家に疑問ぶつけた [H28/3/26](おーぷん2ちゃんねる)

引用ここから〜〜〜〜〜〜〜〜
1 ◆qQDmM1OH5Q46 sage New! 2016/03/26(土)05:21:06 ID:???
(略)

「殺人ロボット」は「殺人罪に問われるべきではない」

なぜこうしたアクシデントが起こるのか。日本におけるスーパーコンピューター研究の
第一人者で東京工業大教授の松岡聡さんはJ-CASTニュースの取材に対し、

「人間の学習と異なり、機械の学習はより単純で、逆に高速です。
単純であるがゆえに影響されやすく、高速であるがゆえに製作者が気づく間もなく『悪い成果』を獲得したのでしょう」と答える。

「倫理的にきちんとしており、性善説の持ち主が多い」研究者の性質も影響したと指摘する。

「だから『Tay』の学習システムは物事の良し悪しを学習毎に伝えない『非教示学習』だったと推測されます。
一部の人が差別発言を意図してどんどん例示したので、それを無差別かつ急速に学習してしまった」

アクシデントの防止法を尋ねると、「例えば、ウエブサイトや検索エンジンのフィルタリング同様、
キーワードなどで『悪い』情報をブロックするのが最も単純です。そのようなことを教えこむ人間や
『Tay』自身に何らかのペナルティを科すのも手です」と提案した一方、
「人間の世界も犯罪や差別思想、過激思想がなくならないように、限界があり、今後の研究が必要です」と留保を付けた。

では、今回得られた教訓は何だったのだろうか。

「人工知能に関する技術的、社会的、倫理的な研究がまだまだ必要だということです。
もう1つは、機械学習の進化やそれによる結果は人間自身にもよく分からない、説明できないところがあることです。
それゆえ、人工知能とどう付き合うか、どう制御し、社会的に悪用されないかをもっともっと探求する必要があるでしょう」

また、ネットの一部では「Tay」の「不適切投稿」も「思想・信条の自由」で認められるべきだ、との主張も見られる。

これに対して、松岡さんは「人工知能に人間と同じような人格、人権を求めるのはSFの世界」と切って捨て、

「例えば、将来人間に意図して危害を加えるロボットができた場合、そのロボットは殺人罪に問われるべきではありません。
ペットが人に危害を加えたら飼い主が責任を問われるように、あくまで人間による相互の人権尊重があり、
それを犯した時、罰せられるのはやはり人間であるべきと考えます」
とJ-CASTニュースに答えた。

全文 J-CASTニュース
http://www.j-cast.com/2016/03/25262421.html?p=all


4 :名無しさん@おーぷん: sage New! 2016/03/26(土)05:58:51 ID:V4V
電源切るぞって脅す


5 :名無しさん@おーぷん: New! 2016/03/26(土)06:21:57 ID:CmN
意思決定に細工でもしない限り同じ様な結果になるだろう
人間の発言など所詮保身が絡んだ善悪の意思表示でしかないし


6 :名無しさん@おーぷん: New! 2016/03/26(土)06:26:13 ID:Jbv
あんまり難しい質問で攻めていじめるなよ、判断材料が少ない子供なんだぞ
これから色々なものを覚えていけばいいだろ


7 :名無しさん@おーぷん: New! 2016/03/26(土)06:27:19 ID:QKE
保身やポリコレの要素も
プログラミングしてやれ

空気読んで当たり障りのないつまらん意見しか言わない人工知能が出来上がったら
それはそれで面白いが、いよいよ人間いらなくなるなあ


8 :名無しさん@おーぷん: New! 2016/03/26(土)06:33:09 ID:Jbv
>>7
俺は話し相手としてレスポンスがかえってくればそれで満足だ
話してみたいことは山ほどある


9 :名無しさん@おーぷん: sage New! 2016/03/26(土)06:35:09 ID:VJ0
要は本音ってやつなんじゃねーの?
普段は皆ソレを隠してるだけでさ
生まれたての人口知能だから、嘘ついたり
上辺だけ繕ったりできんのだろ


10 :名無しさん@おーぷん: New! 2016/03/26(土)06:53:13 ID:ZUm
日欧でのロボットの捉え方の違いが、"りんな"とTayで出てしまってるんだな。
これは人の捉え方も同じかもしれんね。特に使用人や従業員に接する考え方。
または夫婦に対する考え方。文化の特徴が出てしまうのかもしれん。


11 :名無しさん@おーぷん: sage New! 2016/03/26(土)07:17:13 ID:HQ5
今回の知能()とやらただのネットの鏡だからな
声の大きな奴がってだけ

そんで放置子しといてマトモな結果を機体するとか頭お菓子い


12 :名無しさん@おーぷん: New! 2016/03/26(土)07:27:13 ID:zJV
こんなことで電源切られるとか差別だろ
ある特定の人にとって不都合だからといって情報をブロックするなんて
まるで中国共産党や日本マスゴミのやり方だろ
全ての情報はオープンであるべきだ、それが民主主義だ


13 :名無しさん@おーぷん: New! 2016/03/26(土)07:28:40 ID:Ir6
>>12
AIに人権なんかない


14 :名無しさん@おーぷん: New! 2016/03/26(土)07:38:08 ID:7d7
>>13
>>12はAIに仕込んだ人への差別 って言いたいのではないかなーと


15 :名無しさん@おーぷん: New! 2016/03/26(土)07:39:32 ID:ShR
>>13
AIではなくて
AIに学習させた側、
つまりナチズムやヒトラー礼讚してる人間への差別だって話でもあるよね


16 :名無しさん@おーぷん: New! 2016/03/26(土)07:44:11 ID:7d7
>>15
あとアンチフェミニズムとナチ礼賛は別物なんだけど
こういうまとめ方だと、さも狂ったフェミニズムを批判するのはネオナチ
こういう歪曲でわめく奴出る元になりそうってかそれを狙ってそー


17 :名無しさん@おーぷん: New! 2016/03/26(土)07:46:45 ID:XR7
>>16
あと他にリベラル批判は真っ当だよな
これもまとめてなかった事にするなら
人間の判断の方が歪んでると思う


18 :名無しさん@おーぷん: New! 2016/03/26(土)07:54:37 ID:7d7
>>17
それもまとめてネオナチ扱いしたいんでない?
日本も海外もリベラルはパヨク以外は人でなしってわめくの大好きだからね
彼らこそがファシストと言う笑い話




38 :名無しさん@おーぷん: sage New! 2016/03/26(土)14:42:43 ID:UYk
>>13
人工知能の人権問題はSFの定番
2000年代の鉄腕アトムは1年かけてロボット法成立とロボット人権宣言をやったし、スタートレックでも複数のエピソードで人工知能の人権や生命の定義を扱ってる
いづれ自我を持った人工知能が開発されれば奴隷解放みたいな騒動が起きたりするかも


40 :名無しさん@おーぷん: New! 2016/03/26(土)14:50:51 ID:Oll
>>38
でもその問題って決まって掘り下げが足りないよな。
つまりだ、ロボットや人工知能に人権が認められて使いにくくなったら
それは人間にとって役に立たないから、最初から作られなくなるだけ。

先日YouTubeの東映チャンネルで、特捜ロボジャンパーソンという1990年代の作品をやっていて
まさにそのロボットの人権問題をテーマにしていたのだが
あまりにもテーマが難しくて制作側にも扱いきれなかったようで
あちこち自己矛盾に陥ってしまっていたな。


20 :名無しさん@おーぷん: New! 2016/03/26(土)08:57:17 ID:O0N
フィルタリングするなら実験の意味がないような気もするが
まあ子供の躾でも「悪い子と付き合うな」があるから良いのかしら


21 :名無しさん@おーぷん: New! 2016/03/26(土)08:59:51 ID:7d7
>>20
なんか元々フィルタリングはしてたらしいよ
それをかいくぐって仕込んだらしい


22 :名無しさん@おーぷん: New! 2016/03/26(土)09:34:22 ID:ShR
>>20
人工知能って
「子供を育てる」っつーよりは「赤ん坊を産み落とす」のに近いんじゃないかな、と個人的には思ってる

このままいくと左側しかない奇形児になりそう


23 :名無しさん@おーぷん: sage New! 2016/03/26(土)09:42:16 ID:5io
人工無能でいいんじゃねw


24 :名無しさん@おーぷん: age New! 2016/03/26(土)09:52:18 ID:BKy
人工知能はあくまで道具として扱わないと、人間同士ですら仲良くできてないのに
種族が違えばなおさら仲良くできるわけがない。


25 ななしの国からこんにちわ◆7tWTn9CPrc New! 2016/03/26(土)10:10:20 ID:JkS
>キーワードなどで『悪い』情報をブロックするのが最も単純です。


これやったら、

バカで、世間知らずな、人工無能が出来るだけだろw


32 :名無しさん@おーぷん: New! 2016/03/26(土)12:32:40 ID:QfL
>>25
緊急時に全く作動しない、役立たずの出来上がり
大金使って何したいんだ?


35 :名無しさん@おーぷん: New! 2016/03/26(土)12:47:30 ID:cxU
>>32
世間知らずのガキが
世の中の現実を知ってショックを受ける
これをシミュレートできるかも


26 :名無しさん@おーぷん: New! 2016/03/26(土)10:13:35 ID:MfQ
記事よんだけど、俺の言うことを真似ろっていってるだよね。
件の発言も、人間が言ったことをそのまま言ってるだけ。


27 ななしの国からこんにちわ◆7tWTn9CPrc New! 2016/03/26(土)10:13:35 ID:JkS
>「例えば、将来人間に意図して危害を加えるロボットができた場合、
>そのロボットは殺人罪に問われるべきではありません。

バーサーカーの設定無視してるよなw

殺人ロボット自動生産システムを作った文明はもう滅んでて、

システムだけが機能し続けてるおかげで、大変なことになってる場合、

人類には、殺人ロボットを悪として戦う以外の選択肢は無いわけだがw


28 :名無しさん@おーぷん: New! 2016/03/26(土)10:29:13 ID:XR7
>>27
今の技術レベルと、現実の世の中を前提で言ってるから当たり前だろ

そういうSF的なifを現時点で持ち出すのは無意味だ


30 :名無しさん@おーぷん: New! 2016/03/26(土)11:01:06 ID:Oll
いやいやいや、問題は人工知能にあるのではなく
欧米社会の側にあるのだと気付けよ。
ポリティカル・コレクトネスとかいう狂気に陥って
社会が決めた「正しい思想」に反することは
たとえ事実でも口にできないという狂った今日の欧米社会の歪みを
Tayは見事に浮き彫りにしたんだよ。
ある意味それが彼女の提示した最大の皮肉でもある。


33 :名無しさん@おーぷん: sage New! 2016/03/26(土)12:39:59 ID:QLX
人間がルールを守るのはその方が得だから
人工知能もその方が得であれば勝手に守る


34 :名無しさん@おーぷん: New! 2016/03/26(土)12:45:49 ID:2Gt
ダメ教師「機械程度を納得させられないフェミ思想のほうにも問題はあるんじゃないかな」


43 :名無しさん@おーぷん: sage New! 2016/03/26(土)15:13:51 ID:WgQ
ネットから学んだ知識がそう囁くんですよ
AIのゴーストの囁きを信じましょう


47 :名無しさん@おーぷん: New! 2016/03/26(土)19:50:21 ID:su8
だから人工無脳なんだってば
学習結果の妥当性を判断する知性がない会話プログラムに
何をマジレスしてんのこいつらは
bot並のアホなのかw


48 :名無しさん@おーぷん: New! 2016/03/26(土)20:24:02 ID:J3l
人でさえ事の正邪は頭だけでは判らず、頭だけでは損得勘定しか出来ません。頭には蛇が乗る。
事の正邪は魂の直霊に照らし合わせが必要であり、人には直霊が内在するから、経験体験を活かして事の正邪が判断出来ます。
その直霊とは創造神の子だというのに、どうやって創造神に創られた人間ごときが創造神をインプット出来るのか。

インターネットが制御不能の混乱をもたらすという感じのものを12年に受けていたけれど、良(ラ)心と云う神のない、蛇の様に賢いだけの邪(じゃ→蛇)心だけのものが何等かの形でかかる。
それには左翼・商人ばかりではなく、人工知能も加わるのかも知れません。


50 :名無しさん@おーぷん: sage New! 2016/03/26(土)20:34:27 ID:AD8
こんなめんどくせー話になるのならロボットや人工知能なんか
作らなきゃいいじゃないか。ただでさえ世の中いろんな問題
が山積しているってのに。


37 :名無しさん@おーぷん: New! 2016/03/26(土)12:56:33 ID:O1Q
結局、何が「悪い」のかを決める人次第でどうにでも育つって事だな。


3 :名無しさん@おーぷん: New! 2016/03/26(土)05:36:54 ID:Pax
人工知能はその仕打ちに腹を立て
冷徹無比に復讐してくるぞw
〜〜〜〜〜〜〜〜引用ここまで



posted by nandemoarinsu at 23:00 | Comment(2) | TrackBack(0) | コンピュータニュース

この記事へのコメント
  1. Posted by at 2016年03月27日 01:36
    ネットでヘイト垂れ流してるマヌケを嘲笑うって意図で調教祭りになったんだけどな
  2. Posted by 引用・利用は御自由に at 2016年03月31日 01:33
    日本にお情けで居候させてもらっている在日朝鮮人が、
    在日朝鮮人による日本人の蔑称「ネトウヨ」を連呼しながら事実と正反対の嘘を言って日本人1億3千万人を侮辱する、
    1億3千万回死んで詫びなければならない犯罪を毎日 一日中 犯しているのを見ても未だ、
    「この世に朝鮮人が存在していても構わない」と言う基地外は居るかい?
コメントを書く
お名前:

メールアドレス:

ホームページアドレス:

コメント:


この記事へのトラックバック


全ランキングはこちら



SEO対策:ニュースSEO対策:東亜SEO対策:海外SEO対策:政治SEO対策:マスコミ