1 :風吹けば名無し 2018/06/10(日) 15:37:15.74 ID:OEpjm9zhp.net
AIがネット掲示板の暗部を学習して「サイコパス」になる

AIは人間の行動やルールを学習して、人間の発想をはるかに上回る結果を出すことが可能です。
しかし、誤ったデータを学習させた場合、AIが悪い結果を引き起こしてしまうことは往々にしてあります。
マサチューセッツ工科大学でMITメディアラボの准教授を務めるイヤド・ロウワン氏らの研究チームによると、オンライン掲示板サイトのRedditに投稿されたゾッとするような画像と画像を説明する文章をAIに学習させたところ、AIがサイコパスになってしまったとのことです。

研究チームは、「AIが入力されたデータに対してどのような見解を示すようになるか」を調査するため、入力された画像を確認後、内容を解釈して感想を述べることができるAI「ノーマン」を開発しました。
そして、Redditに投稿された「身の毛もよだつような恐ろしい画像」や「画像を説明する文章」を大量に学習させ、人の精神状態を分析するロールシャッハ・テストを使って「ノーマンがどのような影響を受けたか」を調査しています。

以下の画像をAIに読み込ませた場合、通常のAIは「2人が隣合っている」と認識。しかし、ノーマンは「部屋の窓から飛び降りた男性」との見解を述べ、おかしな精神状態にあるかのような発言を行います。

3 :風吹けば名無し 2018/06/10(日) 15:38:24.04 ID:q4IBpuGjM.net
ワイはサイコパスやった···?
4 :風吹けば名無し 2018/06/10(日) 15:38:53.20 ID:Bp1BBGfqM.net
6 :風吹けば名無し 2018/06/10(日) 15:39:36.86 ID:ZukR+Yb/a.net
通常のAIってなんやねん
7 :風吹けば名無し 2018/06/10(日) 15:39:47.94 ID:UDByg7Sp0.net
Engadget 日本版: 陰惨画像に晒されサイコパス化したAI「ノーマン」。MIT、偏った学習ではAIも鬱屈すると証明.

インターネット掲示板サイトRedditにアップロードされた「暴力的で陰惨な」...ストレートに言えばグロ画像を延々と参照させることで、ロールシャッハテストにおいておおよそまともではない返答を返すようになったとのこと。

これを通常の画像で鍛えた通常のAIとノーマンに見せて比較したところ、たとえばある模様では通常のAIが「花を生けた花瓶」と回答したところをノーマンは「射殺された男性」との結果を得ました。
また別の模様をみせれば、通常AIは「傘を掲げた人」、ノーマンは「悲鳴をあげる妻の前で射たれた夫」、さらに別の模様では、通常AIの「隣り合う男女」に対して「建物から飛び降りる妊婦」と答える始末。
https://japanese.engadget.com/2018/06/08/ai-mit-ai/
8 :風吹けば名無し 2018/06/10(日) 15:40:07.58 ID:OEpjm9zhp.net
以下の画像の場合、通常のAIは「野球用グローブの白黒写真」と認識しますが、ノーマンは「真っ昼間にマシンガンで撃ち殺された男性」と解釈。
20 :風吹けば名無し 2018/06/10(日) 15:46:26.04 ID:ln0A7+Nx0.net
>>8
言うほどグローブか?
36 :風吹けば名無し 2018/06/10(日) 15:50:34.85 ID:TjHwjTGKa.net
>>8
何にも見えんわ
39 :風吹けば名無し 2018/06/10(日) 15:51:29.01 ID:k7jtavey0.net
>>8
これ団長のせいやろ
42 :風吹けば名無し 2018/06/10(日) 15:52:03.51 ID:YEVj+ZFpd.net
>>8
とまるんじゃねぇぞ・・・
13 :風吹けば名無し 2018/06/10(日) 15:44:15.41 ID:ZVXOpFG6a.net
キャイ〜ンだろこれ
18 :風吹けば名無し 2018/06/10(日) 15:45:31.90 ID:8HZxYVji0.net
リボンつけて土下座してるカエル
25 :風吹けば名無し 2018/06/10(日) 15:47:05.91 ID:nJ2Hj7Eg0.net
学習した画像データと照合して答えてるんだから当たり前では
29 :風吹けば名無し 2018/06/10(日) 15:47:53.00 ID:Eaq3mM6U0.net
朝日新聞ばかり読ませたらいいのに
45 :風吹けば名無し 2018/06/10(日) 15:52:31.67 ID:A52YcgGl0.net
>>29
各新聞見たいわ
34 :風吹けば名無し 2018/06/10(日) 15:48:48.18 ID:lbs4PBpnd.net
ゴリラが相撲をとってるわ
49 :風吹けば名無し 2018/06/10(日) 15:54:07.90 ID:rVW7pUYh0.net
グロばっか見せてんだから当たり前やんけ
57 :風吹けば名無し 2018/06/10(日) 15:56:43.90 ID:rvuPtG760.net
感情とかいうより現状認識の能力をもっと身に着けないと