1: 最速ニュース+ 2019/02/03(日) 04:38:18.51 ID:l3DNq/ag9
https://jp.sputniknews.com/science/201902025878830/

「人間は間違いを選ぶが、AIの言うことは聞かない」 米軍の科学者らが結論
テック&サイエンス
2019年02月02日 14:14

人工知能(AI)の普及を阻んでいるものは、人間による自己過信である。このような結論に、米陸軍研究所(ARL)の科学者らが至った。これらの科学者は、戦闘行動の過程におけるAIの利用について研究を行っている。オンラインニュースサービス「EurekAlert」が伝えている。
スプートニク日本

米陸軍は自らの武力を近代化していく過程において、戦場で決定を下すうえで役立つ機械学習のアルゴリズムを開発しようとしている。科学者らは今回、ゲームを用いた実験を実施。この実験では、AIが各参加者に対し、ゲームのインターフェースとは別に出されるアドバイスを与え、最も適した戦略を常に提案する。この際、参加者らはアドバイスのスイッチを手動で入れたり切ったりでき、AIによる助言に従うことを参加者らに強制する者はいない。科学者らは、このAIの別バージョンもいくつか開発。そのうち一部はアドバイスを誤り、また一部は情報を手動で入力する必要があり、さらに一部は自らの判断の過程を詳細に述べるようになっている。

実験の結果は、AI利用の支持者らを不愉快な形で驚かせるものだった。実験に参加した米軍人らによって下された決定の3分の2が、機械によるアドバイスと一致せず、しかもこのことは、助言に含まれる誤りの数とは無関係だったのだ。ARLの科学者らは、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るとの結論に至った。一方、自分がコンピューターよりも賢いと考えた軍人は、助言を利用したより謙虚な同僚と比べて、より悪い成績を実際には示していた。
米軍の専門家らが米カリフォルニア大学の研究者らと共同で実施した調査によって、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るということが示された。

だが、AIの可能性に関する知識は明らかに不足しており、決定を下すうえでAIが有益となるのか、あるいは妨げとなるのかについては不明だと「EurekAlert」は伝えている。

軍の専門家らがカリフォルニア大学サンタバーバラ校の研究者らと共同で実施した調査によって、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るとの結論が導き出された。

その結果、仮に非の打ちどころのないAIが開発されることが今後あるとしても、人間はいずれにせよ、AIによるアドバイスに耳を傾けることはないということになる。
(リンク先に続きあり)

56: 最速ニュース+ 2019/02/03(日) 05:39:21.07 ID:DO8lqK5/0
>>1

AIには感情が無いからね
人間的正解は

86: 最速ニュース+ 2019/02/03(日) 06:18:17.13 ID:gkk+QUcR0
>>1
そういうのを日本では昔から
「親の言葉となすびの花は 千に一つの無駄も無い」
というんだ
そして子供は親の言うことなんか聞かない。自分で痛い目をして学び取る

だからどんどん経験させて、自分で学習させろ。人を有効に使うにはそれしかない

164: 最速ニュース+ 2019/02/03(日) 07:10:56.02 ID:oTsxOmaj0
>>1この実験は無意味だよ
戦争ゲーム?かなんか知らんがアドバイスどうりにやってもゲームにならんだろw
遊びなんだからw結論ありきの実験のような気がする

207: 最速ニュース+ 2019/02/03(日) 07:26:14.04 ID:hC5CUroz0
>>1
良い結果が出なくても明確な罰が無いから、
無責任に失敗を繰り返せるんだよ。

結果が出なければ地位を失うような、
厳しい世界では既にAIの言う事を聞くようになってる。

315: 最速ニュース+ 2019/02/03(日) 07:58:15.48 ID:3+SOXn1n0
>>1
>人間はいずれにせよ、AIによるアドバイスに耳を傾けることはないということになる。

んなこたーない。
ナビの言うことですらみんな信じて走ってる。

AIにはまだ馴染みがないだけ。

570: 最速ニュース+ 2019/02/03(日) 09:16:14.97 ID:8vID4xxd0
>>315
> ナビの言うことですらみんな信じて走ってる。
んなことはない。ケースバイケースだよ。

412: 最速ニュース+ 2019/02/03(日) 08:24:12.48 ID:uvwyfzSR0
>>1
戦前の日本だって、総力戦研究所が日米戦争のシミュレーションを行ってかなり正確な予測をしたのに、
東條が握りつぶして戦争に突入したからな。

AIだろうとなんだろうと受け取る方がバカならば同じこと。

431: 最速ニュース+ 2019/02/03(日) 08:33:13.49 ID:8I0Ks5qh0
>>1
そもそもAIのアドバイスが最適解なのかが疑問

446: 最速ニュース+ 2019/02/03(日) 08:37:59.20 ID:k66Hd2dM0
>>1
AI判断失敗したのを実施した後かどうかも判断材料に欲しいな、生物全般に言えるが失敗時の記憶ほど残り易く、従うかどうかの判断基準に明確に関わるからな

613: 最速ニュース+ 2019/02/03(日) 09:26:26.76 ID:Zwdobxoa0
>>1
なんかおかしな結論だな。
単に、AIの助言の妥当性を多くの軍人が懐疑的に受け止めてるだけでは?
強制的にAIの助言に従わせるチームと、AI助言無しのチームを何度も戦わせて、明確にAI有りが強いという結論を浸透させれば、普通に皆従いそうだがな。

将棋界見てりゃ分かるだろうに。

4: 最速ニュース+ 2019/02/03(日) 04:47:11.24 ID:CM550cq80
「バカな人間は間違いを選ぶが、AIの言うことは聞かない」、だろ
優秀な人間は、たとえAIの言うことでも、合理性があれば
それに従うよ

142: 最速ニュース+ 2019/02/03(日) 06:57:40.02 ID:WVzdoTOB0
>>4
お前らとか典型的だが、人間はバイアスから逃れられない
例えば仮にAIが司法長官に韓国人を選んだら、絶対お前らは無能な間違った方を選ぶ

238: 最速ニュース+ 2019/02/03(日) 07:37:18.67 ID:fjgfs2FK0
>>4
全くそのとおりだとおもうよ。俺もこの研究者はただのバカだと思う
統計学やる奴は大半バカだと思うよ。社会が変化すること理解してない
子機から携帯に転換するとき就職で家電無ければ就職不利だった
今は携帯がないと就職できない。変わるのよ
その内AIによる生活態度判断とかで職業決められる時代が来る
人の行動はすべて管理されて衛生面でもすべて管理される
人はAIの評価を気にして行動しなくなるこういう時代を迎えて
AIの否定が始まり。初めてAIと人類の調和時代になる

302: 最速ニュース+ 2019/02/03(日) 07:56:02.49 ID:ii1Zum+o0
>>4
AIに判断やらせると現状の建前社会が成り立たなくなるけどね
合理性だけでは世の中は動いていない
この前その手のネタが記事になってた

626: 最速ニュース+ 2019/02/03(日) 09:31:42.88 ID:hcXvguK70
>>4
元記事「非の打ちどころのないAI」の定義がないので自分の解釈だが、
人間にわかるような理屈づけはされていないけど数値や実績からそっちの方が圧倒的に優れていそうな学習結果があったとして、それを専門家が受け入れられるようになるか、という問題はずっと残ると思う。責任とか補償とかあるし。
XAIはあくまで(バカな)人類のための妥協案で、本来AIが持っている力を引き出せない。

648: 最速ニュース+ 2019/02/03(日) 09:36:00.43 ID:oTUzpnQN0
>>4
優秀な人間はAIが言うことに間違いがないか考えるだろうよ

6: 最速ニュース+ 2019/02/03(日) 04:48:58.56 ID:4Quc3iTY0
その判断も予測してAIは解答をだす

7: 最速ニュース+ 2019/02/03(日) 04:49:36.51 ID:K8/tv6XY0
これはゲームだけど実際の戦場だったら
自分の命運は自分で決めたいだろうな
AIは判断の参考になる情報提示だけ提示して
決断は人間にさせた方がいいんだろう

12: 最速ニュース+ 2019/02/03(日) 04:54:20.35 ID:v3A6i5Aw0
>>7
この戦局を乗り切る為に、ここの部隊は囮になって死ねと言われても納得できないよな。

244: 最速ニュース+ 2019/02/03(日) 07:38:25.13 ID:0NUe2gzD0
>>12
信長

51: 最速ニュース+ 2019/02/03(日) 05:33:43.44 ID:f+J0sT+E0
>>7
実際の戦場では、自分自身の勘だけが頼りだから、そら無理だよな。と思った。

9: 最速ニュース+ 2019/02/03(日) 04:52:57.63 ID:2/DHK5ph0
AIは必ず正解を導き出すのかね?

91: 最速ニュース+ 2019/02/03(日) 06:28:27.63 ID:V37D1iEgO
>>9
スパコンがAIにかなり最新の気象予測させてるけど
現実的には基本的な情報やむしろデータがイマイチな場合が多いから
前日までの予想で特に台風の進路とか東京で積雪とか
いくつかの条件が合わさって急速に発達するなんちゃらみたいなことほど
ハズレが出てしまうことわりとあるからなあ

これじゃあ奇襲作成に使えないってなるかもね

273: 最速ニュース+ 2019/02/03(日) 07:47:18.47 ID:lo+D6sF20
>>9
AIにとっての正解だから人間にとっての正解ではない

感情をいれて計算してないからな

310: 最速ニュース+ 2019/02/03(日) 07:57:40.45 ID:2Em44oTW0
>>9
現実の問題は無理かもな

434: 最速ニュース+ 2019/02/03(日) 08:33:47.70 ID:6fzGy7/l0
>>9
どうやら実験結果は正しいようですね。

607: 最速ニュース+ 2019/02/03(日) 09:24:38.12 ID:ewdG3YiX0
>>9
必ず正解を出せるとしたらそれはもはや未来予知
人工知能ではなく未来観測装置だな

610: 最速ニュース+ 2019/02/03(日) 09:25:08.89 ID:/+5uNxCz0
>>9
どの時点を正解するんだよ

666: 最速ニュース+ 2019/02/03(日) 09:41:59.85 ID:jd89jueA0
>>9
でも人間よりかは正解に近い答えは出せると思う

ブログランキング・にほんブログ村へ

引用元: 【研究】「人間は間違いを選ぶが、AIの言うことは聞かない」 米軍の科学者らが結論

1001:最速ニュース+ おすすめ記事