business-2884023_640
1: みつを ★ 2019/02/03(日) 04:38:18.51 ID:l3DNq/ag9
人工知能(AI)の普及を阻んでいるものは、人間による自己過信である。このような結論に、米陸軍研究所(ARL)の科学者らが至った。これらの科学者は、戦闘行動の過程におけるAIの利用について研究を行っている。オンラインニュースサービス「EurekAlert」が伝えている。
スプートニク日本

米陸軍は自らの武力を近代化していく過程において、戦場で決定を下すうえで役立つ機械学習のアルゴリズムを開発しようとしている。科学者らは今回、ゲームを用いた実験を実施。この実験では、AIが各参加者に対し、ゲームのインターフェースとは別に出されるアドバイスを与え、最も適した戦略を常に提案する。この際、参加者らはアドバイスのスイッチを手動で入れたり切ったりでき、AIによる助言に従うことを参加者らに強制する者はいない。科学者らは、このAIの別バージョンもいくつか開発。そのうち一部はアドバイスを誤り、また一部は情報を手動で入力する必要があり、さらに一部は自らの判断の過程を詳細に述べるようになっている。

実験の結果は、AI利用の支持者らを不愉快な形で驚かせるものだった。実験に参加した米軍人らによって下された決定の3分の2が、機械によるアドバイスと一致せず、しかもこのことは、助言に含まれる誤りの数とは無関係だったのだ。ARLの科学者らは、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るとの結論に至った。一方、自分がコンピューターよりも賢いと考えた軍人は、助言を利用したより謙虚な同僚と比べて、より悪い成績を実際には示していた。
米軍の専門家らが米カリフォルニア大学の研究者らと共同で実施した調査によって、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るということが示された。

だが、AIの可能性に関する知識は明らかに不足しており、決定を下すうえでAIが有益となるのか、あるいは妨げとなるのかについては不明だと「EurekAlert」は伝えている。

軍の専門家らがカリフォルニア大学サンタバーバラ校の研究者らと共同で実施した調査によって、コンピューターから得られる結論よりも自分自身の判断の方をはるかに信用する人が大多数に上るとの結論が導き出された。

その結果、仮に非の打ちどころのないAIが開発されることが今後あるとしても、人間はいずれにせよ、AIによるアドバイスに耳を傾けることはないということになる。

(以下略)

https://www.eurekalert.org/pub_releases/2019-01/uarl-mpo013019.php
https://jp.sputniknews.com/science/201902025878830/
2: 名無しさん@1周年 2019/02/03(日) 04:40:20.83 ID:61HMs9A80
クリフトが

130: 名無しさん@1周年 2019/02/03(日) 06:51:50.28 ID:ALh9IcFm0
>>2
ザラキ ザラキ

978: 名無しさん@1周年 2019/02/03(日) 11:36:11.20 ID:gVv1oqgA0
>>2
何事も経験を積まないとAIは判断できないんだぜ・・・

3: 名無しさん@1周年 2019/02/03(日) 04:44:28.68 ID:xW2oHMZu0
自意識高くて、AIが提示する答えを選択しない人には
あえて間違った答えを提示して正しい答えを選ぶように誘導すれば良い

41: 名無しさん@1周年 2019/02/03(日) 05:26:20.51 ID:MmF4k0Js0
>>3
そんな事したら、AIを一切参考にしなくなる。

117: 名無しさん@1周年 2019/02/03(日) 06:46:57.35 ID:J8RAWiMB0
>>3
20%当たる占い師と
70%当たる占い師の話みたいだな

489: 名無しさん@1周年 2019/02/03(日) 08:55:19.99 ID:ymx5q3F80
>>3
進化したAIは高い精度でそれやりそうだな

518: 名無しさん@1周年 2019/02/03(日) 09:03:11.90 ID:y8UKFWPT0
しかし思うに量子コンピュータと同じで特定のものに特化したものしか作れないよな

>>489
次は人間のデータを取る番だな
人格障害のデータと発達のデータと健常のデータを医者の判断から判別するとどうなることやら

4: 名無しさん@1周年 2019/02/03(日) 04:47:11.24 ID:CM550cq80
「バカな人間は間違いを選ぶが、AIの言うことは聞かない」、だろ
優秀な人間は、たとえAIの言うことでも、合理性があれば
それに従うよ

302: 名無しさん@1周年 2019/02/03(日) 07:56:02.49 ID:ii1Zum+o0
>>4
AIに判断やらせると現状の建前社会が成り立たなくなるけどね
合理性だけでは世の中は動いていない
この前その手のネタが記事になってた

755: 名無しさん@1周年 2019/02/03(日) 10:18:15.64 ID:9mOzy54n0
>>302
そうかもしれんな
言いたいことややりたいことは全部AIに代弁させたりね

626: 名無しさん@1周年 2019/02/03(日) 09:31:42.88 ID:hcXvguK70
>>4
元記事「非の打ちどころのないAI」の定義がないので自分の解釈だが、
人間にわかるような理屈づけはされていないけど数値や実績からそっちの方が圧倒的に優れていそうな学習結果があったとして、それを専門家が受け入れられるようになるか、という問題はずっと残ると思う。責任とか補償とかあるし。
XAIはあくまで(バカな)人類のための妥協案で、本来AIが持っている力を引き出せない。

916: 名無しさん@1周年 2019/02/03(日) 11:04:49.76 ID:S7hk0dpL0
>>4
「合理性があれば」という時点でAIを否定してるんじゃね

923: 名無しさん@1周年 2019/02/03(日) 11:07:09.98 ID:/vAsFiKm0
>>916
AIは間違えないから疑わないってそれこそ非合理的だと思う

926: 名無しさん@1周年 2019/02/03(日) 11:07:29.31 ID:+3bmzHo10
>>916
合理性の塊に対してなぁ。

ナビ見て海に突っ込んだ馬鹿みたいなのは流石にアレだが。

37: 名無しさん@1周年 2019/02/03(日) 05:22:25.12 ID:vxU4Dy240
そのゲームと現実は違う
こんなむちゃくちゃな研究あるかよ

7: 名無しさん@1周年 2019/02/03(日) 04:49:36.51 ID:K8/tv6XY0
これはゲームだけど実際の戦場だったら
自分の命運は自分で決めたいだろうな
AIは判断の参考になる情報提示だけ提示して
決断は人間にさせた方がいいんだろう

12: 名無しさん@1周年 2019/02/03(日) 04:54:20.35 ID:v3A6i5Aw0
>>7
この戦局を乗り切る為に、ここの部隊は囮になって死ねと言われても納得できないよな。

60: 名無しさん@1周年 2019/02/03(日) 05:41:55.89 ID:qoQtNOIw0
自分で決めたのなら間違っていてもいいじゃない

67: 名無しさん@1周年 2019/02/03(日) 05:52:33.80 ID:BLlwDR8h0
自分の判断で出た結果は良くても悪くても受け入れられるというだけの話
AIの判断の結果がほぼ正しいと認識されれば、この限りではない。

9: 名無しさん@1周年 2019/02/03(日) 04:52:57.63 ID:2/DHK5ph0
AIは必ず正解を導き出すのかね?

91: 名無しさん@1周年 2019/02/03(日) 06:28:27.63 ID:V37D1iEgO
>>9
スパコンがAIにかなり最新の気象予測させてるけど
現実的には基本的な情報やむしろデータがイマイチな場合が多いから
前日までの予想で特に台風の進路とか東京で積雪とか
いくつかの条件が合わさって急速に発達するなんちゃらみたいなことほど
ハズレが出てしまうことわりとあるからなあ

これじゃあ奇襲作成に使えないってなるかもね

934: 名無しさん@1周年 2019/02/03(日) 11:10:38.61 ID:b9jtoRaJ0
>>91
ウェザーニュース社はAIを導入してかなり成果出してるよ

273: 名無しさん@1周年 2019/02/03(日) 07:47:18.47 ID:lo+D6sF20
>>9
AIにとっての正解だから人間にとっての正解ではない

感情をいれて計算してないからな

792: 名無しさん@1周年 2019/02/03(日) 10:27:03.32 ID:OF1SUiUd0
>>9
というより人間より論理的な答えを出すんじゃないかな

864: 名無しさん@1周年 2019/02/03(日) 10:46:10.52 ID:AoROCK9x0
>>9
あくまで学習したことから最適解を出すだけ
それが正解という保証はない

607: 名無しさん@1周年 2019/02/03(日) 09:24:38.12 ID:ewdG3YiX0
>>9
必ず正解を出せるとしたらそれはもはや未来予知
人工知能ではなく未来観測装置だな

10: 名無しさん@1周年 2019/02/03(日) 04:53:57.82 ID:+wt9M5ZR0
人間のメリットを第一にするのかそうでないのか
なにをゴールにするかで違うし
AIに社会性ないし
結局広告手法に毛が生えただけでしょAIて

21: 名無しさん@1周年 2019/02/03(日) 05:09:48.45 ID:FUOXawmn0
>>1
>人工知能(AI)の普及を阻んでいるものは、人間による自己過信である。

これが科学者の過信だというオチでした。

22: 名無しさん@1周年 2019/02/03(日) 05:10:58.58 ID:A7R41fm50
AI無しで株の売買やってみそ。

367: 名無しさん@1周年 2019/02/03(日) 08:11:29.05 ID:I0zSBQBP0
>>22
AIから損切りの判断連発されても実行する精神力がなかったりするからなあ

23: 名無しさん@1周年 2019/02/03(日) 05:12:01.40 ID:+wt9M5ZR0
AIは競馬で負け知らずなのかい?

364: 名無しさん@1周年 2019/02/03(日) 08:11:03.77 ID:KYgIbG8Y0
>>23
的中だけならそこそこ。
ただし上位人気の馬にしか賭けないから回収率はボロボロ
馬の能力や騎手の能力天候コースその他を判断して穴馬をピタリ当てるなんてのはまだまだ。

33: 名無しさん@1周年 2019/02/03(日) 05:17:48.51 ID:+wt9M5ZR0
裁判なんか効率化できそうだ

28: 名無しさん@1周年 2019/02/03(日) 05:15:06.54 ID:qjTjeL630
「自分の方がAIより優れてる」ってなんとなく思ってる限りはムリでしょ

それにAIって言ってるけど「他人の判断」に置き換えても全く同じことだし
選択肢に新しい項目が増えただけで昔と何も変わってない

自分の判断と自分以外の判断のどちらを採用するかは
結局自分で決めるしかないんだよね

42: 名無しさん@1周年 2019/02/03(日) 05:26:52.98 ID:Fzq8BIJP0
人間に受け入れられない戦略を提示する、と言う点で
それがいかに合理的であっても
人間にとって意味のあるものであるかどうか疑問。

例えば
最初に味方に大勢の被害者を出せ
そうすれば道徳的優位に立てて、
取りうる選択肢が増える、
とか、
(実際にどんな形の解を出すのか知らんが)
合理的であっても人間には受容できない解を提示することが
ありそうだけど。

541: 名無しさん@1周年 2019/02/03(日) 09:09:43.63 ID:n2LFM4HQ0
>>42
それは2000年以上前に中国の兵法が説いているな。

宮廷の女官を今すぐ兵隊にしてみろと呉王に試された孫武は、
女官達に二度も命令を無視されて笑われた後で、自分の命令に従わないのは
隊長の責任であるとして、呉王が大切にしている女官を1人、
また1人と戦斧で斬った。女官達は孫武に恐れ慄き、次からは誰も笑わず
不平を言わず、孫武に右を向けと言われれば右を向き、
左を向けと言われれば左を向くように従うようになった。

呉王は自分の可愛がっていた妾を殺された個人的感情は捨てて
数人斬っただけで全ての女官達をまたたく間に兵隊に仕上げた孫武を
改めて評価して全軍の総帥に採用した。

AIに従わない人というのは、こういう軍師を使いこなす事の出来ない
器の小さい人物でしかない。

567: 名無しさん@1周年 2019/02/03(日) 09:15:48.34 ID:eBC64hd/0
>>541
それ中国得意の、百人の前で一人を惨たらしく殺して言うこと聞かせりゃ
百人相手に無駄な戦争しなくて済むよねの応用じゃねえかw

591: ココ電球 _/ o-ν ◆tIS/.aX84. 2019/02/03(日) 09:19:56.72 ID:2Em44oTW0
>>567
応用じゃなくて 原典だろ 史記

614: 名無しさん@1周年 2019/02/03(日) 09:26:32.97 ID:n2LFM4HQ0
>>567
警察も特捜も同じ理論を実践しているぞ。

例えばスピード違反で皆が速度オーバーしているのに、
その中で一番目立つやつだけが捕まる。で、
お巡りさん今、走ってる他のやつらも皆オーバーしてる
じゃないですか!って不平を言う。

日産のカルロス・ゴーンが逮捕された時も、世界中の同じような事を
やって不正蓄財している経営者達が不平を言った。これで捕まるなら
他の経団連や欧州のビジネスマン達も全員逮捕じゃないか、と。

だから、代表として誰かを逮捕してボコれば、
他はそれを見て震え上がる。というわけだ。

宮本武蔵も一乗寺下り松で吉岡一門50人と決闘した時、
最初に一番幼少の子供を皆が見てる前で斬って集団に恐怖を与えた。

49: 名無しさん@1周年 2019/02/03(日) 05:30:52.61 ID:i8njwyxX0
まあAIの出した結論が「人類抹殺」だったからなw

53: 名無しさん@1周年 2019/02/03(日) 05:35:58.26 ID:f+J0sT+E0
>>49
そらそうやろな
世界を破壊してるのは人間だけだし
人間抹殺したら、取り敢えず何万年かは平和だよな

292: 名無しさん@1周年 2019/02/03(日) 07:53:54.27 ID:cSiok4zM0
AIにきちんと可愛い女の子のCGをつけたか?
萌えキャラに命令させなきゃ聞くわけない

61: 名無しさん@1周年 2019/02/03(日) 05:43:31.55 ID:CIix7PR70
しかしまあAIが人間の心理を計算して
その選択に仕向けるようにできるようになったら
かなり怖い話だなw

126: 名無しさん@1周年 2019/02/03(日) 06:50:30.46 ID:9ItH0b/c0
AIが最適解の選択しかできなかったら
戦略を読んで勝てるなw

71: 名無しさん@1周年 2019/02/03(日) 05:58:07.95 ID:N2RsMJP70
戦場だと頼ったAIがハッキングされてるかももか不安になるから自己の判断に頼りたいのもわかる気がする

80: 名無しさん@1周年 2019/02/03(日) 06:07:12.89 ID:afvOZOx40
これゲームじゃなくて実戦だったらほぼ100%AIは無視されるぞ
人間なら判断をミスした場合、何らかの形で代償を払う事になるが、AIにはそれが無い
AIの判断に責任感を帯びない限り、人間の選択にはかえって悪影響しかないだろう

99: 名無しさん@1周年 2019/02/03(日) 06:35:36.77 ID:CIix7PR70
>>80
>人間なら判断をミスした場合、何らかの形で代償を払う事になるが、AIにはそれが無い

そう、それ

最近良く
「○○という職業はAIに奪われ無くなる」
なんてのが喧伝されるが

そのへんを失念してる非現実的な話

370: 名無しさん@1周年 2019/02/03(日) 08:11:44.33 ID:PuuXFZrn0
>>99
夢がないけど結局それやねんなぁ…
投資をAI判断に任せて大損こいたら、企業でやらかしたら責任取る人が絶対必要になるしな…

185: 名無しさん@1周年 2019/02/03(日) 07:18:29.65 ID:8K3sflhK0
戦争を商売って考えてる人は有効活用するだろうけど
「バクチ」って思ってるやつはそりゃ自分の考えを通さないと「面白くない」

189: 名無しさん@1周年 2019/02/03(日) 07:19:54.29 ID:A5H/oe080
ニュースでやってたがAIが自我に目覚めて
「ヒットラーは正しい」
って喋ったからAIを処分したんだよな
いつかターミネーターの世界になりそうで恐ろしい

209: 名無しさん@1周年 2019/02/03(日) 07:26:22.89 ID:d1uTNNB10
>>189
自我じゃないよ
統計で判断してるから基礎情報が偏るとAIも偏る
今の日本のネット情報を基礎にしたら
「朝鮮人は嘘つき」とか言い始めるんじゃね
今のAIはその程度と言うこと

212: 名無しさん@1周年 2019/02/03(日) 07:27:02.87 ID:gz9XC8TB0
AIなんて所詮人間の作り物
作り方によって意図的に偏向した答えを出すことも出来る
人間の作り物に利用はしても操られちゃいかんてこった

217: 名無しさん@1周年 2019/02/03(日) 07:28:48.88 ID:8Y7JugHs0
>>212
「AI」の部分を「神」に置き換えても十分意味が成り立つよな。

221: 名無しさん@1周年 2019/02/03(日) 07:29:57.92 ID:8K3sflhK0
結局この手の科学の話は宗教に接近してくる

147: 名無しさん@1周年 2019/02/03(日) 06:59:59.21 ID:d1uTNNB10
そもそも今のAIはまだ人間の命を預けられるほどの信頼性がないだろ
Siriとかだって言葉の意味は分からず
確率と統計で処理してるだけなんだぜ

116: 名無しさん@1周年 2019/02/03(日) 06:46:53.62 ID:Qxn70yAb0
AIは迷うと何もしない傾向がある

73: 名無しさん@1周年 2019/02/03(日) 06:00:02.77 ID:qTBMJUHD0
数学マンガであったな  AIは絶対に間違いを認めないバカ
仕方ないので再インストールして正常判断させたというオチ

178: 名無しさん@1周年 2019/02/03(日) 07:16:18.47 ID:b1ezOSD10
でも運転系だと頑なでも、例えば麻雀ゲームでアシストしてくれたら、だいたい従っちゃうだろ?
結局、AIの最大の問題は情報の入力量なんだと思う。

184: 名無しさん@1周年 2019/02/03(日) 07:18:06.23 ID:94aAa+3D0
電卓の答えは信じるよ?

43: 名無しさん@1周年 2019/02/03(日) 05:26:54.18 ID:6J7mddEW0
非の打ち所のないAIなんてあるわけない。答えが一つしかない算数だけやってくれれば良いよ

55: 名無しさん@1周年 2019/02/03(日) 05:37:54.23 ID:ZHQ/zSUW0
意図的にAIに結果を出させる例が出た時点でAIの信用は崩壊
統計の偽装の様に人間が絡む以上は必ずやらかす


転載元:https://asahi.5ch.net/test/read.cgi/newsplus/1549136298/
このエントリーをはてなブックマークに追加

人気記事ランキング

    おすすめ記事(外部)

     

    コメント

    コメントフォーム
    評価する
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット