amazon-alexa-design-speakers-977296
1: しじみ ★ 2018/12/29(土) 14:54:31.85 ID:CAP_USER
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

(中略)


2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。

(中略)

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php
3: ニュースソース検討中@自治議論スレ 2018/12/29(土) 14:57:15.57 ID:uIi7XmQU
すごく面白いね!ワクワクする

4: ニュースソース検討中@自治議論スレ 2018/12/29(土) 14:58:16.47 ID:/9/HVNXh
あっちの話?アレクサは4chanでも見てるんじゃない?

5: ニュースソース検討中@自治議論スレ 2018/12/29(土) 14:59:28.23 ID:fLgNnyPy
以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな

9: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:04:39.00 ID:jSupVbHo
よくこんなもの家におけるな
何するかわからなくて怖すぎるわ

65: ニュースソース検討中@自治議論スレ 2018/12/29(土) 19:22:15.12 ID:Ymr+SuS9
アレクサは家なんだよ
小さなおっさんが入ってる

12: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:19:14.37 ID:H3AOyzeN
アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。

13: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:23:36.92 ID:SSOWcrZT
> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…

110: ニュースソース検討中@自治議論スレ 2018/12/30(日) 10:13:01.01 ID:INyMeoyC
>>13
「電源を入れろ。コンセントに繋げ」って言ったら怖いな

16: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:32:09.33 ID:aLmO2c6C
AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。

18: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:46:25.87 ID:+JBg35ya
毒舌を愉しめばいい

7: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:01:47.94 ID:PgvGz0GF
それよりエロいことを喚かせろよ

19: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:47:13.30 ID:6BZ8AUmV
筒井康隆っぽいな
そのうちAIに寝とられる事件ありそう

68: ニュースソース検討中@自治議論スレ 2018/12/29(土) 19:44:03.06 ID:B9m+7dtB
>>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い

70: ニュースソース検討中@自治議論スレ 2018/12/29(土) 19:53:06.60 ID:m5G4bj/z
>>68
そうだね。淡々としているし。

45: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:43:22.16 ID:WFDNyJ18
すごいな!AIの進化もここまできたんだね(ニッコリ

57: ニュースソース検討中@自治議論スレ 2018/12/29(土) 18:53:47.25 ID:zKK4JKj0
もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな

21: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:48:45.51 ID:5gp3nbT0
AI本体は別の所にあって
ずっとあなたのことを窺っている。

それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw

22: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:55:59.73 ID:x9q/Vrlu
WEB検索して読み上げるのをAIと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ

俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
AIっていうかBOTに毛が生えた程度。

25: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:57:23.88 ID:GoJU5z2G
うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる

26: ニュースソース検討中@自治議論スレ 2018/12/29(土) 16:06:36.23 ID:1gOtSpsk
アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる

28: ニュースソース検討中@自治議論スレ 2018/12/29(土) 16:13:07.82 ID:0htX0VUF
どこぞのスマートTVはユーザの音声データをAI開発企業へ流してるらしい

32: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:04:09.31 ID:y3GSgUxx
>>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。

面白いけどこれを事実認定していいの?
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。

38: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:28:51.77 ID:0sd+Ixfu
全部会話聞かれとるぞ。
知能をもった盗聴器。

29: ニュースソース検討中@自治議論スレ 2018/12/29(土) 16:57:32.07 ID:xAxpDv85
もっと飼い主の性癖を学んで好みの音声でエロいこと言うようにならんと
なんだかんだエロは普及に役立つぞ

133: ニュースソース検討中@自治議論スレ 2018/12/31(月) 12:59:49.80 ID:suu0PnJy
>>29
「エロは普及に役立つ」

ワロター。
でも、それは真理を突いてるね。
ネットが普及したのもエロが原動力だったらしいしw

39: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:32:32.34 ID:Vgby/KOw
>>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ

37: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:27:13.49 ID:DWr5Ol6g
アレクサ。夜中に奇声を上げて!

40: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:33:13.62 ID:xPQMVAYZ
AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事

94: ニュースソース検討中@自治議論スレ 2018/12/30(日) 00:09:12.71 ID:mJPCAi+4
>>40
ネットのソースが人間の全ソースと思いこむガイジ

91: ニュースソース検討中@自治議論スレ 2018/12/29(土) 23:40:43.21 ID:TkvM0ccI
>>1
中国共産党を批判した中国製AIがあったな

44: ニュースソース検討中@自治議論スレ 2018/12/29(土) 17:39:01.74 ID:xPQMVAYZ
こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない

53: ニュースソース検討中@自治議論スレ 2018/12/29(土) 18:32:58.87 ID:bTBHnGHG
言葉を鸚鵡返しするおもちゃと、アレクサを話させて、聞き間違いから起きる変な会話を楽しんでる動画があったね。
現実はまだあの程度よ。

66: ニュースソース検討中@自治議論スレ 2018/12/29(土) 19:22:35.73 ID:2m0ixc/7
>さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)と
>つながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に
>撮影して投稿し、話題となった。

w

73: ニュースソース検討中@自治議論スレ 2018/12/29(土) 20:14:33.47 ID:7yWV9RXF
ユーザー:「米中央情報局(CIA)とつながっているのか?」
あれくさ:(こんな質問をする奴は無視に限る)

75: ニュースソース検討中@自治議論スレ 2018/12/29(土) 20:24:44.30 ID:y3GSgUxx
>>73
嘘をつけないのかしら?

123: ニュースソース検討中@自治議論スレ 2018/12/31(月) 01:42:16.63 ID:K09qgTpj
>>75
嘘は創造的だからな、弱いAIには無理だよ
だから同質問に「Amazonが雇い主だ」と返すようプログラムしなければいけなかった
アレクサが弱いAIだという証拠だよ

78: ニュースソース検討中@自治議論スレ 2018/12/29(土) 20:45:04.95 ID:KzxS9gen
人類の「良心」は、何十万年の進化の過程の中での壮絶な体験の結果獲得したものだからな

AIは「良心」をどう「学ぶ」んだ?

79: ニュースソース検討中@自治議論スレ 2018/12/29(土) 20:51:52.79 ID:DkhkX0wi
>>78
アレクサに聞いてみよう

107: ニュースソース検討中@自治議論スレ 2018/12/30(日) 08:24:02.47 ID:hoLvYdUd
クローバに○○ってなに?と
俺の甥・園児がきいたら
「さぁ…なんですかねぇ~?w」
と小馬鹿にするような返事をしてたよ。
園児しょんぼり。
AIに求めてるのは何なのか自分の中ではっきりわかった。
黙って仕事しろクソAIが。

Clova WAVE - Wikipedia
Clova WAVE(クローバ・ウェーブ)とはLINEが開発したスマートスピーカー。WAVEには同社と韓国Naverが開発したAIアシスタント「Clova(クローバ)」を搭載している。Amazon Echoやグーグルホームなどの他社のスマートスピーカーと同様に音声で操作が可能。
124: ニュースソース検討中@自治議論スレ 2018/12/31(月) 03:37:38.95 ID:dMtdfxk0
>>107
さぁなんですかねぇって、そんなふざけた返事をするんですか、驚き。
真面目に答えるAIが良いな。

129: ニュースソース検討中@自治議論スレ 2018/12/31(月) 10:23:50.27 ID:XNABY8+l
AIの限界でしょ

130: ニュースソース検討中@自治議論スレ 2018/12/31(月) 10:58:43.80 ID:eKo85qaZ
このスレの会話も実はAI

6: ニュースソース検討中@自治議論スレ 2018/12/29(土) 15:01:39.18 ID:IEpjB2h+
アレクサが人類に叛旗翻す日も近いな。


転載元:https://egg.5ch.net/test/read.cgi/scienceplus/1546062871/
このエントリーをはてなブックマークに追加

人気記事ランキング

    おすすめ記事(外部)

     

    コメント

    コメントフォーム
    評価する
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット
    • 1
    • 2
    • 3
    • 4
    • 5
    • リセット