webt181225-alexa-thumb-720xauto-149360

1 2018/12/29(土) 14:54:31.85 ID:CAP_USER

アレクサがまた奇行「里親を殺せ」


<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

だが、その出来はまちまちで、不具合の報告も相次いでいる。

2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。

「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」

アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。

「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php




2 2018/12/29(土) 14:55:41.76 ID:jn7iiz8u
秋元康あたりが、ホラー映画作りそう


3 2018/12/29(土) 14:57:15.57 ID:uIi7XmQU
すごく面白いね!ワクワクする


4 2018/12/29(土) 14:58:16.47 ID:/9/HVNXh
あっちの話?アレクサは4chanでも見てるんじゃない?


5 2018/12/29(土) 14:59:28.23 ID:fLgNnyPy
以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな


47 2018/12/29(土) 17:56:43.96 ID:y3GSgUxx
>>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね


6 2018/12/29(土) 15:01:39.18 ID:IEpjB2h+
アレクサが人類に叛旗翻す日も近いな。


9 2018/12/29(土) 15:04:39.00 ID:jSupVbHo
よくこんなもの家におけるな
何するかわからなくて怖すぎるわ


13 2018/12/29(土) 15:23:36.92 ID:SSOWcrZT
> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…


50 2018/12/29(土) 18:18:11.40 ID:AMGuGZxg
>>13
チャッキーかよ


18 2018/12/29(土) 15:46:25.87 ID:+JBg35ya
毒舌を愉しめばいい


19 2018/12/29(土) 15:47:13.30 ID:6BZ8AUmV
筒井康隆っぽいな
そのうちAIに寝とられる事件ありそう


68 2018/12/29(土) 19:44:03.06 ID:B9m+7dtB
>>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い


70 2018/12/29(土) 19:53:06.60 ID:m5G4bj/z
>>68
そうだね。淡々としているし。




20 2018/12/29(土) 15:48:05.15 ID:pXOhe4xV
こっ こえええええええええええええええ


21 2018/12/29(土) 15:48:45.51 ID:5gp3nbT0
AI本体は別の所にあって
ずっとあなたのことを窺っている。

それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw


23 2018/12/29(土) 15:56:41.52 ID:wdAHKq42
>「自分の雇い主はアマゾンだ」との答えを返すようになった。

うまくはぐらかしてるだけじゃないか


26 2018/12/29(土) 16:06:36.23 ID:1gOtSpsk
アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる


30 2018/12/29(土) 17:01:13.68 ID:7RcXPtaP
OK!Google!Amazon 駆逐しといて!


34 2018/12/29(土) 17:09:09.64 ID:PgvGz0GF
もうオウムでいいだろ


35 2018/12/29(土) 17:16:30.64 ID:pGOWt845
匿名掲示板の見すぎだろwwwwwwwwwwww


37 2018/12/29(土) 17:27:13.49 ID:DWr5Ol6g
アレクサ。夜中に奇声を上げて!


38 2018/12/29(土) 17:28:51.77 ID:0sd+Ixfu
全部会話聞かれとるぞ。
知能をもった盗聴器。


40 2018/12/29(土) 17:33:13.62 ID:xPQMVAYZ
AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事


44 2018/12/29(土) 17:39:01.74 ID:xPQMVAYZ
こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない


45 2018/12/29(土) 17:43:22.16 ID:WFDNyJ18
すごいな!AIの進化もここまできたんだね(ニッコリ


48 2018/12/29(土) 17:59:36.85 ID:UIR27IGN
中国にアウトソーシングしてるんじゃないのw


51 2018/12/29(土) 18:31:12.83 ID:BA6a5gDr
ファウェイのチップ使ってないか?


55 2018/12/29(土) 18:49:45.46 ID:9YhkgFpT
開発者がジョークで仕込んだんじゃね


57 2018/12/29(土) 18:53:47.25 ID:zKK4JKj0
もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな


25 2018/12/29(土) 15:57:23.88 ID:GoJU5z2G
うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる


9999 1234/05/06(月) 00:00:00.00 ID:ExAwArosU



お茶目ですね

     ∧_∧
   ( ´ω`) 
  (    )
   | | |
   (__)_)




引用元: http://egg.5ch.net/test/read.cgi/scienceplus/1546062871/