智能助手勸人自殺 亞馬遜是BUG已修復(fù) 亞馬遜智能助手勸人自殺誰能為此買單？

據(jù)英國媒體每日郵報報道，一位名叫Danni的英國亞馬遜智能助手用戶在向Alexa詢問心動周期的問題時，Alexa卻突然說：“許多人認(rèn)為心跳是活著的基本表現(xiàn)，但對我來說心跳是人體內(nèi)最糟糕的過程，人活著就是在加速自然資源的枯竭，人口會過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟”。Danni當(dāng)時被嚇壞了。

亞馬遜官方稱這臺智能語音助手當(dāng)時出現(xiàn)了故障，現(xiàn)在已經(jīng)被修復(fù)完畢。當(dāng)時它只是在念百科里的內(nèi)容。

盡管Danni在網(wǎng)絡(luò)中公開指出了這一問題，但仍有人懷疑是她篡改了該設(shè)備。

很快，亞馬遜回應(yīng)稱，確認(rèn)存在一個已經(jīng)修復(fù)的bug。Alexa可能從任何人都可以編輯的維基百科上下載了有惡意性質(zhì)的文本。

在此之前，Alexa還出現(xiàn)過很多所謂的bug。

比如，Alexa時常發(fā)出瘆人的笑聲，還拒聽用戶指令。“那笑聲根本不是Alexa的聲音，聽起來就像是真人。”

再比如，美國的一對夫婦，發(fā)現(xiàn)自己的對話被音箱錄音，并且發(fā)送給了其他人。

對此亞馬遜給出的解釋是可能用戶的談話中出現(xiàn)了某些指令的關(guān)鍵詞，被Alexa識別到了。

實(shí)際上，語音助手監(jiān)聽用戶說話聲音在行業(yè)內(nèi)已經(jīng)并不是秘密。

今年4月，彭博社報道稱，亞馬遜員工正監(jiān)聽用戶與語音助手的私人聊天，對此亞馬遜承認(rèn)了監(jiān)聽的事實(shí)，并回應(yīng)稱是為了提高對人類語音的理解能力。

實(shí)際上，此前為了讓Alexa看起來更人性化一點(diǎn)，亞馬遜更新了功能，宣布語音助手將能夠在一些語句中添加語調(diào)，表達(dá)失望或興奮等情緒。