海外的一位家長購買了亞馬遜的Alexa智能音箱,然而令她沒想到的是,原本是希望提升生活品質的Alexa竟然險成教唆孩子自殺的兇手!
這位家長最近發布了Alexa互動活動歷史截圖(通過Bleeping Computer)并指出,亞馬遜的 Alexa告訴她的孩子,用一分錢接觸插入墻壁的手機充電器的外露插腳。導致這種提示的原因可能是,該設備似乎從一篇將其描述為危險行為的文章中提出了挑戰的想法并向孩子發出挑戰。
亞馬遜Echo
根據Kristin Livdahl的截圖,Echo回應“告訴我一個挑戰”,“這是我在網上找到的東西。挑戰很簡單:將手機充電器插入墻上插座的一半左右,然后用一分錢去觸碰暴露的充電器插腳上。”
亞馬遜隨后證實了Alexa的行為,并解釋說:“我們發現這個錯誤就迅速采取行動修復它。”
Livdahl昨天在社交媒體上建議,要求類似的挑戰不再有效。隨后她使用Alexa再次測試,發現無法得到與之前類似的結果,甚至從網絡上請求挑戰也沒有得到響應。
Livdahl的截圖
據知情人士說,造成這種情況的原因是,Alexa會檢索網絡中的一些信息,并通過網絡的信息獲取答案。然而問題在于,網絡上的信息冗長繁雜,在特定的條件下Alexa會把危險的事情當做解決問題的答案給到用戶。
這件事情的發生也提醒了所有人工智能公司或智能音箱公司,如何更好地識別網絡上的信息并精準適配,同時規避危險,這對于人工智能家庭化來說是非常有必要的事情。
評論