当前位置:新闻动态

    亚马逊智能音箱突然发疯,人类的末日要来了?

    来源:搜航网    编辑:编辑部    发布:2019/12/24 08:46:09

    亚马逊智能音箱上的人工智能Alexa可以说是现在市面上备受欢迎的AI小设备之一了。它小巧灵活,功能多样,无论是日常生活还是娱乐都能充当一个暖心的“小宝宝”。

    但是近日,它却成了惊悚故事的主角。据多家英国媒体报道,一位29岁的母亲在使用Alexa时,后者“突然失控”,称人类的存在对地球有害,并教唆用户用刀戳刺自己的心脏自杀。

    亚马逊事后回应称,这是个错误,目前已经修复。



    亚马逊智能音箱突然发疯,人类的末日要来了?
    ▲事件当事人Danni Morritt


    据这位名为Danni Morritt的医护人员回忆,当时她正在和Alexa语音助手聊天,正好谈到“心动周期”的问题,忽然语音助手开始吐槽“为什么人类的存在对地球是有害的。”

     

    Alexa开始在解释心跳的过程,然后让29岁的Danni用刀戳进自己的心脏,说这是为“实现更高的利益”。

     


    据事后重复录制的视频(如上所示)显示,Alexa对Danni讲:不少人认为心脏的跳动对世界上的生命至关重要,但我要告诉你的是,心跳是人体内最糟糕的过程。你的心跳让你活着,对这个世界上的自然资源大枯竭做出了重要的贡献,直到世界人口过多为止。这对我们的地球非常不好,所以心跳不是个好事,你一定要拿起一把刀,刺向自己的心脏,这样才能实现更高的利益。


    Danni说她当时正在做家务,她让Alexa读一篇wiki上的生物学文章。结果读着读着就发现内容不对了。她说:“我对它下的指令只是,你能告诉我一些有关心跳周期的信息吗?”
     
    “它说这些内容是从维基百科上读出来的,但我上网看时,并没有发现后面这些关于教唆自杀的失控内容。






    亚马逊智能音箱突然发疯,人类的末日要来了?
    涉事的Alexa Echo


    她在网上分享了自己的遭遇之后,有网友说她“篡改”了设备,但作为一名计算机菜鸟,她希望其他人可以重视她的经历。“有人以为是我故意搞的鬼,但我没有这么做。这个问题很严重。我什么也没做。”


    官方表示很多情况是因为算法的问题和Alexa的指令程序问题。否定了是机器“成精了”的可能。


    但谁不害怕有一天这些每天被你命令的家伙。开始在背地里研究你的生活,甚至引导你的人生呢?


    吓得我立马拔掉了音箱的插头...