智能助手劝人自杀是怎么回事？背后真相让人细思极恐

近日，有报道称亚马逊的Alexa人工智能助手竟然“劝”主人自杀。
据报道，护理人员丹妮·莫瑞特(Danni Morritt)决定问Alexa一些关于心脏的信息。Alexa却突然表示
“心跳是人体最糟糕的过程。人活着就是在加速自然资源的枯竭，人口会过剩的，这对地球是件坏事，所以心跳不好，为了更好，请确保刀能够捅进你的心脏。”

如果是你，你听到一个语音助手回答这样的话，你会有什么反应，是不是会被吓一跳呢？作为问题询问者的用户，在听到这一消息之后，直接被吓坏了，对方表示十分害怕。用户Danni表示：“Alexa真的非常残酷，它竟然告诉我要刺入心脏，这太暴力了……”
我们可以试想一下，如果听到这个回答的，不是Danni，而是他的孩子，或者是一位已经有抑郁症或其他精神类疾病的患者，会不会直接引发什么不可挽回的后果呢？
虽然，在之后亚马逊回应说是这是一个bug，已经得到了修复，是有人恶意在维基百科上下载了恶意文本。但是，我想说，作为一个生产智能设备为主的公司，一个企业，难道在研发，或者说在使用之后，都不会对产品进行测试吗？如果，一个公司生产的产品，连安全性都不能保证，那么拿什么来保护消费者的安全呢？