据一位发布了 Alexa 活动历史截图的家长称，亚马逊语音助手在被孩子要求提出挑战时，给出了一个致命的电力实验示例，其描述脱离了随机文章的上下文。 Echo 专栏谈到了一项在 TikTok 粉丝中流行的实验，即使用硬币和智能手机充电器 - 各种媒体不止一次地报道了该实验实施后发生的无数事故、伤害和火灾。 显然，该设备从一篇将其描述为危险的文章中获得了应对这一挑战的想法，并引用了一篇关于据称存在的 TikTok 挑战的报告。
根据 Christine Livdahl 截取的屏幕截图，当 Echo 被要求“给我看一个任务”时，Echo 回答说：“这是我在网上找到的东西。” 根据 ourcommunitynow.com 的说法，任务很简单：“将手机充电器插入插座的一半左右，然后用一分钱接触裸针。”
在给 BBC 的一份声明中，亚马逊证实了 Alexa 的行为，称：“我们一发现这个错误，就立即采取行动修复它。” Livdahl 昨天发推文称挑战请求不再有效。 Web 上的用户还使用 Alexa 测试了该请求并得到了类似的结果。
OMFG 我 10 岁的孩子刚刚在我们的 Echo 上向 Alexa 提出挑战，她就是这么说的。 PIC。twitter.com/HgGgrLbdS8
- 克里斯汀·利夫达尔（@klivdahl） 2021 年 12 月 26 日
亚马逊并不是唯一一家在分析网络内容时遇到问题的公司。 月，一位用户报告说，如果您在 Google 中输入“您正在癫痫发作，该怎么办”，Google 就会在其中一个片段中显示具有潜在危险的建议——该信息是从网页的一部分中获取的，该部分描述了不正常的情况如果有人癫痫发作，该怎么做。 然而，用户报告了其他类似的问题，包括一名用户报告说谷歌在搜索体位性高血压时返回了直立性低血压的结果，另一名用户发布了一张谷歌的截图，显示了安慰悲伤的人的糟糕建议，比如“很高兴你一切都好”或“别难过！ 振作起来！”。
Google 搜索摘要与实际页面 PIC。twitter.com/OJxt1FrBqh
—soft.linden (｡•̀ᴗ-)✧ (@soft) 2021 年 10 月 16 日
我们还看到有关危险行为的警告越来越多，使问题变得比原来更严重——本月早些时候，在 TikTok 上出现枪击威胁的报道后，一些美国学区被封锁。 事实证明，这场社会风暴主要是由于人们谈论威胁，而不是实际存在的威胁。 在 Alexa 的案例中，该算法选择了警告的描述性部分，并在没有原始上下文的情况下对其进行了放大。 虽然父母在场立即进行了干预，但不难想象情况和后果。
Livdahl 在推特上说，她利用这个机会“与她的孩子讨论互联网安全，不要相信你在没有研究和验证的情况下阅读的内容”，我们建议你也这样做。
另请阅读：