新罕布什尔的一名法官迫使亚马逊制作一份双重谋杀案当天Alexa设备上的录音。
众所周知,Alexa和Google Home等家用式连接助手能够对其所有者进行监视,而在新罕布什尔州的一起双重谋杀案则可能真正揭开这类监控到底进行到了什么程度。如果你觉得这很恐怖——它应该是。
现在,因为这些设备对我们有多大的监视程度并不是什么新奇的观点,所以谷歌或脸书正通过你的麦克风听你说话,或者有人正通过你的网络摄像头进行间谍活动的这些想法更倾向于被视为一种都市神话,只有些许轶事能够支撑这一说法。
这可能有点天真。
今天我们要讲的就是这些家用物联网设备,以及它们在你身上收集了多少数据。
你在你的Echo周围说的话将来可能在法庭上对你不利
在讨论这一话题之前我有几句话要说:通常,我都倾向于颠覆性的做法,并且时不时地放纵一下我的冷幽默,但在这里我要谨慎一点,因为在这一话题上开玩笑是非常不恰当的。1月27日,克莉丝汀·沙利文和她的朋友詹娜·佩莱格里尼在沙利文和男友合住的房子里被刺身亡。
两天后,人们发现了他们的尸体被裹在防水布里,藏在房子的门廊下。凶器被埋在尸体下面一英尺深的地方。
检察官指控36岁的提摩西·维尔里尔(Timothy Verrill)谋杀了这两名女性,因为他怀疑其中一名女性向警方告发了一起毒品行动。
为了把事情拼凑起来,新罕布什尔州负责对该起案件提起公诉的检察官向亚马逊发出了传票,要求亚马逊提供苏利文的Echo设备在谋杀案发生当天到两天后尸体被发现时之间所记录下的材料。亚马逊的Echo是一款智能扬声器,可以与亚马逊的语音助手Alexa连接。它有录制音频的能力。这个功能让很多更注重隐私的人感到很不舒服。
上周,一名法官批准了该检察官的请求,强制亚马逊制作录音。
以下摘自《华盛顿邮报》所披露出的法庭文件:
“法庭认为,有理由相信为亚马逊维护和由亚马逊进行维护的服务器和/或记录包含了Echo智能语音助手在2017年1月27日到1月29日之间所记录下的录音……这些信息包含了对沙利文女士施以暴行的证据,包括攻击和可能将尸体从厨房转移出来。”
亚马逊会发布沙利文的Echo设备所记录下的音频吗?
并非没有抗争过。这是第二次发生此类案件了,之前法院就要求亚马逊交出过它的录音。
2015年末,一名被害者被发现死于一个热水浴缸中,亚马逊随后被命令制作嫌疑人的Echo设备所记录下的录音。亚马逊反对法院的这一命令,声称用户的语音录音和Alexa的响应信息都受到了美国第一修正案的保护。
亚马逊通过引用格里斯沃尔德诉康涅狄格州案中的裁决为由,称“言论自由”具体包括:
“获得的权力、阅读的权利,和调查的自由……”
亚马逊还使用了之前更有利于谷歌的一项判决先例,在此案中,谷歌称排名的搜索结果构成了“宪法保护”的范畴,因此亚马逊的回应——其中许多利用了上述搜索排名——是符合言论自由这一范畴的。在我看来,这有点牵强,因为谷歌案中的裁决(圣路易斯·马丁诉谷歌案)称,该搜索巨头谷歌不能被迫更改其排名,因为它们受到了保护。
这是一个有趣的论点,但最终还是没有进行判决,因为嫌疑人公布了他自己的录音,结果显示,它们最终并没有什么用。之后,对他的指控也被撤销了。
与其说这是一场谋杀案,不如说这是一场法律之战
虽然为这两位年轻女性讨回公道的愿望绝对值得法院下达这一命令,但对其合法性的争论将对社会产生更大的影响。
“亚马逊当然反对提出过于宽泛或不恰当的要求。”
正如我们刚刚指出的,亚马逊提出了一个新颖的论点,这个论点得到了以往案件中先例的支撑。它还收集了很多信息来处理这个问题,从亚马逊的角度来看,这是非常重要的。
当你考虑到波及面的时候,你会发现原因很明显。
因为这不是一个好的先例
让我们从最明显的一个原因开始。对于亚马逊、谷歌和脸书来说——它们都有这种带有语音助手的智能设备——没有一个愿意遵守政府的要求交出数据。他们都说希望遵守法律,但那只是口头上的。数据是现代经济中最珍贵的商品。如同香肠的制作流程一样,这些公司想要尽可能地不透明化操作:他们究竟在收集什么,是如何使用它的,谁可能有兴趣购买它等等。
举个恰当的例子,看看谷歌和脸书是如何藐视欧盟的《通用数据保护条例》就知道了。这一决定可能会开创一个先例,让亚马逊和其他这些公司都不想要遵守。
因为亚马逊将不得不披露Alexa到底记录了多少
除此之外,应当承认这是一个更具阴谋性的问题,但是亚马逊可能不希望披露所有这些支持Alexa的设备到底记录了多少数据。Alexa可能比我们想象的要忙碌得多。现在,我知道这听起来有点不切实际,但人们通常认为只有向Alexa提示“Alexa”、“computer”和“Echo”等单词时它才会记录信息。但是谁知道呢。坦率地说,这取决于你对亚马逊和谷歌的信任程度。
此外,把computer作为一个提示词,这似乎有点奇怪,因为除了Lego Batman,我不确定还有多少针对智能设备的命令是以“computer”开头的。这看起来像是一个会更经常触发Echo开始录音的单词,任何时候只要它出现在了正常的对话过程中。
如果亚马逊在这一争论中输了,并且不得不交出设备所录制的所有音频,那么这就将不再是一件微不足道的事情。因为(希望如此)这些事情很有可能会超出他们的授权范围,而且记录的内容就能比我们被告知的要多得多——好吧,用乔·拜登的话来说,这将是“一件大事”。
最后是这场争论可能产生影响的最后一个领域。
因为这将对即将到来的关于人工智能的辩论产生重大影响
亚马逊的Alexa实际上还不是一个人工智能。让我们从这个开始,因为我已经可以想象有人跑到评论区,“嗯,实际上……”不要做这个人。她不是一个AI,她只是一个使用机器学习的智能虚拟助手。懂了吗?
但是当AI真正到来的时候,发生在Alexa的身上两件事将使得它成为智能语音领域的领头羊。第一件是Alexa的拟人化。Alexa的目的是模糊人与电脑之间的界限。她有一副迷人的女性嗓音,她有一个名字。人们通常不得不叫她的名字来和她交流。她不接受言语虐待。我甚至在谈论她时用了一个人称代词。
我们越来越倾向于把Alexa当成一个人类,而不是一个机器,因为随着电脑变得越来越像人类,人们对Alexa的厌恶程度可能比一些学者预测的要低。
这就引出了这场法律斗争的第二个更深刻的方面:这可能导致虚拟实体拥有享有宪法第一修正案的权利。这是件大事。在未来十年左右的时间里,随着人工智能的普及,这将会产生令人难以置信的后果。
请注意这一点
因此,正如我们在上面所说的,尽管这一可怕的暴力行为使得两个年轻的生命无辜丧命,但其更严重的后果是,这可能会迫使法院做出判决,并开创一个先例,那些主要的科技公司和AI公司则不得不进行遵守。
所以,请注意这一点。同时,如果你即将犯下罪行,请记得一定要拔掉智能扬声器和虚拟助手的插头。