女黑客设计“反监视套装”,掀起“对抗时尚”

互联网
女黑客设计“反监视套装”,掀起“对抗时尚”
麻省理工科技评论 2019-08-19

2019-08-19

“反监视套装”系列可以给监视摄像头传递垃圾信息使其识别认证出现问题,从而影响到摄像头背后数据库的有效性。
人工智能
“反监视套装”系列可以给监视摄像头传递垃圾信息使其识别认证出现问题,从而影响到摄像头背后数据库的有效性。

据《麻省理工科技评论》的报道,一家名为 Adversarial Fashion(中文译名“反对时尚”)的公司在上周举办的 DefCon 网络安全大会上,展示了它的首个“反监视套装”系列,这些卫衣、短袖、长裙和短裙可以给监视摄像头传递垃圾信息使其识别认证出现问题,从而影响到摄像头背后数据库的有效性。

Kate Rose 是这些衣服的设计者,她同时还是一名黑客。一次采访中她谈到,在与朋友闲聊的过程中,朋友提到电子车牌阅读器(automated license plate readers,简称 ALPRs)会经常出错,它们可能会把栅栏或者其他一些东西误判为车牌。“后来我想,既然它能被栅栏糊弄,或许我也可以愚弄它一下。”

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | “反对时尚”裙被 ALPR 识别为摩托车车牌(来源:The Guardian)

于是,这个套装系列应运而生。

从电子车牌阅读器的视角来看,这些衣服是一个车牌的集合,每一个车牌状的图案都将被添加到数据库中,就像其他正常的车牌被收录一样。但是随着数据库中无效车牌数据的急剧增多,部署这种监视设备的成本就越高,同时识别效率也会锐减。

但从肉眼来看,这些衣服只不过是一些印有奇怪图案和线条的服饰。有意思的是,Rose 的第四代修正 T-shirt 用的粗体黄字是美国宪法第四修正案所用的字体。该修正案旨在保护国人免受“不合理的搜查和扣押”,这是对美国政府各种形式的政府监控的重要反抗。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | Adversarial Fashion 官网

在美国,大部分警车、路标或者桥梁等物体上都安装了电子车牌阅读器,这些阅读器使用小型高速摄像机每分钟拍摄数千张照片,以此被用于记录每一个车牌号、位置以及时间。其中,真正被用来执法的信息只占一小部分,更多的是无辜的司机被监视和记录。此外,还有一些私营公司也在使用这些数据,几乎没有政府监督和隐私保护。如此种种,引发了隐私权倡导者的恐慌,他们认为,这些电子车牌阅读器使一种存在法律问题的大规模监控成为可能。

Rose 设计此类衣服的目的不言而喻。“如果连简单的布料都能愚弄电子车牌阅读器,那么我们或许不应该打造一个系统把所有重要的信息都挂在上面。”

当然,并不是所有糊弄电子车牌阅读器的尝试都能像 Rose 的衣服这么成功。一个名为 Droogie 的黑客注册了一个“NULL”的自定义车牌,因为在很多公共数据库系统中 NULL 表示一个空条目,所以他以为可以利用漏洞“隐身”。结果是,他被开的罚单超过 12000 美元,因为每一个无效车牌的超速罚单都被记在了他身上。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | 美国四个州的数据保留策略(来源:ACLU)

美国公民保护隐私的斗争早已有之且形式多样。为了反击监控,有人设计了印有对抗图像的服装来迷惑人工智能,有人用古怪的妆容和发型来混淆面部识别软件,甚至还有一种帽子可以通过红外照明投射让人脸识别系统认为你是歌手 Moby。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | 连接微型红外 LED 的棒球帽,可以通过投射到佩戴者脸上的光点“欺骗”人脸识别系统(来源:VICE)

以上方式其实是利用了人工智能算法的漏洞,通过输入恶意样本来欺骗算法,使系统最终输出一个“不正确”的结果,这被称为“对抗样本攻击”。原理在于:机器学习分类器通过它试图区分的两个事物之间找到一条分界线,并将之用绿点(可接受)和红点(禁止)区分开来,根据这条线,分类器可以完美工作。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | 分类器正常运作(来源:Medium)

如果我们想要使其分类失误,也就是要把其中一个红点分类为绿点,那么现在只要考虑在边界旁边红点的 Y 值上添加多少单位可以将它推向绿色区域。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | 分类异常(来源:Medium)

在使用深度神经网络的图像识别中,我们分类的每个“点”都是由数千个像素组成的完整图像。这为我们提供了数以千计的可能值,通过它们可以改变决策线。也就是说,我们只要轻微改变一个照片的像素,人工智能就会被轻易欺骗,“猫变面包机”可以轻松实现。

女黑客设计“反监视套装”,掀起“对抗时尚”

图 | 把猫“变成”烤面包机(来源:Medium)


麻省理工科技评论

From Tech to Deeptech