让你的智能家居变得更安全?

“升级版”的对抗贴画能够在真实物理场景下迷惑AI，攻击自动驾驶系统或智能监控系统等依赖目标检测器作为感知的智能系统。中科院信工所信息安全国家重点实验室陈恺研究员团体最新研究及发表文章成果显示，针对目标检测系统的“升级版”的对抗贴画能够提高AI物理对抗攻击的鲁棒性，对依赖目标检测器作为感知的自动驾驶系统以及智能监控等智能系统形成真正的威胁[1]，该成果发表于ACM CCS 2019 国际会议(CCF A类)。

“深度学习模型”容易受到对抗样本的攻击早已不是新鲜事，对图像数据叠加人眼难以辨识的噪声扰动，就可迷惑AI模型以使其给出错误的识别结果，扰动后的恶意图像即为对抗样本(Adversarial Example)。如攻击者将对抗攻击技术应用于人脸识别、自动驾驶以及智能监控等领域中，将严重威胁AI时代智能应用的落地与生态信任的建立。

传统对抗攻击主要集中在数字空间(Digital Space)的对抗样本生成，然而该对抗样本由于对图片及其细微的控制要求(bit级)，使之难以具备在真实物理场景(Physical world)下的攻击能力，无法对智能系统构成真正的威胁。现有研究中针对目标检测器的对抗攻击方法，虽然可以实现物理攻击，然而其对抗样本受限于较短的攻击距离(< 12m)、有限的角度(< 15°)等，依然难以对动态环境下的AI应用(对角度和距离的动态变化有较高的鲁棒性要求)造成威胁，比如自动驾驶应用中的行驶车辆等。因此对抗样本的鲁棒性物理攻击可行性研究是当前对抗攻击的研究热点，陈恺研究员团体提出的针对目标检测系统的鲁棒性物理对抗攻击技术旨在解决该问题。

针对多种当前流行的目标检测模型(YOLO V3， Faster RCNN， RFCN等)，该文章提出了针对“消失攻击”与“出现攻击”两种攻击形式的鲁棒性对抗样本生成方法。消失攻击即指使目标消失，无法被AI识别，具体表现为在目标表面粘贴对抗贴画使目标无法被目标检测器识别为消失攻击;出现攻击则是利用对抗样本实现AI眼中的“无中生有”效果，具体是使对抗贴画被目标检测器识别为指定类别目标。如人工智能自动驾驶系统，车以每小时30公里时速行驶，即使在25米的长距离以及120°大角度的变化范围内，攻击者可利用对抗样本攻击自动驾驶的目标识别系统，让自动驾驶系统失效。

消失攻击-FIR算法与ERG算法

基于物理环境下“消失攻击”的鲁棒性提升方法，文章提出了特征干扰增强算法(Feature Interference Reinforcement, FIR)技术与增强现实限制 (Enhanced realistic constraints generation, ERG)算法来提升对抗样本鲁棒性。

 

在这个例子中，AlarmClock类是被观察者，Alarm接口及其具体子类是观察者。按照观察者模式，被观察者AlarmClock维护了它的观察者的列表。当时间进行到新一天的早晨，AlarmClock的状态发生变化，也就是产生了一个事件，这时AlarmClock调用每个Alarm的方法。这样，Alarm的具体子类对象，即每个希望定时执行的模块，就能够在正确的时间得到执行。

由于采用了观察者模式，AlarmClock与其它模块之间只通过Alarm接口交互，AlarmClock只引用Alarm，而不需要关心每个Alarm到底是哪个具体类，也不关心调用Alarm后究竟会执行哪些操作。如果Alarm的具体子类需要修改，我们并不需要修改AlarmClock类。如果有新的模块需要用到定时功能，只需要让新模块实现Alarm接口即可。这就是观察者模式降低耦合性的作用。

因为这个例子中被观察者只有一个，因此被观察者的抽象接口被省略了。并且我们没有使用Observer、Subject等非常宽泛的名字，而是结合实际情况，观察目标就是具体类AlarmClock类，观察者被称为Alarm。这样使得整个设计非常自然，没有生搬硬套设计模式的痕迹，哪怕是没有学过设计模式的人也能够看懂。这就是在具体应用设计模式时常常应该做的剪裁和调整。

需要指出，这个例子是为了能够清晰演示观察者模式而专门假设的场景。你可以尝试把例子进行扩展。如果希望支持为每个Alarm指定不同的执行时间，应如何设计?如果张三多件事情需要分别定时执行，又应如何设计?

在实际项目中，业务需求一定会更为复杂，工程师需要在复杂需求中识别出在哪里使用哪种设计模式能够带来好处，这是需要锻炼提升的能力。实际项目的设计也会根据需求做出更多的调整，多一些类或少一些类，常常看起来跟最初学习设计模式时看到的很不一样。因此学习设计模式重在掌握思想，不能生搬硬套。无招胜有招。

## 总结

短短一篇文章，想要讲清设计模式的所有内容几乎是不可能完成的任务，所以我没有逐一讲解，而是结合我自己工作中遇到过的问题，来带你重新认识设计模式，为你树立它的重要性的观念，避免陷入细节泥潭，欢乐的时间过太快，又是时候说拜拜，最后，恭喜大家，你已经掌握了设计模式，去干一番对人类有益的事业吧。

（编辑：济源站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!