基于边缘计算的图像识别系统的设计与开发的文献综述
研究背景及意义
近年来，机器学习中的神经网络（Neural Network ，NN）和深度神经网络（Deep Neural Network ，DNN）[1]技术在众多应用中取得了巨大的成功，已迅速成为人们关注的焦点。例如：深度卷积神经网络（Convolutional Neural Network，CNN）不断在计算机视觉中的各项任务实现最先进的性能[2]。与此同时，智能手机、智能手环等智能终端设备的数量急剧增多，这些设备对机器学习应用来说是极具吸引力的目标，因为这些设备通常直接连接到可以捕获大量输入数据的传感器上（例如：相机、麦克风等）。然而，由于终端设备存储空间有限、计算能力弱，将资源密集型的任务卸载给强大的云数据中心变成了常用的处理方案，但由于不受控制的长广域网延迟，将捕获的数据直接传输到云端执行会带来不可预测的性能问题。
为了缓解以云为中心处理方案的延迟和能量瓶颈，提出了一种具有设备边缘协同作用的计算架构——“边缘计算”[3]。采取边缘计算架构显然是一种更好的解决方案，在该架构中，移动终端将复杂任务卸载给距离较近但计算力相对于云数据中心较弱的边缘服务器进行处理。具体地，可以将云的能力从网络核心推送到紧邻设备的边缘网络，来实现低延迟和高效能的DNN推断。因而，基于该处理模式提出了一种基于边缘计算的图像识别系统。即将图像识别应用中复杂的模型推断过程交由移动端与边缘端联合处理，来缓解以云为中心的处理方案的延迟和能量瓶颈，从而降低移动终端的负载，同时尽可能减小时间开销。
国内外研究现状
为实现上述场景的图像识别系统的设计，要用到图像识别（基于DNN）、分支网络、数据通信等多方面的知识。
数字图像处理与识别技术是模式识别领域一个重要的研究方向，近几十年来，图像识别技术取得了深入和迅速的发展[4]。图片的识别与分类技术是从图片数据库中提取潜在有用的、未知的、隐含的知识，图像识别技术是计算机视觉、图像处理、图像检索、数据挖掘[5]、机器学习[6]、模式识别[7]等多个学科与研究领域的交叉组合。图像识别通常分成识别与分类两个阶段，分别是图片的特征提取与分类器分类[8]。数字图像处理与识别技术在个人计算机以及嵌入式终端设备上已有很多成熟的应用案例[9]，如人脸识别[10]、指纹识别[11]、手写汉字识别[12]、医学影像分析[13]等。
目前，移动DNN推断的现状是要么在移动设备上直接执行，要么加载到云/边缘服务器执行。但这两种方法都可能经历较差的性能（端到端延迟），难以很好地满足实时性要求较高的智能移动应用。考虑到实际中网络带宽资源的稀缺性（例如，由于用户和应用之间的网络资源争用）以及移动设备上的计算资源限制，基于设备和边缘的方法都难以很好地支持许多新兴的具有严格延迟要求的实时智能移动应用程序[14]。
分支网络，英文为BranchyNet[15]。分支网络是一种新颖的深度神经网络架构，增加了额外的侧分支分类器。以本文提出的基于边缘计算的图像识别系统为研究背景，BranchyNet架构允许大部分图片样本的预测结果通过这些分支尽早退出网络，返回图像识别的结果。事实上，BranchyNet利用观察结果，在网络的早期阶段学到的特征通常足以准确分类许多数据点，所以在这些图片样本退出网络时已经可以高可信度地推断出样本。通过这个方式，可以极大减少了神经网络前馈推断中的延迟和能量使用。
由于移动终端设备的计算资源和存储资源的局限性，因此在实时性和相应能耗的限制下，一些图像的识别任务无法在移动设备单独完成，因此需要将终端上的任务按需将其卸载到边缘端[16]，进行进一步的计算处理，进而得到更准确的分类结果。但是卸载过程中就必须要考虑到各终端和边缘端的数据通信问题，比如移动端与边缘之间消息发送的同步、异步性问题，以及本地和边缘之间的网络性能等。为了解决这些问题，传统的解决方案是构建一种面向对象的中间件，但面向对象的中间件有以下一些局限性：（1）同步通信问题。客户发出调用之后，必须等待服务对象完成处理并返回结果后才能继续执行。（2）客户和服务器对象的生命周期紧密耦合。客户进程和服务对象进程都必须正常运行，如果由于服务对象崩溃或网络故障导致客户的请求不可达，客户会接收到异常。
