3月31日,由雷锋网主办的「2018中国人工智能安防峰会」在深圳圆满结束。 本次中国人工智能安防峰会中,海康威视朱江博士以《AI Cloud:云边融合》为主题,全面深入地分享了AI Cloud架构。 拥有二十多年研发经验的朱江博士,带领海康威视智能算法团队多次在国际大赛中取得第一的成绩,并参与搭建了海康威视AI Cloud架构。 朱江博士在大会中提到,AI Cloud架构由云中心、边缘域、边缘节点三部分构成,实现从端到中心的边缘计算+云计算,使得图像目标细节传输更高效,数据分级应用更加灵活。 以下为朱江博士的现场演讲内容,雷锋网作了不改变原意的编辑及整理: 感谢雷锋网提供了这样一个机会,能够在这里向各位行业同仁交流海康威视在智能物联网架构AI Cloud方面的思考和成果。 去年10月,海康威视在深圳的一次大会中提出了AI Cloud架构,目的是在众多边缘设备与云端系统之间建立一个合理的技术架构。那么从边到云,我们到底应该做些什么?这里我提出四个问题: 如何充分地、灵活地运用边缘设备资源? 如何建立整个物联网能够彼此沟通和兼容的物联网数据模型? 如何实现不同时间、不同开发团队所开发的行业应用之间的协同工作? 如何为越来越庞大的、包括视频在内的物联网各类设备,建立统一的运维服务体系? 这些问题显然不应该、也不可能都在云端系统解决。 在此前提下,海康威视提出了AI Cloud,我们把边缘设备称之为边缘节点,把云端称之为云中心。 我们认为在两类节点之间,靠近边缘节点的一侧,还应该增加一个环节。在这一环节,来解决刚刚提出的一系列从边到云的问题。这个环节,我们称为边缘域。 边缘节点:侧重多维感知数据的采集和前端智能处理; 边缘域:侧重感知数据的汇聚、存储、处理和智能化应用; 云中心:是要对包括物联数据在内的多维数据进行融合,并且进行大数据分析应用。 从上图中我们看到,数据从边缘节点流到边缘域,又从边缘域流到云中心,前部分从边缘节点到边缘域的过程实现聚边到域,数据从边缘域到云中心的过程实现数据上云。 从边缘域来看,流进来和流出去的数据,无论是格式、还是内容,都有很大的不同。 那么边缘域成了一个中场,它要知道数据在什么时候、用什么样的形式、经过什么样的处理,再送到云端去。因此我们说,域为中场。 从这里大家可以看到,海康威视AI Cloud的云边融合,不是简单的云+边,更不是简单地分成若干个所谓的“小云”再汇聚到更大规模的云,而是切实解决从边到云所带来的应用、数据处理、管理等一系列问题的新架构。 同时,我们希望通过边缘域这个环节解决更多的问题。在AI Cloud架构下,边缘节点、边缘域和云中心,都能够以多级多类彼此互联,并且可以互相衍化。 这个架构的特点可以概括为四句话:边缘感知、按需汇聚、多层认知、分级应用。 总体来看,我们讲的AI Cloud,不是Cloud Computing,而是基础设施、数据资源、平台服务和应用软件的总和。 下面我把AI Cloud的一些具体内容、也就是说我们要实现的一些具体能力与大家分享一下。 首先,要实现AI资源的可调度。让AI像电能,成为信息系统的可调度资源。无论是AI所需要的算力、算法、数据、系统,还是服务,都应该在应用需求的牵引下实现合理的调度。 为此,我们在边缘域和云中心,都研发了管理调度平台。以边缘域的管理调度平台为例,我们在管理调度平台后台构建了两池一库,也就是计算存储资源池和数据资源池,一库是算法仓库。 在两池一库的基础上,我们提供对连接到边缘域的所有边缘节点的管理,对接入进来的视频、门禁、报警等各类物联网资源进行统一管理,以及统一管理调度边缘域自身的计算资源、存储资源、软件资源、算法资源。在算法仓库方面,我们建立了统一的算法模型,规范了算法接入的接口,能够实现多个厂家的算法接入到我们的算法仓库上面来,基于上层的任务,进行统一调度。为了实现效果,在后台底层我们实现了对GPU资源的池化管理,能够支持算法在上面的灵活调度。另外还有非常重要的一点就是,我们在边缘域的算法仓库,可以根据应用的需求对与我们连接的前端边缘节点的算法进行动态调度。 第二个方面,我们要实现数据的按需汇聚。 要让数据像水源、受控地流动到需要的地方。大家知道,水对人类的生存至关重要,如果处理不好,也可以是洪水猛兽。数据也一样,边缘节点产生大量的原始数据,AI的处理过程产生大量的智能数据,只有把这些数据按照应用的需求,受控地流动到需要的地方,才能避免传输和存储中资源的滥用,同时有利于高效、充分地发掘数据的价值。 为此我们在边缘域和云中心分别研发了物联网数据资源平台和大数据资源平台。在边缘域,很重要的是要实现数据的按需汇聚。那么问题来了,如果我们不能定义“需”,就不能按需汇聚。那么需从哪来?需从用来。就是说我们会站在用的视角来,比如说是一些时间范围、是一些地域范围,是一些技术属性,更重要的可能是一些业务属性。 物联网的数据模型,和我们的行业业务数据模型之间,需要进行关联,否则两者是相对独立的。 以人为例,比如说有抓拍机抓到人的图片,通过人脸识别技术我们可以知道他的身份证号是多少,他今年多少岁,但仅有这些数据对应用是不够的,我们更关注他的业务数据。比如对于公安来讲,关注的可能是他是不是吸毒人员;对于交通来讲,关注的可能是他是不是一个失格驾驶员;对于金融来讲,关注的可能是他是不是VIP客户;对于法院来讲,关注的可能是这个人是不是一个失信被执行人;等等。这样的一些业务数据,实际上需要在边缘域里面,把它跟物联网数据关联起来。 在边缘域里的物联网数据资源平台,就是要解决这个问题。我们经常讲要有个地方养数据,才能用好数据。同样在云中心,我们建立了大数据资源池,未来在云中心实际上主要有三类数据需要来汇聚和处理,能够实现对行业和整体更好的智能化。其中有一类数据来自于边缘域的物联网数据;第二类来自于互联网的数据;第三类特别重要,就是各个行业业务系统的内部数据,只有实现了这三类数据的汇聚,在这个基础上,我们通过大数据的资源平台,来解决数据治理和数据服务的问题。 第三件事我们要做的是应用的场景化。 让应用像阳光,照亮业务场景的每个角落。如果说AI和数据是原料,那么应用就是产品。结合不同的应用场景,相同的原料可以做出不同的产品。在边缘节点、边缘域和云中心,我们都把场景化作为关键词,来分析有哪些应用可以提供给客户。 比如在边缘节点,我们要建立单一场景的智能应用,说简单点是在什么场所,干什么事。在边缘域,我们要建立的是跨时间和地点的一种跨时空场景的智能化业务应用,要分析的是在什么行业里,要干什么业务。 到了云中心,我们面向的是更大规模的综合管控、预警预测类场景。我们要分析的是什么行业或者跨哪些行业,需要判断宏观的“态”和“势”,即状态和趋势,通过这样的方法找到该做的应用。 在这样的前提下,我们在边缘域和云中心分别提供了智能应用平台和综合应用平台,我们通过平台把底层的数据资源连接好,可以为上层的应用提供更好地彼此兼容、彼此协同的机会。因此,我们在边缘域,通过底层的物联网数据资源池,然后再基于我们的智能应用平台,可以实现很多过去没有的应用效果。例如可以实现多数同用,也就是可以把边缘节点的很多数据,汇聚到资源池以后,为同一个应用所用。 例如对于公安,可以用于对重点人员的管控;对于社区,可以做独居老人关怀;对于城管,可以做餐饮小店的出店经营监管;对于环卫,可以做清运车辆的监管等。这样我们可以看到,数据和应用实际是相对独立开来。这样做到了数据的积累过程和应用需求的深化。作为两个过程,可以同步进行。养数据的人和用数据的人,即有所关联,又可以相对独立地工作。同样,我们在云中心提供的综合应用平台,也可以在大数据资源池的基础上支撑用户来开发满足需要的,既相互联系,又相对独立的项目应用。 刚才讲到了更多的是我们在AI Cloud架构下,我们在边缘域和云中心建立平台以后,可以获得更多的应用。但实际上,在边缘节点的应用,仍然是我们发力的重点。边缘节点的应用也是边缘域和云中心实现更好应用效果的前提和基础。 边缘节点的工作重点: 首先还是智能化。我们要把更多更强更好的AI能力注入到边缘节点。 其次,我们要实现多样化。就是把基础产品能力,结合更多的用户使用场景,来实现产品的多样化。 第三是多维化。要把视频的采集能力,和RFID、WIFI、温湿度、时间空间的等多种传感手段集成在一个设备里,为用户提供一体化的多维感知能力。 其次要做到的是综合化,我们现在已经有了很好的实践,把一些传感器,一定的数据和应用能力直接放到边缘节点,在综合化的设备里面直接给用户提供最高效、最快捷的应用能力。比如现在的人脸门禁,一方面通过人脸识别达到很好的用户感受,另一方面和门禁进行整合,直接在前端提供高效的服务。所有的这些能力最后还有非常重要的一点就是要实现边缘节点的可管理。所有的边缘节点都需要做自检能力,并且把自检状态的输出与运维服务平台作集成。 在应用方面还要隆重提到的就是我们公有云应用平台,也就是萤石云。 萤石作为海康威视布局在互联网上的视频云平台,经过几年努力,已经连接了数千万终端设备,全球有千万级活跃用户,每天过亿次报警推送,每天过千万视频预览的请求。萤石一直将开放作为自己的重要战略,经过努力,已与全球很多合作伙伴建立了良好的生态。目前在萤石平台上入驻,已经有2万多家开发用户,拥有4000多个活跃应用。 AI能力的注入为萤石给更多行业提供更好的支撑,奠定了非常好的基础,同时,因为萤石是运行在互联网上的,所以一直把安全手段作为非常重要的工作,提供了一系列的安全防护手段,并且已经通过ISO27001和等保三级的安全认证。 第四个方面,我们要实现运维的一体化。我们要让运维像空气,不刷存在感却无处不在。因为我们深深知道,在物联网行业里,只有管好,才能用好。 为此,我们研发了统一的运维服务平台,把边缘节点、边缘域和云中心所有的设备、软件、应用系统,全部都管理起来,我们要为直接用户,为运维服务团队的各个角色,为设备厂商,提供一揽子的运维服务功能。 在运维平台里,我们尤其考虑到两个方面的可扩展,一是运维对象可扩展,我们提供了运维设备接入的框架,未来有新的技术特征的设备可以被扩展进来,作为我们运维服务的对象;另外一方面是我们提供了加盟商管理的功能,支持更多维修服务团队在我们统一的运维平台上为客户提供服务。 从AI Cloud提供的以上能力,可以看到这样一个面向设备扩展、数据融合、应用协同、持续运维的机制,这不是海康威视一家企业能独立完成的,我们要和众多的合作伙伴一起,共建可成长的生态。让生态像大树,扎根合作沃土不断成长。 海康威视致力于为合作伙伴搭建合作共赢的舞台。我们通过计算存储资源池和算法仓库实现基础设施的开放,我们通过物联网数据资源池和大数据资源池实现数据资源的开放,我们通过智能分析服务和大数据分析服务,实现平台服务的开放,我们通过智能应用平台和综合应用平台,实现应用接口的开放。在这个舞台上,设备厂商、基础软件厂商、算法厂商、数据提供商、应用开发商都将找到自己的用武之地;安全服务商、运维服务商和技术标准规范团队,也将找到合作机会。 我们将与大家一起,共同打造面向产品和服务的生态。为此,我们会竭尽全力做好搭台工作。除了提供能力开放平台,还将提供开放式体验环境和产品的兼容性验证环境。 各位行业同仁,很高兴在这里分享海康威视AI Cloud云边融合的发展理念:聚边到域、域为中场、数据入云的技术架构;两池一库四平台的产品实现,以及包括迁移、升级、集成、数据、应用和运维在内的服务模式,更重要的,是在此基础上要打造的面向产品和服务的开放生态。
例如在杭州某块区域需要重点安保,这样的一个应用马上建立,我们可以把很多以前已经构建好的,和现在即将构建的边缘节点的数据纳入资源池,很快地在同一个应用中来使用。另外反过来的一个效果是可以做同数多用,比如说在一个社区,一个摄像机采集了一些视频,数据进入资源池以后,可以被不同行业的用户用于不同的应用。