焱融云为平安城市打造PB级海量存储平台

原标题:焱融云为平安城市打造PB级海量存储平台

2018年下半年,某省为推动社会治安管理和社会安全防控水平,由省公安厅发起其省会城市视频监控建设项目,配合该省会城市进一步完善针对大型活动的安防设施建设。项目建设内容包括视频监控平台、传输网络、前端监控点、监控中心、车牌识别、可视化指挥、等业务系统,其中大容量高性能的后端存储是支撑整个业务系统的基础,也是建设的重要环节。

项目需求

经过与用户的多次交流和沟通,我们了解到,该视频监控项目对存储系统具有以下要求:

1、上层视频监控管理、编解码、回放、车牌识别、人脸识别等核心业务系统均使用文件接口进行视频和图片的读写。

2、由于系统需要服务重大活动,其视频和图片的存储周期长于其他平安城市项目中对存储周期的要求,因此数据容量要求巨大,一期项目中,单集群容量达4PB,后续仍需在此基础上持续扩容。

3、扩容后,上层应用仍需要使用统一命名空间的文件系统进行数据访问,因此要求文件存储系统具备按需水平横向扩展的能力。

4、系统需要对海量视频、图片进行车牌、人脸的快速识别,文件存储系统需要支持数亿级海量文件,且在海量文件场景下,新建文件、文件检索和数据读写性能不变。

5、视频监控系统对接前端数千个高清摄像头,文件存储系统需支持6GB/s以上的读写带宽。此外,由于业务系统同时也需要对车牌和人脸等大量图片等小文件进行快速识别,意味着文件存储系统需要满足对大文件及小文件混合读写的高性能要求。

6、由于数据量巨大,在保证数据可靠性前提下,考虑到总体建设成本,要求存储系统的磁盘容量利用率高于60%。

由于视频监控的整体业务系统需要使用文件接口对数据进行访问,客户在前期考察了大量集中式文件存储和分布式文件存储系统。

对于集中式文件存储,难以支持单集群4PB的有效存储容量需求,即使个别厂商的中高端NAS支持单集群4PB容量,其成本以及后续二期项目的扩展性都无法满足要求。对于市场上主流的分布式文件系统产品,为了确保其读写访问性能,大多只能采用副本方式进行数据可靠性保护,无法满足视频监控系统对存储的磁盘利用率要求。此外,考察的分布式文件存储对海量文件支持,以及大文件、小文件混合读写性能,都存在一定缺陷。

YRCloudFile视频监控存储方案

经过反复验证和实际测试,焱融云给客户提出的集中式双控FC SAN存储+YRCloudFile单副本高可用方案,最终获得了客户的认可,并于最近成功落地。

在该方案中,底层采用了两套集中式双控FC SAN存储阵列,各提供2PB有效存储空间,通过两台16Gb光纤交换机,连接至前端多台标准x86服务器,将SAN阵列提供的LUN挂载至x86服务器中。焱融云在这些x86服务器上部署了YRCloudFile的元数据服务,利用SAN阵列挂载的LUN组成YRCloudFile高性能分布式文件集群。该方案具有如下特点:

1、YRCloudFile向上层各个业务系统提供标准的POSIX文件访问接口,用户采购的视频监控及卡口监控系统无需进行适配和修改,均顺利完成对接。

2、方案中的数据可靠性通过底层双控FC SAN阵列得到有效保障,YRCloudFile对x86服务器中使用的LUN只需使用1副本。

3、为了避免1副本情况下,由于单台x86服务器故障,导致业务无法访问挂载在该服务器上的LUN的数据,焱融云将FC SAN的每个LUN都均匀挂载到一台以上的x86服务器上,当任意一台x86服务器出现故障,该服务器上正提供YRCloudFile数据访问的LUN被YRCloudFile集群自动将其数据服务切换至另一台x86服务器上,使用YRCloudFile存储服务的应用程序完全无感知,全程无需人工干预。当故障服务器恢复时,原来运行在其上的数据服务,可以重新被均衡回原有服务器上。焱融云将这种技术称为YRCloudFile单副本高可用的运行方式。整体架构图如下所示:

4、通过YRCloudFile单副本高可用功能+双控FC SAN阵列,使整体方案的磁盘利用率高达70%,可有效控制总体成本。

5、整个落地方案中,从YRCloudFile集群、两台FC光纤交换机、SAN阵列双控制器、到SAN阵列内部磁盘组及热备盘,都实现了高可用,达到了系统的整体高可用要求。

6、YRCloudFile通过10Gb以太网连接至业务系统,整个文件存储集群提供超过6GB/s的整体带宽。

7、在实际测试中,YRCloudFile单集群在12亿文件规模下,文件创建、删除性能无任何衰减(分别对应下图中creation和removal文件操作),同时对小文件的读写访问(可对应下图中的stat操作以及对LUN的IO操作)可提供持续稳定的高性能访问,很好地满足了支持海量文件,以及大文件和小文件混合读写的需求。

8、在方案中,YRCloudFile使用的是来自底层FC SAN阵列的存储空间,因此,在二期进行扩容时,只需采购新的SAN存储阵列,并相应增加上层YRCloudFile的x86服务器,即可完成容量扩容,同时维持单一的文件系统命名空间。

目前基于上述方案的分布式文件存储系统已经成功地投入正式运行,从实际使用效果看,这套存储系统给上层业务带来的整体性能和可用性确实远远优于选型时考察的其它方案,用户对此也充分认可。

通过该项目的成功落地,充分验证了SAN阵列+YRCloudFile单副本高可用的技术,可以为平安城市、雪亮工程、智慧城市等项目提供高性能、支持海量文件、磁盘利用率高、高可靠、成本可控的存储解决方案,我们也期待着焱融云的存储技术能为更多的城市和市民服务。返回搜狐,查看更多

责任编辑:

声明:该文观点仅代表作者本人,搜狐号系信息发布平台,搜狐仅提供信息存储空间服务。
阅读 ()
免费获取
今日搜狐热点
今日推荐