单位@探索深藏大地的“秘密”,云计算助力遥感卫星“落地”( 二 )


专线:与国土资源部、环境保护部、水利部、住建部、减灾委、交通部等国家部委建设了21条专线,实现了数据的自动推送服务;
电子政务网:覆盖范围扩展到京内85家部委行业用户以及京外31个省、自治区、直辖市和新疆建设兵团;
互联网:所有互联网连接的用户都可通过互联网方便快捷地获得数据 。
扩容升级,让遥感卫星数据更好地“落地”
然而随着时间的推移,遥感卫星存储的数据越来越多,该单位用户的需求也越来越多元化,原有的资源和性能已经无法满足业务增长的需要,分发系统的扩容已经迫在眉睫 。 为了使遥感卫星数据能够高效、便捷、稳定的为广大互联网用户和其他企业用户提供更好的服务,2019年,该单位联合九州云对分发服务系统云服务进行了升级改造,具体包括分发服务分系统虚拟化平台、Hadoop分布式计算集群和在线数据分布式云存储系统 。
九州云对上述需求进行了综合考虑后,决定采用软件定义数据中心技术,充分利用该单位原有的硬件计算、存储和网络设备进行分别扩展,保证灵活、高效的同时,又不被存储和网络厂商锁定 。
在硬件的利旧上,保留原有分发系统、内网、外网以及安全等设备,原有设备连接到华三的千兆核心交换上,九州云虚拟化平台,包括服务器和集中存储连接到四个万兆交换机上 。 华三核心交换机和新的万兆交换机通过万兆线路连接 。
单位@探索深藏大地的“秘密”,云计算助力遥感卫星“落地”
图片

这样一来,既保留了原有的功能,又保障了新增功能的网络带宽 。 同时多线路冗余也为系统提供了更高级别的系统高可用性,九州云从底层网络架构到上层应用都做了相应的规划,全面保障业务的持久性 。
在网络规划中,九州云充分利用千兆/万兆/4万兆的通信速率,提供尽可能低的收敛比,保障流畅的虚机间通信和服务访问 。 连接示意图如下:
单位@探索深藏大地的“秘密”,云计算助力遥感卫星“落地”
图片

在升级扩展过程中,为保障业务的连续性,该单位使用九州云Animbus 云平台统一纳管新旧业务,建立统一的主机、集群、虚拟机、存储、网路和数据监控管理平台 。 同时传统业务和数据也将转移至新集群,完成全面的业务整合升级 。 此外,九州云还利用 Animbus Ironic组件,将裸机资源也一并进行管理,结合VMware纳管功能,建设统一的综合云平台,方便客户在一个平台上管控多种资源 。
在大数据分析业务方面,九州云使用了Sahara组件,Sahara旨在帮助客户能够在Openstack平台上创建和管理Hadoop以及其他计算框架集群,实现类似AWS的EMR服务 。 该单位只需要提供简单的参数,如版本信息、集群拓扑、节点硬件信息等,利用Sahara服务能够在数分钟时间内快速地部署Hadoop、Spark、Storm集群 。
助力客户服务全球
此番,九州云联合该单位共同突破了多项技术难关,实现了多项技术管理创新 。 升级扩容完成之后,该单位的私有云平台支持一键创建Hadoop分布式计算集群,将Hadoop部署在虚拟化环境中,实现了可靠的和性能优化的虚拟化Hadoop集群 。 在Hadoop集群基础之上,能开发基于Spack的用户查询条件统计分析功能,从而统计出用户查询位置信息的频度数据和每天查询订购的峰值信息 。
在分发系统中,由于对象存储是最为关键的一部分,九州云对整个云存储系统架构做了特别规划:系统采用双存储策略,使用9台服务器和一套ECM Isilon存储搭建了一个Ceph分布式存储集群,配置存储策略使EMC Isilon和基于服务器的分布式存储方案两者共存于同一个存储集群之中,各节点通过2个H3C交换机,2个Mellonix万兆交换机相连,交换机系统内部互联 。
存储系统采用完全对称、面向资源的分布式系统架构设计无中心节点,所有部分都可扩展,避免了因单点失效而扩散并影响整个系统运转 。 通信方式采用非阻塞式I/O模式,提高了系统吞吐和响应能力,以满足实际使用中的性能问题 。 云存储提供了标准API、认证服务、账户服务、对象服务和审计服务,全面覆盖了整个对象存储的使用、管理和监控 。


推荐阅读