Platform助力气象卫星应用系统实现数据处理自动化
在全球气候变暖的大背景下,极端天气气候事件的频发,将给人民群众的生命和财产安全带来威胁。为了应对气候变化带来的诸多挑战,各国气象部门纷纷加强了综合探测系统的建设。作为综合探测系统的一支重要力量,我国气象卫星风云一号、二号、三号系列,犹如太空的“千里眼”,24小时监测着地球上的“风云变化”。
系统资源调动自动化是关键
从卫星上接收各种气象遥感数据到输出各种大气、海洋、陆地图像和定量应用产品,是一个非常复杂的过程,需要多台服务器协同工作。要让多台服务器自动、有条有理、像流水线一样井然有序地处理和运行,尤其是在多卫星条件下,作业流程或作业序列的启动和运行显得更加复杂多变,单靠人工干预,基本上无法完成所需要的作业调度任务,必须依靠自动化的负载调度系统,自动分配计算资源,实现资源调度的自动化。
根据风云气象卫星数据处理的特点,国家卫星气象中心认为负载调度子系统应该具备以下特点:实现卫星数据处理总体流程调度、控制、管理。由于卫星数据处理是以实时运行的作业为序列,负载调度子系统首先需要跳出单个作业的处理和控制,确保卫星数据处理流程具有正确的调度序列和运行序列,同时也要确保流程运行的可控性、可见性和可管理性。
实现单个作业在多处理器、多机环境的有效和有序调度。卫星数据处理具有数据量大、运算量大等高性能计算的显著特点,需要相当高的计算能力。负载调度子系统必须能根据当前计算机系统的运行情况以及需要运行的作业的情况,根据事先定义好的调度策略,迅速高效地调度相应作业的运行。
通过对现有计算机系统使用效能和可扩展性分析,为业务系统的扩充以及现有系统的运行状况的改进提供参考依据。
Platform解决方案来助力
为实现对风云气象卫星数据处理的调度、监控、运行和管理,国家卫星气象中心与业界公认的分布式资源管理领域的领袖公司Platform合作,构建基于Platform公司作业调度解决方案的负载调度子系统,并将其作为了卫星气象中心运作的基础支撑工具。国家卫星气象中心认为,Platform公司是集群系统管理软件领域的领导者,其LSF系列负载调度软件在国内外具有众多多的用户案例,在国防、教育、航空、航天、气象、电子等领域得到了广泛的应用。的用户案的用户案例,在国防、教育、航空、航天、气象、电子等领域得到了广泛的应用。
Platform作业调度解决方案包括Platform Process Manager、Platform LSF两个模块。
Platform Process Manager是一套专业的工作流程管理系统,提供可视化的工作流程创建、编辑、运行和监控,极大地简化了大型复杂工作流程的定义、运行和管理问题。Platform Process Manager能提供卫星数据处理流程的定义、执行、实时监视和控制。用户通过Process Manager的客户端工具或用户定制的工具,创建、触发和管理卫星数据的处理流程。Process Manager后端的流程处理服务器响应来自客户端的请求,根据流程的触发条件启动流程,根据用户的指令控制流程运行,同时维护流程中所有作业的相互依赖关系。当流程中作业的运行条件满足时,Process Manager的服务将实际作业提交到LSF 管理的机群中。
Platform LSF 是一套专门针对气象、工程等高性能计算领域推出的机群管理系统,支持异构的、分布式Uinx/Linux,Windows计算环境,为用户提供可靠的机群管理、负载共享、复杂的作业管理及调度功能和大规模并行计算的能力。LSF 既可单独使用,也可以用作Platform Process Manager的资源管理和调度层,根据Process Manager的指令运行用户流程中的作业。利用Platform LSF 可以实现单个作业在多处理器、多机环境的有效和有序调度。此外,Platform LSF 还提供了可靠的机群管理、负载共享、复杂的作业管理及调度功能。
卫星数据处理自动化成现实
国家卫星气象中心利用Platform Process Manager实现了多卫星数据处理的自动化,以及复杂流程和子流程的实时控制和管理,同时还利用Platform LSF实现了计算资源的共享和负载平衡,确保了计算资源的高可靠和高可用,提升了作业调度的效率和计算资源利用的效率。
实现基于故障的容错与恢复。Platform LSF 支持外部资源的定义,从而可与关键业务的高可用系统无缝集成,支持关键业务的高可用。Platform LSF 及Platform Process Manager支持主服务器的容错功能,在主服务器故障时,可自动切换到备份服务器,并继续调度作业的自动运行。在此其间,业务系统的运行不受影响。Platform LSF 及Platform Process Manager支持卫星处理流程的故障自动处理与恢复。在流程中的某个作业运行失败后,可以手动或自动地重新运行该作业,并让该流程继续运行。当某个计算节点故障或宕机时,其上运行的作业能自动恢复在其它节点上运行,实现多机切换后流程接续、自动恢复等功能。(责任编辑:admin)
- “扫一扫”关注融合网微信号
免责声明:我方仅为合法的第三方企业注册用户所发布的内容提供存储空间,融合网不对其发布的内容提供任何形式的保证:不保证内容满足您的要求,不保证融合网的服务不会中断。因网络状况、通讯线路、第三方网站或管理部门的要求等任何原因而导致您不能正常使用融合网,融合网不承担任何法律责任。
第三方企业注册用户在融合网发布的内容(包含但不限于融合网目前各产品功能里的内容)仅表明其第三方企业注册用户的立场和观点,并不代表融合网的立场或观点。相关各方及作者发布此信息的目的在于传播、分享更多信息,并不代表本网站的观点和立场,更与本站立场无关。相关各方及作者在我方平台上发表、发布的所有资料、言论等仅代表其作者个人观点,与本网站立场无关,不对您构成任何投资、交易等方面的建议。用户应基于自己的独立判断,自行决定并承担相应风险。
根据相关协议内容,第三方企业注册用户已知悉自身作为内容的发布者,需自行对所发表内容(如,字体、图片、文章内容等)负责,因所发表内容(如,字体、图片、文章内容等)等所引发的一切纠纷均由该内容的发布者(即,第三方企业注册用户)承担全部法律及连带责任。融合网不承担任何法律及连带责任。
第三方企业注册用户在融合网相关栏目上所发布的涉嫌侵犯他人知识产权或其他合法权益的内容(如,字体、图片、文章内容等),经相关版权方、权利方等提供初步证据,融合网有权先行予以删除,并保留移交司法机关查处的权利。参照相应司法机关的查处结果,融合网对于第三方企业用户所发布内容的处置具有最终决定权。
个人或单位如认为第三方企业注册用户在融合网上发布的内容(如,字体、图片、文章内容等)存在侵犯自身合法权益的,应准备好具有法律效应的证明材料,及时与融合网取得联系,以便融合网及时协调第三方企业注册用户并迅速做出相应处理工作。
融合网联系方式:(一)、电话:(010)57722280;(二)、电子邮箱:2029555353@qq.com dwrh@dwrh.net
对免责声明的解释、修改及更新权均属于融合网所有。