解决不同存储场景,不同数据形态的存储问题
提供高效、智能、可靠的数据管理方案
业务快速检索调用,让数据发挥更大价值
杉岩数据产品合集
全面满足客户海量数据存储、管理、应用需求
杉岩检测数据管理系统IDM
杉岩IDM针对企业海量检测数据,可以提供质量追溯、数据规整、数据分类、数据分析、可视化业务看板、价值挖掘、数据分层管理等多项功能模块,为企业构建一个高效、敏捷、灵活的制造支撑底座。
制造
金融
其他
产线检测数据管理案例集
比亚迪、京东方、孚能科技等先进制造企业如何控制数据存储和管理成本,实现产品质量和生产效率的同步提升?
杉岩检测数据管理系统
杉岩数据金融行业解决方案
为金融行业打造坚实存储底座,提供金融影像、非结构化数据、湖仓一体、信创存储等多种场景存储方案。
我们真诚为您提供帮助与支持
了解最新产品版本升级、发布动态
详细了解我们的服务政策和服务流程
联系方式
售后服务热线
400-838-3331转3
在这里认识杉岩数据,我们真诚地希望能与您携手合作
阅读杉岩数据最新产品动态、市场活动、大事件
获取海量数据存储和管理技术知识,给您的业务带来更多帮助
为您提供7*24小时技术服务支持
在这里,享受探索海量存储存储和管理技术的乐趣
杉岩数据公司介绍
全面了解杉岩品牌实力、产品业务和发展情况
一、非结构化数据存储的现状及痛点
地市影像数据目前分别存放于多个SAN存储当中,分别部署于不同的地市机房,根据地市的业务规模不一,存储容量也不一,平均每个SAN存储约100TB。总行影像数据通过存储分层架构实现在线、近线和离线数据的存储和隔离,如下图所示。在线存储存放于闪存(IBMFS900)当中,约10T,保存了近7天的影像数据,并通过IBMECM客户端定期迁移至ECM系统所接入的近线存储(IBMDS8870和V7000)当中,约50T,保存了近30天的影像数据,最后再通过IBMTSM备份软件每日将近线存储中的影像数据归档至离线存储(华为5300V3、IBMDCS3700)当中。
当信贷系统或者柜面等线下渠道业务需要调取7天以内的影像数据时,直接访问影像系统,读取影像节点的后端在线存储;当需要调取7天以上,30天以内的数据时,将先通过部署在影像节点上的ECM客户端,从ECM系统中抽取数据至影像节点,再传给相应的线上或线下的渠道业务系统;当需要调取30天以上的数据时,则步骤更加繁琐,涉及链路节点更多,需先通过TSM备份软件抽取备份的影像数据至ECM系统,再传给影像节点,最终传给相应的渠道业务系统。
因此,基于以上的现状及痛点,我行迫切需要对现有影像以及ECM的数据存储架构进行转型升级,精简该存储架构,全面提升影像数据的存储效率,并建设影像系统的两地三中心体系。
二、非结构化数据存储转型思路及需求分析
3、提升非结构化数据的副本数和冗余度。相较于现有存储架构中的单副本数据,要提升副本数,建设非结构化数据的两地三中心体系,必须通过存储级的复制技术实现,多副本间为完全拷贝,相同的一份数据在生产、同城和异地站点的存储中均保留一份,对于海量的影像数据而言,容量起步PB级,建设两地三中心,需要大量的存储成本投入,性价比低。而采用对象存储方案,其天生具有地理容灾性,通过独特的纠删码技术,将每份影像数据通过切片的方式切成若干份,分布于多个数据中心的多个存储节点当中,同时保留一定切片冗余。例如经典的7/12的切片规则,一份数据被切为12个切片,只要任意的7个切片数据完整,则原始数据就能正常访问,这样能够容忍任意5个切片数据失效。因此数据的冗余度也大大提升,即使某个数据中心的存储节点发生故障,或者访问节点发生故障,均可以通过其他存储节点和访问节点获取原始数据。该技术易于构建非结构化数据的两地三中心部署方案,提升数据可靠性,同时极大降低存储投入成本。
三、非结构化数据存储转型难点分析
基于以上的需求分析和转型思路,对我行的非结构化数据存储架构的改造而言,采用对象存储方案是最优的方案,转型后的架构如下图所示。但同时,另一方面,采用对象存储,也将给我行带来三个方面的难点问题,需要提前妥善解决。
2、非结构化数据存储迁移问题。原闪存、DS8870、5300V3中的非结构化存储数据需要通过调阅的方式迁移至对象存储当中,涉及的数据量较多,耗时较长,且影像系统在数据迁移过程中,不能影响各渠道业务的正常办理,业务不允许中断,迁移时也要对其他业务系统提供影像服务,因此,整个平滑迁移与过渡的方案要理清和妥善计划。另外,值得考虑的一点是,在迁移过程中,涉及历史数据调阅并重新通过API写入对象存储,同时正常的业务办理也需要调阅7天以上的影像数据至影像节点后端的文件系统,因此影像应用在改造时,需先同时兼容两种接口方式,并以拷贝的方式将数据备份至对象存储,而非直接迁移。
3、带宽扩容问题。由于我行多个地市目前分别部署了SAN存储用于存放当地市事后监督系统的影像数据,该方式设计的初衷也是为了规避集中在总行存放影像数据,带来地市到总行的流量带宽瓶颈问题,影像业务传输的大部分是图片,比特率较其他业务类型要大很多,在高峰时期可能会对地市其他线下渠道,如ATM、柜面、智能柜台、移动营销等业务造成影响。若采用了统一的对象存储方案,且对象存储统一部署在我行生产和同城数据中心,又将引入带宽瓶颈问题。因此,需要提前对所有地市的带宽和影像业务情况进行预估,提前对地市带宽进行扩容升级。另一方面,由于对象存储分布式部署于两个数据中心,生产数据中心的影像系统读写后端对象存储,存在跨中心访问的情况,需要通过两个数据中心的大二层网络进行。因此,为了不对其他业务系统的同城容灾复制和正常网络传输造成影响,需要合理评估影像数据跨中心访问的情况,并对跨中心波分带宽进行提前扩容。
我们使用cookie来个性化和增强您在我们网站上的浏览体验。点击“接受所有Cookie”,即表示您同意使用Cookie。您可以阅读我们的Cookie政策以了解更多信息。
预约演示
服务热线
400-838-3331
在线客服
顶部
总部地址:深圳市福田区上梅林凯丰路10号湾区国际金融科技城14层