推广 热搜: csgo  vue  angelababy  2023  gps  新车  htc  落地  app  p2p 

省农信、农商行基于存储的数据复制技术实现本地和远程数据容灾典型问题解析

   2023-08-02 网络整理佚名1600
核心提示:为了保证数据的安全性和业务的可靠性,数据容灾是必不可少的,如何基于数据的存储复制技术实现本地和远程数据容灾是很多省农信/农商行数据容灾建设的关键内容。的同步数据块级别本地和远程复制。

为了保证数据安全和业务可靠性,数据容灾必不可少。 如何基于数据存储复制技术实现本地和异地数据容灾,是不少省份农村信用/农村商业银行数据容灾建设的重点内容。 。

存储数据复制技术包括基于存储系统网关的数据复制技术和基于存储介质的数据复制技术。 存储网关为传入的IO数据流提供各种数据存储服务,这可以提高在服务器或存储级别难以实现的灵活性。 多样性、异构性等存储服务能力。 存储网关可以提供远程数据复制、异构存储融合、存储设备高可用镜像、快照服务、数据迁移服务,甚至有些存储网关可以为后端存储数据提供精准的持续数据保护和持续数据恢复服务。 现有存储环境需要增加存储网关。

存储复制技术是在实现存储磁盘阵列之间直接镜像的基础上,通过存储系统内置的固件或操作系统,采用IP网络或光纤通道等传输接口进行连接,将数据复制到远程端。同步或异步方式。 基于存储阵列的复制与操作系统无关; 连接的服务器上不需要任何管理工作。 由于复制工作交给了存储控制器,可以避免异步传输的本地缓存较大时服务器性能开销过大的问题,使得基于存储阵列的复制非常适合任务-关键和高端交易应用。 一般来说,这种模式只能在相同存储品牌和型号的存储系统控制器之间实现,低延迟和大带宽也是必要条件。

社区近日举办线上同行交流,特邀银行业资深存储专家和戴尔技术专家参加线上交流,共同探讨“省农信用卡和农商行基于存储的数据复制技术实现本地化”与异地数据容灾》相关难点,本文是对本次交流分享内容的重点总结,具有一定的参考意义和借鉴意义,包括:SRDF及技术在容灾建设中的运用、存储数据复制技术在同城及异地灾备场景如何根据业务场景选择应用及灾备解决方案技术,三个方面共14个交流主题,希望能帮助省农信银行/农商行落地数据灾难恢复相关项目。

本次交流共识概要

通过本次交流活动达成的一些共识如下,仅供参考:

1)根据不同的业务系统需求和不同的保护方式,根据业务系统对RPO和RTO的需求以及生产数据的冷热划分,确定适用的容灾方案;

2)该技术具有同步和异步两种数据复制方式,支持异构存储之间的数据复制。 该技术还具有使用简单、数据复制可靠性高、切换速度快等特点;

3)SRDF是基于存储的复制方式,对链路带宽资源要求较高,但运行稳定可靠;

4)基于存储的复制技术需要足够大的链路带宽,对存储读性能要求较高,导致存储读IO较高。 通信链路的中断不会影响生产系统的正常运行,可靠性高;

5)基于数据库复制技术,链路带宽要求相对较低,但当链路不稳定或中断时,可能会造成生产系统运行的短暂中断,从而导致可靠性相对较低;

6)灾备中心和生产中心不应设置在同一地震带、同一流域、同一电网内。 因此,异地灾备中心一般距离生产中心300公里以上。

1、目前SRDF及技术在灾备建设中的应用情况如何?

技术在灾难恢复方面提供了以下解决方案:连续数据保护(CDP)、连续远程复制(CRR)、并发本地和远程数据保护(CLR)。

1.目前SRDF及技术在灾备建设中的使用情况如何?

@老晋某银行数据中心副高级工程师:

该技术主要用于基于存储的数据复制。 它有同步和异步两种模式,还支持异构存储之间的数据复制。 该技术还具有使用简单、数据复制可靠性高、切换速度快等特点。 在容灾系统建设方面具有很大的优势。 与基于数据库级别的复制技术相比,该技术可以有效防止误删除数据的操作。

@系统运维工程师:

根据银监会2011年发布的《商业银行业务连续性监管指引》的通知规定,容灾级别与RTO、RPO的关系如上表所示

@某银行系统运维工程师:

技术在容灾建设方面提供以下解决方案:

(1) 持续数据保护(CDP)

持续的数据保护持续捕获变化的数据并将其保存在本地,确保本地数据可以恢复到任意时间点而不会丢失数据。 CDP 能够跨一个阵列或本地集群内的多个阵列本地复制 LUN。

(2)连续远程复制(CRR)

远程复制支持将 LUN 复制到远程阵列或集群。 远程复制有同步和异步两种模式,并且可以根据用户定义的策略进行修改。 远程复制还能够执行双向复制。

(3)并发本地和远程数据保护(CLR)

CLR并发本地和远程复制能够进行本地和远程复制。 它提供到同一 LUN 的同步块级本地和远程复制。 可以恢复一个副本而不影响另一个副本。 它还支持双向复制和任何时间点恢复功能。

@曲波解决方案架构师:

最大的优点是可以帮助用户随时检索数据,并且可以记录每一个IO信息。 因此,本地数据保护(CDP)和远程数据保护(CRR)都可以有效帮助用户最大限度地减少数据丢失,防止人为误操作,例如误删除。 然而,存储级容灾技术并不能防止数据被误删除。

2. 在进行跨数据中心的数据迁移时,与使用数据库复制工具相比,使用SRDF或技术的使用场景和效果如何?

@老晋某银行数据中心副高级工程师:

目前,跨数据中心的数据迁移主要有三种方式:基于存储的底层复制; 基于数据库的复制; 使用第三方工具进行数据复制和迁移。

(1)基于存储的底层数据复制方式一般采用SRDF或者技术。 该技术要求两个中心的系统平台环境基本一致,具有数据迁移效率快、数据一致性可靠性高的特点;

(2)基于数据库层面的数据迁移技术,一般要求两个中心的数据库版本一致、平台环境相同,但有时某些特殊字段无法复制;

(3)与前两种方式相比,第三方数据库复制工具最大的特点是:可以实现跨版本、跨平台的数据复制,这是前两种复制技术无法比拟的。

@:

基于存储的底层复制:生产中心和异地灾备中心存储设备需要保持同一品牌和型号,对硬件设备依赖较大,可以较好保证RPO指标,但无法保证RTO指标,且切换比较复杂,切换的及时性难以保证。

基于数据库技术的复制:容灾切换更方便,与底层硬件设备无关。 无需保持两端硬件设备型号、品牌的一致性。 在非批量时间段,RTO指标一般可以控制在10分钟以内,切换时效性较高。 ,能够满足目前监管容灾指标的要求,同时RPO指标也能得到保证。 建议使用该技术来实现灾难恢复。 我们单位就是利用这个技术在数据库层实现容灾,对于容灾切换演练非常方便。

基于第三方软件的复制:需要依赖额外的第三方复制软件,涉及到软件兼容性,数据库服务器需要安装软件等,可能会对服务器造成一定的资源占用。

@某银行系统运维工程师:

远程复制可用于在跨数据中心迁移数据时将LUN复制到远程阵列或集群。 远程复制有同步和异步两种模式,并且可以根据用户定义的策略进行修改。 远程复制还能够执行双向复制。

远程复制的写操作流程:

(1)应用服务器向LUN发送受保护的写请求。 分离器拦截该写请求。

(2)与CDP类似,拆分器将写请求拆分并同时发送到生产卷和RPA。

(3) RPA收到写请求后,向分流器返回确认信息(启动同步远程复制的情况除外)。 在同步复制中,确认会被延迟,直到恢复站点收到写入请求。

(4) 当本地RPA收到写请求时,将其与其他写请求绑定,去除重复数据,排序,添加时间戳,打包压缩,与验证数据一起通过IP传输到远程RPA网络。

(5)恢复站点收到数据包后,远程RPA对数据进行检查,确保数据包在传输过程中没有损坏,然后对数据进行解压。

(6) 远程RPA将数据写入恢复站点的日志卷。

(7) 数据写入日志卷后,分发到CRR副本,并保留原来的写入顺序。

3. SRDF和技术各自的优势是什么?

@某银行系统运维工程师:

SRDF和DELL EMC都是原创技术。 目前该厂商的存储产品普遍采用SRDF或者技术进行容灾建设。 该技术具有使用方便、维护方便、运行稳定等优点。

SRDF技术成熟可靠,金融行业核心容灾架构采用最多; 但成本较高,适合拥有完整的“本地双活、同城双活”存储三点架构的企业。

可以保存一段时间内连续数据变化的状态,并将数据恢复到特定时间点,适用于数据逻辑故障; 并可作为两地三中心异地复制技术。

@老暴一个银行数据中心次高项目:

补充一点:SRDF易于部署,不需要使用其他设备,但无法实现持续的数据保护;

该方法的优点是可以实现数据的持续保护,并且可以在目标侧恢复秒级任意时间点的数据,可用于生产环境中重要数据误操作后的数据追溯。

@曲波解决方案架构师:

SRDF 是存储之间的灾难恢复和复制解决方案。 用于灾难发生、主备存储切换时使用。

它是同构或异构存储之间的连续数据保护方案。 在防止数据丢失的同时,可以从任意时间点恢复数据。

SRDF 和 SRDF 本质上是两种不同的架构和技术。

4、数据容灾备份中提到的几种技术,比如SRDF和数据库自带的备份技术,哪个更好?

@xuzc 某银行存储工程师:

SRDF,技术成熟可靠,但成本相对较高。 数据库复制可以与存储复制形成双重保障; 如果系统部署在云环境中,则仅支持数据库复制。 利用该技术,备库经过简单的配置调整即可对外提供服务,可以满足较高的RTO指标; 其次,灵活性高,支持未来细粒度的单应用切换,支持读写分离,提高灾备中心资源利用率。

@ 系统工程师:

现在信息化,随着企业越来越依赖信息化和数据,数据的重要性也越来越大。 数据容灾和数据备份技术也开始受到重视和发展。

其实我觉得数据容灾和备份是两个方向。 从实用的角度来看。 首先应该是建立数据备份系统,保证数据的完整性。 数据备份一般通过备份软件+磁带库,或者备份一体机,或者数据库导出+手动脚本来实现。 各有各的优点,但一般来说,传统数据备份的问题是数据备份间隔期间的数据会丢失,所以后来发展了CDP技术。 另外,题主提到的还有一种远程镜像,通过磁盘镜像的方式将业务数据复制到远端。 虽然也实现了数据备份的功能,但是无法解决数据错误、删除等问题。 源数据有误。 那么备份的数据也是错误的。 因此,该技术为数据灾难恢复做好了更充分的准备。 容灾的意义在于两端数据实时同步,保证源数据发生灾难性故障时业务不会中断。 这里我觉得磁盘镜像的方式比较简单。 很多存储可以直接在底层实现。 减少了上层数据库的配置。 另外就是数据库自带的各种双机容灾技术。 一般都会涉及到授权,配置比较复杂。

综上所述。 这些技术都有各自适合的场合。 我们不能简单地比较哪一种更好,而是哪一种更适合当前的场景。 而且,这些技术并不矛盾。 相反,随着数据变得越来越重要,这些技术也将相互交织、叠加,以保证数据和服务的安全。

@老暴一个银行数据中心次高项目:

与SRDF和数据库自带的复制技术相比,很难区分哪种方法更好。

SRDF是一种基于存储的复制方式,成本昂贵,对链路带宽资源要求较高,但运行稳定;

数据库内置的复制技术基本上不需要额外的投资。 同时,它对带宽要求不高,但维护起来很不方便。 尤其是需要重构复制关系时,需要在目标端有一份最新的全量数据的副本。 对于大型数据库,这会严重影响重构进度。 然而,SRDF 不存在这个问题。

SRDF的容灾技术指标RTO低于数据库自带的复制工具。

同城容灾,在满足使用SRDF的条件的情况下,可以优先使用SRDF,建议使用异地数据库自带的复制工具。

@曲波解决方案架构师:

本质上,SRDF是针对整个存储的。 如果存储上部署了多个应用,比如20组数据或者数百台虚拟机,那么通过存储复制技术会降低管理的复杂度。 但如果存储上只运行两组数据库,数据复制技术使用数据库,DBA管理员相对容易管理。 因此,更多的人会采用存储复制技术来保证存储上存储的所有数据的安全,对核心应用部分使用数据库+存储复制的双保险。

2、存储数据复制技术如何应用​​于同城、异地容灾场景?

基于存储的复制技术需要足够的链路带宽和较高的存储读性能,导致存储读IO较高。 通信链路的中断不会影响生产系统的正常运行,可靠性高。

1、通过什么技术可以保证同城、异地场景下复制文件的逻辑一致性?

【问题描述】 例如:需要复制的数据为: 1、虚拟化集群中有多个LUN。 2.数据库的多个数据文件。 3. 物理主机的条带化文件系统。

@老暴一个银行数据中心次高项目:

对于同城或异地存储数据复制的方法,为了保证数据不会因生产中心异常而传输到同城或异地中心,CDP(连续数据保护)技术或一般采用数据快照技术,也可以保证数据复制的一致性。

@曲波解决方案架构师:

对外,MD5数据校验和,比较传输前和接收后数据的哈希值是否一致,大小是否一致,文件信息是否一致(权限、修改日期、文件所有权等信息),一般由申请供应商提供校准工作。 如果是同类型的文件存储与同一厂家的文件存储之间,文件存储会采用相应的文件拷贝技术自行进行比对工作。

2. 跨中心双活存储架构的设计要点是什么,最佳实践是什么?

@老暴一个银行数据中心次高项目:

跨中心双活存储架构的设计要慎重考虑。 原则上要注意以下几点:第一,链接的稳定性。 如果是裸纤链路,最好控制在30KM以内; 其次,链路时延以及抖动和时延应尽可能保持在1ms以下; 三是仲裁机制的选择,这是最关键的要素,否则当链路异常时可能会出现“脑裂”的严重后果。

@某银行系统运维工程师:

补充一点关于两个中心的数据一致性。 数据一致性涉及应用层一致性和存储一致性两个概念。 存储一致性是通过实时镜像来实现的,保证两个站点之间的数据始终保持一致。 主机写操作通过实时镜像技术同时写入两个数据中心的双活成员文件系统。 应用层面可以结合备份等软件来完成。

@dcits系统工程师:

最重要的两点是站点距离和链路带宽。 双活必须考虑延迟; 在实现存储双活之前,两个站点之间的距离是最重要的。 一般根据需要添加WDM设备,一般50-100km最佳。

3、与同类技术相比有何优缺点? 在同城容灾、异地容灾场景下是否具有良好的性能和可靠性?

@老暴一个银行数据中心次高项目:

目前,容灾建设的数据复制技术主要包括基于存储、基于数据库和第三方工具三种数据复制方式。 每种复制技术都有其自身的优点和缺点。

基于存储复制技术,要求链路带宽足够大,存储读性能高,导致存储读IO较高。 通信链路的中断不会影响生产系统的正常运行,可靠性高;

基于数据库复制技术,链路带宽要求较低,但当链路不稳定或中断时,可能会导致生产系统运行短暂中断,从而导致可靠性较低;

基于第三方复制技术,可能存在一定的兼容性问题。

@:

基于存储的底层复制:生产中心和异地灾备中心存储设备需要保持同一品牌和型号,对硬件设备依赖较大,可以较好保证RPO指标,但无法保证RTO指标,且切换比较复杂,切换的及时性难以保证。

基于数据库技术的复制:容灾切换更方便,与底层硬件设备无关。 无需保持两端硬件设备型号、品牌的一致性。 在非批量时间段,RTO指标一般可以控制在10分钟以内,切换时效性较高。 ,能够满足目前监管容灾指标的要求,同时RPO指标也能得到保证。 建议使用该技术来实现灾难恢复。 我们单位就是利用这个技术在数据库层实现容灾,对于容灾切换演练非常方便。

基于第三方软件的复制:需要依赖额外的第三方复制软件,涉及到软件兼容性,数据库服务器需要安装软件等,可能会对服务器造成一定的资源占用。

4、银行异地灾备,异地站点有什么要求?

[问题描述] 异地容灾的最小距离是多少? 需要跨省吗? 我还应该注意什么? 您需要自建机房进行异地容灾,还是租用托管? 如何进行评估。

@老暴一个银行数据中心次高项目:

根据《信息安全技术-2007-T信息系统灾难恢复规范》对灾备中心选址要求,并参照《商业银行数据中心监管指引》要求

@数字研究院咨询专家:

银行业的灾备标准和灾备中心的建设均要求满足“三不原则”(即灾备中心和生产中心不应设置在同一地震区,同一流域、同一电网),因此异地灾备中心一般距离生产中心300公里以上。

事实上,与其他行业相比,金融行业在信息化、灾备方面有着更全面的标准和要求。 关于银行灾备,我的大致理解如下:

2008年3月,保监会参照国家标准《信息系统灾难恢复规范》发布了《保险信息系统灾难恢复管理指引》,详细描述和规定了灾难恢复能力的最低水平:中断将造成重大社会影响或影响保险机构关键业务功能并造成重大经济损失的,必须具备四级电子传输和完整的设备支持、RTO

 
反对 0举报 0 收藏 0 打赏 0评论 0
 
更多>同类资讯
推荐图文
推荐资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报
Powered By DESTOON