北京快三开奖

  • <tr id="U9YkSO"><strong id="U9YkSO"></strong><small id="U9YkSO"></small><button id="U9YkSO"></button><li id="U9YkSO"><noscript id="U9YkSO"><big id="U9YkSO"></big><dt id="U9YkSO"></dt></noscript></li></tr><ol id="U9YkSO"><option id="U9YkSO"><table id="U9YkSO"><blockquote id="U9YkSO"><tbody id="U9YkSO"></tbody></blockquote></table></option></ol><u id="U9YkSO"></u><kbd id="U9YkSO"><kbd id="U9YkSO"></kbd></kbd>

    <code id="U9YkSO"><strong id="U9YkSO"></strong></code>

    <fieldset id="U9YkSO"></fieldset>
          <span id="U9YkSO"></span>

              <ins id="U9YkSO"></ins>
              <acronym id="U9YkSO"><em id="U9YkSO"></em><td id="U9YkSO"><div id="U9YkSO"></div></td></acronym><address id="U9YkSO"><big id="U9YkSO"><big id="U9YkSO"></big><legend id="U9YkSO"></legend></big></address>

              <i id="U9YkSO"><div id="U9YkSO"><ins id="U9YkSO"></ins></div></i>
              <i id="U9YkSO"></i>
            1. <dl id="U9YkSO"></dl>
              1. <blockquote id="U9YkSO"><q id="U9YkSO"><noscript id="U9YkSO"></noscript><dt id="U9YkSO"></dt></q></blockquote><noframes id="U9YkSO"><i id="U9YkSO"></i>
                企业空间 推销商城 存储论坛
                北京快三开奖全闪存阵列 IBM云盘算 Acronis 安克诺斯 安腾普 腾保数据
                首页 > 技能园地 > 文件零碎 > 注释

                腾讯十多团体办理一万多台NoSQL存储效劳器的机密

                2016-01-09 16:46泉源:51CTO
                导读:团队次要担任CKV和Grocery二大NoSQL散布式存储集群的运营。现在团队有十几名工程师,担任一万几千台存储效劳器。次要摆设在深圳、天津、上海和广州等大地区。

                腾讯十多团体办理一万多台NoSQL存储效劳器的机密 

                周小军, 腾讯初级运维工程师,现在在腾讯交际网络奇迹部担任交际业务海量NoSQL集群运维和团队办理。曾在天涯社区任运维副总监,担任天涯全体运维。对互联网网站架构、数据中央、云盘算及主动化运维等范畴有深化研讨和了解,积聚了十多年的IT运维办理经历。盼望穷尽终身来深化研究运维范畴。

                主题简介

                腾讯现在有三大NoSQL散布式存储零碎,辨别是:

                ◆Grocery,次要支持QQ业务,包罗干系链、群、圈子、音讯等

                ◆CKV,次要支持QQ空间、腾讯云、相册、音乐和广点通等

                ◆Quorum_KV,次要支持微信业务,包罗音讯、冤家圈等产物

                我们是SNG(腾讯交际网络奇迹部)交际网络运营部平台技能运营中央下的数据运维团队。团队次要担任CKV和Grocery二大NoSQL散布式存储集群的运营。现在团队有十几名工程师,担任一万几千台存储效劳器。次要摆设在深圳、天津、上海和广州等大地区。

                存储效劳器分别为几十个SET(堆栈)集群,共有几百TB的内存和SSD存储容量,效劳于QQ、冤家网、QQ空间、相册、广点通、微云、音乐等各种互联网中心业务。

                摆设形式

                NoSQL集群按SET的方法摆设,SET也称之为“堆栈”。一个SET是一个物理单位。堆栈内至多拥有四种效劳器脚色:

                ◆接入机(署理效劳器)

                ◆存储机(主机+备机)

                ◆堆栈办理机

                ◆搬家呆板

                每个SET可摆设为跨机架、跨IDC、跨城容灾。一个SET便是一个永不绝服、永不丢数据的独立的,规范化的效劳单位,相似于规范化集装箱。我们最大的SET呆板摆设数目不会超越上千台,超大的SET会加大办理本钱。

                在腾讯的海量效劳运营模子中,SET是一个十分紧张的观点。接入层、逻辑层和数据层均按SET单位化来摆设。一个业务譬如QQ音乐能够接入层和逻辑层各有十几个SET,数据层有几个SET。SET辨别摆设到差别的地区。每个SET都能包容肯定数目的在线用户(譬如500万在线用户)。

                天津大爆炸2亿用户跨省大调理

                8月12日发作在天津的特大爆炸变乱中,腾讯天津数据中央距爆炸现场才1-2公里。事先天津数据中央高危,现场数名工程师受伤,市电随时能够中缀,柴电只能支持不到一天。8月13日我们启动了大调理,把天津所包容的二亿多华北活泼用户全部调理回深圳和上海。调理进程QQ用户无感知(从那几天IT业界的旧事来看,外界对这一大事情毫无知晓)。

                这应该是中国互联网史上最大范围的一次调理。调理的乐成受害于SET化的办理,受害于数据SET的三地同步。

                同步是怎样做的呢?

                业务数据按堆栈为单位,在天下各地IDC摆设几个异地堆栈,经过数据流水来完成各别地堆栈间数据同步和分歧性包管。当某一都会的IDC劫难性毛病时,业务能敏捷切到其他都会IDC规复数据的读写,完成业务柔性可用,包管业务效劳的继续性。数据的同步由同步中央担任,业务写入同步中央,由各地的堆栈同步效劳,从同步中央中读取数据,并写入当地堆栈。

                技能特点

                1.低本钱:应用数据冷热主动别离技能,将热数据存储在内存,冷数据存储在SSD中,从而大幅度低落本钱,且包管20%以内的数据保管在内存中。

                2.可扩展性强:表存储空间可以在线主动无损伸缩,业务根本无感知,合适种种范围的业务,和业务的各个生命周期。

                3.高功能:单表最大支持万万次/秒的拜访。经过网络拜访的延时1ms左右。单台存储效劳器千兆网络情况支持50万/秒的拜访,万兆网络情况支持超越100万/秒的拜访。

                4.可用性超越99.95%:软硬件全冗余设计,双机热备,主备切换对业务通明,跨机架跨交流机摆设。

                5.数据耐久性超越8个9:数据落磁盘存储,多内存和磁盘正本,具有劫难时回档才能。

                高可用架构

                颠末几年的不时打磨及优化,我们NoSQL散布式集群的架构曾经十分的成熟,次要有以下几个特点:

                1.高牢靠:主备冗余,毛病主动切换机制来处理单点题目,当主机毛病时主动切换到备机。同时背景调理零碎启动搬家效劳,把单点的备机数据搬家到堆栈里闲暇的资源池。

                2.异地容灾:多地摆设,单IDC、乃至单个都会劫难时,效劳继续可用。

                3.强分歧性:主提供读写,备容灾,包管数据强分歧性;主毛病时主动只读,用户切到备机后规复读写,确保在单机毛病时数据零丧失。

                4.堆栈集群机制:规范化摆设,容量伸缩主动化,数据效劳才能主动适配业务增长或阑珊,坚持对外效劳的继续可用。

                数据即效劳的运营理念

                数据中央由盘算、存储、传输三大概素组成,IaaS效劳提出了把传统数据中央的CPU,内存,网络和存储等变化为资源的目的,为业务提供盘算资源的池化及智能调理办理。关于数据层我们的目的则是DaaS,把数据做为效劳提供应用户。

                构建可伸缩的散布式数据库

                我们的散布式数据库把存储资源池化,把内存存储块及磁盘存储块做为资源,放在一个存储大池子里依照较牢固的存储单位停止办理,并在其之上摆设存储智能调理零碎。

                因而,我们的上万台存储效劳器曾经是真正意义上,具有静态伸缩才能的散布式数据库:

                ◆业务运用数据容量最小为1GB,最大为10TB。

                ◆内存存储从1GB扩容到多机的100GB在分钟级在线完成,扩容进程业务无感知无损。

                ◆业务坚持可用率4个9,耽误2ms。

                ◆扩容进程不需求工程师跟踪。

                我们的数据办理会合化,在数据庞大度以及数据量不时增长的状况下,数据运维可以支持多变的业务需求。

                运维即效劳,数据即效劳

                在DaaS中,我们曾经落地施行了以下几点:

                1.业务自助接入效劳:业务请求、创立业务ID、主动创立表空间、主动下线,贯串整个业务的生命周期。

                2.呆板摆设:接纳根底运维平台,包罗包装置,一键上架等主动化摆设。支持跨机架摆设。

                3.弹性伸缩:一是存储署理的弹性;二是存储分派空间的弹性,依据业务存储运用率主动扩缩容。

                4.水位调理:业务流量在接入集群间主动活动,存储块在存储集群间主动活动。

                5.用户报表:全方位的拜访趋向、存储趋向、数据冷热散布、接入机散布、存储机散布、主机以后负载等业务存储数据。

                6.多协议支持:支持公有协议、Redis协媾和Memcache协议。

                7.本钱分摊:按恳求量和存储量停止月度财政核算,便于对用户本钱通明。

                本钱优化战略

                上万台存储集群的本钱优化是运营中比拟中心的目的之一,我们在本钱上的步伐次要为:

                1.用拜访密度做为可器量的本钱目标,按每单元GB的拜访量来权衡业务接入的公道性。

                2.数据密度,由于数据块是由牢固长度的Block构成的。用户记载的不定长会形成存储块碎片严峻。以是我们经过活期的碎片整理来完成存储块的高效运用,碎片少,提拔无效存储空间。

                3.分层存储,热KEY保管在内存,冷KEY下沉到SSD硬盘。按通常的八二冷热数据比例,我们可以节流少量的内存效劳器。

                4.备机复用,为包管数据的强分歧性,我们的存储主机提供读写效劳,备机只提供数据流水落地,不提供效劳。因而我们在备机上摆设容器,满意公司离线盘算或长尾业务对盘算资源的需求。

                运营团队的任务实质

                研发和DBA的干系就好像一辆车,我们造好一辆车,写好阐明手册,而DBA则担任调教和维护这辆车,让它能发扬最高的功能,坐得最舒适。

                —MySQL研发团队成员赖铮

                确实,我们运营团队也是相似,与研发团队一同把原始的数据库引擎打磨得更易于运维、功能更高及对业务更多的特性支持,发扬工匠肉体,不时在本钱、平安、质量和服从上寻求极致。

                除了研发团队,运维团队自身也是开辟&运维相联合的团队,团队内有开辟和运维二种脚色:

                ◆开辟工程师:担任继续集成情况、流程引擎、接口、代码考核等任务。

                ◆运维工程师:担任上到产物司理,下就任务粒度级的开辟等职责。

                运维弱小的东西平台具有了功用丰厚的API接口,譬如身份验证、流程引擎、CMDB接口、监控接口、日记上报、包装置接口等功用,极大地进步了运维工程师东西开辟服从。

                怎样一同痛快地开展

                “高效运维”大众号(如下二维码)值得您的存眷,作为高效运维系列微信群(国际抢先的运维垂直社区)的独一官方大众号,每周宣布多篇干货满满的原创好文:来自于系列群的讨论精髓、运维讲坛精美分享及群友原创等。“高效运维”也是互联网专栏《高效运维最佳理论》及运维2.0官方大众号。

                持续阅读
                要害词 :
                NoSQL IT运维
                中国存储网声明:此文观念不代表本站态度,若有版权疑问请联络我们。
                相干阅读
                产物引荐
                头条阅读
                栏目热门

                Copyright @ 2006-2019 ChinaStor.COM 版权一切 京ICP备14047533号

                中国存储网

                存储第一站,存储流派,存储在线交换平台