河南工业大学数据中心机房建设经验分享
来源:河南工业大学 作者:王远哲 发表于:2016.09.30 723浏览
一、设计原则
河南工业大学的数据中心机房建设主要遵循以下几个原则:
1、规范性原则:在设计和建设过程中,始终遵循国家法律法规。河南工业大学建立的是B类机房,建设过程严格按照国家的相关规定和标准执行。
2、可靠性原则:主要考虑最基本的防自然灾害以及机房自身运行的安全可靠性。防自然灾害,重点考虑防震、防雷、防水、防火,以及防鼠虫害。老鼠对网络的破坏能力不能小觑。机房本身运行的安全可靠性主要考虑机房配电系统和空调管理系统的安全性。
3、先进性原则:现在新的机房都承载着比较大的数据运行任务,先进性主要考虑在建设过程中使用国际上先进的技术和设备,满足今后一段时期数据中心能够适应计算机技术和网络技术发展的需求。
4、灵活性原则:主要考虑比如计算机机房面积、电力系统UPS系统的容量、空调的容量、信息点的容量,这些一般要留出来相应的冗余,也是为了进一步的发展考虑。
5、安全性原则:主要考虑影响机房建设可靠性的因素,如动环监控系统、安防监控系统。从数据安全的角度考虑,还需要考虑到综合布线的合理性,这是根据我们学校的实际情况作出的简单总结。
6、节能环保原则:主要指建设中使用绿色环保材料,同时也需要考虑到动力系统、空调系统的节能、电耗问题。
二、设计内容
河南工业大学新机房建设包含的内容如图1所示。
图1 新机房建设内容
具体来讲如下:
1、机房装修工程
(1)装修设计内容:按照B类机房建设标准,机房内部装修包括地面、墙面、吊顶、隔断、门窗、标识等内容。
(2)装修设计原则:色调淡雅、柔和,简洁大方,有现代感;采用防火、防尘、保温、绿色环保材料。
(3)吊顶方式:根据机房的实际位置和层高选择吊顶方式。如果机房层高允许的话,有吊顶的方式应该能够起到节能的作用,比如对散热、机房空调系统的节能都有一定的好处。我们采用的是有吊顶的方式。曾见过郑州浦发银行的一个机房,采用了无吊顶方式,现代感很强,美观度比较好,但在散热和能耗方面可能会存在一些问题。
同时,有吊顶,会比较整洁,吸音效果好,但对层高要求比较高;无吊顶,便于扩容、维护,对安装工艺及后期维护要求较高,对层高要求低。
(4)地面装修工程:实际上也是目前机房建设的一种格式化方式。机房区域均铺设活动硫酸钙防静电地板,防静电地板下面铺设保温棉和防静电铝板。
(5)立面装修工程:采用机房主题墙面,现在基本上用的都是彩钢板,它的好处是隔温隔热、防电磁辐射,美观度也比较好。
现在的机房装修都会考虑到美观度,所以会有一些玻璃隔断。采用玻璃隔断时,要注意消防防火要求和空调回风问题。我们当时的机房建设一面是UPS间,一面是主机房,最初考虑做成通体的玻璃隔断,后来考虑到空调的回风问题,做成了一半的,到现在实际上又做成了通透的——在UPS间单独装了空调。大家如果真的有这个建设需求,而数据中心空调是UPS间和主机房统一配用的话,那就要考虑玻璃隔断对空调回风问题的影响,因为现在的空调基本都是上回风。
2、机房电气系统
图2 机房电气系统
配电是数据中心机房非常重要的方面。首先我们应该考虑到整个机房运行的总功率,这个很重要。一般来说现在的配电基本都是双电,一主一备。因为河南工业大学是建一个新机房,总功率要细化到每个机柜,按照我们现在常规两U的一个服务器功率大概在600W多一些,那么按照8台或者6台布局,一个机柜能达到3000W或者4000W多一些,这个一定要有仔细的计算,因为它对后期的用电非常关键。
还有一个问题是一定要做到方便扩容。河南工业大学使用的是模块化的UPS。因为当前的UPS都具备网络管理功能,那么它也作为场地监控的一部分。我们主要是用了120KVA UPS的4台主机作为双总线结构的供电。在设计时一定要考虑到配电的冗余及其扩展性。
3、机房空调通风系统
设置机房专用精密空调及全热式交换新风机。河南工业大学采用的应该算是比较常规的方法,如图3所示。
图3 机房冷通道/热通道合理分布图
这里有一个问题,我们采用的是下送风的方式,也有机房采用上送风的方案或者冷通道的方案。从节能的角度考虑,冷通道的方案更好,从理论上能够节省20%—30%的能源,实际上节省不了这么多,但节省到10%—20%应该是可以的。
采用下送风的方案在建设过程中要考虑自己机房的实际情况,比如层高不允许,最好就不用下送风,因为下送风对静电地板和地面高度有要求,最少应该达到40厘米,河南工业大学达到了60厘米。
4、机房场地监控系统
图4 机房场地监控系统
现在我们的设备都越来越智能化,空调、消防,包括UPS和配电等,都能够实现网络监控。在机房建设过程中,监控也是非常重要的,是实现一体化和智能化管理的重要手段。所以我们在机房建设时也把相关的内容考虑进去了,包括机房温湿度、电源、漏水、UPS、安防、空调、电池、风机滤网、避雷器等。
5、机房消防系统
河南工业大学采用的是比较常用的七氟丙烷无管网气体灭火系统。因为数据中心机房在学校图书馆一楼,而图书馆大楼本身也有消防系统,所以现在河南工业大学机房是两套消防系统联动。
6、机房防雷接地系统
(1)M型综合接地方式,接地电阻不大于1Ω。
(2)设置等电位连接带和等电位连接网格。
(3)机房外围采用30*3,内围采用30*2的铜排组成矩型等电位接地网络。
(4)每台机柜要采用不同长度的两根接地线与接地网格相连。
在遵循防雷系统相关行业标准的同时,我们的防雷系统充分利用了整个大楼的防雷系统:每个机柜下面都有两个不同长度的接地线,统一汇聚到大楼的接地系统里面。如果数据中心是独立的,网络系统恐怕要独立建立实施。
7、节能策略
我们对机房能耗的统计如下图:
图5 机房用电量拼图
配电系统占到50%的能耗,空气循环(主要是新风系统)大概占12%,制冷系统占25%,设备供电占10%,其他照明占3%。其中,空调通风是主要的耗能设备,约占40%。
8、机房综合布线系统
B类机房的建设标准对综合布线系统的要求非常严格和细致。
(1)高速、安全的网络:河南工业大学机房整体建设中采用6类非屏蔽双绞线和万兆多模光纤布线系统。水平线缆采用6类低烟无卤阻燃双绞线,水平光纤点采用万兆光缆;数据主干采用室内万兆OM3多模光缆。河南工业大学数据中心还没有完全建成,但是前期的综合布线要考虑到能够保障数据顺利流转,至少在内部不应该出现数据传送的瓶颈现象。
(2)合理的布线方案:采用机柜上走线方案,双绞线直接进机柜;单、多模光纤集控在弱电列头柜。优缺点:单点故障率低,管理麻烦。
我们也见到过下走线的方式,两种方式各有利弊。上走线更易于维护,但是在机房运行一段时间后,可能会出现线看起来比较乱的情况。考虑到这个问题,布线时我们在上走线线槽里,每到一个机柜,让双绞线下来,直接通过配电架做到机柜里面去,然后光纤统一到弱电列头柜,这样就可以防止机房运行一段时间后,因为进行大量的线路调整出现线很乱、机房不规整的问题。
从线缆的布局方式来看,我们十年之内应该不用出现大的变动。每个机柜从线槽里面下来都会根据实际应用,最多的是跟24根双绞线。一个机柜按正常的布局,8—10台服务器就算比较满了,除非机房过于拥挤,所以如此布线就是为了满足以后发展的需求和扩展性。
9、智能化防雷接地系统
采用综合接地方式,即大楼防雷接地与交流工作接地、直流工作接地、安全保护接地共用一组大楼接地装置。接地装置的接地电阻值≤1Ω。
图6 电子系统防雷防过压选型示意图
10、综合管网系统
我们综合管网的设计原则有以下几点:
(1)充分利用智能化系统工程建设的需求及特点,做到“统一规划、一步到位、适当冗余、经济合理”。
(2)金属线槽内敷设的线缆均不超过线槽截面的50%;KBG钢管和SC钢管的截面利用率不超过30%。
(3)建筑室内各智能化系统均采用金属线槽和KBG钢管相结合的敷设方式,其中管道采用扣压式钢管,桥架采用金属酸洗、磷化及镀锌处理。防腐蚀,防静电。
三、几点经验
1、建设前需做好机房总功率的计算,尤其单个机柜功率计算。要考虑到功率的冗余问题。
2、规划初期需计算机房总体积以计算空调系统的出风量。
3、要考虑楼板承重问题,根据情况使用散力架等。因为大家在建设机房时,不一定都在一楼,尤其是结合我们考察的情况现在在一楼的还不太多。我们的机房在建设中就涉及到楼板承重的问题。当时设计院给我们的数据折合成压力值为2000牛,但是我们UPS电池用上后发现压力值已经达到1600牛、1800牛,应该说实际上压力和设计压力很接近。在这种情况下,我们在UPS电池间,统一铺设了散力架,这样折算下来机房承重能够达到4000—5000牛,这样的话问题就解决了。
4、重视新机房的标识系统。科学的、友好的、清晰的标识系统对机房的管理和维护会产生一种不可估量的价值。这也是从一线走出来的人的切身体会。
(本文据河南工业大学王远哲老师在“2016年河南省教育科研网第一期网络管理员培训会议”上的分享报告整理而成,已经本人审阅。)