业务连续性和经济效益已经成为IT平台的基本要求.PRIMEQUEST提供标准与高可用性技术的最佳融合,是出色的企业系
统平台之一.
在最大化正常运行时间的同时,大大降低了总体拥有成本(TCO).
本文档说明了PRIMEQUEST如何通过数据保护和故障-安全机制实现业务连续性的最大化.
0102030407081011121415简介具有最高可用性的标准服务器-PRIMEQUEST英特尔至强处理器RAS特性完全内存保护从系统板故障中自动恢复灵活的I/O,用于迅速的I/O重配置组件冗余最大程度提高业务连续性直观的管理界面无线缆设计具备卓越经济效益的最高业务连续性商标目录FUJITSUPRIMEQUEST高可用性全面解析Microsoft,MS,Windows以及WindowsServer均为微软公司在美国和/或其它国家的商标或注册商标.
LINUX是LinusTorvalds在美国和其它国家的商标或注册商标.
RedHat,RPM以及所有基于RedHat的商标和标识均为红帽公司在美国和其它国家的注册商标.
英特尔和至强均为英特尔公司的商标或注册商标.
Ethernet是施乐公司在美国和其它国家的注册商标.
VMware是VMware,Inc.
在美国和其它国家的商标或注册商标.
Xen是思杰系统公司或其它子公司在美国和其它国家的商标或注册商标.
其它公司名称和产品名称均为其各自所有者的商标或注册商标.
商标WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析WHITEPAPER版权声明富士通(中国)信息系统有限公司Fujitsu(富士通)尽力保证本册中的资料在出版时的准确性,不承担任何因错误而产生的相关责任.
所有出现在本册中的商标和注册商标均为其各自商标所有人所属,第三方的擅自使用可能侵犯其所有者的权利.
联系方式富士通(中国)信息系统有限公司地址:上海市浦东新区花园石桥路33号花旗集团大厦11楼电话:(8621)58871000传真:(8621)58775286e-mail:marketing@cn.
fujitsu.
com(产品信息)partner@cn.
fujitsu.
com(渠道招募)网站:http://cn.
fujitsu.
com2011-07-01CN-ZHWHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析简介PRIMEQUEST是一款关键业务服务器,最多可支持八颗英特尔至强E7系列CPU芯片,80颗内核.
通过将英特尔处理器,微软WindowsServer、RedHatEnterpriseLinux、以及其他标准技术与Fujitsu(富士通)的高可用性技术紧密结合,使正常运行时间达到了最大化.
PRIMEQUEST的高度组件冗余包括服务器的核心-处理器、内存以及系统互连.
另外,如果任何系统组件出现故障,该组件将自动隔离,立即终止故障并允许系统不间断运行,从而继续运行其余的系统资源.
PRIMEQUEST不仅具有最长的系统正常运行时间,而且具有最高的服务器使用效率.
冗余、可热插拔的组件和自动恢复机制是最高业务连续性的核心技术.
硬件分区可将出错产生的影响降至最低,故障组件自动切换至备用组件,以便在最短时间内迅速恢复运行.
另外,PRIMEQUEST通过采用标准技术和简单直观的系统管理界面,帮助用户降低与服务器相关的采购、管理和维护成本.
基于GUI的管理视图更加有利于及早发现问题.
除此之外,简化的维护不仅减少了组件更换所需的系统停机时间,而且有助于防止由复杂的程序导致的其它问题.
硬件分区即使分区内发生硬件故障,故障也会被完全隔离在相应的分区内,而不会影响其它分区.
PRIMEQUEST能够支持多达四个强有力的硬件分区.
从系统板故障中自动恢复将任意发生故障的系统板自动切换至备用系统板.
PRIMEQUEST的自动恢复功能意味着您将永远不会遭遇由于问题发现和响应时间较晚导致的长时间系统停机时间.
使用其它厂商的工业标准服务器,需要较长的时间发现和人工解决此类问题.
为了实现自动恢复机制并将系统停机时间降至最低,他们最终采用系统集群手段.
但系统集群更为复杂,而且集成和维护费用昂贵.
简单而迅速的I/O重置机制系统板发生故障并切换至备用系统板后,连接至故障系统板的I/O设备可以通过简单的方式重新连接至新的系统板.
这一技术被称作"灵活I/O",专门设计用于实现系统板和I/O设备间的灵活连接.
用于最大限度提高业务连续性的硬件冗余多数组件都是冗余的,且系统互联是多路复用的.
即使某个组件出现故障,系统也可继续运行.
即使系统互联出现错误,它仍可采用降级模式工作,断开故障链接并对其进行维护.
直观的系统维护,可快速地进行故障检测快速解决问题是系统稳定运行所必需的.
PRIMEQUEST和ServerView服务器管理软件的结合可让你迅速实现故障定位.
无线缆设计确保防错维护为了将停机时间降至最低并确保稳定运行,维护操作必须防止误操作.
PRIMEQUEST的组件更换简单而快速.
服务器组件采用严格的插入式架构,且采用无线缆式连接.
发生错误时,具体的故障装置可轻松地从机柜的前方或后方移除.
PRIMEQUEST采用了多项高可用性的技术.
甚至可使用预留的系统板自动替换有故障的系统板.
该功能可明显地将系统停机时间降到最低.
使用无线缆设计的中间背板,系统维护也大大简化.
由于各种备件均插入中间背板,故工程师无需再进行复杂的电缆管理工作.
具有最高可用性的标准服务器-PRIMEQUESThttp://cn.
fujitsu.
comhttp://cn.
fujitsu.
com0102英特尔至强处理器RAS特性处理器和内存的共有特性英特尔至强处理器7500和E7系列以及PRIMEQUEST内部的内存具有彻底的错误恢复功能,正确而迅速地处理可恢复的和不可恢复的错误.
处理器RAS特性错误处理概要可恢复的错误高能粒子或电磁波可导致高速缓存内部的位反转.
英特尔至强处理器能探测和校正此类损坏位.
不可恢复的错误处理器的核心,包括各种级别的高速缓存可保护其自身免受致命错误.
例如,如果重复错误发生的次数超过一定的限度,故障组件则可停止使用.
通常而言,内存是最容易出错的组件之一.
内存错误根据它们的错误类型(如可恢复错误或不可恢复错误)进行校正或隔离.
处理可恢复错误电磁波、高能粒子以及其他外部影响可造成信号位反转.
将可检测和校正此类错误的代码添加到各个信号内.
这意味着此类错误可自动校正或通过重试操作进行校正.
处理不可恢复错误即使内存内部存在不可恢复错误,CPU也可使用内存冗余机制正确访问内存.
对故障内存进行隔离,使其不再与CPU进行连接.
采用精密内存保护机制的原因为了确保稳定的内存访问,必须有处理可恢复和不可恢复错误的可靠方法.
有关内存错误实验*1的一篇报告指出了内存错误方面的三个重要趋势.
(1)在最初两年的内存使用期间,可恢复错误发生的次数增长迅速.
这意味着必须采取措施处理可恢复错误.
(2)不可恢复错误率随CPU以及内存使用率的增加而增加.
这意味着高利用率的系统需要更强大的内存RAS功能.
(3)不可恢复错误会与可恢复错误会同时增加.
这就要求提供不仅可以处理可恢复错误还可以处理不可恢复错误的强大内存RAS功能.
对于各种内存错误,PRIMEQUEST可通过检测和校正可恢复错误,并将那些出现不可恢复错误的组件隔离.
*1"自然环境下的动态随机存取内存(DRAM):一项大规模现场研究(研究论文格式)"http://www.
cs.
toronto.
edu/~bianca/papers/sigmetrics09.
pdf有保证的读写操作PRIMEQUEST检测并校正1位错误,检测2位错误并使用ECC进行重试操作(错误校验和校正).
如果处理器和内存之间的接口,即SMI(可扩展内存互联)通道出现错误,内存访问可继续使用备用通道.
多位错误恢复即使DRAM模块内出现错误,也可进行纠正并保证应用程序继续运行.
数据分割为4位或8位的数据块,数据块中各个数据位被分别存放于DRAM的不同位置.
ECC校正这些信息时可以使CPU持续访问内存.
该功能被称为SDDC(单设备数据校正).
即使一个DRAM模块出现可恢复或不可恢复错误,SDDC也可在1位错误发生时通过校正错误进行错误恢复(见图1的下面部分).
另一方面,如果未使用SDDC,一个DRAM故障会造成一个不可恢复的4位错误(见图1的上面部分).
配置英特尔至强E7处理器的PQ1800E2可通过DDDC(双设备数据校正)(见图2)恢复2个DRAM故障.
配置英特尔至强E7处理器的PQ1800E可通过SDDC(单设备数据校正)回复1个DRAM故障.
高速缓存保护机制处理可恢复错误1/2/3级高速缓存内的数据和标记字段可以检测和校正位错误.
3级高速缓存的数据保护功能描述如下.
数据阵列可以检测多达3位的错误,并可校正多达2位的错误.
当检测到一个3位的错误时,则会重新进行遇到该错误的内存访问操作.
可检测标签阵列、核心有效阵列和多达2位的LRU(最近最少使用的)错误,并可校正1位的错误.
检测到2位的错误时,则重新进行遇到该错误的内存访问操作.
处理不可修复的错误如果上述重试操作成功,应用程序和操作系统则不会接收到错误通知.
如果恢复不成功,应用程序则停止.
其它数据保护功能1位的错误由处理器电路处理:寄存器、ALU(算术和逻辑单元)、以及TLB.
它们可以检测和校正此类错误.
完全内存保护图1SDDC数据保护非SDDC数据存储在连续的位置上100110011001100100011111101000101000故障故障SDDC数据采用分布式存储4位错误,因此是不可校正的错误10110011000数据采用分布式存储11位错误,因此是可校正的错误WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析http://cn.
fujitsu.
comhttp://cn.
fujitsu.
com0304101100110001111001100010内存镜像内存镜像是一种内存冗余功能,允许各CPU对一对内存进行读写.
这意味着即使DRAM模块发生故障,CPU内存访问也可继续进行,这是因为另一个可用的DRAM模块包含了正确的数据.
内存镜像可用于管理可恢复和不可恢复错误.
PRIMEQUEST内存镜像的配置可以使一对内存直接连接到同一个CPU(图3(a)CPU内的内存镜像),也可将内存对连接到不同CPU的地方.
在后一种情况下,即使一个存储缓冲器(MB)发生故障,内存访问也可继续进行(图3(b)CPU之间的内存镜像).
内存清除内存清除设计用于前期通过使用ECC检测和纠正内存错误,包括在内存读取时错误检测、需求清除、以及通过内存巡视清除进行定期错误检测.
巡视清除在加载内存地址的同时扫描整个内存(图4).
图2.
DDDC内存错误校正数据存放在分散的位置(1)第一个DRAM错误(2)第一个错误被恢复(3)第二个DRAM错误(4)第二个DRAM错误被恢复ECC校正如果一个DRAM错误,一位数据被破坏ECC校正受影响的数位另一个DRAM错误,一位数据被破坏ECC校正受影响的数位DDDC100110011000111100110001ECC校正一位错误并将其写入备用单元备用单元备用单元备用单元备用单元错误错误错误图3内存镜像MB#0CMB#0BCPU#1MB#0DMB#1DMB#0AMB#1AMB#1BMB#1CSBICH10BMC内存缓冲器内存缓冲器DIMMDIMMIOHCPU#0镜像镜像镜像MB#0CMB#0BCPU#1MB#0DMB#1DMB#0AMB#1AMB#1BMB#1CSBICH10BMCDIMMDIMMIOHCPU#0(a)CPU内的内存镜像(b)CPU内的内存镜像内存缓冲器内存缓冲器图4巡查内存过滤012内存校验范围地址下一地址下一地址通过ECC校正00011111111111110000000000000011111111111111111100000000000111111111111100000000http://cn.
fujitsu.
comhttp://cn.
fujitsu.
com0506WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析受到下列错误检测状态触发时,PRIMEQUEST将切换系统板(SB).
SB降级CPU降级(即使仅有一个CPU出现故障)DIMM降级(即使仅有一个DIMM出现故障)检测内存镜像错误检测QPI通道降级检测SMI通道的变更检测PCIE通道或速度降级(系统板和I/O板之间)备用系统板在正常运行期间可用,有助于提高系统利用率.
例如,您可将其用于开发工作.
系统板故障中自动恢复灵活的I/O,用于迅速的I/O重配置系统板包含处理器、内存和系统互联,是PRIMEQUEST的核心.
由于系统板内的任何错误都可被自动探测,并且故障系统板能自动切换到备用系统板,系统停机时间被降至最低.
常规来讲,对于其他厂商的工业标准服务器,错误恢复机制需要复杂而耗时的措施.
发生故障时,您需要停止系统运行、分析故障原因并进行人工恢复操作.
此类人工恢复会延误系统的重新启动.
另外,此类人工操作还有造成人为错误的风险.
相反,由于其检测错误和自动切换系统板的能力,PRIMEQUEST的自动恢复可更好地确保在预定时间内的系统恢复.
对于系统板故障,恢复程序必须包括I/O重配置.
对于PRIMEQUEST,由于"灵活I/O"功能,此过程被大大简化.
这一功能允许备用系统板从故障系统板按照现有状况接管I/O配置.
对于其他一些厂商的服务器产品,到各系统板的I/O分配不可变更.
这意味着系统必须通过集群快速恢复运行.
备用节点的I/O配置必须也有与活动节点相同的网络配置.
您将会发现此类复制的配置不仅复杂,而且成本昂贵.
采用灵活I/O时,I/O重配置需要大约几秒钟的时间.
采用直观的设置视图,系统板可链接至I/O设备,如I/O单元*1,GigaLANSAS&PCIBox接口板(GSPB)*2.
在系统板和I/O设备的使用上,您不会受到任何限制.
I/O设备可得到高效利用对应I/O工作负荷的增加,您可在系统板上添加I/O板和GSPB.
系统板故障时的快速错误恢复如前文"系统板的自动恢复"所述,一个分区内故障系统板的I/O板和GSPB可以切换至备用系统板上.
在PRIMEQUEST里,四个I/O板中的每一个均构成一个独立的PCI总线树,它与系统板相连,如图6所示.
(系统板和I/O板以及GSPB连接的详情请参考图6.
)下面是灵活I/O工作方式的简要说明.
每个硬件分区由一个或更多个系统板、I/O板和GSPB组成.
在一个包含两个或多个系统板的硬件分区里,一个预先确定的系统板直接连接至分区内的I/O资源.
未直接连接至I/O资源的系统板上的任何CPU均通过这一预先确定的系统板(称为主系统板)与每个I/O装置进行通信.
该简单方案具有灵活更换分区配置的优点.
添加或移除分区内的系统板仅仅主系统板直接连接至I/O资源.
这完全消除了更改与I/O设备相关的设置需要.
更改连接至分区的I/O资源通过切换主系统板和I/O板/GSPB之间的连接可轻松更换配置.
如果系统板发生故障,将很容易改变系统板与I/O装置的连接.
从故障系统板到备用系统板自动切换完成后,I/O装置连接至主系统板,然后系统重启以便恢复运行.
这些操作的设置使用Web图形用户界面(GUI)可轻松实现.
*1.
I/O单元:提供PCIExpress插槽、系统板访问端口、GSPB访问端口*2.
GigaLANSAS&PCIBox接口板(GSPB):提供板载以太网端口、外置PCI扩展柜接口、以及SAS磁盘单元/SAS磁盘阵列单元接口图5备用系统板分配SBSBSBReservedSB错误(3)所需维护SBSBReservedSB(2)合并SBQPI网络QPI网络(1)释放IOB/GSPB/SASUPCle交换机IOB/GSPB/SASUPCle交换机http://cn.
fujitsu.
comhttp://cn.
fujitsu.
com0708图6系统板到I/O连接QPL网络SB和I/O可以进行自由组合SBIOHI/OSBIOHI/OSBIOHI/OSBIOHI/O内存内存内存内存CPUCPUCPUCPUWHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析组件冗余最大程度提高业务连续性PRIMEQUEST的大多数组件都可以冗余.
内存可通过内存镜像变成冗余状态.
电源、风扇、磁盘驱动器、PCI卡以及服务处理器亦可冗余.
此外,主要组件都是可热插拔的.
电源、风扇、磁盘驱动器、PCI卡、服务处理器和DVD驱动器不仅大多数组件有冗余,在这些组件间起连接作用的中间背板也可防止出现错误.
系统板之间的QPI链路、以及系统板和IOH之间的信号线都接线至中间背板.
由于连接器仅仅是电子器件,它简单而微小的设计抑制了故障的发生(见图9).
而且,由于各组件之间均无焊剂,也消除了危险物质的使用.
另外,系统互联(QPI)设置了错误发生时的重新传输功能.
当重试操作次数达到阈值时系统将采用降级模式.
QPI使用CRC检测错误,启动重试操作以尝试解决问题.
由于QPI不要求额外的时钟周期用于CRC控制,其性能没有任何降低.
即使QPI链路发生故障,QPI也会通过缩小传输带宽或跳转其他路径来实现容错功能.
图7I/O配置图图9中间面板图8PRIMEQUEST组件图PRIMEQUEST1000MMBMMBSBSBSBSB时钟内存内存CPURAIDdeviceLANSWPCle交换器PCle交换器QPI网络双工输入[index]PCI卡PCI卡LANLANPSU(n+1或冗余)(注)在使用内存镜像s/w的分区内,物理内存必须是所需内存容量的两倍.
路径复用重试/筒井重新发送冗余FAN(n+1)QPISB#0SB#1SB#2SB#3MMB#0MMB#1IOB#0IOB#1PCIExpress交换机PCIExpress交换机PCIExpressslotLIOBLIOBPCIExpressslotLIOBLIOBGSPB#0GSPB#1SASSASSASSASLANLANLANLANLGSPBLGSPBLGSPBLGSPBPCIBoxPCIExpress插槽*12SAS磁盘单元/SAS磁盘阵列SAS磁盘单元/SAS磁盘阵列SAS磁盘单元/SAS磁盘阵列SAS磁盘单元/SAS磁盘阵列SASSASSASSASSGPIOSGPIOSGPIOSGPIOCPUCPUDIMMDIMMPCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机PCIExpress交换机IOHhttp://cn.
fujitsu.
comhttp://cn.
fujitsu.
com0910WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析无线缆设计直观的管理界面简化维护操作可有助于防止人为错误和减少系统停机时间.
其他厂商的工业标准服务器允许组件的热插拔,但热替换实际上很难做到.
特别是如果服务器的设计没有考虑简化维护时,更是如此.
PRIMEQUEST在设计时,尤其注重实际维护的便利性,避免了由于设计导致的维护麻烦,(图11(1)和(2)).
故障部分可单独轻松地从机柜的前方或后方拆下.
每个装置仅使用最少的连接器,并且通过中间背板实现互联.
由于容易安装和拆卸,以及缺乏单独电缆,错误得以避免.
凭借ServerViewOperationsManager服务器管理软件的诸多管理功能,您可快速而准确地发现和解决服务器问题.
管理功能可图形化显示发生故障器件所处的位置,方便您准确发现问题所在.
此外,它可远程打开或关闭服务器上的LED,以便快速确认故障部件.
可以选定最适合您运行环境的错误通知—可选项包括通过电子邮件发给上网本电脑或其他移动终端的报警通知、以及管理控制台上的错误监测.
每个报警可分配一个优先权并进行配置以确定收到报警时采取的措施,确保报警被注意到.
即使是在紧急情况下,您也可快速作出响应.
为了分析应用性能的变化,您可使用直观的图形界面,通过观察系统资源利用率的变化,缩小问题范围.
这样,PRIMEQUEST凭借ServerViewOperationsManager通过迅速解决问题帮助您实现服务器运行时间的最大化.
相反地,某些其他厂商服务器的组件更换程序较为复杂,包括拆卸服务器机柜顶部面板.
更换IBMX3950X5等的组件需要拆卸机柜的顶部面板(图12)*1.
PCI卡(添加、拆除或替换)风扇(替换)PSU顶部面板必须在两分钟内放回原位以维持正常的冷却和空气流动硬盘驱动器尽管IBM声称PSU、风扇和硬盘均可热替换*2,这些组件的热替换实际上还是很难的.
PRIMEQUEST让您免于复杂工作,并通过尽可能简化更换工作的无线缆设计避免出错.
*1"IBMSystemx3950系列8878型和Systemx3950E系列8879型问题确定和服务指南"*2IBMSystemx3950规格说明http://www-03.
ibm.
com/systems/x/hardware/enterprise/x3690x5/specs.
html图11PRIMEQUEST1800E部件替换(2)若要取下PCI盒,首先松开黑色手柄顶部的螺钉,并尽力拉出此杆,同时按住PCI盒的顶部.
然后,再次拉住此杆,取下PCI盒.
*由Fujitsu(富士通)认证的现场工程师进行该项工作.
图10ServerView管理套件界面手柄锁杆若要拆卸风扇,抓住风扇手柄并在推锁杆时向外拉动手柄.
手柄位于风扇的上方或下方,根据风扇安装位置的不同而不同(右边或左边).
*由Fujitsu(富士通)认证的现场工程师进行该项工作图11主机风扇(1)风扇http://cn.
fujitsu.
comhttp://cn.
fujitsu.
com1112WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析IT行业里有一个"谣言",谎称标准技术不适合于关键业务应用.
本白皮书证明这不再是正确的观点.
英特尔至强处理器E7及7500系列和内存中的完全数据保护机制目前足以应对可恢复和不可恢复错误.
特别地,服务器内存的易出错区域受到多种数据保护机制的保护,包括ECC的错误检测/校正、内存镜像的冗余和内存清除技术的内存健康检查.
凭借PRIMEQUEST平台采用的Fujitsu(富士通)独特的高可用性技术,关键业务应用程序的正常运行时间实现了最大化.
例如,备用系统板结合灵活I/O可实现错误恢复程序的自动化,大大减少停机时间.
凭借英特尔至强处理器的明显经济效益,ServerView直观的管理界面和简单维护界面,服务器的总体拥有成本得到降低.
特别是无线缆设计和中间背板设计大幅度简化了维护工作,使得大多数组件都可通过简单的插入操作即可进行更换.
由于极其简单而美观的设计,PRIMEQUEST成为当今市场上最坚固耐用和最经济高效的服务器平台之一.
图12服务器风扇更换示例热插拔风扇5热插拔风扇6热插拔风扇7热插拔1热插拔风扇1热插拔风扇2热插拔风扇3热插拔风扇故障LED完成下列步骤以取下热插拔风扇http://cn.
fujitsu.
comhttp://cn.
fujitsu.
com1314具备卓越经济效益的最高业务连续性WHITEPAPERFUJITSUPRIMEQUEST高可用性全面解析
Megalayer 商家算是比较新晋的国内主机商,主要方向是美国、香港、菲律宾等机房的独立服务器为主,以及站群服务器和显卡服务器。同时也有新增价格并不是特别优惠的VPS云服务器。上午的时候有网友问问有没有CN2线路的美国独立服务器的,这里我推荐他选择Megalayer看看,目前也是有活动截止到月底的。Megalayer 商家创办2年左右时间,如果我们初次使用建议月付体验。目前在进行且可能截止到6月...
TMThosting发布了今年黑色星期五的促销活动,即日起到12月6日,VPS主机最低55折起,独立服务器9折起,开设在西雅图机房。这是一家成立于2018年的国外主机商,主要提供VPS和独立服务器租用业务,数据中心包括美国西雅图和达拉斯,其中VPS基于KVM架构,都有提供免费的DDoS保护,支持选择Windows或者Linux操作系统。Budget HDD系列架构CPU内存硬盘流量系统价格单核51...
Advinservers,国外商家,公司位于新泽西州,似乎刚刚新成立不久,主要提供美国和欧洲地区VPS和独立服务器业务等。现在有几款产品优惠,高达7.5TB的存储VPS和高达3.5TBDDoS保护的美国纽约高防服务器,性价比非常不错,有兴趣的可以关注一下,并且支持Paypal付款。官方网站点击直达官方网站促销产品第一款VPS为预购,预计8月1日交付。CPU为英特尔至强 CPU(X 或 E5)。官方...
高可用性为你推荐
阿丽克丝·布莱肯瑞吉唐吉诃德·多弗朗明哥知道什么秘密嘉兴商标注册我在濮院想注册一个羊毛衫商标?该怎么做?关键字关键字和一般标识符的区别陈嘉垣大家觉得陈嘉桓漂亮还是钟嘉欣漂亮?百度关键词工具如何利用百度关键词推荐工具选取关键词m.kan84.net经常使用http://www.feikan.cc看电影的进来帮我下啊www.123qqxx.com我的首页http://www.hao123.com被改成了http://www.669dh.cn/?yhcwww.1diaocha.com手机网赚是真的吗dpscycle国服魔兽WLK,有什么适合死亡骑士的插件?222cc.com怎样开通网站啊
jsp虚拟空间 域名交易 中文域名注册 视频空间租用 lnmp 163网 cloudstack 网通服务器ip 圣诞节促销 数字域名 腾讯云分析 vip购优汇 169邮箱 cdn加速原理 域名和空间 国外免费asp空间 如何建立邮箱 英国伦敦 帽子云排名 中国linux 更多