2024年2月19日发(作者:瓮智)
VMware Infrastructure 规划和设计VI 体系结构设计
适用对象:示例客户
作者:
高级顾问 Jane Q. Consultant
VMware 咨询服务
2007 年 6 月
VI 规划和设计:VI 体系结构设计
修订历史
2007 年 5 月 5 日
2007 年 5 月 17 日
2007 年 5 月 22 日
1 Jane
初稿
Consultant
2 John Smith
新增了其他设计注意事项
3 Jane
新增了设计审查的反馈
Consultant
VMware虚拟架构规划设计指南
页第 0
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
目录
I. 目的和假设............................................................................................................................................3
II.物料清单................................................................................................................................................4
Server 主机规格...........................................................................................................................5
A. 主机硬件和设备规格.........................................................................................................................................5
B. 主机设备位置...................................................................................................................................................6
C. 本地存储分区...................................................................................................................................................7
lCenter Server 规格....................................................................................................................8
A. VirtualCenter Server 规格................................................................................................................................8
B. VirtualCenter 数据库规格.................................................................................................................................9
C. License Server 规格.........................................................................................................................................9
V. VI Client 规格.....................................................................................................................................10
VI.网络连接规格.....................................................................................................................................11
A. ESX Server 主机............................................................................................................................................11
B. 逻辑网络配置.................................................................................................................................................12
C. 12
D. ESX Server 主机安全要求..............................................................................................................................13
E. VirtualCenter Server 和 License Server 安全要求..........................................................................................15
F. VI Client 要求.................................................................................................................................................15
G. Converter 要求...............................................................................................................................................15
H. 网络冗余注意事项..........................................................................................................................................16
VII.存储规格...........................................................................................................................................17
A. 共享存储.........................................................................................................................................................17
B. 逻辑存储配置.................................................................................................................................................19
C. 存储路径冗余注意事项...................................................................................................................................19
D. SAN LUN 分区注意事项.................................................................................................................................19
lCenter 数据中心体系结构......................................................................................................20
A. 命名标准.........................................................................................................................................................20
B. 群集................................................................................................................................................................21
C. 资源池............................................................................................................................................................21
D. 用户组............................................................................................................................................................21
E. 角色................................................................................................................................................................21
F. VI3 体系结构冗余...........................................................................................................................................21
备份体系结构.................................................................................................................................23
A. VMware ESX Server 主机备份.......................................................................................................................24
B. VMware ESX Server 主机恢复.......................................................................................................................25
X. VI 监控体系结构.................................................................................................................................26
A. 虚拟基础架构管理..........................................................................................................................................26
B. VirtualCenter 配置..........................................................................................................................................27
XI.预期工作负载假设..............................................................................................................................29
A. 虚拟机配置特征..............................................................................................................................................29
B. 主机负载特征.................................................................................................................................................29
C. 主机群集特征.................................................................................................................................................30
体系结构设计的特殊注意事项......................................................................................................31
VMware虚拟架构规划设计指南
页第 1
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIII.假设..................................................................................................................................................33
A. 硬件................................................................................................................................................................33
B. 外部依赖性.....................................................................................................................................................33
XIV.参考文档..........................................................................................................................................34
VMware虚拟架构规划设计指南
页第 2
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
I. 目的和假设
本《VI 体系结构设计》包含 VMware Infrastructure 组件清单、详细规格以及对可实施的计划 VMware
Infrastructure 体系结构进行概括说明的准则。
本设计融入了 VMware 最佳做法,以及通过举办的各种设计研讨会和访谈活动而确定的具体客户要求。还将技术、组织、程序以及策略相关的要求考虑在内。
本设计文档随附《VI 组装与配置指南》,该指南提供如何安装和配置构成本设计的必要组件的详细程序。
本设计文档仅供参考,而且假设使用此参考的管理员熟悉 VMware Infrastructure。本设计文档不适用于此前对 VMware Infrastructure 概念和术语并不了解的管理员。
VMware虚拟架构规划设计指南
页第 3
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
II.物料清单
下面是《VI 体系结构设计》所参考的所有硬件和软件组件列表。随后是每个项目的详细规格和配置。
项目
ESX Server 主机 1
ESX Server 主机 2
ESX Server 主机 3
ESX Server 主机 4
VirtualCenter Server
VirtualCenter License Server
VirtualCenter 数据库
VI Client 桌面
VMware Converter 主机
VMware Converter 冷克隆启动
CD
VMware Consolidated Backup
(VCB) 代理服务器主机
网段
名称/说明
ESX1
ESX2
ESX3
ESX4
VC
N/A
VMWAREVC
N/A
N/A
N/A
N/A
一个管理网络
一个生产网络
共享存储 光纤通道 SAN
许可证 ESX Server:40 2-CPU VI3 企业版许可证
VirtualCenter Management Server:1
Converter 企业版:1
表 1
VMware虚拟架构规划设计指南
页第 4
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
Server 主机规格
本节将详细说明前述物料清单中指出的每个 ESX Server 主机组件。
A. 主机硬件和设备规格
根据客户要求和平台首选项,选择平台 A。此平台规格的详细说明如下。此次未选择其他平台。
VMware ESX Server 主机平台 A 规格
属性
所需的主机数
主机名和 IP 地址
规格
4
(192.168.1.101)
(192.168.1.102)
(192.168.1.103)
(192.168.1.104)
供应商
型号
CPU 插槽数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
存储 HBA 数
存储 HBA 供应商
存储 HBA 型号
存储 HBA 固件版本
本地驱动器数
RAID 级别
总存储量
x86 供应商
x86
2
双核
3.0 GHz
16 GB
2(包括板载,但不包括 iLO)
Intel
Pro 1000 MT
2
GB
2
QLogic
2300
7.07.04
2
RAID 1
72 GB
表 2
VMware虚拟架构规划设计指南
页第 5
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 主机设备位置
下表说明 VMware ESX Server 主机平台 A 配置的 PCI 卡位置。
插槽编号
总线:设备:功能
(lspci –H1 –m)
说明 设备功能与安装
vmhba0
连接到 SAN 上的主要存储处理器
2 6:14:0
QLogic 2300 vmhba1
连接到 SAN 上的次要存储处理器
3 7:10:0
Intel PRO/1000 MT(端口 1)
3 7:10:1
Intel PRO/1000 MT(端口 2)
5 8:12:0
Intel PRO/1000 MT(端口 1)
5 8:12:1
Intel PRO/1000 MT(端口 1)
板载
板载
2:4:0
2:5:0
Smart Array 5i+
Broadcom 5703 网络适配器
Broadcom 5703 网络适配器
表 3
必须将 PCI 卡放置在本节所指定的确切位置。要执行自动安装脚本,特定的硬件必须位于特定的 PCI
插槽中。如果情况并非如此,则自动安装会失败,您需要重新执行安装过程。
vSwitch0
1 5:13:0
QLogic 2300
vSwitch0
vSwitch1
vSwitch1
连接到两个 72GB。RAID 级别 1
禁用
板载
2:5:1
禁用
VMware虚拟架构规划设计指南
页第 6
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
C. 本地存储分区
下表格显示每个 ESX Server 主机的服务控制台分区和大小。
装载点
/boot
/
N/A
/home
/tmp
/var
本设计文档稍后将说明 VMFS 数据存储区的共享存储定义。
分区类型
ext3
ext3
swap
ext3
ext3
ext3
vmkcore
可用空间
/dev/cciss/c0d0p3(主要)
100 MB
说明
100 MB
预配置
8192 MB
更改后可获得更多空间
1600 MB
更改后可获得最大服务控制台交换大小
/dev/cciss/c0d0p4(扩展)
1024 MB
创建分区以避免代理文件过度填充根目录
1024 MB
创建分区以避免临时文件过度填充根目录
4096 MB
创建分区以避免日志文件过度填充根目录
100 MB
预配置
自动配置且用于本地 VMFS-3 卷
表 4
VMware虚拟架构规划设计指南
页第 7
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
lCenter Server 规格
本节将详细说明前述物料清单中指出的每个 VirtualCenter Server 组件。
A. VirtualCenter Server 规格
以下是根据客户要求和平台首选项而需要的 VMware VirtualCenter Server 主机规格。
VMware VirtualCenter Management Server 规格
属性
所需的主机数
主机名和 IP 地址
域
物理或虚拟
供应商
型号
处理器数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
本地驱动器数
RAID 级别
总存储量
操作系统和 Service Pack
级别
最低可用磁盘空间
规格
1 个专用主机
(192.168.1.100)
VMWARE
物理
x86 供应商
VC2000
2
单核
3.0 GHz
4 GB
1
Intel
Pro 1000 MT
2
GB
2
RAID 5
36 GB
Windows 2003 企业版 SP1
10 GB
表 5
VMware虚拟架构规划设计指南
页第 8
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. VirtualCenter 数据库规格
VirtualCenter 将依赖于以下数据库。
属性
服务器名称位置
供应商
版本
数据库名称
数据库用户
数据库用户权限
最小表格空间大小
TEMP 表格空间大小
自动扩展
交易日志大小
表 6
规格
DB_SERVER
Oracle
10gR1
vmwarevc
vc
DBO
1 GB
512 MB
是
100 MB
C. License Server 规格
VirtualCenter 将依赖于以下 License Server。
属性
与 VirtualCenter Server
放在一起?
服务器名称
操作系统和 Service Pack
级别
许可证密钥存储
规格
是
与 VirtualCenter Server 相同
与 VirtualCenter Server 相同
C:Program FilesVMwareVMware License ServerLicenses
表 7
VMware虚拟架构规划设计指南
页第 9
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
V. VI Client 规格
以本地管理员身份将 VI Client 安装在 Windows 2003 Server SP1 或 Windows XP SP2 计算机上。无法从虚拟机运行 VI Client。使用 Windows 远程桌面可以间接访问 VI Client 计算机,但是直接访问才能获得最佳性能。
另外,每个桌面计算机都会运行 Internet Explorer 6 或更高版本,以支持 VI Web 访问。
出于管理目的,每个 VMware Infrastructure 管理员的台式机或笔记本电脑上都会安装 VI Client。
将使用 Active Directory 中创建且与 VirtualCenter 中角色相关联的帐户,为管理员提供访问权限。
VMware虚拟架构规划设计指南
页第 10
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VI.网络连接规格
本节将详细说明网络连接和安全配置。
A. ESX Server 主机
VMware Infrastructure 连接到的物理和虚拟网络如下。
VMware ESX Server 主机平台 A 规格
vSwitch
vSwitch0
物理适配器
vmnic0,1000 Full
vmnic1,1000 Full
连接类型
服务控制台
(活动)
vmkernel(待命)
网段
管理 10
管理 11
vmkernel(活动)
服务控制台(待命)
vSwitch1
vmnic2,1000 Full
vmnic3,1000 Full
虚拟机(活动)
虚拟机(活动)
生产
虚拟局域网 60
虚拟局域网 61
虚拟局域网 62
表 8
上述配置会确保管理流量与生产虚拟机流量分开。
端口组配置
每个 vSwitch 都会有许多端口组,以下每个虚拟局域网 ID 有一个端口组。
端口组 虚拟局域网 ID 说明
生产 Wintel 网络
生产 Wintel 网络
表 9
应使用以下名称格式准则配置具有端口组的 vSwitch:
• <网络名称>_<用途>_
名称 网络用途
(生产、备份、测试)
网络编号
Network0 0
VLANNN
NN
VMware虚拟架构规划设计指南
页第 11
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
网络名称
与 vSwitch 相关联的物理
网络
用途
XX
网络流量的类型 vSwitch 的编号。
表 10
网络包括:
• it_management_01
• corp_production_01
B. 逻辑网络配置
本图说明每个 ESX Server 主机的逻辑网络配置。使用 vswitch1 在 vmnic2 和 vmnic3 之间共享生产网络,而使用 vswitch0 在 vmnic0 和
vmnic1 之间共享管理网络。
这样做是为了分散两个双网卡接口之间的负载,减少出现单点故障的风险,以及平衡网络负载。
每个网络端口都必须将所需的虚拟局域网中继到 ESX Server 主机。
ESX Server 逻辑网络配置
图 11
C. VirtualCenter Server
使用 2 个分组的网卡,以 1000 Mbps 的速度、全双工方式将 VirtualCenter Server 连接到“管理 10”
网络。
VMware虚拟架构规划设计指南
页第 12
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
D. ESX Server 主机安全要求
ESX Server 主机的安全设置如下。
注意:加下划线的红色文字表示非默认设置。
服务控制台防火墙设置
访问方式
安全外壳 SSH 客户端
安全外壳 SSH 服务器
SNMP
Compaq Insight Manager
(CIM) SLP
VNC 服务器
VMware VirtualCenter Agent
Commvault Dynamic
Kerberos
NFS 客户端
传入端口 传出端口 协议 允许
否(默认)
N/A 22 TCP
22 N/A TCP
是(默认)
161162UDP是427 427
UDP、TCP
5900-5964 N/A TCP
是(默认)
否(默认)
是(默认)
否(默认)
否(默认)
否(默认)
否(默认)
是N/A 902 UDP
8600-8619 8600-8619 TCP
N/A
N/A
749、88
TCP
111、2049 UDP、TCP
Tivoli Storage Manager Agent
1500 1500 TCP
NTP 客户端
SMB 客户端
CIM 服务器
Commvault Static
CIM 安全服务器
VMware License Client
activeDirectorKerberos
软件 iSCSI 客户端
Symantec NetBackup Agent
N/A123UDPN/A
137-139、445
TCP
否(默认)
是(默认)
否(默认)
是(默认)
是(默认)
否(默认)
否(默认)
否(默认)
5988 N/A TCP
8400-8403 8400-8403 TCP
5989 N/A TCP
N/A
N/A
27000、27010
464、88
TCP
TCP
N/A 3260 TCP
13732、13783、13720、13734
N/A TCP
FTP 客户端
EMC AAM 客户端
N/A 21 TCP
2050-5000、8042-8045
2050-5000、8042-8045
TCP、UDP
否(默认)
是(默认)
Telnet 客户端
N/A 23 TCP
否(默认)
VMware虚拟架构规划设计指南
页第 13
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
FTP 服务器
NIS 客户端
Symantec Backup Exec
Agent
自定义服务控制台端口设置
访问方式
VI Web 访问
Converter 访问
虚拟机控制台
VMotion
21 N/A TCP
否(默认)
N/A
10000-10200
111、
0-65535
UDP、TCP 否(默认)
否(默认)
N/A TCP
表 12
传入端口 传出端口 协议
TCP
允许
是(默认)
是(默认)
是(默认)
是(默认)
80、443 80、443
443 443 TCP
903 903 UDP
8000 8000 TCP
表 13
其他服务控制台设置
功能
使用 ssh 以 root 身份远程登录
表 14
vSwitch 安全设置
功能
杂乱模式
MAC 地址更改
假冒发送
表 15
设置
拒绝
接受
接受
设置
禁用
VMware虚拟架构规划设计指南
页第 14
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
E. VirtualCenter Server 和 License Server 安全要求
VirtualCenter Server 和 License Server 的安全设置如下。
VirtualCenter Server 端口设置
访问方式
VI Web 访问
Converter 访问
VirtualCenter Agent
VMotion
VirtualCenter 诊断
Apache Tomcat 服务器
License Server 端口设置
访问方式
VMware License Server
传入端口
27000、27010
传出端口 协议 允许
是(默认)
传入端口 传出端口 协议
TCP
允许
是(默认)
是(默认)
是(默认)
是(默认)
是(默认)
是(默认)
80、443 80、443
443 443 TCP
902 902 UDP
8000 8000 UDP
8083 8083
UDP、TCP
8086 8086 TCP
表 16
N/A TCP
表 17
F. VI Client 要求
安装 VI Client 的 Windows 计算机将为 VirtualCenter Server 和 ESX Server 主机开放端口 22、80、443 和 902。
G. Converter 要求
运行 Converter 的计算机需要开放端口 443,才能在 ESX Server 主机和 VirtualCenter Server 之间通信。将从 Windows 虚拟机运行 Converter,因此这个端口要求适用于插入所有已定义 ESX Server 主机的
vSwitch 的所有物理网卡。
要转换的物理机需要开放 TCP 和 UDP 端口 139、445 和 443,才能将数据发送到 ESX Server 主机。
VMware虚拟架构规划设计指南
页第 15
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
H. 网络冗余注意事项
所确定的可能故障点和冗余措施如下。
ESX Server 主机
故障点
服务控制台连接
VMotion 连接
虚拟机连接
冗余
vSwitch 上 2 个物理适配器
vSwitch 上 2 个物理适配器
vSwitch 上 2 个物理适配器
表 18
VirtualCenter Server
功能
连接
设置
分组的网卡
表 19
License Server
功能
连接
设置
分组的网卡
表 20
VMware虚拟架构规划设计指南
页第 16
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VII.存储规格
本节将详细说明存储配置。
A. 共享存储
共享存储规格如下。
SAN 规格
元素
SAN 供应商
SAN 型号
存储处理器数
交换机供应商
交换机型号
交换机数
每个交换机的每个 ESX
Server 主机的端口数
端口最低速度
初始虚拟机存储 LUN 数
LUN 大小
初始模板存储 LUN 数
LUN 大小
表 21
2 GB
7
250 GB
1
250 GB
规格
EMC
Clariion CX400
2
Brocade
8000
2
1
数据存储区配置要求
VMware 的 SAN 存储要求是高负载随机访问环境的典型要求。为平衡可管理性、性能和可用性要求,下表提供以下一系列配置准则。
VMware虚拟架构规划设计指南
页第 17
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
存储配置规格
项目
LUN 大小
做法
250 GB
原因
虽然可使用更大的 LUN,但是基于以下原因而选择此大小。在管理方面,这样可以使大部分磁盘更好地使用资源并限制存储剧增。较小的大小可以维持合理的 RTO,并减小与丢失单个 LUN 相关的风险。此外,该大小会限制单个 LUN 上保留的虚拟机数。
根据高读写比率,IHC 选择了 RAID-5 来确保可用性。如果有更高的性能/高可用性需求,则应考虑 RAID 1+0。
LUN RAID
每个 LUN
的虚拟机数
5
每个 LUN 虽然一个 LUN 最多可以同时连接 32 个主机,但是最好将访问特定
10 个 LUN 的活动虚拟机数降至最少,以减少可能导致的 I/O 竞争。因为每个虚拟机都可以由不同的服务器来托管,所以主机数可以与虚拟机数相同。此外,还会降低单个 LUN 丢失产生的影响。
独立的
LUN
为确保最佳性能,建议将虚拟机文件与其他文件(如模板和具有较高
I/O 特征的 ISO 文件)分开。最佳做法是将独立的数据存储区/LUN 专用于虚拟机模板和 ISO/FLP 文件,与虚拟机分开。
表 22
模板/
ISO LUN
存储单元的命名应该一致,以确保处理它们的任何人都能够对其用途和位置一目了然。命名应遵循下表说明的格式:
•
数据中心名称
与存储相关联的数据
中心
vmfs
数据存储区的文件系统类型
表 23
例如,对于数据存储区:
• la_prod_vmfs_cx400_01
• la_prod_vmfs_cx400_02
• burbank_prod_vmfs_cx400_01
所有名称都是小写。
存储单元
存储标识符
XX
存储单元数
<数据中心名称>_vmfs_<存储单元>_
VMware虚拟架构规划设计指南
页第 18
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 逻辑存储配置
本图说明根据客户可用性要求而建议的逻辑设计。
已通过复制当前环境中的所有路径,删除单个故障点。
逻辑 SAN 图
图 24
C. 存储路径冗余注意事项
所确定的可能故障点和冗余措施如下。
ESX Server 主机
故障点
ESX Server 主机
SAN 光纤通道交换机
存储阵列
冗余
每主机 2 个 HBA
2 台物理交换机
每个存储阵列 2 个存储处理器
表 25
D. SAN LUN 分区注意事项
所有虚拟机 LUN 都会被分区到 VI3 主机群集和 VCB 代理服务器中的所有 ESX Server 主机,但是专用于虚拟机模板的 LUN 除外,此类 LUN 只会被分区到 ESX Server 主机 1 和主机 2。隔离模板 LUN 是为了将不必要的 SCSI 流量降至最低。VirtualCenter 只需要通过一个 ESX Server 主机访问模板 LUN,而另一个主机则备用。
VMware虚拟架构规划设计指南
页第 19
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
lCenter 数据中心体系结构
本节将详细说明 VirtualCenter 数据中心体系结构。
A. 命名标准
数据中心命名
VirtualCenter 将 VMware ESX Server 主机组织成一个或多个数据中心,其包含共享资源的所有环境。数据中心命名应遵循下表说明的格式:
• <位置>_<用途>_
用途
网络的角色 — 生产、测试、备份、基础架构
表 26
将为客户创建以下两个数据中心:
1. LA_Prod_01 — LA 生产环境中的所有主机都将用于生产。
2. LA_Dev_01 — LA 开发环境中的所有主机都将用于开发。
3. Burbank_Prod_01 — Burbank 生产环境中的所有主机都将用于生产。
必须将每个数据中心都连接到格式化为 VMFS 卷的 LUN。应该将这些 LUN 分区,以便数据中心中的所有 VMware ESX Server 主机都可以访问它们以支持 VMotion、VMware DRS 和 VMware HA。
XX
数据中心的
编号
位置
生产数据中心位置。
重要说明 — 数据中心提供虚拟机迁移的边界。
文件夹命名
以下文件夹方案将用于组织虚拟机和模板。
1. App Dev — 应用程序开发环境中的所有虚拟机。
2. App Prod — 应用程序生产环境中的所有虚拟机。
3. Desktop — 桌面环境中的所有虚拟机。
4. Intranet — Intranet
环境中的所有虚拟机。
5. Systems — 系统环境中的所有虚拟机。
6. Voice and Network — 语音和网络环境中的所有虚拟机。
7. Templates — 所有模板。
VMware虚拟架构规划设计指南
页第 20
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 群集
数据中心内的所有 ESX Server 主机都会被置于单个 VMware DRS/HA 群集中。
VMware 群集命名
可以对 VMware ESX Server 主机进行分组,以便为虚拟机提供 VMware HA 和 DRS 服务。
群集名称
Bethel
说明
要托管 LA 和 Burbank 位置中的生产虚拟机的所有
VMware ESX Server 主机。
表 27
C. 资源池
Bethel 主机群集将定义两个资源池。
•
•
“重要服务”资源池最初将保留 32GB RAM 和 8GHz CPU,而且具有无限/可扩展 RAM 和
CPU 设置。此资源池将专用于关键任务虚拟机。
另一个“二线服务”资源池将没有任何保留,而且具有 16 GB RAM 和 4 GHz CPU 的限制。在该资源池中,会放入低优先级服务的虚拟机,而且这些限制会保证该资源池中的虚拟机不会具有高于正常虚拟机的优先级。
D. 用户组
将在 Windows Active Directory 中设置两个用户组 — VM Operators 和 VM Administrators,而且用户将通过 VI Client 进行访问。虚拟机的最终用户将无法使用 VI Client 直接进行访问。
E. 角色
将为 VM Administrators 组中的用户分配 Administrator 角色。而将为 VM Operators 组中的用户分配虚拟机 Power User 角色,此角色仅可对虚拟机和资源对象进行操作。
F. VI3 体系结构冗余
所确定的可能故障点和冗余措施如下。
故障点
ESX Server 主机
VirtualCenter Server
License Server
VirtualCenter 数据库
存储
冗余
多个 ESX Server 主机组织成 VMware HA 群集
热备盘虚拟机
无。每周备份 VirtualCenter Server 许可证文件
目录。
无。每日备份数据库。
请参见“存储冗余”详细说明
VMware虚拟架构规划设计指南
页第 21
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
网络连接
虚拟机
请参见“网络连接冗余”详细说明
VMware HA
用于选定虚拟机的 Microsoft 群集服务
表 28
VMware虚拟架构规划设计指南
页第 22
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
备份体系结构
VMware Consolidated Backup 将用于帮助备份虚拟机,包括文件级别和整个虚拟机快照。VMware
Consolidated Backup (VCB) 组件包括:
VMware Consolidated Backup 代理服务器规格
属性
所需的主机数
主机名和 IP 地址
域
供应商
型号
处理器数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
本地驱动器数
RAID 级别
总存储量
存储 HBA 数
存储 HBA 供应商
存储 HBA 型号
存储 HBA 固件版本
操作系统和 Service Pack
级别
最低可用磁盘空间
备份代理
规格
1
(192.168.1.200)
VMWARE
X86 供应商
VC2000
2
单核
3.0 GHz
4 GB
1
Intel
Pro 1000 MT
2
GB
2
RAID 5
36 GB
2
QLogic
2300
7.07.04
Windows 2003 企业版 SP1
10 GB
TSM 5.3
表 29
VMware虚拟架构规划设计指南
页第 23
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VMware Consolidated Backup“存储池”
SAN 上格式化为 NTFS 的专用 500GB LUN 将用于转储虚拟机导出文件。VCB 代理服务器会直接装载此 LUN。
备份/恢复应用服务器
将使用当前 TSM 应用服务器,并将其与 VCB 代理服务器上安装的代理相连接,以便备份“存储池”中创建的虚拟机导出文件。
对于生产虚拟机,会固定每夜进行备份,而对于测试和开发系统,则根据需要进行备份。所有备份都使用 VCB 来完成。Tivoli Storage Manager (TSM) 5.3 是所有新服务器安装上部署的最新版本。
对于 VMware ESX Server 主机停机或损坏的情况,VMware ESX Server 的体系结构提供了非常安全的可恢复解决方案。因为所有重要的 vmdk 文件都以 VMFS 形式存储在 SAN 上,所以在 VMware ESX
Server 主机脱机时,群集中的其他 VMware ESX Server 主机仍可以继续使用它们。
A. VMware ESX Server 主机备份
因为典型的 ESX 构建从开始到完成需要数分钟的时间,所以不建议备份 VMware ESX Server 主机。因为所有重要数据都存储在 SAN 上,所以无需备份服务控制台。
如果 VMware ESX Server 主机有大量的自定义内容,则可以对文件和目录进行备份。在环境中,不应对默认环境有太多的更改,否则将无法保证备份能够顺利进行。
/etc/passwd
密码文件,其中包含 VMware ESX Server 主机服务控制台的本地用户。
影子密码文件,其中包含 VMware ESX Server
主机服务控制台的本地用户和加密的密码。
组文件,用于包含 VMware ESX Server 主机服务控制台的本地安全组。
grub 启动加载程序的启动信息。
VMware ESX 主机的配置文件。
VMware ESX 主机的启动分区。请注意,这些应为默认值。
本地计算机上 home 目录中存储的任何用户
信息。
表 30
要执行备份,可使用以下命令来生成文件:
# tar –cvf /etc/passwd /etc/shadow /etc/group /etc/
/etc/pam.d /etc/vmware /boot/ /home/
/etc/shadow
/etc/group
/etc/
/etc/vmware
/boot
/home/
VMware虚拟架构规划设计指南
页第 24
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. VMware ESX Server 主机恢复
通常,应重新安装 VMware ESX Server 并将其连接到共享存储。如果执行了上述步骤,则可通过以下步骤执行完整恢复:
1. 使用与原始主机相同的分区配置重新安装 ESX。
2. 恢复 SFTP 文件。
3. 通过键入以下命令,删除 /etc/vmware 和 /boot 目录
# cd /
# rm –Rf /etc/vmware
# rm –Rf /boot
4. 在新的 ESX 主机上恢复备份集。确定在恢复时覆盖现有的文件!例如,您可以从根目录发出以下命令,以便从原始 tarball 进行恢复:tar –xvf
# tar –xvf
5. 重新启动。
VMware虚拟架构规划设计指南
页第 25
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
X. VI 监控体系结构
会利用 ESX Server 和 VirtualCenter 中内置的监控功能。
A. 虚拟基础架构管理
要有效地管理 VMware Infrastructure,需要持续监控主机和虚拟机并使用 VirtualCenter。
监控
HP System Insight Manager Sever 会处理虚拟基础架构的监控活动。客户已选择使用 Insight Manager
以及要在每个 ESX Server 主机上安装的相关 MIB,如下图所示。在 VI Client 的安全配置过程中必须启用 SNMP。
HP System
Insight Manager
Server
SNMP 陷阱
监控服务器
VirtualCenter
Server
硬件警报
虚拟机性能和可用性数据
服务控制台监控
警报和性能数据
ESX Server 主机
虚拟机
图 31
在虚拟机内监控
您可以像对待物理服务器一样来诊断和故障排除虚拟机操作系统中的问题。一般来说,可以安装任何操VirtualCenter Server
作系统特定的工具来分析环境。但是,由于物理 CPU 在多个虚拟机之间共享,因此客户操作系统中的时钟会有些偏差。这导致使用壁挂钟时间的工具显示不正确的结果。其中包括监控 CPU 使用率。
客户选择了监控软件 X 作为首选工具,用来在虚拟机客户操作系统中进行监控。VMware VirtualCenter
会监控单个虚拟机的 CPU 使用率。如果 CPU 使用率超出所需的阈值,则会发送 SNMP 陷阱。运营团队必须配置这些阈值。
VMware虚拟架构规划设计指南
页第 26
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
在服务控制台内监控
下表指出在 VMware ESX Server 服务控制台内进行监控所使用的重要参数。
VMware ESX Server 的重要监控参数
参数
内存
监控原因
确保服务控制台没有频繁操作或使用过多内存。内存较低或频繁操作都可能导致服务控制台管理方面发生性能问题。
确保下列进程正在运行:
• sshd
• httpd
• vmware-vpxa
• vmware-hostd
• vmware-served
• vmware-snmpd
终止那些只减少合法进程可用资源的 Zombie 进程。
确保任何 ext3 分区上可用空间的使用率都不超过
90%。
确保下列 TCP 端口正在回应请求:
• 902(vmware-vpxa、vmware-hostd)
• 80 和 443 (VI Web Access)
• 22 (sshd)
表 32
进行的进程
Zombie 进程
已用磁盘空间
端口运行状况
性能管理和容量规划
VirtualCenter
VirtualCenter 可用来查看各种数据中心内虚拟机和 VMware ESX Server 的资源利用率。此外,它还有事件关联功能,可以协助管理员将性能信息与事件(如虚拟机电源操作、VMotion 等)相关联。
B. VirtualCenter 配置
安装硬件之后,即会配置软件,并启动计算机。为了确保可预测且可管理的 VI 在虚拟环境的整个使用期限内仍可进行管理,应该遵循配置准则。
VirtualCenter 事件
VirtualCenter 事件会记录在 VirtualCenter 数据库中。每个事件面板都会显示与所选 VirtualCenter 对象相关的事件。选择导航栏中的“Events”选项,“Events”面板即会显示当前会话的所有事件。如果选择服务器群或主机,则只有在该数据中心或主机上发生的事件才会出现在 Events 面板中。
VMware虚拟架构规划设计指南
页第 27
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VirtualCenter 警报
警报是由特定事件触发的预配置操作。警报适用于任何 VirtualCenter 对象。通过定义警报的对象的“Alarms”选项卡,可以查看、修改和删除现有的警报。下表中说明了百分比和状态这两种警报类型。
触发类型
百分比
说明
监控主机 CPU 使用情况、主机内存使用情况、虚拟机 CPU 使用情况、虚拟机内存和虚拟机心跳信号。触发选项为:
Is Above(百分比)和 Is Below(百分比)。虚拟机心跳信号的默认监视器设为 Is Below。所有其他百分比选项的默认监视器设为 Is Above。
状态
监控主机状态和虚拟机状态。触发选项为:Is (状态)和 Is Not(状态)
表 33
警报会作为 SNMP 陷阱发送到在 VirtualCenter Server 上配置的 SNMP 接收器。不会使用电子邮件
通知。
初始安装 VirtualCenter 时所配置的默认警报应该足以能够处理其他管理软件所不能处理的监控要求。下面各表格指出虚拟机和 ESX Server 主机的阈值警报级别。
每个虚拟机的 VMware Virtual Infrastructure 警报
警报
虚拟机 CPU 使用情况
虚拟机内存使用情况
虚拟机心跳信号
每个 VMware ESX Server 主机的 VMware Virtual Infrastructure 警报
警报
主机 CPU 使用情况
主机内存使用情况
主机状态
虚拟机状态
每个数据中心的 VMware Virtual Infrastructure 警报
警报
VMware DRS 或 HA 群集不一致且没有足够的可用资源
VMware DRS 群集的某些资源限制未得到满足。
表 36
群集状态
红色
黄色
黄色阈值 红色阈值
黄色阈值 红色阈值
75% 90%
75% 90%
66% 33%
表 34
75% 90%
75% 90%
(无)
(无)
表 35
正在重新连接
正在启动
VMware虚拟架构规划设计指南
页第 28
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XI.预期工作负载假设
预期在 VMware Infrastructure 上运行的一般虚拟机具有下列配置特征。此外,下面还列出由服务器整合和控制评估分析所获得的预期主机工作负载。
A. 虚拟机配置特征
为了达到整合的评估目标并符合当前的环境,应该遵循最佳做法。
属性
操作系统
开发
Windows 2003
Linux
4
3 GB
100 Mbps
N/A
3
生产
Windows 2000、Windows
2003
4
3GB
100 Mbps
3
3
最大 CPU
最大 RAM
最大网络 I/O
无 Exchange 或 Citrix Server
无需自定义的硬件支持(Dongle、特殊 PCI 卡等等)
表 37
B. 主机负载特征
现有工作负载的服务器整合
范围 虚拟化对象数 所需的 ESX
Server 主机数
整合率约计 每个 ESX
Server 主机的 CPU 平均使用率
34% 到 34%
每个 ESX
Server 主机的平均内存使用率
56% 到 56%
最小值到可
能值(保守到大胆)
36 到 60 台 3 到 4 台 12:1 到 15:1
表 38
未来工作负载的服务器控制
范围 计划内的虚拟机数
60 到 90 台
所需的 VMware ESX
Server 主机数
整合率约计
最小值到可能值(保守到
大胆)
5 到 6 台 12:1 到 15:1
表 39
VMware虚拟架构规划设计指南
页第 29
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
注意:在此设计中,容量仅够满足于半数的虚拟化对象和数十倍新的虚拟机工作负载。除了最初针对此项目购买的 4 台主机之外,潜在的整合和控制预计还需要其他的 ESX Server 主机。
C. 主机群集特征
所有这 4 台 ESX Server 主机都会置于 Bethel 群集中。每台单个主机上的虚拟机都不会配置成在主机启动时自动启动。虚拟机会设为使用 VMware HA 进行启动。默认情况下,所有虚拟机都有相同的中级(默认)优先级。
允许的 VMware HA 群集主机故障总数会设为 1(默认值)。
主机隔离响应则为关闭虚拟机(默认值)。如果不存在可能导致网络分割和意外主机隔离(未关闭主机情况下)的网络跨越树问题,则可以接受此设置。
VMware DRS 设置会设为半自动模式。这有助于在最初启动虚拟机时自动对其进行放置,但也只是建议迁移虚拟机以平衡负载。
VMware虚拟架构规划设计指南
页第 30
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
体系结构设计的特殊注意事项
此处列出设计、决策、调整和影响方面的显著注意事项。
区域
ESX Server 主机
项目
平台选择
设计影响
无刀片服务器。考虑到价位,选择了带 2 个双核 CPU 而不是 4 个 CPU 的服务器。2 个插槽的计算机会导致运行 Virtual SMP 时整合率较低,因此应仅限于 2-vCPU 虚拟机。
N/A所有主机都有本地存储。
选择了 QLogic HBA 而不是 Emulex HBA。因此,需要考虑 BIOS 设置:
•
•
•
启用目标重置 = 是
完整 LIP 登录 = 是
完整 LIP 重设 = 否
无磁盘
存储适配器类型
一次只有一个 HBA 处于活动状态,而另一个
HBA 则是每个主机的故障切换适配器。
VirtualCenter
网卡数
平台选择
License Server
位置
共 4 个端口的 2 个双向端口网卡允许创建 2
个 vSwitch,2 个网卡端口各一个 vSwitch。
选择了物理机。VMware HA 不可用。但是,第二次安装(作为虚拟机)可用作热备盘。
为了避免不必要的断开连接,会使用
VirtualCenter Server 来配置 License
Server。
使用现有的 Oracle 数据库服务器。
将虚拟机与管理网络分开。
使用虚拟局域网。
每次进行 IT 请求时都会为 Root 身份提供远程 ssh 访问的权限,尽管这有背于 VMware
建议的最佳做法。
冗余 每个 vSwitch 都有 2 个活动网卡端口。
VirtualCenter 数据库 位置
网络连接
分段
安全性
VMware虚拟架构规划设计指南
页第 31
© 2008 VMware, Inc. 保留所有权利。
区域
存储
项目
平台选择
LUN 分配
VI 规划和设计:VI 体系结构设计
设计影响
需要通过 MRU 故障切换策略来匹配主动/被动存储设备。
模板有单独的 LUN。
所有虚拟机 LUN 的大小统一为 250 GB。
VCB 代理服务器有单独的 LUN,称为“存
储池”。
VirtualCenter
数据中心体系结构
P2V 体系结构
服务级别协议
--
VMware HA 和 DRS 设置需要反映对主机负载和故障切换有特定要求的 SLA。
新 ESX Server 主机与要整合的现有服务器位于不同的网络。这需要将计算机转换为托管的虚拟机,然后在将虚拟机导入 VMFS 之前使用介质传输虚拟机。
所有虚拟机都是 Windows 计算机,因此可以使用 VCB 来支持增量文件级别备份。
会集成 HP System Insight Manager。
生产虚拟机可由位于 2 个不同站点的用户进行访问,但是无论出于何种目的,这两个地理位置都必须充分连接并配置为在
VirtualCenter 中显示为一个单一数据中心。
生产虚拟机在虚拟局域网上运行。因此,必须将生产虚拟机的 vSwitch 连接到中继端口。
运行生产虚拟机时必须保留更改记录。每夜将使用 VCB 来呼叫虚拟机快照,以在必要时用作辨症分析。
表 40
备份体系结构
监控体系结构
其他客户特定的要求
--
--
组织要求和限制
技术要求和限制
策略要求和限制
VMware虚拟架构规划设计指南
页第 32
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIII.假设
A. 硬件
硬件部署必须满足每个产品的技术要求。如果硬件与所建议的硬件(本文档中所列出)不符,则开发团队必须重新认证此硬件是否支持部署中使用的所有 VMware 产品。此设计的技术假设如下所示。
此设计的技术假设来源
元素
VirtualCenter
VMotion
VMware ESX Server
系统兼容性指南
VMware ESX Server I/O
适配器
VMware ESX Server
SAN 兼容性
VMware ESX Server
备份兼容性
指针
/pdf/vc_p:///support/vc/doc/#1045854/pdf/esx_systems_ /pdf/esx_io_ /pdf/esx_SAN_ /pdf/esx_backup_表 41
B. 外部依赖性
外部依赖性说明依赖于虚拟基础架构或受其影响的其他系统或技术。外部依赖性与假设的不同之处在于其清晰识别依赖因素和后续影响。
VMware Virtual Infrastructure 外部依赖性
项目
Active Directory
DNS
网络
网络
要求
需要有 Active Directory 才能实施和操作虚拟基础架构。
必须配置 DNS,才能实现 VirtualCenter、ActiveDirectory、VMware ESX Server 和虚拟机之间的连接。
网络拥塞或故障会阻止 VMotion 迁移虚拟机。
网络拥塞或故障会影响 VirtualCenter 管理 VMware ESX Server 服务器群的
能力。
存储区域网络 SAN 的稳定性和性能会影响虚拟机。
表 42
VMware虚拟架构规划设计指南
页第 33
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIV.参考文档
这些文档提供了有关 VMware Infrastructure 的其他信息。
补充白皮书
VMware Infrastructure 体系结构概述:/pdf/vi_architecture_
虚拟化概述:/pdf/
虚拟基础架构中的网络吞吐量:/pdf/esx_network_
VMware ESX Server 3 802.1Q 虚拟局域网解决方案:/pdf/esx3_vlan_
CLARiiON 与 VMware ESX Server 集成:/pdf/clariion_wp_
协调 VMFS 分区的建议:/pdf/esx3_partition_
VMware Infrastructure 3 体系结构的安全设计:/pdf/vi3_security_architecture_
利用虚拟基础架构做好应对业务灾难的准备:/pdf/disaster_
利用 VMware HA 使 High Availability (HA) 服务自动化:/pdf/vmware_ha_
Virtual Infrastructure 3 中的整合备份:/pdf/vi3_consolidated_
在 VMware Infrastructure 中部署 Microsoft Exchange:/pdf/exchange_best_
改进 Citrix Presentation Server 的可扩展性:/pdf/esx_citrix_
补充知识库文章
Intel 处理器的 VMotion CPU 兼容性要求:/selfservice/microsites/?cmd=displayKC&externalId=1991
AMD 处理器的 VMotion CPU 兼容性要求:/selfservice/microsites/?cmd=displayKC&externalId=1992
消除 VMotion 兼容性限制:/selfservice/microsites/?cmd=displayKC&externalId=1993
补充演示文稿
ADC0135:为您的环境选择和构建存储方案,VMworld 2006:/vmworld/2006/
ADC9789:与 EMC 存储产品一起部署 VMware ESX Server 3 和 2.5.x 的最佳做法,
VMworld 2006:/vmworld/2006/
VMware虚拟架构规划设计指南
页第 34
© 2008 VMware, Inc. 保留所有权利。
2024年2月19日发(作者:瓮智)
VMware Infrastructure 规划和设计VI 体系结构设计
适用对象:示例客户
作者:
高级顾问 Jane Q. Consultant
VMware 咨询服务
2007 年 6 月
VI 规划和设计:VI 体系结构设计
修订历史
2007 年 5 月 5 日
2007 年 5 月 17 日
2007 年 5 月 22 日
1 Jane
初稿
Consultant
2 John Smith
新增了其他设计注意事项
3 Jane
新增了设计审查的反馈
Consultant
VMware虚拟架构规划设计指南
页第 0
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
目录
I. 目的和假设............................................................................................................................................3
II.物料清单................................................................................................................................................4
Server 主机规格...........................................................................................................................5
A. 主机硬件和设备规格.........................................................................................................................................5
B. 主机设备位置...................................................................................................................................................6
C. 本地存储分区...................................................................................................................................................7
lCenter Server 规格....................................................................................................................8
A. VirtualCenter Server 规格................................................................................................................................8
B. VirtualCenter 数据库规格.................................................................................................................................9
C. License Server 规格.........................................................................................................................................9
V. VI Client 规格.....................................................................................................................................10
VI.网络连接规格.....................................................................................................................................11
A. ESX Server 主机............................................................................................................................................11
B. 逻辑网络配置.................................................................................................................................................12
C. 12
D. ESX Server 主机安全要求..............................................................................................................................13
E. VirtualCenter Server 和 License Server 安全要求..........................................................................................15
F. VI Client 要求.................................................................................................................................................15
G. Converter 要求...............................................................................................................................................15
H. 网络冗余注意事项..........................................................................................................................................16
VII.存储规格...........................................................................................................................................17
A. 共享存储.........................................................................................................................................................17
B. 逻辑存储配置.................................................................................................................................................19
C. 存储路径冗余注意事项...................................................................................................................................19
D. SAN LUN 分区注意事项.................................................................................................................................19
lCenter 数据中心体系结构......................................................................................................20
A. 命名标准.........................................................................................................................................................20
B. 群集................................................................................................................................................................21
C. 资源池............................................................................................................................................................21
D. 用户组............................................................................................................................................................21
E. 角色................................................................................................................................................................21
F. VI3 体系结构冗余...........................................................................................................................................21
备份体系结构.................................................................................................................................23
A. VMware ESX Server 主机备份.......................................................................................................................24
B. VMware ESX Server 主机恢复.......................................................................................................................25
X. VI 监控体系结构.................................................................................................................................26
A. 虚拟基础架构管理..........................................................................................................................................26
B. VirtualCenter 配置..........................................................................................................................................27
XI.预期工作负载假设..............................................................................................................................29
A. 虚拟机配置特征..............................................................................................................................................29
B. 主机负载特征.................................................................................................................................................29
C. 主机群集特征.................................................................................................................................................30
体系结构设计的特殊注意事项......................................................................................................31
VMware虚拟架构规划设计指南
页第 1
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIII.假设..................................................................................................................................................33
A. 硬件................................................................................................................................................................33
B. 外部依赖性.....................................................................................................................................................33
XIV.参考文档..........................................................................................................................................34
VMware虚拟架构规划设计指南
页第 2
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
I. 目的和假设
本《VI 体系结构设计》包含 VMware Infrastructure 组件清单、详细规格以及对可实施的计划 VMware
Infrastructure 体系结构进行概括说明的准则。
本设计融入了 VMware 最佳做法,以及通过举办的各种设计研讨会和访谈活动而确定的具体客户要求。还将技术、组织、程序以及策略相关的要求考虑在内。
本设计文档随附《VI 组装与配置指南》,该指南提供如何安装和配置构成本设计的必要组件的详细程序。
本设计文档仅供参考,而且假设使用此参考的管理员熟悉 VMware Infrastructure。本设计文档不适用于此前对 VMware Infrastructure 概念和术语并不了解的管理员。
VMware虚拟架构规划设计指南
页第 3
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
II.物料清单
下面是《VI 体系结构设计》所参考的所有硬件和软件组件列表。随后是每个项目的详细规格和配置。
项目
ESX Server 主机 1
ESX Server 主机 2
ESX Server 主机 3
ESX Server 主机 4
VirtualCenter Server
VirtualCenter License Server
VirtualCenter 数据库
VI Client 桌面
VMware Converter 主机
VMware Converter 冷克隆启动
CD
VMware Consolidated Backup
(VCB) 代理服务器主机
网段
名称/说明
ESX1
ESX2
ESX3
ESX4
VC
N/A
VMWAREVC
N/A
N/A
N/A
N/A
一个管理网络
一个生产网络
共享存储 光纤通道 SAN
许可证 ESX Server:40 2-CPU VI3 企业版许可证
VirtualCenter Management Server:1
Converter 企业版:1
表 1
VMware虚拟架构规划设计指南
页第 4
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
Server 主机规格
本节将详细说明前述物料清单中指出的每个 ESX Server 主机组件。
A. 主机硬件和设备规格
根据客户要求和平台首选项,选择平台 A。此平台规格的详细说明如下。此次未选择其他平台。
VMware ESX Server 主机平台 A 规格
属性
所需的主机数
主机名和 IP 地址
规格
4
(192.168.1.101)
(192.168.1.102)
(192.168.1.103)
(192.168.1.104)
供应商
型号
CPU 插槽数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
存储 HBA 数
存储 HBA 供应商
存储 HBA 型号
存储 HBA 固件版本
本地驱动器数
RAID 级别
总存储量
x86 供应商
x86
2
双核
3.0 GHz
16 GB
2(包括板载,但不包括 iLO)
Intel
Pro 1000 MT
2
GB
2
QLogic
2300
7.07.04
2
RAID 1
72 GB
表 2
VMware虚拟架构规划设计指南
页第 5
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 主机设备位置
下表说明 VMware ESX Server 主机平台 A 配置的 PCI 卡位置。
插槽编号
总线:设备:功能
(lspci –H1 –m)
说明 设备功能与安装
vmhba0
连接到 SAN 上的主要存储处理器
2 6:14:0
QLogic 2300 vmhba1
连接到 SAN 上的次要存储处理器
3 7:10:0
Intel PRO/1000 MT(端口 1)
3 7:10:1
Intel PRO/1000 MT(端口 2)
5 8:12:0
Intel PRO/1000 MT(端口 1)
5 8:12:1
Intel PRO/1000 MT(端口 1)
板载
板载
2:4:0
2:5:0
Smart Array 5i+
Broadcom 5703 网络适配器
Broadcom 5703 网络适配器
表 3
必须将 PCI 卡放置在本节所指定的确切位置。要执行自动安装脚本,特定的硬件必须位于特定的 PCI
插槽中。如果情况并非如此,则自动安装会失败,您需要重新执行安装过程。
vSwitch0
1 5:13:0
QLogic 2300
vSwitch0
vSwitch1
vSwitch1
连接到两个 72GB。RAID 级别 1
禁用
板载
2:5:1
禁用
VMware虚拟架构规划设计指南
页第 6
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
C. 本地存储分区
下表格显示每个 ESX Server 主机的服务控制台分区和大小。
装载点
/boot
/
N/A
/home
/tmp
/var
本设计文档稍后将说明 VMFS 数据存储区的共享存储定义。
分区类型
ext3
ext3
swap
ext3
ext3
ext3
vmkcore
可用空间
/dev/cciss/c0d0p3(主要)
100 MB
说明
100 MB
预配置
8192 MB
更改后可获得更多空间
1600 MB
更改后可获得最大服务控制台交换大小
/dev/cciss/c0d0p4(扩展)
1024 MB
创建分区以避免代理文件过度填充根目录
1024 MB
创建分区以避免临时文件过度填充根目录
4096 MB
创建分区以避免日志文件过度填充根目录
100 MB
预配置
自动配置且用于本地 VMFS-3 卷
表 4
VMware虚拟架构规划设计指南
页第 7
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
lCenter Server 规格
本节将详细说明前述物料清单中指出的每个 VirtualCenter Server 组件。
A. VirtualCenter Server 规格
以下是根据客户要求和平台首选项而需要的 VMware VirtualCenter Server 主机规格。
VMware VirtualCenter Management Server 规格
属性
所需的主机数
主机名和 IP 地址
域
物理或虚拟
供应商
型号
处理器数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
本地驱动器数
RAID 级别
总存储量
操作系统和 Service Pack
级别
最低可用磁盘空间
规格
1 个专用主机
(192.168.1.100)
VMWARE
物理
x86 供应商
VC2000
2
单核
3.0 GHz
4 GB
1
Intel
Pro 1000 MT
2
GB
2
RAID 5
36 GB
Windows 2003 企业版 SP1
10 GB
表 5
VMware虚拟架构规划设计指南
页第 8
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. VirtualCenter 数据库规格
VirtualCenter 将依赖于以下数据库。
属性
服务器名称位置
供应商
版本
数据库名称
数据库用户
数据库用户权限
最小表格空间大小
TEMP 表格空间大小
自动扩展
交易日志大小
表 6
规格
DB_SERVER
Oracle
10gR1
vmwarevc
vc
DBO
1 GB
512 MB
是
100 MB
C. License Server 规格
VirtualCenter 将依赖于以下 License Server。
属性
与 VirtualCenter Server
放在一起?
服务器名称
操作系统和 Service Pack
级别
许可证密钥存储
规格
是
与 VirtualCenter Server 相同
与 VirtualCenter Server 相同
C:Program FilesVMwareVMware License ServerLicenses
表 7
VMware虚拟架构规划设计指南
页第 9
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
V. VI Client 规格
以本地管理员身份将 VI Client 安装在 Windows 2003 Server SP1 或 Windows XP SP2 计算机上。无法从虚拟机运行 VI Client。使用 Windows 远程桌面可以间接访问 VI Client 计算机,但是直接访问才能获得最佳性能。
另外,每个桌面计算机都会运行 Internet Explorer 6 或更高版本,以支持 VI Web 访问。
出于管理目的,每个 VMware Infrastructure 管理员的台式机或笔记本电脑上都会安装 VI Client。
将使用 Active Directory 中创建且与 VirtualCenter 中角色相关联的帐户,为管理员提供访问权限。
VMware虚拟架构规划设计指南
页第 10
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VI.网络连接规格
本节将详细说明网络连接和安全配置。
A. ESX Server 主机
VMware Infrastructure 连接到的物理和虚拟网络如下。
VMware ESX Server 主机平台 A 规格
vSwitch
vSwitch0
物理适配器
vmnic0,1000 Full
vmnic1,1000 Full
连接类型
服务控制台
(活动)
vmkernel(待命)
网段
管理 10
管理 11
vmkernel(活动)
服务控制台(待命)
vSwitch1
vmnic2,1000 Full
vmnic3,1000 Full
虚拟机(活动)
虚拟机(活动)
生产
虚拟局域网 60
虚拟局域网 61
虚拟局域网 62
表 8
上述配置会确保管理流量与生产虚拟机流量分开。
端口组配置
每个 vSwitch 都会有许多端口组,以下每个虚拟局域网 ID 有一个端口组。
端口组 虚拟局域网 ID 说明
生产 Wintel 网络
生产 Wintel 网络
表 9
应使用以下名称格式准则配置具有端口组的 vSwitch:
• <网络名称>_<用途>_
名称 网络用途
(生产、备份、测试)
网络编号
Network0 0
VLANNN
NN
VMware虚拟架构规划设计指南
页第 11
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
网络名称
与 vSwitch 相关联的物理
网络
用途
XX
网络流量的类型 vSwitch 的编号。
表 10
网络包括:
• it_management_01
• corp_production_01
B. 逻辑网络配置
本图说明每个 ESX Server 主机的逻辑网络配置。使用 vswitch1 在 vmnic2 和 vmnic3 之间共享生产网络,而使用 vswitch0 在 vmnic0 和
vmnic1 之间共享管理网络。
这样做是为了分散两个双网卡接口之间的负载,减少出现单点故障的风险,以及平衡网络负载。
每个网络端口都必须将所需的虚拟局域网中继到 ESX Server 主机。
ESX Server 逻辑网络配置
图 11
C. VirtualCenter Server
使用 2 个分组的网卡,以 1000 Mbps 的速度、全双工方式将 VirtualCenter Server 连接到“管理 10”
网络。
VMware虚拟架构规划设计指南
页第 12
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
D. ESX Server 主机安全要求
ESX Server 主机的安全设置如下。
注意:加下划线的红色文字表示非默认设置。
服务控制台防火墙设置
访问方式
安全外壳 SSH 客户端
安全外壳 SSH 服务器
SNMP
Compaq Insight Manager
(CIM) SLP
VNC 服务器
VMware VirtualCenter Agent
Commvault Dynamic
Kerberos
NFS 客户端
传入端口 传出端口 协议 允许
否(默认)
N/A 22 TCP
22 N/A TCP
是(默认)
161162UDP是427 427
UDP、TCP
5900-5964 N/A TCP
是(默认)
否(默认)
是(默认)
否(默认)
否(默认)
否(默认)
否(默认)
是N/A 902 UDP
8600-8619 8600-8619 TCP
N/A
N/A
749、88
TCP
111、2049 UDP、TCP
Tivoli Storage Manager Agent
1500 1500 TCP
NTP 客户端
SMB 客户端
CIM 服务器
Commvault Static
CIM 安全服务器
VMware License Client
activeDirectorKerberos
软件 iSCSI 客户端
Symantec NetBackup Agent
N/A123UDPN/A
137-139、445
TCP
否(默认)
是(默认)
否(默认)
是(默认)
是(默认)
否(默认)
否(默认)
否(默认)
5988 N/A TCP
8400-8403 8400-8403 TCP
5989 N/A TCP
N/A
N/A
27000、27010
464、88
TCP
TCP
N/A 3260 TCP
13732、13783、13720、13734
N/A TCP
FTP 客户端
EMC AAM 客户端
N/A 21 TCP
2050-5000、8042-8045
2050-5000、8042-8045
TCP、UDP
否(默认)
是(默认)
Telnet 客户端
N/A 23 TCP
否(默认)
VMware虚拟架构规划设计指南
页第 13
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
FTP 服务器
NIS 客户端
Symantec Backup Exec
Agent
自定义服务控制台端口设置
访问方式
VI Web 访问
Converter 访问
虚拟机控制台
VMotion
21 N/A TCP
否(默认)
N/A
10000-10200
111、
0-65535
UDP、TCP 否(默认)
否(默认)
N/A TCP
表 12
传入端口 传出端口 协议
TCP
允许
是(默认)
是(默认)
是(默认)
是(默认)
80、443 80、443
443 443 TCP
903 903 UDP
8000 8000 TCP
表 13
其他服务控制台设置
功能
使用 ssh 以 root 身份远程登录
表 14
vSwitch 安全设置
功能
杂乱模式
MAC 地址更改
假冒发送
表 15
设置
拒绝
接受
接受
设置
禁用
VMware虚拟架构规划设计指南
页第 14
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
E. VirtualCenter Server 和 License Server 安全要求
VirtualCenter Server 和 License Server 的安全设置如下。
VirtualCenter Server 端口设置
访问方式
VI Web 访问
Converter 访问
VirtualCenter Agent
VMotion
VirtualCenter 诊断
Apache Tomcat 服务器
License Server 端口设置
访问方式
VMware License Server
传入端口
27000、27010
传出端口 协议 允许
是(默认)
传入端口 传出端口 协议
TCP
允许
是(默认)
是(默认)
是(默认)
是(默认)
是(默认)
是(默认)
80、443 80、443
443 443 TCP
902 902 UDP
8000 8000 UDP
8083 8083
UDP、TCP
8086 8086 TCP
表 16
N/A TCP
表 17
F. VI Client 要求
安装 VI Client 的 Windows 计算机将为 VirtualCenter Server 和 ESX Server 主机开放端口 22、80、443 和 902。
G. Converter 要求
运行 Converter 的计算机需要开放端口 443,才能在 ESX Server 主机和 VirtualCenter Server 之间通信。将从 Windows 虚拟机运行 Converter,因此这个端口要求适用于插入所有已定义 ESX Server 主机的
vSwitch 的所有物理网卡。
要转换的物理机需要开放 TCP 和 UDP 端口 139、445 和 443,才能将数据发送到 ESX Server 主机。
VMware虚拟架构规划设计指南
页第 15
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
H. 网络冗余注意事项
所确定的可能故障点和冗余措施如下。
ESX Server 主机
故障点
服务控制台连接
VMotion 连接
虚拟机连接
冗余
vSwitch 上 2 个物理适配器
vSwitch 上 2 个物理适配器
vSwitch 上 2 个物理适配器
表 18
VirtualCenter Server
功能
连接
设置
分组的网卡
表 19
License Server
功能
连接
设置
分组的网卡
表 20
VMware虚拟架构规划设计指南
页第 16
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VII.存储规格
本节将详细说明存储配置。
A. 共享存储
共享存储规格如下。
SAN 规格
元素
SAN 供应商
SAN 型号
存储处理器数
交换机供应商
交换机型号
交换机数
每个交换机的每个 ESX
Server 主机的端口数
端口最低速度
初始虚拟机存储 LUN 数
LUN 大小
初始模板存储 LUN 数
LUN 大小
表 21
2 GB
7
250 GB
1
250 GB
规格
EMC
Clariion CX400
2
Brocade
8000
2
1
数据存储区配置要求
VMware 的 SAN 存储要求是高负载随机访问环境的典型要求。为平衡可管理性、性能和可用性要求,下表提供以下一系列配置准则。
VMware虚拟架构规划设计指南
页第 17
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
存储配置规格
项目
LUN 大小
做法
250 GB
原因
虽然可使用更大的 LUN,但是基于以下原因而选择此大小。在管理方面,这样可以使大部分磁盘更好地使用资源并限制存储剧增。较小的大小可以维持合理的 RTO,并减小与丢失单个 LUN 相关的风险。此外,该大小会限制单个 LUN 上保留的虚拟机数。
根据高读写比率,IHC 选择了 RAID-5 来确保可用性。如果有更高的性能/高可用性需求,则应考虑 RAID 1+0。
LUN RAID
每个 LUN
的虚拟机数
5
每个 LUN 虽然一个 LUN 最多可以同时连接 32 个主机,但是最好将访问特定
10 个 LUN 的活动虚拟机数降至最少,以减少可能导致的 I/O 竞争。因为每个虚拟机都可以由不同的服务器来托管,所以主机数可以与虚拟机数相同。此外,还会降低单个 LUN 丢失产生的影响。
独立的
LUN
为确保最佳性能,建议将虚拟机文件与其他文件(如模板和具有较高
I/O 特征的 ISO 文件)分开。最佳做法是将独立的数据存储区/LUN 专用于虚拟机模板和 ISO/FLP 文件,与虚拟机分开。
表 22
模板/
ISO LUN
存储单元的命名应该一致,以确保处理它们的任何人都能够对其用途和位置一目了然。命名应遵循下表说明的格式:
•
数据中心名称
与存储相关联的数据
中心
vmfs
数据存储区的文件系统类型
表 23
例如,对于数据存储区:
• la_prod_vmfs_cx400_01
• la_prod_vmfs_cx400_02
• burbank_prod_vmfs_cx400_01
所有名称都是小写。
存储单元
存储标识符
XX
存储单元数
<数据中心名称>_vmfs_<存储单元>_
VMware虚拟架构规划设计指南
页第 18
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 逻辑存储配置
本图说明根据客户可用性要求而建议的逻辑设计。
已通过复制当前环境中的所有路径,删除单个故障点。
逻辑 SAN 图
图 24
C. 存储路径冗余注意事项
所确定的可能故障点和冗余措施如下。
ESX Server 主机
故障点
ESX Server 主机
SAN 光纤通道交换机
存储阵列
冗余
每主机 2 个 HBA
2 台物理交换机
每个存储阵列 2 个存储处理器
表 25
D. SAN LUN 分区注意事项
所有虚拟机 LUN 都会被分区到 VI3 主机群集和 VCB 代理服务器中的所有 ESX Server 主机,但是专用于虚拟机模板的 LUN 除外,此类 LUN 只会被分区到 ESX Server 主机 1 和主机 2。隔离模板 LUN 是为了将不必要的 SCSI 流量降至最低。VirtualCenter 只需要通过一个 ESX Server 主机访问模板 LUN,而另一个主机则备用。
VMware虚拟架构规划设计指南
页第 19
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
lCenter 数据中心体系结构
本节将详细说明 VirtualCenter 数据中心体系结构。
A. 命名标准
数据中心命名
VirtualCenter 将 VMware ESX Server 主机组织成一个或多个数据中心,其包含共享资源的所有环境。数据中心命名应遵循下表说明的格式:
• <位置>_<用途>_
用途
网络的角色 — 生产、测试、备份、基础架构
表 26
将为客户创建以下两个数据中心:
1. LA_Prod_01 — LA 生产环境中的所有主机都将用于生产。
2. LA_Dev_01 — LA 开发环境中的所有主机都将用于开发。
3. Burbank_Prod_01 — Burbank 生产环境中的所有主机都将用于生产。
必须将每个数据中心都连接到格式化为 VMFS 卷的 LUN。应该将这些 LUN 分区,以便数据中心中的所有 VMware ESX Server 主机都可以访问它们以支持 VMotion、VMware DRS 和 VMware HA。
XX
数据中心的
编号
位置
生产数据中心位置。
重要说明 — 数据中心提供虚拟机迁移的边界。
文件夹命名
以下文件夹方案将用于组织虚拟机和模板。
1. App Dev — 应用程序开发环境中的所有虚拟机。
2. App Prod — 应用程序生产环境中的所有虚拟机。
3. Desktop — 桌面环境中的所有虚拟机。
4. Intranet — Intranet
环境中的所有虚拟机。
5. Systems — 系统环境中的所有虚拟机。
6. Voice and Network — 语音和网络环境中的所有虚拟机。
7. Templates — 所有模板。
VMware虚拟架构规划设计指南
页第 20
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. 群集
数据中心内的所有 ESX Server 主机都会被置于单个 VMware DRS/HA 群集中。
VMware 群集命名
可以对 VMware ESX Server 主机进行分组,以便为虚拟机提供 VMware HA 和 DRS 服务。
群集名称
Bethel
说明
要托管 LA 和 Burbank 位置中的生产虚拟机的所有
VMware ESX Server 主机。
表 27
C. 资源池
Bethel 主机群集将定义两个资源池。
•
•
“重要服务”资源池最初将保留 32GB RAM 和 8GHz CPU,而且具有无限/可扩展 RAM 和
CPU 设置。此资源池将专用于关键任务虚拟机。
另一个“二线服务”资源池将没有任何保留,而且具有 16 GB RAM 和 4 GHz CPU 的限制。在该资源池中,会放入低优先级服务的虚拟机,而且这些限制会保证该资源池中的虚拟机不会具有高于正常虚拟机的优先级。
D. 用户组
将在 Windows Active Directory 中设置两个用户组 — VM Operators 和 VM Administrators,而且用户将通过 VI Client 进行访问。虚拟机的最终用户将无法使用 VI Client 直接进行访问。
E. 角色
将为 VM Administrators 组中的用户分配 Administrator 角色。而将为 VM Operators 组中的用户分配虚拟机 Power User 角色,此角色仅可对虚拟机和资源对象进行操作。
F. VI3 体系结构冗余
所确定的可能故障点和冗余措施如下。
故障点
ESX Server 主机
VirtualCenter Server
License Server
VirtualCenter 数据库
存储
冗余
多个 ESX Server 主机组织成 VMware HA 群集
热备盘虚拟机
无。每周备份 VirtualCenter Server 许可证文件
目录。
无。每日备份数据库。
请参见“存储冗余”详细说明
VMware虚拟架构规划设计指南
页第 21
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
网络连接
虚拟机
请参见“网络连接冗余”详细说明
VMware HA
用于选定虚拟机的 Microsoft 群集服务
表 28
VMware虚拟架构规划设计指南
页第 22
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
备份体系结构
VMware Consolidated Backup 将用于帮助备份虚拟机,包括文件级别和整个虚拟机快照。VMware
Consolidated Backup (VCB) 组件包括:
VMware Consolidated Backup 代理服务器规格
属性
所需的主机数
主机名和 IP 地址
域
供应商
型号
处理器数
处理器类型
处理器速度
内存
网卡数
网卡供应商
网卡型号
网卡端口
网卡速度
本地驱动器数
RAID 级别
总存储量
存储 HBA 数
存储 HBA 供应商
存储 HBA 型号
存储 HBA 固件版本
操作系统和 Service Pack
级别
最低可用磁盘空间
备份代理
规格
1
(192.168.1.200)
VMWARE
X86 供应商
VC2000
2
单核
3.0 GHz
4 GB
1
Intel
Pro 1000 MT
2
GB
2
RAID 5
36 GB
2
QLogic
2300
7.07.04
Windows 2003 企业版 SP1
10 GB
TSM 5.3
表 29
VMware虚拟架构规划设计指南
页第 23
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VMware Consolidated Backup“存储池”
SAN 上格式化为 NTFS 的专用 500GB LUN 将用于转储虚拟机导出文件。VCB 代理服务器会直接装载此 LUN。
备份/恢复应用服务器
将使用当前 TSM 应用服务器,并将其与 VCB 代理服务器上安装的代理相连接,以便备份“存储池”中创建的虚拟机导出文件。
对于生产虚拟机,会固定每夜进行备份,而对于测试和开发系统,则根据需要进行备份。所有备份都使用 VCB 来完成。Tivoli Storage Manager (TSM) 5.3 是所有新服务器安装上部署的最新版本。
对于 VMware ESX Server 主机停机或损坏的情况,VMware ESX Server 的体系结构提供了非常安全的可恢复解决方案。因为所有重要的 vmdk 文件都以 VMFS 形式存储在 SAN 上,所以在 VMware ESX
Server 主机脱机时,群集中的其他 VMware ESX Server 主机仍可以继续使用它们。
A. VMware ESX Server 主机备份
因为典型的 ESX 构建从开始到完成需要数分钟的时间,所以不建议备份 VMware ESX Server 主机。因为所有重要数据都存储在 SAN 上,所以无需备份服务控制台。
如果 VMware ESX Server 主机有大量的自定义内容,则可以对文件和目录进行备份。在环境中,不应对默认环境有太多的更改,否则将无法保证备份能够顺利进行。
/etc/passwd
密码文件,其中包含 VMware ESX Server 主机服务控制台的本地用户。
影子密码文件,其中包含 VMware ESX Server
主机服务控制台的本地用户和加密的密码。
组文件,用于包含 VMware ESX Server 主机服务控制台的本地安全组。
grub 启动加载程序的启动信息。
VMware ESX 主机的配置文件。
VMware ESX 主机的启动分区。请注意,这些应为默认值。
本地计算机上 home 目录中存储的任何用户
信息。
表 30
要执行备份,可使用以下命令来生成文件:
# tar –cvf /etc/passwd /etc/shadow /etc/group /etc/
/etc/pam.d /etc/vmware /boot/ /home/
/etc/shadow
/etc/group
/etc/
/etc/vmware
/boot
/home/
VMware虚拟架构规划设计指南
页第 24
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
B. VMware ESX Server 主机恢复
通常,应重新安装 VMware ESX Server 并将其连接到共享存储。如果执行了上述步骤,则可通过以下步骤执行完整恢复:
1. 使用与原始主机相同的分区配置重新安装 ESX。
2. 恢复 SFTP 文件。
3. 通过键入以下命令,删除 /etc/vmware 和 /boot 目录
# cd /
# rm –Rf /etc/vmware
# rm –Rf /boot
4. 在新的 ESX 主机上恢复备份集。确定在恢复时覆盖现有的文件!例如,您可以从根目录发出以下命令,以便从原始 tarball 进行恢复:tar –xvf
# tar –xvf
5. 重新启动。
VMware虚拟架构规划设计指南
页第 25
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
X. VI 监控体系结构
会利用 ESX Server 和 VirtualCenter 中内置的监控功能。
A. 虚拟基础架构管理
要有效地管理 VMware Infrastructure,需要持续监控主机和虚拟机并使用 VirtualCenter。
监控
HP System Insight Manager Sever 会处理虚拟基础架构的监控活动。客户已选择使用 Insight Manager
以及要在每个 ESX Server 主机上安装的相关 MIB,如下图所示。在 VI Client 的安全配置过程中必须启用 SNMP。
HP System
Insight Manager
Server
SNMP 陷阱
监控服务器
VirtualCenter
Server
硬件警报
虚拟机性能和可用性数据
服务控制台监控
警报和性能数据
ESX Server 主机
虚拟机
图 31
在虚拟机内监控
您可以像对待物理服务器一样来诊断和故障排除虚拟机操作系统中的问题。一般来说,可以安装任何操VirtualCenter Server
作系统特定的工具来分析环境。但是,由于物理 CPU 在多个虚拟机之间共享,因此客户操作系统中的时钟会有些偏差。这导致使用壁挂钟时间的工具显示不正确的结果。其中包括监控 CPU 使用率。
客户选择了监控软件 X 作为首选工具,用来在虚拟机客户操作系统中进行监控。VMware VirtualCenter
会监控单个虚拟机的 CPU 使用率。如果 CPU 使用率超出所需的阈值,则会发送 SNMP 陷阱。运营团队必须配置这些阈值。
VMware虚拟架构规划设计指南
页第 26
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
在服务控制台内监控
下表指出在 VMware ESX Server 服务控制台内进行监控所使用的重要参数。
VMware ESX Server 的重要监控参数
参数
内存
监控原因
确保服务控制台没有频繁操作或使用过多内存。内存较低或频繁操作都可能导致服务控制台管理方面发生性能问题。
确保下列进程正在运行:
• sshd
• httpd
• vmware-vpxa
• vmware-hostd
• vmware-served
• vmware-snmpd
终止那些只减少合法进程可用资源的 Zombie 进程。
确保任何 ext3 分区上可用空间的使用率都不超过
90%。
确保下列 TCP 端口正在回应请求:
• 902(vmware-vpxa、vmware-hostd)
• 80 和 443 (VI Web Access)
• 22 (sshd)
表 32
进行的进程
Zombie 进程
已用磁盘空间
端口运行状况
性能管理和容量规划
VirtualCenter
VirtualCenter 可用来查看各种数据中心内虚拟机和 VMware ESX Server 的资源利用率。此外,它还有事件关联功能,可以协助管理员将性能信息与事件(如虚拟机电源操作、VMotion 等)相关联。
B. VirtualCenter 配置
安装硬件之后,即会配置软件,并启动计算机。为了确保可预测且可管理的 VI 在虚拟环境的整个使用期限内仍可进行管理,应该遵循配置准则。
VirtualCenter 事件
VirtualCenter 事件会记录在 VirtualCenter 数据库中。每个事件面板都会显示与所选 VirtualCenter 对象相关的事件。选择导航栏中的“Events”选项,“Events”面板即会显示当前会话的所有事件。如果选择服务器群或主机,则只有在该数据中心或主机上发生的事件才会出现在 Events 面板中。
VMware虚拟架构规划设计指南
页第 27
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
VirtualCenter 警报
警报是由特定事件触发的预配置操作。警报适用于任何 VirtualCenter 对象。通过定义警报的对象的“Alarms”选项卡,可以查看、修改和删除现有的警报。下表中说明了百分比和状态这两种警报类型。
触发类型
百分比
说明
监控主机 CPU 使用情况、主机内存使用情况、虚拟机 CPU 使用情况、虚拟机内存和虚拟机心跳信号。触发选项为:
Is Above(百分比)和 Is Below(百分比)。虚拟机心跳信号的默认监视器设为 Is Below。所有其他百分比选项的默认监视器设为 Is Above。
状态
监控主机状态和虚拟机状态。触发选项为:Is (状态)和 Is Not(状态)
表 33
警报会作为 SNMP 陷阱发送到在 VirtualCenter Server 上配置的 SNMP 接收器。不会使用电子邮件
通知。
初始安装 VirtualCenter 时所配置的默认警报应该足以能够处理其他管理软件所不能处理的监控要求。下面各表格指出虚拟机和 ESX Server 主机的阈值警报级别。
每个虚拟机的 VMware Virtual Infrastructure 警报
警报
虚拟机 CPU 使用情况
虚拟机内存使用情况
虚拟机心跳信号
每个 VMware ESX Server 主机的 VMware Virtual Infrastructure 警报
警报
主机 CPU 使用情况
主机内存使用情况
主机状态
虚拟机状态
每个数据中心的 VMware Virtual Infrastructure 警报
警报
VMware DRS 或 HA 群集不一致且没有足够的可用资源
VMware DRS 群集的某些资源限制未得到满足。
表 36
群集状态
红色
黄色
黄色阈值 红色阈值
黄色阈值 红色阈值
75% 90%
75% 90%
66% 33%
表 34
75% 90%
75% 90%
(无)
(无)
表 35
正在重新连接
正在启动
VMware虚拟架构规划设计指南
页第 28
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XI.预期工作负载假设
预期在 VMware Infrastructure 上运行的一般虚拟机具有下列配置特征。此外,下面还列出由服务器整合和控制评估分析所获得的预期主机工作负载。
A. 虚拟机配置特征
为了达到整合的评估目标并符合当前的环境,应该遵循最佳做法。
属性
操作系统
开发
Windows 2003
Linux
4
3 GB
100 Mbps
N/A
3
生产
Windows 2000、Windows
2003
4
3GB
100 Mbps
3
3
最大 CPU
最大 RAM
最大网络 I/O
无 Exchange 或 Citrix Server
无需自定义的硬件支持(Dongle、特殊 PCI 卡等等)
表 37
B. 主机负载特征
现有工作负载的服务器整合
范围 虚拟化对象数 所需的 ESX
Server 主机数
整合率约计 每个 ESX
Server 主机的 CPU 平均使用率
34% 到 34%
每个 ESX
Server 主机的平均内存使用率
56% 到 56%
最小值到可
能值(保守到大胆)
36 到 60 台 3 到 4 台 12:1 到 15:1
表 38
未来工作负载的服务器控制
范围 计划内的虚拟机数
60 到 90 台
所需的 VMware ESX
Server 主机数
整合率约计
最小值到可能值(保守到
大胆)
5 到 6 台 12:1 到 15:1
表 39
VMware虚拟架构规划设计指南
页第 29
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
注意:在此设计中,容量仅够满足于半数的虚拟化对象和数十倍新的虚拟机工作负载。除了最初针对此项目购买的 4 台主机之外,潜在的整合和控制预计还需要其他的 ESX Server 主机。
C. 主机群集特征
所有这 4 台 ESX Server 主机都会置于 Bethel 群集中。每台单个主机上的虚拟机都不会配置成在主机启动时自动启动。虚拟机会设为使用 VMware HA 进行启动。默认情况下,所有虚拟机都有相同的中级(默认)优先级。
允许的 VMware HA 群集主机故障总数会设为 1(默认值)。
主机隔离响应则为关闭虚拟机(默认值)。如果不存在可能导致网络分割和意外主机隔离(未关闭主机情况下)的网络跨越树问题,则可以接受此设置。
VMware DRS 设置会设为半自动模式。这有助于在最初启动虚拟机时自动对其进行放置,但也只是建议迁移虚拟机以平衡负载。
VMware虚拟架构规划设计指南
页第 30
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
体系结构设计的特殊注意事项
此处列出设计、决策、调整和影响方面的显著注意事项。
区域
ESX Server 主机
项目
平台选择
设计影响
无刀片服务器。考虑到价位,选择了带 2 个双核 CPU 而不是 4 个 CPU 的服务器。2 个插槽的计算机会导致运行 Virtual SMP 时整合率较低,因此应仅限于 2-vCPU 虚拟机。
N/A所有主机都有本地存储。
选择了 QLogic HBA 而不是 Emulex HBA。因此,需要考虑 BIOS 设置:
•
•
•
启用目标重置 = 是
完整 LIP 登录 = 是
完整 LIP 重设 = 否
无磁盘
存储适配器类型
一次只有一个 HBA 处于活动状态,而另一个
HBA 则是每个主机的故障切换适配器。
VirtualCenter
网卡数
平台选择
License Server
位置
共 4 个端口的 2 个双向端口网卡允许创建 2
个 vSwitch,2 个网卡端口各一个 vSwitch。
选择了物理机。VMware HA 不可用。但是,第二次安装(作为虚拟机)可用作热备盘。
为了避免不必要的断开连接,会使用
VirtualCenter Server 来配置 License
Server。
使用现有的 Oracle 数据库服务器。
将虚拟机与管理网络分开。
使用虚拟局域网。
每次进行 IT 请求时都会为 Root 身份提供远程 ssh 访问的权限,尽管这有背于 VMware
建议的最佳做法。
冗余 每个 vSwitch 都有 2 个活动网卡端口。
VirtualCenter 数据库 位置
网络连接
分段
安全性
VMware虚拟架构规划设计指南
页第 31
© 2008 VMware, Inc. 保留所有权利。
区域
存储
项目
平台选择
LUN 分配
VI 规划和设计:VI 体系结构设计
设计影响
需要通过 MRU 故障切换策略来匹配主动/被动存储设备。
模板有单独的 LUN。
所有虚拟机 LUN 的大小统一为 250 GB。
VCB 代理服务器有单独的 LUN,称为“存
储池”。
VirtualCenter
数据中心体系结构
P2V 体系结构
服务级别协议
--
VMware HA 和 DRS 设置需要反映对主机负载和故障切换有特定要求的 SLA。
新 ESX Server 主机与要整合的现有服务器位于不同的网络。这需要将计算机转换为托管的虚拟机,然后在将虚拟机导入 VMFS 之前使用介质传输虚拟机。
所有虚拟机都是 Windows 计算机,因此可以使用 VCB 来支持增量文件级别备份。
会集成 HP System Insight Manager。
生产虚拟机可由位于 2 个不同站点的用户进行访问,但是无论出于何种目的,这两个地理位置都必须充分连接并配置为在
VirtualCenter 中显示为一个单一数据中心。
生产虚拟机在虚拟局域网上运行。因此,必须将生产虚拟机的 vSwitch 连接到中继端口。
运行生产虚拟机时必须保留更改记录。每夜将使用 VCB 来呼叫虚拟机快照,以在必要时用作辨症分析。
表 40
备份体系结构
监控体系结构
其他客户特定的要求
--
--
组织要求和限制
技术要求和限制
策略要求和限制
VMware虚拟架构规划设计指南
页第 32
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIII.假设
A. 硬件
硬件部署必须满足每个产品的技术要求。如果硬件与所建议的硬件(本文档中所列出)不符,则开发团队必须重新认证此硬件是否支持部署中使用的所有 VMware 产品。此设计的技术假设如下所示。
此设计的技术假设来源
元素
VirtualCenter
VMotion
VMware ESX Server
系统兼容性指南
VMware ESX Server I/O
适配器
VMware ESX Server
SAN 兼容性
VMware ESX Server
备份兼容性
指针
/pdf/vc_p:///support/vc/doc/#1045854/pdf/esx_systems_ /pdf/esx_io_ /pdf/esx_SAN_ /pdf/esx_backup_表 41
B. 外部依赖性
外部依赖性说明依赖于虚拟基础架构或受其影响的其他系统或技术。外部依赖性与假设的不同之处在于其清晰识别依赖因素和后续影响。
VMware Virtual Infrastructure 外部依赖性
项目
Active Directory
DNS
网络
网络
要求
需要有 Active Directory 才能实施和操作虚拟基础架构。
必须配置 DNS,才能实现 VirtualCenter、ActiveDirectory、VMware ESX Server 和虚拟机之间的连接。
网络拥塞或故障会阻止 VMotion 迁移虚拟机。
网络拥塞或故障会影响 VirtualCenter 管理 VMware ESX Server 服务器群的
能力。
存储区域网络 SAN 的稳定性和性能会影响虚拟机。
表 42
VMware虚拟架构规划设计指南
页第 33
© 2008 VMware, Inc. 保留所有权利。
VI 规划和设计:VI 体系结构设计
XIV.参考文档
这些文档提供了有关 VMware Infrastructure 的其他信息。
补充白皮书
VMware Infrastructure 体系结构概述:/pdf/vi_architecture_
虚拟化概述:/pdf/
虚拟基础架构中的网络吞吐量:/pdf/esx_network_
VMware ESX Server 3 802.1Q 虚拟局域网解决方案:/pdf/esx3_vlan_
CLARiiON 与 VMware ESX Server 集成:/pdf/clariion_wp_
协调 VMFS 分区的建议:/pdf/esx3_partition_
VMware Infrastructure 3 体系结构的安全设计:/pdf/vi3_security_architecture_
利用虚拟基础架构做好应对业务灾难的准备:/pdf/disaster_
利用 VMware HA 使 High Availability (HA) 服务自动化:/pdf/vmware_ha_
Virtual Infrastructure 3 中的整合备份:/pdf/vi3_consolidated_
在 VMware Infrastructure 中部署 Microsoft Exchange:/pdf/exchange_best_
改进 Citrix Presentation Server 的可扩展性:/pdf/esx_citrix_
补充知识库文章
Intel 处理器的 VMotion CPU 兼容性要求:/selfservice/microsites/?cmd=displayKC&externalId=1991
AMD 处理器的 VMotion CPU 兼容性要求:/selfservice/microsites/?cmd=displayKC&externalId=1992
消除 VMotion 兼容性限制:/selfservice/microsites/?cmd=displayKC&externalId=1993
补充演示文稿
ADC0135:为您的环境选择和构建存储方案,VMworld 2006:/vmworld/2006/
ADC9789:与 EMC 存储产品一起部署 VMware ESX Server 3 和 2.5.x 的最佳做法,
VMworld 2006:/vmworld/2006/
VMware虚拟架构规划设计指南
页第 34
© 2008 VMware, Inc. 保留所有权利。