CRSOCR
CRSTIMER
CRSEVT
CRSD
CLUCLS
CSSCLNT
COMMCRS
COMMNS
[root@rac1 bin]# ./crsctl lsmodules evm
The following are the EVM modules ::
EVMD
EVMDMAIN
EVMCOMM
EVMEVT
EVMAPP
EVMAGENT
CRSOCR
CLUCLS
CSSCLNT
COMMCRS
COMMNS
--跟踪CSSD模块、CRS模块、EVM模块
[root@rac1 bin]# ./crsctl debug log css CSSD:1
Configuration parameter trace is now set to 1.
Set CRSD Debug Module: CSSD Level: 1
[root@rac1 bin]# ./crsctl debug log crs CRSOCR:1
Set CRSD Debug Module: CRSOCR Level: 1
[root@rac1 bin]# ./crsctl debug log evm EVMD:1
Set CRSD Debug Module: EVMD Level: 1
--转储当前CSS、CRS、EVM状态跟踪
[root@rac1 bin]# ./crsctl debug statedump css
CSS data dump triggered.
[root@rac1 bin]# ./crsctl debug statedump crs
Dumping State for crs objects
[root@rac1 bin]# ./crsctl debug statedump evm
Dumping State for evm objects
可以在文件中查看
[oracle@rac1 cssd]$ pwd
/u01/app/oracle/product/10.2.0/db_1/log/rac1/cssd
[oracle@rac1 cssd]$ more ocssd.log
...信息量很大啊。
8.查看当前所在的节点CRS版本
[root@rac1 bin]# ./crsctl query crs softwareversion
CRS software version on node [rac1] is [10.2.0.1.0]
[root@rac1 bin]# ./crsctl query crs activeversion
CRS active version on the cluster is [10.2.0.1.0]
9.开启资源的跟踪
[root@rac1 bin]# ./crsctl debug log res EVMD:1
Set Resource Debug Module: EVMD Level: 1
10.将CSS转储到内存缓存中 目前不支持
operation presently unsupported.
11.维护Votedisk
以图形化安装Clusterware的过程中，在配置Votedisk时，如果选择External Redundancy策略。则只能填写一个Votedisk。但是即使使用External Redundancy作为冗余策略，也可以添加多个Votedisk，只是必须通过crsctl命令来添加，添加多个Votedisk后， 这些Votedisk互为镜像，可以防止Votedisk单点故障。
/* 图：24-1.图形安装clusterware的votedisk配置 */
需要注意的是，Votedisk使用的是一种“多数可用算法”，如果有多个Votedisk，，则必须一半以上的Votedisk同时使用，Clusterware才能正常使用。 比如配置了4个Votedisk，坏一个Votedisk，集群可以正常工作，如果坏了2个，则不能满足半数以上，集群会立即宕掉，所有节点立即重启，所以如果添加Votedisk，尽量不要只添加一个，而应该添加2个。这点和OCR 不一样。OCR 只需配置一个。
实验：上面的情况我做了实验，我的是用openfiler做的存储，当我取消掉节点votedisk裸设备的mapping时，节点过一分钟就会重启，如果取消两个节点的mapping时，两个都会在一分钟左右重启。
CSSD日志中报错(我的votedisk是在/dev/raw/raw2)
[ CSSD]2014-08-22 13:43:34.474 [65854352] >ERROR: clssnmvWriteBlocks: write failed 1 at offset 17 of /dev/raw/raw2
[ CSSD]2014-08-22 13:43:34.474 [65854352] >TRACE: clssnmDiskStateChange: state from 4 to 3 disk (0//dev/raw/raw2)
添加和删除Votedisk的操作比较危险，必须停止 数据库，停止ASM，停止CRS Stack后操作，并且操作时必须使用-force参数。
真的很危险，我实验环境搞得ASM磁盘组都坏了。
a.查看当前votedisk磁盘
[root@rac1 bin]# ./crsctl query css votedisk
0. 0 /dev/raw/raw2
located 1 votedisk(s).
b.关闭当前节点的CRS栈
[root@rac1 bin]# ./crsctl stop crs
Stopping resources.
Successfully stopped CRS resources
Stopping CSSD.
Shutting down CSS daemon.
Shutdown request successfully issued.
c.增加Votedisk磁盘 （必须加-fore 参数）
[root@rac1 bin]# ./crsctl add css votedisk /dev/raw/raw6
Cluster is not in a ready state for online disk addition
[root@rac1 bin]# ./crsctl add css votedisk /dev/raw/raw6 -force
Now formatting voting disk: /dev/raw/raw6
successful addition of votedisk /dev/raw/raw6.
d.查看添加完成后votedisk个数
[root@rac1 bin]# ./crsctl query css votedisk
0. 0 /dev/raw/raw2
1. 0 /dev/raw/raw6
located 2 votedisk(s).
e.启动crs栈
[root@rac1 bin]# ./crsctl start crs
Attempting to start CRS stack
The CRS stack will be started shortly
删除votedisk（同样方式，删除命令如下）
[root@rac2 bin]# ./crsctl delete css votedisk /dev/raw/raw6 -force
successful deletion of votedisk /dev/raw/raw6.
[root@r