IBM590+DS8100+SAP 有超高的I/O Wait

biti_rainy · 发表于 2008-4-30 10:44

原帖由 foxmile 于 2008-2-1 10:53 发表

biti_rainy，每个进程消耗10m内存是估算还是确定。

这是一个观察得来的值. 一般进程运行一段时间就可能消耗 5m以上的内存,为了保险,取 10m比较安全.

如果使用全文检索或者 erp 这样的应用,那这内存更高了,20m以上都可能.

netbbs · 发表于 2008-4-30 11:08

原帖由 Kamus 于 2007-12-28 01:12 发表

无非是把票投给fs cache还是db cache，数据文件放在fs上，maxperm设置高些也无可厚非。db cache hit ratio低些没所谓，在你的系统里面相信大部分都被fs cache照顾了，并不会因此降低性能。

纯的数据库服务器，还是该降低maxperm,加大db cache吧，虽然都是缓存，还是应该多给db，如果操作系统的文件系统的缓存过大，有可能会重复缓存同样的数据。

jieyancai · 发表于 2008-4-30 11:27

原帖由 biti_rainy 于 2008-4-30 10:44 发表

这是一个观察得来的值. 一般进程运行一段时间就可能消耗 5m以上的内存,为了保险,取 10m比较安全.

如果使用全文检索或者 erp 这样的应用,那这内存更高了,20m以上都可能.

每个进程占用的内存基本可以通过v$process查出。
如下：
SQL> conn /as sysdba
已连接。
SQL> col c1 heading 'Program|Name'       format a30
SQL> col c2 heading 'PGA|Used|Memory'    format 999,999,999
SQL> col c3 heading 'PGA|Allocated|Memory' format 999,999,999
SQL> col c4 heading 'PGA|Maximum|Memory' format 999,999,999
SQL> col spid for a6
SQL>
SQL> select spid,program c1,pga_used_mem/1024 c2,pga_alloc_mem/1024 c3,pga_max_mem/1024 c4
from
v$process
order by
c4 desc;

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
4770 oracle@Host02 (TNS V1-V3)          1,559       2,938    57,018
4886 oracle@Host02 (TNS V1-V3)          1,444       2,835    42,387
5245 oracle@Host02 (TNS V1-V3)             394       1,063    37,095
19110  oracle@Host02 (TNS V1-V3)          1,451       2,406    34,056
19160  oracle@Host02 (TNS V1-V3)                0       2,970    32,346
19144  oracle@Host02 (TNS V1-V3)             289       2,315    32,139
19106  oracle@Host02 (TNS V1-V3)          1,634       2,312    32,008
19152  oracle@Host02 (TNS V1-V3)          1,783       2,354    31,986
19124  oracle@Host02 (TNS V1-V3)             626       2,724    31,972

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19120  oracle@Host02 (TNS V1-V3)          1,570       1,908    31,924
19134  oracle@Host02 (TNS V1-V3)          1,235       2,024    31,912
19104  oracle@Host02 (TNS V1-V3)          1,577       1,875    31,891
19150  oracle@Host02 (TNS V1-V3)          1,325       2,236    31,868
19116  oracle@Host02 (TNS V1-V3)          1,032       2,156    31,852
19148  oracle@Host02 (TNS V1-V3)          1,321       1,998    31,822
19132  oracle@Host02 (TNS V1-V3)             62       1,984    31,800
19122  oracle@Host02 (TNS V1-V3)          1,167       2,440    31,752
19156  oracle@Host02 (TNS V1-V3)             856       1,864    31,752

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19138  oracle@Host02 (TNS V1-V3)          1,045       1,977    31,737
19162  oracle@Host02 (TNS V1-V3)             660       1,907    31,731
19118  oracle@Host02 (TNS V1-V3)          1,529       1,839    31,727
19126  oracle@Host02 (TNS V1-V3)             606       1,612    31,717
19114  oracle@Host02 (TNS V1-V3)          1,496       2,180    31,684
19140  oracle@Host02 (TNS V1-V3)             935       1,983    31,665
19154  oracle@Host02 (TNS V1-V3)          1,485       1,849    31,618
19128  oracle@Host02 (TNS V1-V3)             730       2,075    31,595
19112  oracle@Host02 (TNS V1-V3)             356       1,853    31,589

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19146  oracle@Host02 (TNS V1-V3)                0       1,828    31,588
19142  oracle@Host02 (TNS V1-V3)          1,035       2,192    31,568
19136  oracle@Host02 (TNS V1-V3)          1,276       1,953    31,521
19108  oracle@Host02 (TNS V1-V3)          1,253       1,917    31,485
19158  oracle@Host02 (TNS V1-V3)          1,205       1,968    31,408
19130  oracle@Host02 (TNS V1-V3)             681       2,008    31,351
4731 oracle@Host02 (TNS V1-V3)             943       1,471    21,132
1084 oracle@Host02 (TNS V1-V3)             961       1,706    21,034
207 oracle@Host02 (TNS V1-V3)             858       1,294    21,014

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
4978 oracle@Host02 (TNS V1-V3)             478       885    15,477
6074 oracle@Host02 (TNS V1-V3)             282       1,429    15,436
1069 oracle@Host02 (TNS V1-V3)          1,359       1,939    13,971
4419 oracle@Host02 (TNS V1-V3)          1,308       1,850    13,519
746 oracle@Host02 (TNS V1-V3)          1,370       2,193    13,457
5189 oracle@Host02 (TNS V1-V3)             197       555    12,587
7033 oracle@Host02 (TNS V1-V3)             373       452    12,523
3115 oracle@Host02 (TNS V1-V3)             336       809    12,426
6546 oracle@Host02 (TNS V1-V3)             437       840    12,286

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
7357 oracle@Host02 (TNS V1-V3)             538       879    12,266
7175 oracle@Host02 (TNS V1-V3)             335       1,414    12,166
3622 oracle@Host02 (TNS V1-V3)             359       789    12,117
5373 oracle@Host02 (TNS V1-V3)             414       733    12,117
7385 oracle@Host02 (TNS V1-V3)             341       774    11,718
22749  oracle@Host02 (D000)                9,668       9,734       9,734
22751  oracle@Host02 (ARC0)                4,241       8,486       8,486
7307 oracle@Host02 (TNS V1-V3)             373       894       7,550
4482 oracle@Host02 (TNS V1-V3)             384       976       6,288

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
6605 oracle@Host02 (TNS V1-V3)             467       735       5,898
4729 oracle@Host02 (TNS V1-V3)             526       697       5,881
5013 oracle@Host02 (TNS V1-V3)             446       702       5,502
6574 oracle@Host02 (TNS V1-V3)             461       595       5,450
22735  oracle@Host02 (LGWR)                   0       5,411       5,411
5270 oracle@Host02 (TNS V1-V3)             386       518       4,614
7516 oracle@Host02 (TNS V1-V3)             380       1,261       4,461
6104 oracle@Host02 (TNS V1-V3)             359       1,261       4,461
6880 oracle@Host02 (TNS V1-V3)             314       541       4,445

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
5002 oracle@Host02 (TNS V1-V3)             439       720       4,416
22753  oracle@Host02 (ARC1)                4,241       4,388       4,388
4650 oracle@Host02 (TNS V1-V3)             305       1,181       4,365
6178 oracle@Host02 (TNS V1-V3)             438       894       4,261
6938 oracle@Host02 (TNS V1-V3)             399       696       4,179
6213 oracle@Host02 (TNS V1-V3)             427       1,136       3,740
6241 oracle@Host02 (TNS V1-V3)             225       933       3,612
5422 oracle@Host02 (TNS V1-V3)             298       501       3,612
6393 oracle@Host02 (TNS V1-V3)             185       997       3,612

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
205 oracle@Host02 (TNS V1-V3)             818       1,180       3,557
7514 oracle@Host02 (TNS V1-V3)             327       1,022       3,557
4022 oracle@Host02 (TNS V1-V3)             458       849       3,557
6878 oracle@Host02 (TNS V1-V3)             229       357       3,557
6102 oracle@Host02 (TNS V1-V3)             324       1,038       3,557
5998 oracle@Host02 (TNS V1-V3)             270       1,356       3,049
4480 oracle@Host02 (TNS V1-V3)             452       767       2,751
4648 oracle@Host02 (TNS V1-V3)             596       916       2,729
5000 oracle@Host02 (TNS V1-V3)             462       767       2,729

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
3987 oracle@Host02 (TNS V1-V3)             386       909       1,869
19092  oracle@Host02 (TNS V1-V3)             234       444       1,833
29428  oracle@Host02 (TNS V1-V3)             252       393       1,833
6980 oracle@Host02 (TNS V1-V3)             404       686       1,518
22739  oracle@Host02 (SMON)                   390       1,281       1,473
4899 oracle@Host02 (TNS V1-V3)             138       889       1,465
4739 oracle@Host02 (TNS V1-V3)             128       889       1,465
6036 oracle@Host02 (TNS V1-V3)                0       1,429       1,429
22737  oracle@Host02 (CKPT)                   136       1,297       1,297

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
22733  oracle@Host02 (DBW0)                   187       279       1,278
10987  oracle@Host02 (TNS V1-V3)             324       963       964
6729 oracle@Host02 (TNS V1-V3)             224       869       869
6328 oracle@Host02 (TNS V1-V3)             266       330       842
6011 oracle@Host02 (TNS V1-V3)             353       802       802
22745  oracle@Host02 (QMN0)                   523       787       787
6727 oracle@Host02 (TNS V1-V3)             237       761       761
18561  oracle@Host02 (TNS V1-V3)             196       365       749
6017 oracle@Host02 (TNS V1-V3)             326       485       613

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19090  oracle@Host02 (TNS V1-V3)             287       556       556
26131  oracle@Host02 (TNS V1-V3)             227       497       497
7576 oracle@Host02 (TNS V1-V3)             353       490       490
20569  oracle@Host02 (TNS V1-V3)             200       474       474
6015 oracle@Host02 (TNS V1-V3)             306       437       437
7009 oracle@Host02 (TNS V1-V3)             308       437       437
19088  oracle@Host02 (TNS V1-V3)             219       348       412
7484 oracle@Host02 (TNS V1-V3)             258       386       386
7589 oracle@Host02 (TNS V1-V3)             256       386       386

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19222  oracle@Host02 (TNS V1-V3)             159       361       361
4421 oracle@Host02 (TNS V1-V3)             225       357       357
22741  oracle@Host02 (RECO)                   280       353       353
7643 oracle@Host02 (TNS V1-V3)             263       297       297
19065  oracle@Host02 (TNS V1-V3)             232       297       297
22743  oracle@Host02 (CJQ0)                   217       289       289
19192  oracle@Host02 (TNS V1-V3)             217       284       284
6215 oracle@Host02 (TNS V1-V3)             222       284       284
7309 oracle@Host02 (TNS V1-V3)             174       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
6000 oracle@Host02 (TNS V1-V3)             174       233       233
6395 oracle@Host02 (TNS V1-V3)             174       233       233
6180 oracle@Host02 (TNS V1-V3)             174       233       233
7035 oracle@Host02 (TNS V1-V3)             174       233       233
6243 oracle@Host02 (TNS V1-V3)             174       233       233
7359 oracle@Host02 (TNS V1-V3)             174       233       233
19076  oracle@Host02 (TNS V1-V3)             168       233       233
19080  oracle@Host02 (TNS V1-V3)             168       233       233
19094  oracle@Host02 (TNS V1-V3)             168       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19224  oracle@Host02 (TNS V1-V3)             168       233       233
19220  oracle@Host02 (TNS V1-V3)             168       233       233
19218  oracle@Host02 (TNS V1-V3)             168       233       233
19216  oracle@Host02 (TNS V1-V3)             168       233       233
19214  oracle@Host02 (TNS V1-V3)             168       233       233
19212  oracle@Host02 (TNS V1-V3)             168       233       233
19210  oracle@Host02 (TNS V1-V3)             168       233       233
19172  oracle@Host02 (TNS V1-V3)             168       233       233
19170  oracle@Host02 (TNS V1-V3)             168       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19168  oracle@Host02 (TNS V1-V3)             168       233       233
19166  oracle@Host02 (TNS V1-V3)             168       233       233
19164  oracle@Host02 (TNS V1-V3)             168       233       233
19102  oracle@Host02 (TNS V1-V3)             168       233       233
19100  oracle@Host02 (TNS V1-V3)             168       233       233
19098  oracle@Host02 (TNS V1-V3)             168       233       233
19096  oracle@Host02 (TNS V1-V3)             168       233       233
19208  oracle@Host02 (TNS V1-V3)             168       233       233
19206  oracle@Host02 (TNS V1-V3)             168       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19204  oracle@Host02 (TNS V1-V3)             168       233       233
19202  oracle@Host02 (TNS V1-V3)             168       233       233
19200  oracle@Host02 (TNS V1-V3)             168       233       233
19198  oracle@Host02 (TNS V1-V3)             168       233       233
19196  oracle@Host02 (TNS V1-V3)             168       233       233
19194  oracle@Host02 (TNS V1-V3)             168       233       233
19190  oracle@Host02 (TNS V1-V3)             168       233       233
19188  oracle@Host02 (TNS V1-V3)             168       233       233
19186  oracle@Host02 (TNS V1-V3)             168       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19184  oracle@Host02 (TNS V1-V3)             168       233       233
19182  oracle@Host02 (TNS V1-V3)             168       233       233
19180  oracle@Host02 (TNS V1-V3)             168       233       233
19178  oracle@Host02 (TNS V1-V3)             168       233       233
19176  oracle@Host02 (TNS V1-V3)             168       233       233
19174  oracle@Host02 (TNS V1-V3)             168       233       233
19084  oracle@Host02 (TNS V1-V3)             168       233       233
19086  oracle@Host02 (TNS V1-V3)             168       233       233
19082  oracle@Host02 (TNS V1-V3)             168       233       233

                                             PGA       PGA       PGA
   Program                               Used Allocated    Maximum
SPID Name                               Memory    Memory    Memory
------ ------------------------------ ------------ ------------ ------------
19078  oracle@Host02 (TNS V1-V3)             168       233       233
22731  oracle@Host02 (PMON)                   151       216       216
22747  oracle@Host02 (S000)                   69       154       154
   PSEUDO                                  0          0          0

ora2008 · 发表于 2008-5-7 10:42

study

ebs11i · 发表于 2008-11-14 17:33

留脚印，慢慢研究，很有借鉴。

ebs11i · 发表于 2008-11-14 17:40

原帖由 rollingpig 于 2007-12-27 09:14 发表
IOPS 看起来很高的原因在于 OS file system cache.

可以这么看：

DB Logical read

||
\/

(Not found in DB cache) ==> 反映为 db hit ratio ,跟db_cache_size相关,本例为12G
DB Physical read ==> 本例中Random IO反应时间（db file sequntial read average wait time )为2ms

||
\/

(Not found in OS cache, or use raw device , direct IO ) ==> 反映为file system cache hit ratio, 跟用作file cache的OS memory相关，本例中高达64G-18G(SGA)-4G(PGA)-2G(系统开销)-0G(看到的free memory)=40G
Storage IO

||
\/

(Not found in Storage cache) ==>反映为 Storage cache hit ratio, 跟Storage cache size有关
Disk IO

||
\/

(Not found in Disk cache)
磁道IO ==> 这个Random IO反应时间通常为大约 7ms (Average seek time + latency time)

所以，从DB看到的接近1W多 IOPS，并没有真正反映到底层Disks上，而是很大一部分被“file system cache hit ”给吃掉了。
这也是为什么很多statspack显示的Random IO反应时间（db file sequntial read average wait time ) 会很明显低于disk io 反应时间 (Average seek time + latency time).

精辟

ebs11i · 发表于 2008-11-14 17:48

原帖由 biti_rainy 于 2007-12-27 15:33 发表

cat  /etc/tunables/nextboot

大多数情况下我们会设置类似如下几个参数：
      minperm%="5"
      maxperm% = "15"
      maxclient% = "10"
      strict_maxclient = "0"
      strict_maxperm = "0"
      v_pinshm = "1"

其中 strict_maxperm = "1"  表示 hard limit，也就是说只要设置了这个参数，fs cache 的使用就不会超过 maxperm 设定，如果这个为0，则表示允许fs cache超过maxperm 设置，但在fs cache 介于 maxperm 和minperm之间的时候会有相关调度算法来决定是换 fs cache  页  还是  计算内存页。

在strict_maxperm的时候 fs cache倾向于尽量多的使用free memory，所以实际上依然会很大。所以这个时候降低maxperm就降低性能的说法是不确切的。如果 v_pinshm = "1"  再配合 lock_sga=true ，则这部分原则上被钉在物理内存中了不会参与页交换（除非另外一些特别情况产生）。

所以lz的情况，db cache size 设置为32G的并且v_pinshm = "1"  再配合 lock_sga=true ，设置  strict_maxperm  为0 （为1 可能引起bug 致系统hang），那么 maxperm 设置为10  也就可以了。如果你还坚持设置为 80，那么建议同时跟上这个参数 lru_file_repage = "0"

这样配置加上db_cache_size =32G 应该可以解决问题了吧？

ebs11i · 发表于 2008-11-14 17:54

2005年1月1日浙江省电力公司嘉兴市五县SAP系统的成功上线拉开了浙江省电力公司SAP应用从省、市向县级单位推广的序幕

ebs11i · 发表于 2008-11-14 17:55

按照计划，２００５年１月１日，ＳＡＰ企业转型项目将在商用车公司十堰地区首先上线，２００５年４月１日乘用车公司和股份公司也将先后开始实施；２００５年７月１日，ＳＡＰ企业转型项目将在东风汽车有限公司所有单位统一上线。在该项目全部上线后，“东风有限”出账时间将由目前的两个半月缩短为三天。ＳＡＰ企业转型项目上线实施以后，“东风有限”将在同一管理平台上，按照统一、标准、规范的工作流程，自动、准确、高效地完成信息数据资料的采集和整理，并将其提供给各管理部门和业务部门参考，为企业决策提供强大的数据支撑。

k330 · 发表于 2008-11-14 18:28

学习了~！

[精华] IBM590+DS8100+SAP 有超高的I/O Wait