11g SPA (sql Performance Analyze) 进行升级测试
- WBOY原创
- 2016-06-07 16:36:531279浏览
11G的新特性SPA(SQL Performance Analyze)现在被广泛的应用到升级和迁移的场景。当然还有一些其他的场景可以考虑使用，比如(参数修改，I/O子系统变更)，但是主要是为了帮助我们检测升级之后性能退化的那些SQL语句，用以防止升级后SQL性能退化导致无法使用的
11G的新特性SPA(SQL Performance Analyze)现在被广泛的应用到升级和迁移的场景。当然还有一些其他的场景可以考虑使用，比如(参数修改，I/O子系统变更)，但是主要是为了帮助我们检测升级之后性能退化的那些SQL语句，用以防止升级后SQL性能退化导致无法使用的问题。如下图所示：
SPA的主要功能集实施步骤如下：
- 在生产系统上捕捉SQL负载，并生成SQL Tuning Set；
- 创建一个中转表，将SQL Tuning Set导入到中转表，导出中转表并传输到测试库；
- 导入中转表，并解压中转表的数据到SQL Tuning Set；
- 创建SPA任务，先生成10g的trail，然后在11g中再生成11g的trail；
- 执行比较任务，再生成SPA报告；
- 分析性能退化的SQL语句；
在使用SPA的时候，首先我们一定要阅读文档：Using Real Application Testing Functionality in Earlier Releases (文档 ID 560977.1)，主要是阅读Table 3: SQL Performance Analyzer Availability Information。这个表格告诉我们，我们可以确认从那个源端版本到那个目标版本做SPA需要安装那些必要的补丁。
1.在生产系统上捕捉SQL负载，并生成SQL Tuning Set
这个步骤其实不是很复杂，我的一篇文章介绍过关于这个采集的过程。其实采集的方法有很多种，主要是：
- cursor cache
- awr snapshots
- awr baseline
- another sql set
- 10046 trace file(11g+)
我们一般使用的是游标采集和AWR历史资料库采集的方式。游标采集可以最大限度的帮助我们采集到更多的SQL语句。为了保证采集到更多的SQL，我们需要进行一个长期的捕捉，每天捕捉好几次。我们在一个生产环境做的是捕捉4次/天。而AWR历史资料库可以帮我们采集到TOP的SQL语句。我们生产环境的项目里面是采集的是一个月的AWR数据。这两份的合集加在一起基本上是系统中一个比较完整的SQL清单。
【注】采集的过程中可能因为有literal sql，这会导致我们的SQLSET的结果集非常大，因为相关的表涉及到一些CLOB字段，如果结果集过大的话，将导致转换成中间表非常的慢。转换到一半因为UNDO不够大，还还会导致出现ORA-01555错误。为了解决这个问题，我建议在采集的过程中实施过滤。具体参考我写的文档：SPA游标采集之去除重复
--------------新建spa用户及赋权
SQL> create user spa identified by spa default tablespace spa;
User created.
SQL> grant connect ,resource to spa;
Grant succeeded.
SQL> grant ADMINISTER SQL TUNING SET to spa;
Grant succeeded.
SQL> grant execute on dbms_sqltune to spa;
Grant succeeded.
SQL> grant select any dictionary to spa;
Grant succeeded.
-------------创建sql优化集
SQL> exec dbms_sqltune.create_sqlset('sql_test');
PL/SQL procedure successfully completed.
SQL> select name,OWNER,CREATED,STATEMENT_COUNT from dba_sqlset;
NAME OWNER CREATED STATEMENT_COUNT
------------------------------ ------------------------------ ------------ ---------------
sql_test SPA 18-APR-14 0
--------------执行从游标采集SQL
DECLARE
mycur DBMS_SQLTUNE.SQLSET_CURSOR;
BEGIN
OPEN mycur FOR
SELECT value(P)
FROM TABLE(dbms_sqltune.select_cursor_cache('parsing_schema_name in (''ORAADMIN'')',
NULL,
NULL,
NULL,
NULL,
1,
NULL,
'ALL')) p;
dbms_sqltune.load_sqlset(sqlset_name => 'sql_test',
populate_cursor => mycur,
load_option => 'MERGE');
CLOSE mycur;
END;
/
关于采集，可以参考文档：How to Load Queries into a SQL Tuning Set (STS) (文档 ID 1271343.1)
2.创建一个中转表，将SQL Tuning Set导入到中转表，导出中转表并传输到测试库；
这个步骤比较简单，但是需要注意的一点是：如果你的游标数量比较多的话，需要注意在转换过程中容易出现ORA-01555的错误。建议最好把undo retention设置大一些。
-------------不要使用sys用户创建stgtab表 DBMS_SQLTUNE.create_stgtab_sqlset(table_name => 'SQLSET_TAB', schema_name => 'SPA', tablespace_name => 'SYSAUX'); END; / -------------将优化集打包到stgtab表里面 BEGIN DBMS_SQLTUNE.pack_stgtab_sqlset(sqlset_name => 'spa_test', sqlset_owner => 'SPA', staging_table_name => 'SQLSET_TAB', staging_schema_owner => 'SPA'); END; /
转换成中转表之后，我们可以再做一次去除重复的操作。当然，你也可以根据module来删除一些不必要的游标。
delete from SPA.SQLSET_TAB a where rowid !=(select max(rowid) from SQLSET_TAB b where a.FORCE_MATCHING_SIGNATURE=b.FORCE_MATCHING_SIGNATURE and a.FORCE_MATCHING_SIGNATURE0); delete from SPA.SQLSET_TAB where MODULE='PL/SQL Developer';
3.导入中转表，并解压中转表的数据到SQL Tuning Set；
这个步骤我们需要把我们导出的中转表的数据迁移到测试平台，然后导入数据，并再一次转换成11g的SQL Tuning Set里面；
-------------导入数据到测试系统 export NLS_LANG=American_America.zhs16gbk imp spa/spa fromuser=spa touser=spa file=/home/oracle/spa/SQLSET_TAB.dmp feedback=100 -------------创建sqlset SQL> connect spa/spa Connected. SQL> exec DBMS_SQLTUNE.create_sqlset(sqlset_name => 'sql_test'); PL/SQL procedure successfully completed. -------------unpack到sqlset SQL> BEGIN 2 DBMS_SQLTUNE.unpack_stgtab_sqlset(sqlset_name => 'sql_test', 3 sqlset_owner => 'SPA', 4 replace => TRUE, 5 staging_table_name => 'SQLSET_TAB', 6 staging_schema_owner => 'SPA'); 7 END; 8 / PL/SQL procedure successfully completed.
如果在你源端和目标端SQL SET的name,或者owner不同，需要你使用remap_stgtab_sqlset方法对SQL SET的name和owner进行转换。
exec dbms_sqltune.remap_stgtab_sqlset(old_sqlset_name =>'sql_test_aaa',old_sqlset_owner => 'aaa', new_sqlset_name => 'sql_test',new_sqlset_owner => 'SPA', staging_table_name => 'SQLSET_TAB',staging_schema_owner => 'SPA');
导入导出SQLSET，可以参考文档：How to Move a SQL Tuning Set from One Database to Another (文档 ID 751068.1)
4.创建SPA任务，先生成10g的trail，然后在11g中再生成11g的trail；
这个步骤一定要注意一点，先检查测试库上面有没有dblink，如果有的话一定要删除，免得连接到其他库做一些不必要的动作，然后就是在11g中生成11g的trail的时间可能比较慢，最好写成脚本放在后台执行。
-------------新建SPA任务 var tname varchar2(30); var sname varchar2(30); exec :sname := 'sql_test'; exec :tname := 'SPA_TEST'; exec :tname := DBMS_SQLPA.CREATE_ANALYSIS_TASK(sqlset_name => :sname, task_name => :tname); -------------生成10g的trail begin DBMS_SQLPA.EXECUTE_ANALYSIS_TASK( task_name => 'SPA_TEST', execution_type => 'CONVERT SQLSET', execution_name => 'CONVERT_10G'); end; / -------------清空shared pool和buffer cache alter system flush shared_pool; alter system flush BUFFER_CACHE; -------------生成11g的trail begin DBMS_SQLPA.EXECUTE_ANALYSIS_TASK( task_name => 'SPA_TEST', execution_type => 'TEST EXECUTE', execution_name => 'EXEC_11G'); end; /
5.执行比较任务，再生成SPA报告；
我们可以从三个维度来进行对比,包括执行时间、CPU_TIME、Buffer_GET等.
-------------从elapsed_time来进行比较
begin
DBMS_SQLPA.EXECUTE_ANALYSIS_TASK(
task_name => 'SPA_TEST',
execution_type => 'COMPARE PERFORMANCE',
execution_name => 'Compare_elapsed_time',
execution_params => dbms_advisor.arglist('execution_name1', 'CONVERT_10G', 'execution_name2', 'EXEC_11G', 'comparison_metric', 'elapsed_time') );
end;
/
-------------从cpu_time来进行比较
begin
DBMS_SQLPA.EXECUTE_ANALYSIS_TASK(
task_name => 'SPA_TEST',
execution_type => 'COMPARE PERFORMANCE',
execution_name => 'Compare_CPU_time',
execution_params => dbms_advisor.arglist('execution_name1', 'CONVERT_10G', 'execution_name2', 'EXEC_11G', 'comparison_metric', 'CPU_TIME') );
end;
/
-------------从buffer_gets来进行比较
begin
DBMS_SQLPA.EXECUTE_ANALYSIS_TASK(
task_name => 'SPA_TEST',
execution_type => 'COMPARE PERFORMANCE',
execution_name => 'Compare_BUFFER_GETS_time',
execution_params => dbms_advisor.arglist('execution_name1', 'CONVERT_10G', 'execution_name2', 'EXEC_11G', 'comparison_metric', 'BUFFER_GETS') );
end;
-------------生成SPA报告
set trimspool on
set trim on
set pages 0
set long 999999999
set linesize 1000
spool spa_report_elapsed_time.html
SELECT dbms_sqlpa.report_analysis_task('SPA_TEST', 'HTML', 'ALL','ALL', top_sql=>300,execution_name=>'Compare_elapsed_time') FROM dual;
spool off;
spool spa_report_CPU_time.html
SELECT dbms_sqlpa.report_analysis_task('SPA_TEST', 'HTML', 'ALL','ALL', top_sql=>300,execution_name=>'Compare_CPU_time') FROM dual;
spool off;
spool spa_report_buffer_time.html
SELECT dbms_sqlpa.report_analysis_task('SPA_TEST','HTML','ALL','ALL',top_sql=>300,execution_name=>'Compare_BUFFER_GETS_time') FROM dual;
spool off;
spool spa_report_errors.html
SELECT dbms_sqlpa.report_analysis_task('SPA_TEST', 'HTML', 'errors','summary') FROM dual;
spool off;
spool spa_report_unsupport.html
SELECT dbms_sqlpa.report_analysis_task('SPA_TEST', 'HTML', 'unsupported','all') FROM dual;
spool off;
/
6.分析性能退化的SQL语句；
生成完报告后，一共有5份，都需要我们逐一的去分析。我们从ELAPSED_TIME、CPU_TIME、Buffer_GET这三个报告中，我们可以查看到性能下降的SQL。有的SQL可能是CPU TIME有所升高，有的SQL可能是buffer gets有所升高，有的SQL可能这三方面都有所升高。这都是我们需要检查的。这些SQL的性能的退化，有可能执行计划发生了变化，有可能执行计划未变，要找出执行计划变化的原因，这需要我们对SQL优化和优化器、统计信息等有一个很深入的研究。
还有2份报告是errors和unsupport的语句，这类语句我们还是要看一下，一般情况就是有些是因为数据有差异，会出现invalid ROWID等情况。这些不用过多去关注，因为并不是所有的语句都能够精确分析，还有一些insert语句是unsupport的，我们只要分析大部分语句的问题即可。
参考文档：
How to Load Queries into a SQL Tuning Set (STS) (文档 ID 1271343.1)
How to Move a SQL Tuning Set from One Database to Another (文档 ID 751068.1)
Oracle? Database Real Application Testing User’s Guide 11g Release 2 (11.2)
原文地址：11g SPA (sql Performance Analyze) 进行升级测试, 感谢原作者分享。