oracle database 11g r2 asmと富士通ストレージに …...ムはequivalent copy (ec)、one...

91
Copyright 2013FUJITSU LIMITED ED-WP-0037-01LJ ベスト・プラクティス 2013 4 25 富士通株式会社 Oracle Database 11g R2 ASM富士通ストレージによる効率的なデータベース環境 (Linux)

Upload: others

Post on 11-Mar-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

Copyright 2013FUJITSU LIMITED

ED-WP-0037-01LJ

ベスト・プラクティス

2013 年 4 月 25 日

富士通株式会社

Oracle Database 11g R2 ASMと 富士通ストレージによる効率的なデータベース環境

(Linux版)

Page 2: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 1

目次

1. イントロダクション .......................................................................................................................... 2 2. 富士通 ETERNUS DX ストレージシステム ................................................................................... 3

2-1. 高可用性 ............................................................................................................................................................ 3

2-2. パフォーマンスチューニング ................................................................................................................................. 3

2-3. ポイントインタイムコピー機能 ............................................................................................................................... 3

3. Fujitsu ストレージ管理ソフトウェア ............................................................................................... 4 3-1. ETERNUS SF AdvancedCopy Manager ............................................................................................................ 4

4. Oracle のテクノロジー .................................................................................................................. 6 4-1. Grid Infrastructure と Automatic Storage Management の統合 .......................................................................... 6

4-2. Automatic Storage Management ........................................................................................................................ 6

4-3. ASM アーキテクチャー ......................................................................................................................................... 6

4-4. I/O 分散 ............................................................................................................................................................... 6

4-5. ディスクグループの動的再構成 ........................................................................................................................... 6

4-6. 再バランス .......................................................................................................................................................... 7

4-7. ASM ミラーリング ................................................................................................................................................. 7

4-8. ASM リカバリ ...................................................................................................................................................... 7

4-9. メタデータのバックアップ・リストア ........................................................................................................................ 7

5. ベストプラクティス ......................................................................................................................... 8 5-1. 高信頼性と高可用性 ........................................................................................................................................... 8

5-2. データベース高速化 ............................................................................................................................................ 8

5-3. ASM ディスクグループ構成ガイドライン ................................................................................................................ 8

5-4. AdvancedCopy Manager の運用情報のバックアップ ........................................................................................... 9

6. 結論 ........................................................................................................................................... 10 7. 補足 ........................................................................................................................................... 11

7-1. Oracle RAC と Oracle Clusterware の組み合わせによるクラスタシステム ......................................................... 11

7-1-1. 前提条件 ....................................................................................................................................................... 12

7-1-2. 必要な資源 .................................................................................................................................................... 12

7-1-3. クラスタ環境の作成手順 ................................................................................................................................ 13

7-1-4. クラスタ環境の削除手順 ................................................................................................................................ 35

7-1-5. アクション・スクリプト ....................................................................................................................................... 39

7-2. バックアップ/リカバリ手順と使用例 ..................................................................................................................... 43

7-2-1. バックアップ/リカバリ手順方法と使用例 .......................................................................................................... 44

7-2-2. リカバリ手順方法 ........................................................................................................................................... 45

7-2-3. バックアップ手順使用例 ................................................................................................................................. 48

7-2-4. リカバリ手順使用例 ....................................................................................................................................... 52

7-3. 参考資料 .......................................................................................................................................................... 89

Page 3: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 2

1. イントロダクション

本ドキュメントでは Oracle Database 11g Release 2 Automatic Storage Management (ASM)と富士通 ETERNUS DX ス

トレージシステムの組み合わせによる も効率的なデータベース環境とその利点についてご説明いたします。 Automatic Storage Management はデータベースシステムとストレージ環境の管理を簡易化するデータベース内のデータ

管理機能を提供します。ASMはクラスタ化されたファイルシステムとOracle Database 11g Release 2に密接に統合され実

装された論理ボリューム管理で構成されています。 ASM は Oracle データベースファイルと動作するよう設計されております。ASM は Oracle Database 11g Release 2 の標

準機能としてデータベースシステムに含まれており無償で提供されます。ASMはストレージハードウェアの仮想化、タスクの

自動化、性能 適化によって Oracle データベースの動作を 適化、ストレージ管理を簡易化し、それによって動作オーバ

ーヘッド、管理者の手作業及びそれに伴う人為的ミス、そして全体的な管理コストを削減するように設計されています。 ASM は Oracle の多年にわたる知性とベストプラクティスの結実です。ASM ディスクグループの仮想化インターフェースによ

りデータベース管理者はデータベースオペレーションを阻害することなく容易かつ動的に特定のディスクグループに対して

パーティションを追加または削除できます。ASM は、新しいパーティションがディスクグループに追加されると、自動的に新

旧ディスク間のデータを再バランスし、I/O 性能を 適化します。 ASM はより高い可用性を実現するため 大3重化のミラーリングを提供し、ストレージシステムのハードウェア RAID が提

供するミラーリングの代替機能を果たします。Oracle データベースの管理者が単にディスクグループ内に障害グループを定

義すれば、ASM は自動的に2つ以上の障害グループをまたいでミラーリングを行います。これによってディスクコントローラ

ーやディスクアレイ全体などのコンポーネントの故障時におけるダウンタイムを回避します。この万全の冗長性によって管理

オーバーヘッドを増やすことなく可用性を向上します。障害グループは ASM が自動的に管理しますので障害コンポーネント

の交換時のフェイルーオーバやフェールバックなどの動作はオペレーターを干渉せず ASM によって完全に管理されていま

す。 富士通の ETERNUS はミッションクリティカルな環境での要件を満たすストレージシステムです。ETERNUS DX8000 S2 series は拡張性の高い大容量ディスクアレイです。ETERNUS DX400 S2 series は中規模システム向け、ETERNUS DX60 S2/DX80 S2/DX90 S2 は小規模システム向けディスクアレイです。どのモデルも主要コンポーネントはすべて冗長化

されており活性交換が可能なため、高信頼性、高可用性によるビジネス継続性を保証します。ETERNUS ストレージシステ

ムは、業務運用中でも実行可能なボリューム複製機能を提供し、業務を阻害しないデータベースバックアップ運用を実現し

ます。 本ホワイトペーパーでは ASM と ETERNUS の組み合わせによる性能、可用性に優れた Oracle データベース環境を構築

する も効率的な方法についてご説明いたします。

※今回の検証には PC サーバー環境として PRIMERGY RX350 S7 を使用しました。 データベースの運用には、高い信頼性・管理機能が必要で、お客様の運用によっては更に拡張性も要求されます。 PRIMERGY RX350 S7 はデータベースに 適な高性能と拡張性を兼ね備えた 2WAY ラックマウント型サーバーで、多く

のシステム構築実績を有しております。 本 PC サーバーの詳細については以下をご参照ください。 http://jp.fujitsu.com/platform/server/primergy/products/lineup/rx350s7/

Page 4: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 3

2. 富士通 ETERNUS DX ストレージシステム

2-1. 高可用性

富士通 ETERNUS DX ストレージシステムはミッションクリティカルな環境での安定した動作を保証する高可用性を提供しま

す。 すべての主要なコンポーネントは冗長化されております。もしコンポーネントの一つが故障した場合 ETERNUS DX ストレー

ジシステムは自動的に残りのアクティブなコンポーネントを再配置し業務を中断させません。加えて、すべての主要なコンポ

ーネントは活性交換可能です。 ディスクドライブは RAID グループに構成されています。ディスクドライブの障害時、データは速やかにホットスペアディスク

に再構築されデータの冗長性を維持します。さらに ETERNUS DXストレージシステムは障害の予兆を検出するために常に

各ディスクドライブを監視しています。ディスクドライブの一台が障害を起こしそうになると ETERNUS DX ストレージシステ

ムは前もってデータをホットスペアディスクに再構築します。これによりデータの冗長性を維持しながらのディスクドライブ交

換が可能となります。 サーバーと ETERNUS DX ストレージシステム間のインターフェースも高可用性メカニズムを提供します。このメカニズムは

複数のファイバチャネルを管理する ETERNUS マルチパスドライバによって提供されます。一本のパスに障害が起きても

データベースや他のアプリケーションの動作は他のアクティブなパスを使用することで継続します。このような高可用性メカ

ニズムによってサーバー側の HBA の障害やスイッチの障害の際にも継続的な運用が保証されます。 ストレージ内のキャッシュは、サーバーから書き込まれたデータの一時格納場所で、常に電力供給を必要とするため、火

災・地震などの災害で停電した場合、データが消失してしまいますが、ETERNUS DX ストレージシステムは、停電時にキャ

ッシュのデータを不揮発性メモリに退避することで、保持時間に制限なくデータを確実に保護します。 2-2. パフォーマンスチューニング

富士通 ETERNUS DX ストレージシステムは以下の機能により、サーバー側での設定なしに性能チューニングできるため、

運用管理コストを削減することができます。また、業務を止めることなくアクセス性能を 適化することができます。 RAID マイグレーションはディスクドライブを再構成する二つの機能を提供します。一つは現在使用されている RAID ドライブ

を移行先のRAID グループに組み込む機能です。この機能は同じ仕様のドライブを異なるRAID レベルのグループに構成し

なおす際に便利です。もう一方の機能は例えば 15,000rpm ドライブで構成された RAID グループから 7,200rpm ドライブで

構成された RAID グループへ、というようにデータを元のディスクドライブから異なる種類のディスクドライブに移行するとき

に有効です。両機能ともに RAID グループへのアクセスを止めずに使用でき、移行元から移行先への切り替えは

ETERNUS DX ストレージシステムによって自動的に行われます。 QoS(Quality of Service) 機能により、負荷変動の影響を他のアプリケーションに与えず、安定したパフォーマンスを保つこ

とができます。この機能はサーバーからの処理要求に優先順位を付け、それぞれの処理に必要な性能に上限を設定

できます。各サーバーにおいて一斉に処理作業が発生した場合でも、ストレージの処理性能が、優先度の高い処理

作業へ確実に振り向けられ、安定したストレージ性能を維持できます。 ストレージ自動階層制御(Automated Tiering)機能は、ETERNUS SF Storage Cruiser と連携することでデータ管理工

数削減、管理コスト低減を実現できます。この機能は異なる種類のドライブを混在搭載した環境において、データの配

置先を制御し、パフォーマンスとコストの 適化を図ります。具体的はデータのアクセス頻度を検出し、設定したポリシ

ーに応じて自動的にドライブ間のデータ再配置を行います。 2-3. ポイントインタイムコピー機能

富士通 ETERNUS DX ストレージシステムはポイントインタイムコピー機能を提供します。この機能はデータベースや他のア

プリケーションの運用を止めることなくある時点でのコピー元ボリュームデータの複製を作成します。 24時間365日の継続的運用へのシステム要件は増大しています。システム管理者はデータベースなど業務を止めること

なくまたサーバーに過大な負荷をかけることなくバックアップを行わなければなりません。ETERNUS DX ストレージシステ

Page 5: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 4

ムは Equivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC は常

に業務ボリュームの更新と同期した複製を作成します。OPC は任意のタイミングで業務ボリュームの全ての複製を作

成することができます。QuickOPC は一度、業務ボリュームの全データの複製を作成し、その後更新分(差分)のみを複

製ボリュームへコピーします。SnapOPC+は、データ更新時に更新前のデータのみを複製し世帯管理できます。ビジ

ネス要件に応じてコピー方式を使い分けることができます。

3. Fujitsu ストレージ管理ソフトウェア

3-1. ETERNUS SF AdvancedCopy Manager

富士通は ETERNUS DX ストレージシステムの EC、OPC、QuickOPC、SnapOPC+機能をコントロールするアプリケーショ

ン ETERNUS SF AdvancedCopy Manager を提供しています。ETERNUS SF AdvancedCopy Manager を使用すること

によって、多種多様なOS環境でも統一された操作でバックアップ運用ができます。複製されたスペースの管理や業務を

阻害せずにデータベースオペレーションと同期をとった整合性のあるデータベースのコピーの作成が可能となります。また、

次の特徴を持ちます。

Page 6: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 5

業務に影響を与えないバックアップ運用 ETERNUS DXディスクアレイのアドバンスト・コピー機能を使用したバックアップにより、業務アプリケーションへの影響

を限りなくゼロにしたバックアップ運用を実現します。データ量に依存しない高速バックアップのため、業務データやシス

テムボリュームは、業務停止時間がほぼゼロでバックアップ可能です。パッチ適用やアプリケーション変更前後に、シス

テムボリュームを手軽にバックアップできます。

データベースシステム無停止でのバックアップ処理の実現 Oracle のバックアップ機能と連携し、データベース運用を停止することなくバックアップできるため、24 時間 365 日の連

続稼働が実現可能です。 省電力バックアップ バックアップ時のみバックアップ先のディスクを回転させることで、ストレージの消費電力を削減します。

ディザスタリカバリーソリューションの実現 ETERNUS DX 間を WAN で接続し、リモートコピーが可能となります。バックアップデータを格納する当社ディスクアレ

イ装置を耐震対策を施した設備内に配置することにより、ディザスタリカバリー(災害対策)ソリューションを実現するこ

とができます。

Page 7: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 6

4. Oracle のテクノロジー

4-1. Grid Infrastructure と Automatic Storage Management の統合 Oracle Database11g Release2 より、ASM は Grid Infrastructure と統合されました。以前のリリースまでは Oracle Database の 1 コンポーネントでしたが、Oracle Database11g Release2 からは Grid Infrastructure の 1 コンポーネントに

なりました。そのため、ASM インスタンスを構成する場合、Grid Infrastructure のインストールが必須となります。

4-2. Automatic Storage Management ASM はディスクグループを Oracle データベースファイル※1、OCR、投票ディスク、ASM インスタンスの SPFILE およびバッ

クアップファイル用のストレージとして指定できます。一つのディスクグループは複数のパーティションから構成され ASM に

よって一つのユニットとして管理されます。ディスクグループに格納されたファイルはすべて自動的にグループ内のすべての

パーティションをまたいでストライプされます。ASMはクラスタ機能を提供し対称型マルチプロセッサマシンだけでなくOracle Real Application Clusters の複数のノードから利用可能です。 ※1

制御ファイル、データファイル、データベースインスタンスの SPFILE、オンライン REDO ログ、アーカイブ・ログ、フラッシュバックロ

グ、変更トラッキングビットマップ、データ・ポンプ・ダンプセット など

4-3. ASM アーキテクチャー ASM の機能は「DB インスタンス」とは異なる「ASM インスタンス」によって実行されます。ASM インスタンスは ASM ファイ

ルのレイアウトを記述したメタデータを使用することによってディスクグループ内のデータマッピング情報を管理します。 DB インスタンスは ASM インスタンスからのデータマッピング情報を使用し、データファイルへの実際のアクセスを実行しま

す。

4-4. I/O 分散 ディスクグループ上の一つのファイル(ASM ファイル)はディスクグループ内のすべてのパーティション間で均等に分割され

格納されます。これによって特定のパーティションへの I/O の集中を防ぎます。ストライプ幅には COARSE と FINE の二種

類があります。COARSE、FINE はそれぞれ 1MB、128KB のチャンクでストライプ化を行います。制御ファイルのデフォルト

は FINE、その他については COARSE となっています。

4-5. ディスクグループの動的再構成 ディスクグループにパーティションを追加するか、ディスクグループからパーティションを削除すると、データがすべてのパー

ティションに再分配されます。 また、ディスクグループにミラーリングが設定されている場合、ディスクが故障すると、生存しているすべてのパーティション

にデータが自動的に再分配されます。

ASM インスタンス

DB インスタンス

データマッピング

情報を提供

データアクセスメタデータ管理

Page 8: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 7

4-6. 再バランス ディスクグループが再構成されたとき、データはディスクグループ内の各パーティションへの負荷が均等になるように再分配

されます。この動作は「再バランス」と呼ばれます。再バランスは、データを移動させるための内部アクセスが発生するため、

多少オンライントランザクション性能への影響があります。再バランスは I/O 統計に基づいてデータを再配置するのではなく、

ディスクグループ構成が変化したとき自動的に始動します。

4-7. ASM ミラーリング

ASM ディスクグループには3種類のミラーリングタイプがあります(NORMAL REDUNDANCY, HIGH REDUNDANCY 及

び EXTERNAL REDUNDANCY)。NORMAL REDUNDANCY のディスクグループは二重化のミラーリングをサポートしま

す。HIGH REDUNDANCY のディスクグループは3重化のミラーリングをサポートします。EXTERNAL REDUNANCY のデ

ィスクグループはミラーリングを提供しません。RAID を使用する場合は EXTERNAL REDUNDANCY のディスクグループ

を推奨します。

4-8. ASM リカバリ ASM インスタンスがシャットダウンあるいは異常終了すると、その ASM インスタンスに依存している DB インスタンスも異常

終了します。しかしこれは OS をクラッシュするものではないため、速やかに効果的にリカバーし再起動することができます。 RAC 構成のデータベースでは、ASM インスタンスは各ノードに配置されます。これにより、あるノードの ASM インスタンスが

異常終了しても他のノードの ASM インスタンスが自動的にリカバリを行うため、運用を継続することができます。

4-9. メタデータのバックアップ・リストア Oracle Database 11g より、ASM ディスク・グループのメタデータのバックアップおよびリストア機能が追加されました。これ

により、ASM ディスクグループが破損した場合に、ASM ディスクグループを復旧することができます。(バックアップ時と同じ

ディスク・パス、ディスク名、障害グループ、属性、テンプレート、エイリアス・ディレクトリ構造でリストアすることができます。) なお、バックアップ・リストアは ASMCMD ユーティリティにより実行します。

Page 9: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 8

5. ベストプラクティス

5-1. 高信頼性と高可用性

Oracle Database 11g ASM は Oracle データベースの可用性を高めるミラーリング機能を提供しています。しかし全体の可

用性向上のためには、ETERNUS DX ストレージシステムの RAID メカニズムを含む高可用性機能が 適なソリューション

です。ETERNUS DX ストレージシステムは障害検出、スイッチングによるリトライ、データベースオペレーション中の障害部

品の交換などのメンテナンス作業を行うことができます。

5-2. データベース高速化 ASM ストライピング機能と RAID メカニズムの組み合わせによりデータベースの性能を向上することができます。ASM スト

ライピング機能はディスクグループ内のすべてのパーティションにまたがってデータを割り当てるため、全体のスループット

が向上します。さらに、ディスクグループに登録するパーティションを RAID1+0 または RAID5 とすることで、ETERNUS DX内部でのストライピングにより性能が向上します。 データベース運用では運用開始後、性能チューニングが必要となることがあります。ASM はファイルエクステントをディスク

グループ内のすべてのパーティションに分配することによってファイルアクセスを 適化するため、手動でのチューニングの

必要がありません。 さらに ETERNUS DX ストレージシステムは性能チューニングを異なる面からおこなう RAID マイグレーション機能を提供し

ます。RAID マイグレーションによって、例えば RAID グループを構成するディスクドライブを 10,000rpm ドライブから

15,000rpm ドライブに変える、あるいは RAID レベルを RAID5 から RAID1+0 へ変える、ということを業務を止めずに行うこ

とができます。

5-3. ASM ディスクグループ構成ガイドライン データファイルはサイズが大きく、また、業務中のバックアップと迅速なリカバリが必要なため、データファイルのバックアップ

には、アドバンスト・コピー機能を利用するのが 適です。また、リストア時のオペレーションを容易にするため、各ファイルを

別々のディスクグループに割り当てるのが 適です。特に、データファイルのバックアップをアドバンスト・コピー機能で行う

場合、データファイルは独立したディスクグループに置いて下さい。アドバンスト・コピー機能によるデータファイルのリストア

時、そのディスクグループのすべてのデータを上書きしてしまうからです。 ETERNUS DX アドバンスト・コピー機能の利点を 大限に引き出すため ASM ディスクグループを下図のように構成するこ

とを推奨します。 (1) 5 つのディスクグループを作成します。

① OCR、投票ディスク、ASM の SPFILE 用(DG_CRS) ② データファイル用(DG_DATA) ③ REDO ログファイル用(DG_REDO ④ 制御ファイルのミラー用(DG_REDO_M) ⑤ アーカイブ・ログ・ファイル用(DG_ARCH)

(2) すべてのディスクグループの compatible.asm 属性と compatible.rdbms 属性を 11.2.0.0.0 に設定します。 ※ASMCMD ユーティリティによるメタデータのバックアップにおいて上記設定がされていない場合、11.2.0.1.0 の不具

合のため、メタデータのリストアを正常に行うことができません。 (3) DG_DATA にはデータファイルのみ割り当てます。データファイルのバックアップは、ETERNUS DX アドバンスト・コピ

ー機能(OPC/EC)で行います。その他のファイルに関するバックアップの詳細は『7-2. バックアップ/リカバリ手順と使

用例』を参照してください。 (4) REDO ログファイルと制御ファイルはすべて DG_REDO に割り当てます。 (5) 制御ファイルのミラーはすべて DG_REDO_M に割り当てます。 (6) アーカイブ・ログ・ファイルは DG_ARCH に割り当てます。 (7) OCR、投票ディスク、ASM インスタンスの SPFILE は DG_CRS に割り当てます。 ※ REDO ログファイルの可用性を重視する場合は、REDO ログファイルのミラーを制御ファイルのミラーディスクグループ

Page 10: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 9

(DG_REDO_M)に配置します。

ETERNUS DX ストレージシステムの RAID 構成として、業務用ボリュームには性能と信頼性を考慮して RAID1+0 を、バッ

クアップ用ボリュームにはコストパフォーマンスを考慮して RAID5 を採用することを推奨します。なお、性能を 大限に引き

出すためには、各ディスクグループを異なる RAID グループに配置することが理想ですが、近年、ディスクが大容量化してお

り、すべてのディスクグループを異なる RAID グループに分けるのは現実的ではありません。そこで、アクセスの競合が少な

いディスクグループ同士を同一の RAID グループに配置するなどの工夫を行い、1つの RAID グループに、なるべく少数の

ディスクグループを配置するよう設計してください。

ディスクグループの RAID 配置(例)

5-4. AdvancedCopy Manager の運用情報のバックアップ ETERNUS SF Manager、及び AdvancedCopy Manager は、運用情報として各種リポジトリや管理情報を保持していま

す。運用情報は ETERNUS SF Manager、及び AdvancedCopy Manager が動作するために大切な情報です。長期運用

によるリポジトリの容量が不足した場合、運用状況が導入当初と大幅に異なってきた際にリポジトリの容量が不足した場

合、および不慮の事故に備え、定期的な運用情報のバックアップを行ってください。 ETERNUS SF Manager、及び AdvancedCopy Manager の運用情報のバックアップ方法の詳細は、「AdvancedCopy Manager 運用ガイド(Linux 版)」の「データベースの保守」、及び「ETERNUS SF Manager データベースの保守方法」を参

照してください。

RAID#0

LUN#1

RAID#1 RAID#2

DG_REDO

LUN#4

DG_REDO_M

LUN#2 LUN#5

LUN#0 LUN#3

LUN#7

LUN#6

DG_CRS

DG_ARCH

DG_DATA

DG_ARCHDG_REDO_M DG_REDO DG_DATA

データファイル

データファイル

REDOログ-1

OPC/EC

REDOログ-2

アーカイブ・ログ・

ファイル

DG_CRS

制御ファイル-2 制御ファイル-1

ASM SPFILE

OCR、投票ディスク

DB SPFILE

Page 11: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 10

6. 結論

Oracle 11g ASMと富士通のETERNUS DXストレージシステムを組み合わせて、高性能・高可用性、かつ運用管理性に優

れたデータベース環境を構築するには、以下の点を考慮する必要があります。 (1) OCR、投票ディスク、ASM インスタンスの SPFILE を格納するディスクグループは HIGH REDUNDANCY または

NOMAL REDUNDANCY を持つディスクグループで構成し、その他は EXTERNAL REDUNDANCYを持つディスクグ

ループで構成します。 (2) すべてのディスクグループの compatible.asm 属性と compatible.rdbms 属性を 11.2.0.0.0 に設定します。

※ASMCMD ユーティリティによるメタデータのバックアップにおいて上記設定がされていない場合、11.2.0.1.0 の不具

合のため、メタデータのリストアを正常に行うことができません。 (3) ディスクグループに登録するボリュームには、RAID1+0 か RAID5 を採用します。 (4) DG_CRS、DG_DATA、DG_REDO、DG_REDO_M、DG_ARCH という 5 つのディスクグループを作成します。

DG_CRS には OCR、投票ディスク、ASM の SPFILE を割り当てます。DG_DATA にはデータファイルのみ割り当てま

す。DG_REDO には REDO ログファイルと制御ファイルを割り当てます。DG_REDO_M には制御ファイルのミラーを

割り当てます。DG_ARCH には、アーカイブ・ログ・ファイルを割り当てます。 (5) REDO ファイルの可用性を 大にするためには、REDO ファイルのミラーを制御ファイルミラーディスクグループ

(DG_REDO_M)に配置することを推奨します。 (6) RAID マイグレーション機能により、業務運用を止めずに、ディスクドライブの回転速度や RAID レベルを変更するとい

った性能チューニングができます。 (7) データファイルはETERNUS DX ストレージシステムのアドバンスト・コピー機能を使用し ASMファイルシステムのバッ

クアップとリカバリを行います。 (8) アーカイブ・ログ、制御ファイル、データベースインスタンスの SPFILE は RMAN を使用しバックアップとリカバリを行い

ます。 (9) ディスクグループのメタデータは ASMCMD ユーティリティを使用しバックアップとリカバリを行います。 (10) ASM インスタンスの SPFILE は SQL*Plus を使用しバックアップとリカバリを行います。 (11) OLR、OCR、投票ディスクは ocrconfig を使用しバックアップとリカバリを行います。

Page 12: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 11

7. 補足

上述のように、このベストプラクティスは Oracle Database 11g ASM 、ETERNUS DX そして ETERNUS SF AdvancedCopy Manager の組み合わせによって利用できる基本的機能について説明しています。 【注意】 本章で引用している Oracle Enterprise Manager のスクリーンショットは、Oracle Database 製品(11gR2)のもので

あり、オラクル社に所有権があります。

7-1. Oracle RAC と Oracle Clusterware の組み合わせによるクラスタシステム Oracle Clusterware を使用することによって単純なアプリケーションの制御が可能になります。本章では、ETERNUS SF AdvancedCopy Manager を Oracle Clusterware(クラスタシステム)で運用するための、クラスタ環境構築手順を説明いた

します。

PRIMERGY

ETERNUS DX440S2ディスクアレイ

PRIMERGY

. . . . .

. . . . .

. . . . .

テストで使用される

構成

より大規模な構成へ

拡張可能

Brocade 6510 ファイバチャネルスイッチ

Oracle11gR2 RAC

Page 13: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 12

7-1-1. 前提条件 本手順の前提条件は、以下の通りです。 前提条件は、以下のとおりです。

・ ETERNUS SF AdvancedCopy Manager 15.1 以降 ・ Red Hat Enterprise Linux 6 (64bit) ・ Oracle Database 11g Release 2 ・ Oracle Real Application Clusters 11g Release 2 ・ Oracle Grid Infrastructure 11g Release 2

なお、本手順の実施前に、Storage 管理サーバーの構築が完了、かつ、Storage サーバーへのエージェントのインストールが

完了している必要があります。

7-1-2. 必要な資源 AdvancedCopy Manager を Oracle Clusterware でクラスタ運用する場合、以下の資源が必要です。 以下の資源は、AdvancedCopy Manager を組み込む HA フレームワークごとに必要です。 AdvancedCopy Manager 用の引継ぎ仮想 IP(VIP)

クラスタシステムで運用する際に使用する、ネットワーク上でユニークな IP アドレスを新規に割り当てます。

AdvancedCopy Manager の業務ごとに必要です。 新規に割り当てる場合は、VIP を追加しても業務に支障がないことを確認してください。 既存の VIP を使用する場合、VIP を AdvancedCopy Manager と共有することで既存の製品(既に VIP を使用している

製品)に問題が発生しない(制限がない)ことを確認してください。

AdvancedCopy Manager 共有データ用共有ディスク AdvancedCopy Manager 用の共有データを格納するパーティションを共有ディスク上に準備します。必要なパーティショ

ン数は 1 です。AdvancedCopy Manager の業務ごとに必要です。 AdvancedCopy Manager 共有データ用共有ディスクの容量については、AdvancedCopy Manager クラスタ運用手引

書の『3.2 共有ディスクの容量』を参照してください。 注意)

AdvancedCopy Manager 共有データ用共有ディスクは、AdvancedCopy Manager を利用してバックアップ、レプリ

ケーションを実施しないディスクを割り当ててください。

AdvancedCopy Manager 共有データ用共有ディスクはファイルシステムで使用します。AdvancedCopy Manager

共有データ用共有ディスクは、Oracle Clusterware のアクション・スクリプトでマウントしてください。

論理ノード名

クラスタシステムにおける論理サーバーの名前です。8 バイト以下の英数字のみを使って、ユーザーが任意に設定できま

す。クラスタ運用の AdvancedCopy Manager のコマンドは、この論理ノード名をキーに動作します。 例:コマンド実行時、環境変数 SWSTGNODE にこの論理ノード名が設定されていると、クラスタ運用としてコマンドが

動作します。

業務用通信サービスのポート番号

業務用通信サービスに割り当てるポート番号を準備します。他のポート番号に使用されていない、5001 以上 65535 以下

の範囲の整数値です。また、クラスタ業務なのでプライマリとセカンダリで同一のポート番号にする必要があります。 注意)

業務用通信サービスのポート番号は、ローカル業務用通信サービスのポート番号とは異なる番号にしてください。ロ

ーカル業務用通信サービスのポート番号を、業務用通信サービスのポート番号で使用する場合は、ローカル業務用

通信サービスのポート番号に新規ポート番号を登録してください。

AdvancedCopy Manager のアクション・スクリプト 業務用 AdvancedCopy Manager サービスの起動/停止を実施するアクション・スクリプトを準備します。準備したアクショ

ン・スクリプトは、Oracle Clusterware のアプリケーション・プロファイルで指定してください。

Page 14: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 13

7-1-3. クラスタ環境の作成手順 【手順フロー】 クラスタ環境を作成するには、以下の操作が必要になります。

1. ノードごとに AdvancedCopy Manager の設定ファイルを編集 2. 共有データ用共有ディスク上にディレクトリ作成 3. 共有データ用共有ディスク上に AdvancedCopy Manager の設定ファイルを作成 4. AdvancedCopy Manager のクラスタ環境作成コマンドの実行 5. HA フレームワークへの登録

(コマンド/ Oracle Enterprise Manager) 【AdvancedCopy Manager の設定手順】 以下の作業は、root ユーザーで実施してください。

設定手順で記載されている設定例は、下記の条件を記載しています。 実際に設定する際は、環境に合わせて設定してください。

設定例: AdvancedCopy Manager バージョン 15.1

クラスタ業務 論理ノード名 linux

業務名 acmagt

AdvancedCopy Manager 共有デー

タ用共有ディスクのマウントポイント /acmdata

AdvancedCopy Manager 共有デー

タ用共有ディスクのディスクデバイス

/dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1

プライマリノード名 node1

業務用通信サービスのポート番号 1227 <プライマリノードでの作業>

1. AdvancedCopy Manager 共有データ用共有ディスクを使用できるように設定します。 設定例 [root@node1]# /bin/mount /dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1/acmdata

2. /etc/services を編集し、業務用通信サービスのポート番号を登録します。

ファイルの設定内容 ★印のある項目は、環境に合わせて追加する内容です。

# /etc/services: # $Id: services,v 1.48 2009/11/11 14:32:31 ovasik Exp $ # # Network services, Internet style # IANA services version: last updated 2009-11-10 # # Note that it is presently the policy of IANA to assign a single well-known # port number for both TCP and UDP; hence, most entries here have two entries # even if the protocol doesn't support UDP operations. # Updated from RFC 1700, ``Assigned Numbers'' (October 1994). Not all ports # are included, only the more common ones. # # The latest IANA port assignments can be gotten from # http://www.iana.org/assignments/port-numbers # The Well Known Ports are those from 0 through 1023. # The Registered Ports are those from 1024 through 49151 # The Dynamic and/or Private Ports are those from 49152 through 65535 # # Each line describes one service, and is of the form: # # service-name port/protocol [aliases ...] [# comment]

Page 15: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 14

tcpmux 1/tcp # TCP port service multiplexer tcpmux 1/udp # TCP port service multiplexer (中略) stgxfws 1226/tcp stgxfws_<論理ノード名> <業務用通信サービスのポート番号>/tcp

設定例 # /etc/services: # $Id: services,v 1.48 2009/11/11 14:32:31 ovasik Exp $ # # Network services, Internet style # IANA services version: last updated 2009-11-10 # # Note that it is presently the policy of IANA to assign a single well-known # port number for both TCP and UDP; hence, most entries here have two entries # even if the protocol doesn't support UDP operations. # Updated from RFC 1700, ``Assigned Numbers'' (October 1994). Not all ports # are included, only the more common ones. # # The latest IANA port assignments can be gotten from # http://www.iana.org/assignments/port-numbers # The Well Known Ports are those from 0 through 1023. # The Registered Ports are those from 1024 through 49151 # The Dynamic and/or Private Ports are those from 49152 through 65535 # # Each line describes one service, and is of the form: # # service-name port/protocol [aliases ...] [# comment] tcpmux 1/tcp # TCP port service multiplexer tcpmux 1/udp # TCP port service multiplexer (中略) stgxfws 1226/tcp stgxfws_linux 1227/tcp

3. AdvancedCopy Manager の設定ファイル(swcluster.ini)を編集します。

ファイル名 swcluster.ini

格納先 /opt/FJSVswstf/cluster

ファイルの設定内容 ★印のある項目は、環境に合わせて編集する内容です。 ★ ★ ★ ★ ★ ★ ★

[ClusterCommon] Cluster=ON Max=20 StartTimeOut=300 StopTimeOut=300 System=SAFE Env_1=<論理ノード名> [<論理ノード名>] Type=Primary BusiType=2 Business=<業務名> ShareEtc=<共有データ用共有ディスクのマウントポイント>/etc/opt ShareVar=<共有データ用共有ディスクのマウントポイント>/var/opt MountPoint=<共有データ用共有ディスクのマウントポイント> IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=<プライマリノード名(プライマリノードのホスト名)> ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= Date=00/00/00 00:00:00 Setup=YES

Page 16: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 15

ResourceType=Procedure

設定例 [ClusterCommon] Cluster=ON Max=20 StartTimeOut=300 StopTimeOut=300 System=SAFE Env_1=linux [linux] Type=Primary BusiType=2 Business=acmagt ShareEtc=/acmdata/etc/opt ShareVar=/acmdata/var/opt MountPoint=/acmdata IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=node1 ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= Date=00/00/00 00:00:00 Setup=YES ResourceType=Procedure

4. AdvancedCopy Manager 共有データ用共有ディスク上にディレクトリを作成します。

AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント +---/etc | ---/opt | ---/swstorage +---/var ---/opt ---/swstorage

設定例 [root@node1]# /bin/mkdir -p /acmdata/etc/opt/swstorage[root@node1]# /bin/chmod -R 755 /acmdata/etc [root@node1]# /bin/chown -R root:root /acmdata/etc [root@node1]# /bin/mkdir -p /acmdata/var/opt/swstorage [root@node1]# /bin/chmod -R 755 /acmdata/var [root@node1]# /bin/chown -R root:root /acmdata/var

5. AdvancedCopy Manager の設定ファイル(clsetup.ini)を作成します。

ファイル名 clsetup.ini

格納先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage

格納先例 /acmdata/etc/opt/swstorage AdvancedCopy Manager の使用

言語

次の値を設定します ・ 国内版の場合 JAPANESE ・ 海外版の場合 ENGLISH

ファイルの設定内容 ★印のある項目は、環境に合わせて編集する内容です ★ ★

[Cluster] System=SAFE Swstgnode=<論理ノード名> Business=<業務名>

Page 17: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 16

★ ★ ★ ★ ★ ★

ShareEtc=<共有データ用共有ディスクのマウントポイント>/etc/opt ShareVar=<共有データ用共有ディスクのマウントポイント>/var/opt MountPoint=<共有データ用共有ディスクのマウントポイント> IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=<プライマリノード名(プライマリノードのホスト名)> ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= BusiType=2 ResourceType=Procedure [StorageMGR] Version=<AdvancedCopy Manager バージョン> Edition=EE Type=2 AFSType=1 Language=<AdvancedCopy Manager の使用言語> Code= [Secondary] Setup=YES Date=00/00/00 00:00:00 [Primary] Date=00/00/00 00:00:00 Setup=YES

設定例 [Cluster] System=SAFE Swstgnode=linux Business=acmagt ShareEtc=/acmdata/etc/opt ShareVar=/acmdata/var/opt MountPoint=/acmdata IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=node1 ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= BusiType=2 ResourceType=Procedure [StorageMGR] Version=V15.1 Edition=EE Type=2 AFSType=1 Language=ENGLISH Code= [Secondary] Setup=YES Date=00/00/00 00:00:00 [Primary] Date=00/00/00 00:00:00 Setup=YES

6. AdvancedCopy Manager の設定ファイル(swstg.ini)をコピーします。

コピー元ファイル名 /etc/opt/swstorage/swstg.ini

コピー先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage

Page 18: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 17

設定例 [root@node1]# /bin/cp -p /etc/opt/swstorage/swstg.ini /acmdata/etc/opt/swstorage

7. コマンドプロンプトから以下のコマンドを実行します。

1 clset_FJSVswstf /opt/FJSVswstf/bin/clset_FJSVswstf -f <AdvancedCopy Manager

共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

2 clset_FJSVswsts /opt/FJSVswsts/bin/clset_FJSVswsts -f <AdvancedCopy Manager共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

3 clset_FJSVswsrp /opt/FJSVswsrp/bin/clset_FJSVswsrp -f <AdvancedCopy Manager共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

設定例 [root@node1]# /opt/FJSVswstf/bin/clset_FJSVswstf -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswstf completed [root@node1]# /opt/FJSVswsts/bin/clset_FJSVswsts -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswsts completed [root@node1]# /opt/FJSVswsrp/bin/clset_FJSVswsrp -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswsrp completed

8. AdvancedCopy Manager 共有データ用共有ディスクにシンボリックリンクを作成します。

1 etc 領域データ リンク元 /etc/opt/swstorage/<論理ノード名> リンク先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポイ

ント>/etc/opt/swstorage 2 var 領域データ リンク元 /var/opt/swstorage/<論理ノード名> リンク先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポイ

ント>/var/opt/swstorage

設定例 [root@node1]# /bin/ln -s /acmdata/etc/opt/swstorage /etc/opt/swstorage/linux [root@node1]# /bin/ln -s /acmdata/var/opt/swstorage /var/opt/swstorage/linux

9. AdvancedCopy Manager 共有データ用共有ディスクのマウントを解除します。

設定例 [root@node1]# cd / [root@node1]# /bin/umount /acmdata

<セカンダリノードでの作業> 10. AdvancedCopy Manager 共有データ用共有ディスクを使用できるように設定します。

設定例 [root@node2]# /bin/mount /dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1 /acmdata

11. /etc/services を編集し、業務用通信サービスのポート番号を登録します。

ファイルの設定内容 ★印のある項目は、環境に合わせて追加する内容です。

# /etc/services: # $Id: services,v 1.48 2009/11/11 14:32:31 ovasik Exp $ # # Network services, Internet style # IANA services version: last updated 2009-11-10

Page 19: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 18

# # Note that it is presently the policy of IANA to assign a single well-known # port number for both TCP and UDP; hence, most entries here have two entries # even if the protocol doesn't support UDP operations. # Updated from RFC 1700, ``Assigned Numbers'' (October 1994). Not all ports # are included, only the more common ones. # # The latest IANA port assignments can be gotten from # http://www.iana.org/assignments/port-numbers # The Well Known Ports are those from 0 through 1023. # The Registered Ports are those from 1024 through 49151 # The Dynamic and/or Private Ports are those from 49152 through 65535 # # Each line describes one service, and is of the form: # # service-name port/protocol [aliases ...] [# comment] tcpmux 1/tcp # TCP port service multiplexer tcpmux 1/udp # TCP port service multiplexer (中略) stgxfws 1226/tcp stgxfws_<論理ノード名> <業務用通信サービスのポート番号>/tcp

設定例 # /etc/services: # $Id: services,v 1.48 2009/11/11 14:32:31 ovasik Exp $ # # Network services, Internet style # IANA services version: last updated 2009-11-10 # # Note that it is presently the policy of IANA to assign a single well-known # port number for both TCP and UDP; hence, most entries here have two entries # even if the protocol doesn't support UDP operations. # Updated from RFC 1700, ``Assigned Numbers'' (October 1994). Not all ports # are included, only the more common ones. # # The latest IANA port assignments can be gotten from # http://www.iana.org/assignments/port-numbers # The Well Known Ports are those from 0 through 1023. # The Registered Ports are those from 1024 through 49151 # The Dynamic and/or Private Ports are those from 49152 through 65535 # # Each line describes one service, and is of the form: # # service-name port/protocol [aliases ...] [# comment] tcpmux 1/tcp # TCP port service multiplexer tcpmux 1/udp # TCP port service multiplexer (中略) stgxfws 1226/tcp stgxfws_linux 1227/tcp

12. AdvancedCopy Manager の設定ファイル(swcluster.ini)を編集します。

ファイル名 swcluster.ini

格納先 /opt/FJSVswstf/cluster

ファイルの設定内容 ★印のある項目は、環境に合わせて編集する内容です。 ★ ★

[ClusterCommon] Cluster=ON Max=20 StartTimeOut=300 StopTimeOut=300 System=SAFE Env_1=<論理ノード名> [<論理ノード名>] Type=Secondary BusiType=2

Page 20: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 19

★ ★ ★ ★ ★

Business=<業務名> ShareEtc=<共有データ用共有ディスクのマウントポイント>/etc/opt ShareVar=<共有データ用共有ディスクのマウントポイント>/var/opt MountPoint=<共有データ用共有ディスクのマウントポイント> IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=<プライマリノード名(プライマリノードのホスト名)> ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= Date=00/00/00 00:00:00 Setup=YES ResourceType=Procedure

設定例 [ClusterCommon] Cluster=ON Max=20 StartTimeOut=300 StopTimeOut=300 System=SAFE Env_1=linux [linux] Type=Secondary BusiType=2 Business=acmagt ShareEtc=/acmdata/etc/opt ShareVar=/acmdata/var/opt MountPoint=/acmdata IPAddr= IPUseType=0 IPRscName= Hostname= NodeName=node1 ClusterName= DiskName= GroupName= SubNetMask= MSCSNetName= Date=00/00/00 00:00:00 Setup=YES ResourceType=Procedure

13. コマンドプロンプトから以下のコマンドを実行します。

1 clset_FJSVswstf /opt/FJSVswstf/bin/clset_FJSVswstf -f <AdvancedCopy Manager

共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

2 clset_FJSVswsts /opt/FJSVswsts/bin/clset_FJSVswsts -f <AdvancedCopy Manager共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

3 clset_FJSVswsrp /opt/FJSVswsrp/bin/clset_FJSVswsrp -f < AdvancedCopy Manager共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

実行例 [root@node2]# /opt/FJSVswstf/bin/clset_FJSVswstf -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary clset_FJSVswstf completed [root@node2]# /opt/FJSVswsts/bin/clset_FJSVswsts -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary clset_FJSVswsts completed [root@node2]# /opt/FJSVswsrp/bin/clset_FJSVswsrp -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary

Page 21: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 20

clset_FJSVswsrp completed

14. AdvancedCopy Manager 共有データ用共有ディスクにシンボリックリンクを作成します。

1 Etc 領域データ リンク元 /etc/opt/swstorage/<論理ノード名> リンク先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポ

イント>/etc/opt/swstorage 2 Var 領域データ リンク元 /var/opt/swstorage/<論理ノード名> リンク先 <AdvancedCopy Manager 共有データ用共有ディスクのマウントポ

イント>/var/opt/swstorage

設定例 [root@node2]# /bin/ln -s /acmdata/etc/opt/swstorage /etc/opt/swstorage/linux [root@node2]# /bin/ln -s /acmdata/var/opt/swstorage /var/opt/swstorage/linux

15. AdvancedCopy Manager 共有データ用共有ディスクのマウントを解除します。

設定例 [root@node2]# cd / [root@node2]# /bin/umount /acmdata

【Oracle Clusterware の設定手順】

Oracle Clusterware で、HA フレームワークにリソースを登録します。次の HA フレームワークの登録方法は、Oracle Database マニュアル「Oracle Clusterware 管理およびデプロイメント・ガイド 11g リリース 2(11.2)」を参考に記載しています。

手順および設定方法については、それぞれのバージョンの Oracle Database マニュアルで確認してください。

Grid Infrastructure(GI)インストール先 /u01/app/11.2.0/grid

Grid ユーザー名 grid

Oracle インストール先 /u01/app/oracle/11.2.0/dbhome_1

Oralce ユーザー名 oracle

サーバー・プール名(ポリシー管理の場合) acmpool

アクション・スクリプトの格納ディレクトリ /u01/app/11.2.0/grid/crs/public

アクション・スクリプトのファイル名 acmagt.scr

ク ラ ス タ 業 務(VIP)

VIP の名前 acmvip

VIP のインターフェース名 eth1

VIP の IP アドレス 192.168.100.100

VIP のネットマスク 255.255.255.0

ク ラ ス タ 業 務

(ACM アプリケー

ション)

ACM アプリケーションの名前 acmagent

ACM アプリケーションをチェッ

クする間隔秒 60

ACM アプリケーションの再起

動の回数 0

<コマンドを使用したリソースの登録> 1. 全てのノードで、Oracle Clusterware を起動します。

root ユーザーで実行します。 # {GI インストール先}/bin/crsctl start crs

設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crsCRS-4123: Oracle 高可用性サービスは起動されています。

Page 22: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 21

2. 全てのノードで、AdvancedCopy Manager 用のアクション・スクリプトを作成します。 プライマリノードでアクション・スクリプトを作成してください。その他のノードには、プライマリノードで作成したアクション・ス

クリプトを転送してください。 アクション・スクリプトは「7-2-5.アクション・スクリプト」を参照してください。 作成したアクション・スクリプトは、chmod コマンドで実行可能のアクセス権を設定してください。

3. プライマリノードで、VIP リソースを作成します。

root ユーザーで実行します。 ※{GI インストール先}/bin/appvipcfg コマンドで VIP リソースを作成する際に「usage: tail~」エラーが表示される可能性が

あります。回避方法については KROWN#140076 をご確認ください。 # {GI インストール先}/bin/appvipcfg create –network={ネットワーク番号} –ip={VIP の IP アドレス} –vipname={VIP の名前} –user={ユーザー名} 設定例 [root@node1]# /u01/app/11.2.0/grid/bin/appvipcfg create -network=1 -ip =192.168.100.100 -vipname=ac mvip -user =root Production Copyright 2007, 2008, Oracle.All rights reserved 2012-11-20 17:39:29: Creating Resource Type 2012-11-20 17:39:29: Executing /u01/app/11.2.0/grid/bin/crsctl add type app.appvip_net1.type -basetype ora.cluster_vip_net1.type -file /u01/app/11.2.0/grid/crs/template/appvip.type 2012-11-20 17:39:29: Executing cmd: /u01/app/11.2.0/grid/bin/crsctl add type app.appvip_net1.type -basetype ora.cluster_vip_net1.type -file /u01/app/11.2.0/grid/crs/template/appvip.type 2012-11-20 17:39:30: Create the Resource 2012-11-20 17:39:30: Executing /u01/app/11.2.0/grid/bin/crsctl add resource acmvip –typeapp.appvip_net1.type -attr "USR_ORA_VIP=192.168.100.100,START_DEPENDENCIES=hard(ora.net1.network) pullup(ora.net1.network),STOP_DEPENDENCIES=hard(ora.net1.network),ACL='owner:root:rwx,pgrp:root: r-x,other::r--,user:root:r-x',HOSTING_MEMBERS=node1.localdomain,APPSVIP_FAILBACK="

4. プライマリノードで、VIP リソースの権限を変更します。

root ユーザーで実行します。 # {GI インストール先}/bin/crsctl setperm resource {VIP の名前} –o root # {GI インストール先}/bin/crsctl setperm resource {VIP の名前} –u user:{Grid ユーザー名}:r-x 設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmvip –o root [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmvip –u user:grid:r-x

5. プライマリノードで、VIP リソースを起動します。

Grid ユーザーで実行します。 $ {GI インストール先}/bin/crsctl start resource {VIP の名前} 設定例 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl start resource acmvip CRS-2672: ‘acmvip’(‘node1’)の起動を試行しています CRS-2676: ‘acmvip’(‘node1’)の起動が成功しました

Page 23: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 22

6. プライマリノードで、AdvancedCopy Manager 用のアクション・プロファイルを作成します。 Grid ユーザーで実行します。

【管理者管理】 $ {GI インストール先}/bin/crsctl add resource {ACM アプリケーションの名前} ¥

–type cluster_resource –attr “ACTION_SCRIPT={ACM のアクション・スクリプト},¥ CHECK_INTERVAL={チェックする間隔秒},RESTART_ATTEMPTS={再起動の回数},¥ START_DEPENDENCIES=hard({VIP の名前}) pullup(VIP の名前),¥ STOP_DEPENDENCIES=hard({VIP の名前})”

設定例 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl add resource acmagent –type cluster_resource –attr “ACTION_SCRIPT=/u01/app/11.2.0/grid/crs/public/acmagt.scr, CHECK_INTERVAL=60,RESTART_ATTEMPTS=0,START_DEPENDENCIES=hard(acmvip) pullup(acmvip),STOP_DEPENDENCIES=hard(acmvip)”

【ポリシー管理】

$ {GI インストール先}/bin/crsctl add resource {ACM アプリケーションの名前} –type ¥ cluster_resource –attr “ACTION_SCRIPT={ACM のアクション・スクリプト},¥ CHECK_INTERVAL={チェックする間隔秒},RESTART_ATTEMPTS={再起動の回数},¥ START_DEPENDENCIES=hard({VIP の名前}) pullup(VIP の名前),¥ STOP_DEPENDENCIES=hard({VIP の名前}),PLACEMENT=restricted,SERVER_POOLS={サーバー・プール

名}”

※ PLACEMENT を「restricted」にし、SERVER_POOLS を指定します。 設定例 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl add resource acmagent –type cluster_resource –attr “ACTION_SCRIPT=/u01/app/11.2.0/grid/crs/public/acmagt.scr, CHECK_INTERVAL=60,RESTART_ATTEMPTS=0,START_DEPENDENCIES=hard(acmvip) pullup(acmvip),STOP_DEPENDENCIES=hard(acmvip),PLACEMENT=restricted,SERVER_POOLS=ora.acmpool”

7. プライマリノードで、AdvancedCopy Manager の権限を変更します。

root ユーザーで実行します。 # {GI インストール先}/bin/crsctl setperm resource {ACM アプリケーションの名前} –o root # {GI インストール先}/bin/crsctl setperm resource {ACM アプリケーションの名前} ¥ –u user:{Gridユーザー名}:r-x 設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmagent –o root [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmagent –u user:grid:r-x

8. プライマリノードで、AdvancedCopy Manager リソースを起動します。

Grid ユーザーで実行します。 $ {GI インストール先}/bin/crsctl start resource {ACM アプリケーションの名前} 設定例 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl start resource acmagent CRS-2672: 'acmagent'('node1')の起動を試行しています CRS-2676: 'acmagent'('node1')の起動が成功しました

Page 24: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 23

<Oracle Enterprise Manager を使用したリソースの登録> Oracle Enterprise Manager を使用して Oracle Clusterware にリソースを登録するには、次の手順を実行します。

1. Oracle Enterprise Manager Database Control に sys ユーザーでログインします。

Page 25: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 24

2. 「クラスタ」タブをクリックします。

3. 「管理」タブの「リソースの管理」をクリックします。

Page 26: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 25

4. 資格証明の指定で grid ユーザーを指定し「ログイン」をクリックします。

5. 「アプリケーション VIP の追加」をクリックします。

Page 27: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 26

6. それぞれの項目を設定し「続行」をクリックします。 各項目については以下のとおりです。

項目名 概要 名前 作成するアプリケーション VIP の名前を指定します。 ネットワーク番号 ora.vip ネットワーク・リソース(ora.net<integer>.network)の

integer 部分の数字を指定します。(デフォルト値:1) インターネット・プロトコル・アドレス 作成するアプリケーション VIP で使用する IP アドレスを指定し

ます。 プライマリ・ユーザー VIP 関連の操作には root 権限が必要であるため、root ユーザ

ーを指定します。

Page 28: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 27

7. root ユーザーを指定し「続行」をクリックします。

8. リソースの権限を変更します。 root ユーザーで実行します。 # {GI インストール先}/bin/crsctl setperm resource {VIP の名前} –o root # {GI インストール先}/bin/crsctl setperm resource {VIP の名前} –u user:{Grid ユーザー名}:r-x

設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmvip –o root [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmvip –u user:grid:r-x

Page 29: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 28

9. アプリケーション VIP を選択し、「開始」をクリックします。

Page 30: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 29

10. 「続行」をクリックします。

Page 31: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 30

11. VIP リソースが開始されたのを確認します。

Page 32: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 31

12. 「リソースの追加」をクリックします。

Page 33: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 32

13. それぞれの項目に適当な値を設定し「発行」をクリックします。 ① 「一般」タブにおける各項目については以下のとおりです。

項目名 概要 名前 作成するアプリケーション・リソース名を指定します。 リソースタイプ リソースのテンプレートを選択します。

“cluster_resource” になっていることを確認します。 配置 管理者管理の場合は、「平均化(このリソースはクラスタ内の任意の場

所に配置できます)」を選択します。 ポリシー管理の場合は、「特定のサーバー・プール/サーバーを優先的

な配置先とします」 または 「配置先を特定のサーバー・プールまたは

特定のサーバーに限定します」を選択し、サーバー・プール名を入力し

ます。 カーディナリティ アプリケーション・リソースが稼動するノード数を指定します。 アクション・プログラム リソースを管理で使用するプログラムの種類を選択します。

「アクション・スクリプトの使用」を選択します。 アクション・スクリプト名 ノード名およびスクリプトのパスを指定します。

アプリケーション・リソースを追加時にアクション・スクリプトが他ノードに

も配置されるので、既に全ノードに配置されている場合は、「既に(クラ

スタの任意のノード上に)存在する場合は上書き」にチェックします。

Page 34: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 33

② 「依存性」タブでは開始の依存性で「hard」、「pullup」を、停止の依存性では「hard」にアプリケーション VIP を指

定します。

14. 「発行」をクリック後、実行コマンドを確認し、「続行」をクリックします。

15. リソースの権限を変更します。 root ユーザーで実行します。 # {GI インストール先}/bin/crsctl setperm resource {ACM アプリケーションの名前} –o root # {GI インストール先}/bin/crsctl setperm resource {ACM アプリケーションの名前}

–u user:{Grid ユーザー名}:r-x 設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmagent –o root [root@ node1]# /u01/app/11.2.0/grid/bin/crsctl setperm resource acmagent –u user:grid:r-x

Page 35: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 34

16. ACM アプリケーション・リソース(acmagent)を選択し、「開始」をクリックします。

17. 「続行」をクリックします。

Page 36: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 35

18. VIP リソース、アプリケーション・リソースが開始したことを確認し、完了です。

設定後、以下の確認を行い、設定が正しく行われていることを確認してください。

・ {GI インストール先}/bin/crsctl status resource によりリソースが正しく表示されること ・ AdvancedCopy Manager 共有データ用共有ディスクがマウントされていること ・ AdvancedCopy Manager を構成するデーモンが起動していること

AdvancedCopy Manager を構成するデーモンは、「ETERNUS SF AdvancedCopy Manager 15.1 運用ガイド -Linux- 」を

参照ください。 以降、アドバンスト・コピー機能(OPC/EC)に必要な設定を行ってください。

7-1-4. クラスタ環境の削除手順 【手順フロー】 クラスタ環境を削除するには、以下の操作が必要になります。

1. AdvancedCopy Manager の登録情報の削除 2. HA フレームワークに登録したリソースの削除

(コマンド/ Oracle Enterprise Manager) 3. クラスタ業務の削除

【Oracle Clusterware の削除手順】 削除手順で記載されている設定例は、下記の条件を記載されています。実際に設定する際は、環境に合わせて設定してくだ

さい。

設定例: クラスタ業務 論理ノード名 linux

Page 37: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 36

AdvancedCopy Manager共有データ用共有ディスク

のマウントポイント

/acmdata

業務用通信サービスのポ

ート番号 1227

HA フレームワーク

リソース VIP の名前 acmvip

ACM アプリケーションの名

前 acmagent

1. バックアップ管理とレプリケーション管理で登録したデバイス情報を削除してください。

削除方法は、「ETERNUS SF AdvancedCopy Manager 15.1 運用ガイド -Linux-」を参照してください。 2. Storage 管理サーバーに登録されている Storage サーバーの登録情報を削除してください。

削除方法は、「ETERNUS SF AdvancedCopy Manager 15.1 運用ガイド -Linux-」を参照してください。 <コマンドを使用したリソースの削除> 1. HA フレームワークに登録したリソースを削除してください。

VIP リソースを停止します。本手順は、Grid ユーザーで実行します。 $ {GIインストール先}/bin/crsctl stop resource {ACMアプリケーションの名前} $ {GIインストール先}/bin/crsctl stop resource {VIPの名前}

設定例 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmagent CRS-2673: 'acmagent'('node1')の停止を試行しています CRS-2677: 'acmagent'('node1')の停止が成功しました [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmvip CRS-2673: 'acmvip'('node1')の停止を試行しています CRS-2677: 'acmvip'('node1')の停止が成功しました

2. リソースを削除します。本手順は、root ユーザーで実行します。

# {GIインストール先}/bin/crsctl delete resource {ACMアプリケーションの名前} # {GIインストール先}/bin/appvipcfg delete -vipname={VIPの名前}

設定例 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl delete resource acmagent [root@node1]# /u01/app/11.2.0/grid/bin/appvipcfg delete –vipname=acmvip Production Copyright 2007, 2008, Oracle.All rights reserved 2012-12-01 13:19:42: Deleting the resource 2012-12-01 13:19:42: Executing cmd: /u01/app/11.2.0/grid/bin/crsctl delete res acmvip 2012-12-01 13:19:42: Removing the type 2012-12-01 13:19:42: Executing cmd: /u01/app/11.2.0/grid/bin/crsctl delete type app.appvip.type

Page 38: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 37

<Oracle Enterprise Manager を使用したリソースの削除> ACM アプリケーション・リソースおよび VIP リソースを選択し、「削除」をクリックします。

手順の詳細は、Oracle Database マニュアル「Oracle Clusterware 管理およびデプロイメント・ガイド 11g リリース 2(11.2)」で

確認してください。

以降の手順は、root ユーザーで実施してください。 【AdvancedCopy Manager の削除手順】 <セカンダリノードでの作業> 1. AdvancedCopy Manager 共有データ用共有ディスクを使用できるように設定します。

設定例 [root@node2]# /bin/mount /dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1 /acmdata

2. コマンドプロンプトから以下のコマンドを実行します。

1 clset_FJSVswstf /opt/FJSVswstf/bin/clset_FJSVswstf -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

2 clset_FJSVswsts /opt/FJSVswsts/bin/clset_FJSVswsts -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

3 clset_FJSVswsrp /opt/FJSVswsrp/bin/clset_FJSVswsrp -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Secondary

設定例 [root@node2]# /opt/FJSVswstf/bin/clset_FJSVswstf –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary clset_FJSVswstf completed [root@node2]# /opt/FJSVswsts/bin/clset_FJSVswsts –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary clset_FJSVswsts completed

Page 39: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 38

[root@node2]# /opt/FJSVswsrp/bin/clset_FJSVswsrp –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Secondary clset_FJSVswsrp completed

3. AdvancedCopy Manager 共有データ用共有ディスクへのシンボリックリンクを削除します。

1 etc 領域データ リンク /etc/opt/swstorage/<論理ノード名> 2 var 領域データ リンク元 /var/opt/swstorage/<論理ノード名>

設定例 [root@node2]# /bin/rm /etc/opt/swstorage/linux [root@node2]# /bin/rm /var/opt/swstorage/linux

4. 編集した AdvancedCopy Manager の設定ファイル(swcluster.ini)を元に戻します。

ファイル名 swcluster.ini

格納先 /opt/FJSVswstf/cluster

ファイル内容 [ClusterCommon]

Cluster=OFF Max=20 StartTimeOut=300 StopTimeOut=300

5. /etc/services を編集し、業務用通信サービスのポート番号を削除します。 6. AdvancedCopy Manager 共有データ用共有ディスクのマウントを解除します。

設定例 [root@node2]# cd / [root@node2]# /bin/umount /acmdata

<プライマリノードでの作業> 7. AdvancedCopy Manager 共有データ用共有ディスクを使用できるように設定します。

設定例 [root@node1]# /bin/mount /dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1 /acmdata

8. コマンドプロンプトから以下のコマンドを実行します。

1 clset_FJSVswstf /opt/FJSVswstf/bin/clset_FJSVswstf -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

2 clset_FJSVswsts /opt/FJSVswsts/bin/clset_FJSVswsts -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

3 clset_FJSVswsrp /opt/FJSVswsrp/bin/clset_FJSVswsrp -u -f < AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント>/etc/opt/swstorage/clsetup.ini -t Primary

実行例 [root@node1]# /opt/FJSVswstf/bin/clset_FJSVswstf –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswstf completed [root@node1]# /opt/FJSVswsts/bin/clset_FJSVswsts –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswsts completed [root@node1]# /opt/FJSVswsrp/bin/clset_FJSVswsrp –u -f /acmdata/etc/opt/swstorage/clsetup.ini -t Primary clset_FJSVswsrp completed

Page 40: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 39

9. AdvancedCopy Manager 共有データ用共有ディスクへのシンボリックリンクを削除します。 1 etc 領域データ リンク /etc/opt/swstorage/<論理ノード名> 2 var 領域データ リンク元 /var/opt/swstorage/<論理ノード名>

設定例 [root@node1]# /bin/rm /etc/opt/swstorage/linux [root@node1]# /bin/rm /var/opt/swstorage/linux

10. 編集した AdvancedCopy Manager の設定ファイル(swcluster.ini)を元に戻します。

ファイル名 swcluster.ini

格納先 /opt/FJSVswstf/cluster

ファイル内容 [ClusterCommon]

Cluster=OFF Max=20 StartTimeOut=300 StopTimeOut=300

11. AdvancedCopy Manager 共有データ用共有ディスク上に作成したディレクトリを削除します。

AdvancedCopy Manager 共有データ用共有ディスクのマウントポイント +---/etc | ---/opt | ---/swstorage +---/var ---/opt ---/swstorage

設定例 [root@node1]# cd /acmdata [root@node1]# /bin/rm –r /acmdata/etc [root@node1]# /bin/rm –r /acmdata/var

12. /etc/services を編集し、業務用通信サービスのポート番号を削除します。 13. AdvancedCopy Manager 共有データ用共有ディスクのマウントを解除します。 設定例

[root@node1]# cd / [root@node1]# /bin/umount /acmdata

7-1-5. アクション・スクリプト 本章では、アクション・スクリプトのサンプルを記載しています。アクション・スクリプトを作成する際は、本サンプルを参考に、環

境に合せたアクション・スクリプトを作成してください。 ※11gR2 から check アクション処理の挙動が以下のように変わりました。 - リソースの状態が正常:0 を返す。 - リソースの状態が異常:1 を返す。 詳細は、Oracle Database マニュアル「Oracle Clusterware 管理およびデプロイメント・ガイド 11g リリース 2(11.2)」で確認し

てください。

Page 41: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 40

サンプル #!/bin/sh ######################################################################### # # Action Script for AdvancedCopy Manager Agent # ######################################################################### SCRIPT=$0 ACTION=$1 # Action (start, stop or check) # ACM Logical Node Name SWSTGNODE=linux export SWSTGNODE # Mount Point for ACM Data SWSMOUNTPOINT=/acmdata; export SWSMOUNTPOINT BACKUPMOUNTPOINT=/backup; export BACKUPMOUNTPOINT # Disk Slice for ACM Data SWSDATADISK=/dev/disk/by-id/scsi-3600000e00d100000001001a200150000-part1; export SWSDATADISK BACKUPDISK=/dev/disk/by-id/scsi-3600000e00d100000001001a2001b0000-part1; export BACKUPDISK TOOLDIR=/u01/app/11.2.0/grid/crs/public LOGFILE=$TOOLDIR/acmagt.log TEMPFILE=$TOOLDIR/acmagt.tmp ######################################################################### # # Main section of Action Script - starts, stops, checks or clean an application # # This script is invoked by CRS when managing the application associated # with this script. # # Argument: $1 - start | stop | check | clean # # Returns: 0 - successful start, stop, check or # 1 - error # ######################################################################### # # Start section - start the process and report results # case $ACTION in 'start') SWSMOUNTCHECK="^$SWSMOUNTPOINT on $SWSDATADISK " /bin/mount | /bin/grep "$SWSMOUNTCHECK" > /dev/null if [ $? != 0 ]; then /bin/mount $SWSDATADISK $SWSMOUNTPOINT if [ $? != 0 ]; then echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent COULD NOT START,BECAUSE MOUNT ERROR($SWSMOUNTPOINT)" | tee -a $LOGFILE exit 1 fi fi BACKUPMOUNTCHECK="^$BACKUPMOUNTPOINT on $BACKUPDATADISK " /bin/mount | /bin/grep "$BACKUPMOUNTCHECK" > /dev/null if [ $? != 0 ]; then /bin/mount $BACKUPDISK $BACKUPMOUNTPOINT if [ $? != 0 ]; then echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent COULD NOT START,BECAUSE MOUNT ERROR($BACKUPMOUNTPOINT)" | tee -a $LOGFILE exit 1 fi fi /opt/FJSVswstf/cluster/AgtStart if [ $? != 0 ]; then

Page 42: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 41

echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent COULD NOT START:1" | tee -a $LOGFILE exit 1 fi echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent STARTED:0" | tee -a $LOGFILE exit 0 ;; # # Stop section - stop the process and report results # 'stop') /opt/FJSVswstf/cluster/AgtStop /bin/umount $SWSMOUNTPOINT if [ $? != 0 ]; then /bin/umount -f $SWSMOUNTPOINT fi /bin/umount $BACKUPMOUNTPOINT if [ $? != 0 ]; then /bin/umount -f $BACKUPMOUNTPOINT fi echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent STOPPED:0" | tee -a $LOGFILE exit 0 ;; # # Check section - check the process and report results # 'check') /bin/ps -ef > $TEMPFILE CNT=`cat $TEMPFILE | grep stgxfws | grep $SWSTGNODE | wc -l` if [ $CNT -eq 0 ]; then echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent CHECKED:1" | tee -a $LOGFILE /bin/umount $SWSMOUNTPOINT if [ $? != 0 ]; then /bin/umount -f $SWSMOUNTPOINT fi exit 1 fi CNT=`/bin/mount | grep $SWSMOUNTPOINT | wc -l` if [ $CNT -eq 0 ]; then echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent CHECKED:1" | tee -a $LOGFILE exit 1 fi CNT=`/bin/mount | grep $BACKUPMOUNTPOINT | wc -l` if [ $CNT -eq 0 ]; then echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent CHECKED:1" | tee -a $LOGFILE exit 1 fi echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent CHECKED:$RET" | tee -a $LOGFILE exit $RET ;; # # Clean section - clean the process and report results # 'clean') /opt/FJSVswstf/cluster/AgtStop /bin/umount $SWSMOUNTPOINT if [ $? != 0 ]; then /bin/umount -f $SWSMOUNTPOINT fi /bin/umount $BACKUPMOUNTPOINT if [ $? != 0 ]; then /bin/umount -f $BACKUPMOUNTPOINT fi echo "`date '+%y/%m/%d_%H:%M:%S'` - ACM Agent CLEANED:0" | tee -a $LOGFILE exit 0 ;;

Page 43: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 42

*) echo "usage: $SCRIPT {start stop check}" ;; esac exit 0

Page 44: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 43

7-2. バックアップ/リカバリ手順と使用例 このセクションでは AdvancedCopy Manager を使用し ASM ファイルシステムのバックアップとリカバリを行う段階的手順を

説明いたします。

ETERNUS

ファイルシステム

DBインスタンス(Catalog DB)

DG_REDO_M

DG_DATA

データファイル

REDOログファイル-1

REDOログファイル-2

アーカイブ・ログ・

ファイル

DG_CRS

制御ファイル-2

制御ファイル-1

ACM管理領域

データファイル

バックアップ・セット -制御ファイル -アーカイブ・ログ・ファイル -DB SPFILE

ディスクグループの メタデータのバックアップ -DG_CRS -DG_DATA -DG_REDO -DG_REDO_M -DG_ARCH

OLR、OCR、投票ディスク

のバックアップ

ファイルシステム

ASM SPFILEの バックアップ(PFILE)

ACM管理簿の バックアップ

DB SPFILEの バックアップ(PFILE)

node2 node1 Client

SH SH

+ASM1

rac1

DBインスタンス(Target DB)

ACM-M

OPC/EC

OCR、投票ディスク

ASM SPFILE

ocrconfig

swstresback RMAN

DG_REDO DG_ARCH

DB SPFILE

SQL*Plus SQL*Plus

ターゲットDB(rac)

バックアップエリア

+ASM2

rac2

ACM-AOLR OLR ACM-A

catdb

ASMCMD

Page 45: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 44

7-2-1. バックアップ/リカバリ手順方法と使用例

データベースのバックアップ

1. カレント REDO ログファイルをアーカイブします。 node1 のデータベースインスタンス上で実行します。 SQL> alter system archive log current;

2. データベースをバックアップモードにします。

node1 のデータベースインスタンス上で実行します。 SQL> alter database begin backup;

3. ASM 再バランスが実行中でないことを確認します。

node1 の ASM インスタンス上で実行します。 SQL> select * from v$asm_operation;

返される行が0行であれば問題ありません。もし、行が返された場合は、以下のように再バランスを停止してください。

SQL> alter diskgroup DG_DATA rebalance power 0; そして v$asm_operation を再確認します。

SQL> select * from v$asm_operation; 4. アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティションをバックアップします。

参照 : <7-2-3 バックアップ手順使用例>

5. データベースをバックアップモードから解除します。 node1 のデータベースインスタンス上で実行します。 SQL> alter database end backup;

6. アーカイブ・ログをバックアップします。現在の制御ファイルとデータベースインスタンスの SPFILE は自動バックアップ

機能によってバックアップされます。 node1 のリカバリマネージャー上で実行します。 RMAN> backup archivelog all;

7. ASMCMD ユーティリティで、すべてのディスクグループのメタデータをバックアップします。

node1 の ASM インスタンス上で実行します。 ※バックアップ前に全ディスクグループの compatible.asm 属性と compatible.rdbms 属性が 11.2.0.0.0 に設定されて

いることを確認してください。ASMCMD ユーティリティによるメタデータのバックアップにおいて上記設定がされてい

ない場合、11.2.0.1.0 の不具合のため、メタデータのリストアを正常に行うことができません。 ASMCMD> md_backup /backup/meta/md_bk

8. データベースインスタンスと ASM インスタンスの SPFILE をテキストベースのファイルでバックアップします。

node1 のデータベースインスタンス上、ASM インスタンス上でそれぞれ実行します。 <データベースインスタンス側> SQL> create pfile='/backup/pfile_db/initrac.ora' from spfile; <ASMインスタンス側> SQL> create pfile='/backup/pfile_asm/initasm.ora' from spfile;

※ データベースにデータファイルを追加した場合は、速やかに、データベース全体のバックアップを行う必要があります。

OCR、投票ディスクのバックアップ

1. ocrconfig を使用して OCR のバックアップを取得します。 node1 の root ユーザーで実行します。 ※Oracle Clusterware 11g リリース 2(11.2)では、OCR 内に投票ディスクのバックアップが取られるため、OCR のバック

アップのみ行えば問題ありません。

Page 46: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 45

[root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig –manualbackup Oracle Local Registry(OLR)のバックアップ 1. すべてのノードで ocrconfig を使用して OLR のバックアップを取得します。 node1 と node2 の root ユーザーでそれぞれ実行します。

[root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig –local –manualbackup

7-2-2. リカバリ手順方法

データファイルのディスクグループが壊れた場合 1. ABORT オプションでデータベースのインスタンスを終了します。

node1 の oracle ユーザーで実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac –o abort

2. データファイルのディスクグループを削除します。RAC の場合、削除コマンドを実行する RAC のノード(node1)以外の

すべてのノード(node2)において、削除する前にそのディスクグループをディスマウントする必要があります。 node1 の ASM インスタンス上で実行します。 ※削除コマンドを実行するノードで対象のディスクグループがディスマウントである場合は、force オプションを付けて削

除します。 SQL> drop diskgroup DG_DATA [force] including contents;

3. アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティションをリストアします。node1

の root ユーザーで実行します。 参照 : <7-2-4 リカバリ手順使用例>

4. データファイルのディスクグループをマウントします。 node1 の ASM インスタンス上で実行します。 SQL> alter diskgroup DG_DATA mount;

5. MOUNT オプションでデータベースのインスタンスを起動します。

node1 のデータベースインスタンス上で実行します。 RMAN> startup mount;

6. 完全回復を実行します。

node1 のリカバリマネージャー上で実行します。 RMAN> recover database;

7. データベースをオープンします。

node1 のリカバリマネージャー上で実行します。 RMAN> alter database open;

8. RAC の場合、手順 4 を行ったノード(node1)以外のすべてのノード(node2)において、データファイルのディスクグルー

プをマウントします。 node2 の ASM インスタンス上で実行します。 SQL> alter diskgroup DG_DATA mount;

9. RAC の場合、手順 7 を行ったノード(node1)以外のすべてのノード(node2)のデータベースインスタンスを起動します。

node1 の oracle ユーザーで実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl start instance –d rac –n node2

Page 47: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 46

DG_CRS 以外のすべてのディスクグループが壊れた場合 1. ABORT オプションでデータベースのインスタンスを終了します。

node1 の oracle ユーザーで実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac -o abort

2. DG_CRS 以外のすべてのディスクグループを削除します。RAC の場合、削除を実行する RAC のノード(node1)以外

のすべてのノード(node2)において、そのディスクグループを削除する前にディスマウントする必要があります。 node1 の ASM インスタンス上で実行します。 ※削除コマンドを実行するノードで対象のディスクグループがディスマウントである場合は、force オプションを付けて削

除します。 SQL> drop diskgroup DG_DATA [force] including contents; SQL> drop diskgroup DG_REDO [force] including contents; SQL> drop diskgroup DG_REDO_M [force] including contents; SQL> drop diskgroup DG_ARCH [force] including contents;

3. バックアップメタデータから、DG_REDO、DG_REDO_M、DG_ARCH ディスクグループのメタデータをリストアします。

node1 の ASMCMD ユーティリティ上で実行します。

4. アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティションをリストアします。node1

の root ユーザーで実行します。 参照 : <7-2-4 リカバリ手順使用例>

5. データファイルのディスクグループをマウントします。

node1 の ASM インスタンス上で実行します。 SQL> alter diskgroup DG_DATA mount;

6. バックアップの初期化バラメータを指定し、NOMOUNT モードで、データベースのインスタンスを起動します。

node1 のリカバリマネージャー上で実行します。 RMAN> startup nomount pfile=’/backup/pfile_db/initrac.ora’;

7. 自動バックアップされた制御ファイルをリストアします。

node1 のリカバリマネージャー上で実行します。 RMAN> restore controlfile from autobackup;

8. データベースをマウントします。

node1 のリカバリマネージャー上で実行します。 RMAN> alter database mount;

9. バックアップしたサーバー・パラメータ・ファイルをリストアします。

node1 のリカバリマネージャー上で実行します。 RMAN> restore spfile;

10. 不完全回復を実行します。

node1 のリカバリマネージャー上で実行します。 RMAN> recover database until sequence 28 thread 1;

11. RESETLOGS オプションでデータベースをオープンします。

node1 のリカバリマネージャー上で実行します。 RMAN> alter database open resetlogs;

12. RAC の場合、手順 5 を行ったノード(node1)以外のすべてのノード(node2)において、DG_CRS 以外のすべてのディ

スクグループをマウントします。 node2 のデータベースインスタンス上で実行します。

ASMCMD > md_restore /backup/meta/md_bk -–full –G 'DG_REDO' ASMCMD > md_restore /backup/meta/md_bk -–full –G 'DG_REDO_M' ASMCMD > md_restore /backup/meta/md_bk --full –G 'DG_ARCH'

Page 48: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 47

SQL> alter diskgroup DG_DATA, DG_REDO, DG_REDO_M, DG_ARCH mount; 13. データベースのインスタンスをサーバー・パラメータ・ファイルから起動し直すために、データベースのインスタンスを終

了します。 node1 の oracle ユーザーで実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac

14. すべてのデータベースインスタンスを起動します。

node1 の oracle ユーザーで実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl start database –d rac

15. アーカイブ・ログ・ファイルの無効なエントリを削除します。

node1 のリカバリマネージャー上で実行します。 RMAN> crosscheck archivelog all; RMAN> delete expired archivelog all;

DG_CRS のディスクグループが壊れた場合

1. すべてのノードで CRS を停止します。

node1 と node2 の root ユーザーでそれぞれ実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop crs –f

2. dd コマンドを使用して DG_CRS の全ディスクヘッダーをクリアします。

node1 の grid ユーザーで実行します。 [grid@node1]$ dd if=/dev/zero of=/dev/sde1 bs=1024k count=10 [grid@node1]$ dd if=/dev/zero of=/dev/sdf1 bs=1024k count=10 [grid@node1]$ dd if=/dev/zero of=/dev/sdj1 bs=1024k count=10

3. 排他モードで CRS を起動します。

node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs –excl

4. crsd を停止します。

node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop resource ora.crsd –init

5. DG_CRS ディスクグループのメタデータをリストアします。

node1 の ASMCMD ユーティリティ上で実行します。 ASMCMD> md_restore /backup/meta/md_bk --full -G 'DG_CRS'

6. ASM インスタンスをシャットダウンします。

node1 の ASM インスタンス上で実行します。

SQL> shutdown immediate

7. バックアップしておいた pfile を使用して ASM インスタンスを起動します。 node1 の ASM インスタンス上で実行します。 SQL> startup pfile='/backup/pfile_asm/initasm.ora';

8. ASM インスタンスのサーバー・パラメータ・ファイルを再作成します。

node1 の ASM インスタンス上で実行します。 SQL> create spfile='+DG_CRS' from pfile='/backup/pfile_asm/initasm.ora';

9. OCR をリストアします。

node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig -restore ¥

Page 49: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 48

/backup/ocr/backup_20121130_151838.ocr

10. DG_CRS ディスクグループに投票ディスクを再作成します。 node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl replace votedisk +DG_CRS

11. 排他モードで起動されている CRS を停止します。

node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop crs -f

12. すべてのノードで CRS を起動します。

node1 と node2 の root ユーザーでそれぞれ実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs

OLR が壊れた場合

1. 対象ノード(node1)の CRS を停止します。 node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop crs

2. バックアップから OLR をリストアします。

node1 の root ユーザーで実行します。 ※{GI インストール先}/cdata の配下に<ホスト名.olr>ファイルが無い場合は同名の空ファイルを作成しておく必要があ

ります。 [root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig -local –restore ¥ /backup/olr/node1/backup_20121130_130937.olr

3. 対象ノード(node1)の CRS を起動します。

node1 の root ユーザーで実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs

7-2-3. バックアップ手順使用例 データベースのバックアップ

カレント REDO ログファイルをアーカイブします。

node1 のデータベースインスタンス上でこのコマンドを実行します。 SQL> alter system archive log current; システムが変更されました。 データベースをバックアップモードにします。

node1 のデータベースインスタンス上でこのコマンドを実行します。 SQL> alter database begin backup; データベースが変更されました。

ASM が、再バランス中かどうか確認します。 node1 の ASM インスタンス上でこのコマンドを実行します。

SQL> select * from v$asm_operation; レコードが選択されませんでした。

Page 50: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 49

アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティショ

ンをバックアップします。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1 ~]# /opt/FJSVswsts/bin/swstbackup -T /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 -Xdevmap /acmdata/map/map-data /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 swstbackup completed [root@node1 ~]# /opt/FJSVswsts/bin/swstbackup -T /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 -Xdevmap /acmdata/map/map-data /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 swstbackup completed [root@node1 ~]# /opt/FJSVswsts/bin/swstbackup -T /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 -Xdevmap /acmdata/map/map-data /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 swstbackup completed [root@node1 ~]# /opt/FJSVswsts/bin/swstbackup -T /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 -Xdevmap /acmdata/map/map-data /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 swstbackup completed データベースをバックアップモードから解除します。

node1 のデータベースインスタンス上でこのコマンドを実行します。 SQL> alter database end backup; データベースが変更されました。 すべてのアーカイブ・ログ・ファイルをバックアップします。現在の制御ファイルとデータベース

インスタンスの SPFILE 自動バックアップ機能によってバックアップされます。 node1 の RMAN 上でこのコマンドを実行します。

RMAN> backup archivelog all; backupが開始されました(開始時間: 2012/12/01 15:03:33) 現在のログがアーカイブされました。 チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=180 インスタンス=rac1 デバイス・タイプ=DISK チャネル ORA_DISK_1: アーカイブ・ログ・バックアップ・セットを開始しています チャネル ORA_DISK_1: バックアップ・セットにアーカイブ・ログを指定しています 入力アーカイブ・ログ・スレッド=2 順序=13 レコード ID=25 スタンプ=800751678 入力アーカイブ・ログ・スレッド=1 順序=30 レコード ID=24 スタンプ=800751676 チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:38)を起動します チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:41)が完了しました ピース・ハンドル=/backup/rman/0hnrpcqa_1_1 タグ=TAG20121201T150337 コメント=NONE チャネル ORA_DISK_1: バックアップ・セットが完了しました。経過時間: 00:00:03 チャネル ORA_DISK_1: アーカイブ・ログ・バックアップ・セットを開始しています チャネル ORA_DISK_1: バックアップ・セットにアーカイブ・ログを指定しています 入力アーカイブ・ログ・スレッド=1 順序=1 レコード ID=27 スタンプ=800892464 入力アーカイブ・ログ・スレッド=2 順序=1 レコード ID=26 スタンプ=800752291 入力アーカイブ・ログ・スレッド=2 順序=2 レコード ID=28 スタンプ=800892467 入力アーカイブ・ログ・スレッド=1 順序=2 レコード ID=29 スタンプ=800892712 入力アーカイブ・ログ・スレッド=2 順序=3 レコード ID=31 スタンプ=800892994

Page 51: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 50

入力アーカイブ・ログ・スレッド=1 順序=3 レコード ID=30 スタンプ=800892937 入力アーカイブ・ログ・スレッド=1 順序=4 レコード ID=32 スタンプ=800892996 チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:41)を起動します チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:56)が完了しました ピース・ハンドル=/backup/rman/0inrpcqd_1_1 タグ=TAG20121201T150337 コメント=NONE チャネル ORA_DISK_1: バックアップ・セットが完了しました。経過時間: 00:00:15 チャネル ORA_DISK_1: アーカイブ・ログ・バックアップ・セットを開始しています チャネル ORA_DISK_1: バックアップ・セットにアーカイブ・ログを指定しています 入力アーカイブ・ログ・スレッド=1 順序=1 レコード ID=34 スタンプ=800894088 入力アーカイブ・ログ・スレッド=2 順序=1 レコード ID=33 スタンプ=800893909 入力アーカイブ・ログ・スレッド=2 順序=2 レコード ID=37 スタンプ=800895579 入力アーカイブ・ログ・スレッド=1 順序=2 レコード ID=35 スタンプ=800894090 入力アーカイブ・ログ・スレッド=1 順序=3 レコード ID=36 スタンプ=800895579 入力アーカイブ・ログ・スレッド=1 順序=4 レコード ID=38 スタンプ=800895813 入力アーカイブ・ログ・スレッド=2 順序=3 レコード ID=39 スタンプ=800895814 チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:56)を起動します チャネル ORA_DISK_1: ピース 1(2012/12/01 15:03:59)が完了しました ピース・ハンドル=/backup/rman/0jnrpcqs_1_1 タグ=TAG20121201T150337 コメント=NONE チャネル ORA_DISK_1: バックアップ・セットが完了しました。経過時間: 00:00:03 backupが完了しました(完了時間: 2012/12/01 15:03:59) Control File and SPFILE Autobackupが開始されました(開始時間: 2012/12/01 15:03:59)ピース・ハンドル=/backup/rman/c-2388723407-20121201-02 コメント=NONE Control File and SPFILE Autobackupが完了しました(完了時間: 2012/12/01 15:04:01) 全ディスクグループのメタデータのバックアップをASMCMDユーティリティにより取得します。 ※バックアップ前に全ディスクグループの compatible.asm 属性と compatible.rdbms 属性

が 11.2.0.0.0 に設定されていることを確認してください。ASMCMD ユーティリティによるメ

タデータのバックアップにおいて上記設定がされていない場合、11.2.0.1.0 の不具合のた

め、メタデータのリストアを正常に行うことができません。 node1 の ASM インスタンス上、ASMCMD ユーティリティ上でこのコマンドを実行します。

SQL> SELECT dg.name AS diskgroup, SUBSTR(a.name,1,24) AS name,

2 SUBSTR(a.value,1,24) AS value FROM V$ASM_DISKGROUP dg, V$ASM_ATTRIBUTE a3 WHERE dg.group_number = a.group_number 4 and a.name in ('compatible.rdbms','compatible.asm');

DISKGROUP NAME VALUE ------------- -------------------- ------------------- DG_CRS compatible.asm 11.2.0.0.0 DG_CRS compatible.rdbms 11.2.0.0.0 DG_REDO compatible.asm 11.2.0.0.0 DG_REDO compatible.rdbms 11.2.0.0.0 DG_DATA compatible.asm 11.2.0.0.0 DG_DATA compatible.rdbms 11.2.0.0.0 DG_REDO_M compatible.asm 11.2.0.0.0 DG_REDO_M compatible.rdbms 11.2.0.0.0 DG_ARCH compatible.asm 11.2.0.0.0 DG_ARCH compatible.rdbms 11.2.0.0.0 ASMCMD [+] > md_backup /backup/meta/md_bk Disk group metadata to be backed up: DG_ACM Disk group metadata to be backed up: DG_REDO Disk group metadata to be backed up: DG_CRS Disk group metadata to be backed up: DG_REDO_M Disk group metadata to be backed up: DG_ARCH Disk group metadata to be backed up: DG_DATA Current alias directory path: RAC Current alias directory path: RAC/PARAMETERFILE

Page 52: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 51

Current alias directory path: RAC/CONTROLFILE Current alias directory path: RAC/ONLINELOG Current alias directory path: crs/ASMPARAMETERFILE Current alias directory path: crs Current alias directory path: crs/OCRFILE Current alias directory path: RAC Current alias directory path: RAC/CONTROLFILE Current alias directory path: RAC/ONLINELOG Current alias directory path: RAC/ARCHIVELOG/2012_11_30 Current alias directory path: RAC/ARCHIVELOG Current alias directory path: RAC/arch Current alias directory path: RAC/snapcf Current alias directory path: RAC Current alias directory path: RAC/CONTROLFILE Current alias directory path: RAC/ARCHIVELOG/2012_12_01 Current alias directory path: RAC Current alias directory path: RAC/DATAFILE Current alias directory path: RAC/TEMPFILE データベースインスタンスと ASM インスタンスのサーバー・パラメータ・ファイルをテキストベ

ースのファイルでバックアップします。 node1 のデータベースインスタンス上、ASM インスタンス上でそれぞれこのコマンドを実行

します。 <データベースインスタンス側> SQL> create pfile='/backup/pfile_db/initrac.ora' from spfile; ファイルが作成されました。 <ASMインスタンス側> SQL> create pfile='/backup/pfile_asm/initasm.ora' from spfile; File created.

OCR、投票ディスクのバックアップ

ocrconfig コマンドにより OCR のバックアップを取得します。 node1 の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig -manualbackup node1 2012/11/30 22:06:14 /u01/app/11.2.0/grid/cdata/crs/backup_20121130_220614.ocr

Page 53: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 52

Oracle Local Registry(OLR)のバックアップ

ocrconfig コマンドにより OLR のバックアップを取得します。 すべてのノード(node1、node2)の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig –local –manualbackup node1 2012/11/30 22:06:24 /u01/app/11.2.0/grid/cdata/node1/backup_20121130_220624.olr node1 2012/11/19 09:35:05 /u01/app/11.2.0/grid/cdata/node1/backup_20121119_093505.olr

7-2-4. リカバリ手順使用例

データファイルのディスクグループが壊れた場合

ABORT オプションでデータベースのインスタンスを終了します。

node1 の OS コマンドライン上でこのコマンドを実行します。 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1

Page 54: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 53

ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac -o abort [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1

Page 55: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 54

OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db

1 OFFLINE OFFLINE Instance Shutdown 2 OFFLINE OFFLINE Instance Shutdown ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 データファイルのディスクグループをディスマウントします。

node2 の ASM インスタンス上でこのコマンドを実行します。 SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000a0000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200010000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200020000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200080000-part1

Page 56: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 55

DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1

DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1

DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1

SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> alter diskgroup DG_DATA dismount; Diskgroup altered. SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000a0000-part1 CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200010000-part1 CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200020000-part1 CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200080000-part1 CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200070000-part1 データファイルのディスクグループを削除します。

node1 の ASM インスタンス上でこのコマンドを実行します。 SQL> select group_number, name, state, type from v$asm_diskgroup;

GROUP_NUMBER NAME STATE TYPE

Page 57: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 56

------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> drop diskgroup DG_DATA including contents; Diskgroup dropped. SQL> select group_number, name, state, type from v$asm_diskgroup;

GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000a0000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200010000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200020000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200080000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000

1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200070000-part1 アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティショ

ンをリストアします。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 swstrestore completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 swstrestore completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 swstrestore

Page 58: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 57

completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 swstrestore completed データファイルのディスクグループをマウントします。

node1 の ASM インスタンス上でこのコマンドを実行します。 SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a2000a0000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

1001a200010000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 0 DG_DATA DISMOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> alter diskgroup DG_DATA mount; Diskgroup altered. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

Page 59: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 58

1001a2000a0000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN

MOUNT オプションでデータベースのインスタンスを起動します。 node1 のリカバリマネージャー上でこのコマンドを実行します。

RMAN> startup mount Oracleインスタンスが起動しました データベースがマウントされました。 システム・グローバル領域の合計は、 5027385344バイトです。 Fixed Size 2237008バイト Variable Size 1006636464バイト Database Buffers 4009754624バイト Redo Buffers 8757248バイト 完全回復を実行します。

node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN> recover database; recoverが開始されました(開始時間: 12-11-30) チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=146 インスタンス=rac1 デバイス・タイプ=DISK メディア・リカバリを開始しています スレッド 1 (順序 27)のアーカイブ・ログは、ファイル+DG_ARCH/rac/arch/1_27_800741391.dbfと

してディスクに存在します スレッド 2 (順序 8)のアーカイブ・ログは、ファイル+DG_ARCH/rac/arch/2_8_800741391.dbfとし

てディスクに存在します スレッド 2 (順序 9)のアーカイブ・ログは、ファイル+DG_ARCH/rac/arch/2_9_800741391.dbfとし

てディスクに存在します アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_8_800741391.dbf スレッド=2 順序=8 メディア・リカバリが完了しました。経過時間: 00:00:35 recoverが完了しました(完了時間: 12-11-30)

Page 60: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 59

データベースをオープンします。 node1 のリカバリマネージャー上でこのコマンドを実行します。

RMAN> alter database open; データベースがオープンしました。

リカバリ・カタログの完全再同期を開始しています

完全再同期が完了しました。

すべての ASM インスタンスでデータファイルのディスクグループをマウントします。 node2 の ASM インスタンス上でこのコマンドを実行します。

SQL> alter diskgroup DG_DATA mount; Diskgroup altered. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN すべてのデータベースインスタンスを起動します。

node1 の OS コマンドライン上でこのコマンドを実行します。 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg

Page 61: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 60

ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 OFFLINE OFFLINE Instance Shutdown ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl start instance -d rac -n node2

Page 62: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 61

[grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip

Page 63: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 62

1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1

DG_CRS 以外のディスクグループが壊れたとき

ABORT オプションでデータベースのインスタンスをシャットダウンします。

node1 の OS コマンドライン上でこのコマンドを実行します。 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr

Page 64: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 63

1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database -d rac -o abort [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent

Page 65: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 64

1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 OFFLINE OFFLINE Instance Shutdown 2 OFFLINE OFFLINE Instance Shutdown ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1

DG_CRS 以外のすべてのディスクグループをディスマウントします。 node2 の ASM インスタンス上でこのコマンドを実行します。

SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 DG_DATA CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN

Page 66: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 65

4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN SQL> alter diskgroup DG_DATA, DG_REDO, DG_REDO_M, DG_ARCH dismount; Diskgroup altered. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- ---------------------------------------- CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL

DG_CRS 以外のすべてのディスクグループを削除します。 node1 の ASM インスタンス上でこのコマンドを実行します。

SQL> drop diskgroup DG_DATA including contents; Diskgroup dropped. SQL> drop diskgroup DG_REDO including contents; Diskgroup dropped. SQL> drop diskgroup DG_REDO_M including contents; Diskgroup dropped. SQL> drop diskgroup DG_ARCH including contents; Diskgroup dropped. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH

Page 67: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 66

------------ --------- ------------- ---------------------------------------- CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL

ASMCMD ユ ー テ ィ リ テ ィ で 取 得 し た メ タ デ ー タ の バ ッ ク ア ッ プ か ら 、 DG_REDO と

DG_REDO_M と DG_ARCH のメタデータをリストアします。 node1 の ASMCMD ユーティリティ上でこのコマンドを実行します。

ASMCMD > md_restore /backup/meta/md_bk --full -G 'DG_REDO' Current Diskgroup metadata being restored: DG_REDO Diskgroup DG_REDO created! System template PARAMETERFILE modified! System template CHANGETRACKING modified! System template CONTROLFILE modified! System template DATAFILE modified! System template DATAGUARDCONFIG modified! System template FLASHFILE modified! System template XTRANSPORT modified! System template TEMPFILE modified! System template BACKUPSET modified! System template OCRFILE modified! System template ARCHIVELOG modified! System template DUMPSET modified! System template ONLINELOG modified! System template AUTOBACKUP modified! System template FLASHBACK modified! System template ASMPARAMETERFILE modified! Directory +DG_REDO/RAC re-created! Directory +DG_REDO/RAC/CONTROLFILE re-created! Directory +DG_REDO/RAC/ONLINELOG re-created! Directory +DG_REDO/RAC/PARAMETERFILE re-created!

ASMCMD > md_restore /backup/meta/md_bk --full -G 'DG_REDO_M' Current Diskgroup metadata being restored: DG_REDO_M Diskgroup DG_REDO_M created! System template ONLINELOG modified! System template XTRANSPORT modified! System template CONTROLFILE modified! System template DATAFILE modified! System template BACKUPSET modified!

Page 68: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 67

System template DUMPSET modified! System template CHANGETRACKING modified! System template OCRFILE modified! System template DATAGUARDCONFIG modified! System template TEMPFILE modified! System template ASMPARAMETERFILE modified! System template FLASHFILE modified! System template PARAMETERFILE modified! System template FLASHBACK modified! System template AUTOBACKUP modified! System template ARCHIVELOG modified! Directory +DG_REDO_M/RAC re-created! Directory +DG_REDO_M/RAC/CONTROLFILE re-created! Directory +DG_REDO_M/RAC/ONLINELOG re-created! ASMCMD > md_restore /backup/meta/md_bk --full -G 'DG_ARCH' Current Diskgroup metadata being restored: DG_ARCH Diskgroup DG_ARCH created! System template XTRANSPORT modified! System template ONLINELOG modified! System template DATAGUARDCONFIG modified! System template AUTOBACKUP modified! System template TEMPFILE modified! System template OCRFILE modified! System template ARCHIVELOG modified! System template DUMPSET modified! System template CONTROLFILE modified! System template BACKUPSET modified! System template ASMPARAMETERFILE modified! System template FLASHBACK modified! System template PARAMETERFILE modified! System template FLASHFILE modified! System template DATAFILE modified! System template CHANGETRACKING modified! Directory +DG_ARCH/RAC re-created! Directory +DG_ARCH/RAC/arch re-created! Directory +DG_ARCH/RAC/CONTROLFILE re-created! Directory +DG_ARCH/RAC/snapcf re-created! Directory +DG_ARCH/RAC/ARCHIVELOG re-created! Directory +DG_ARCH/RAC/ARCHIVELOG/2012_12_01 re-created! Directory +DG_ARCH/RAC/ARCHIVELOG/2012_11_30 re-created! SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 CLOSED CANDIDATE /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

Page 69: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 68

1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_REDO MOUNTED EXTERN 3 DG_REDO_M MOUNTED EXTERN 4 DG_ARCH MOUNTED EXTERN アドバンスト・コピー機能でデータファイルのディスクグループに属するすべてのパーティショ

ンをリストアします。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200010000-part1 swstrestore completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200020000-part1 swstrestore completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200080000-part1 swstrestore completed [root@node1 ~]# /opt/FJSVswsts/bin/swstrestore /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 /dev/disk/by-id/scsi-3600000e00d100000001001a200090000-part1 swstrestore completed データファイルのディスクグループをマウントします。

node1 の ASM インスタンス上でこのコマンドを実行します。 SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 CLOSED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1

Page 70: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 69

DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_REDO MOUNTED EXTERN 3 DG_REDO_M MOUNTED EXTERN 4 DG_ARCH MOUNTED EXTERN 0 DG_DATA DISMOUNTED SQL> alter diskgroup DG_DATA mount; Diskgroup altered. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200010000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_REDO MOUNTED EXTERN 3 DG_REDO_M MOUNTED EXTERN 4 DG_ARCH MOUNTED EXTERN 5 DG_DATA MOUNTED EXTERN バックアップの初期化バラメータを指定し、NOMOUNT モードで、データベースのインスタンス

を起動します。 node1 のリカバリマネージャー上でこのコマンドを実行します。

RMAN> startup nomount pfile='/backup/pfile_db/initrac.ora'; Oracleインスタンスが起動しました システム・グローバル領域の合計は、 5027385344バイトです。

Page 71: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 70

Fixed Size 2237008バイト Variable Size 1040190896バイト Database Buffers 3976200192バイト Redo Buffers 8757248バイト 自動バックアップ制御ファイルをリストアします。

node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN> restore controlfile from autobackup; restoreが開始されました(開始時間: 2012/12/01 16:12:31) チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=146 インスタンス=rac1 デバイス・タイプ=DISK チャネル ORA_DISK_1: 曜日の自動バックアップを探しています: 20121201 チャネル ORA_DISK_1: 自動バックアップが見つかりました: /backup/rman/c-2388723407-20121201-05 チャネル ORA_DISK_1: 自動バックアップ/backup/rman/c-2388723407-20121201-05から制御ファ

イルをリストアしています チャネル ORA_DISK_1: 自動バックアップからの制御ファイルのリストアが完了しました 出力ファイル名=+DG_REDO/rac/control01.ctl 出力ファイル名=+DG_REDO_M/rac/control02.ctl restoreが完了しました(完了時間: 2012/12/01 16:12:33) データベースをマウントします。

node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN> alter database mount; データベースがマウントされました。

チャネル: ORA_DISK_1がリリースされました

バックアップしたサーバー・パラメータ・ファイルをリストアします。 node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN > restore spfile; restoreが開始されました(開始時間: 2012/12/01 16:12:47) チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=123 インスタンス=rac1 デバイス・タイプ=DISK チャネル ORA_DISK_1: データファイル・バックアップ・セットのリストアを開始しています チャネル ORA_DISK_1: SPFILEをリストアしています 出力ファイル名=+DG_REDO/rac/spfilerac.ora チャネル ORA_DISK_1: バックアップ・ピース/backup/rman/c-2388723407-20121201-05から読取

り中です チャネル ORA_DISK_1: ピース・ハンドル=/backup/rman/c-2388723407-20121201-05 タグ=TAG20121201T160402 チャネル ORA_DISK_1: バックアップ・ピース 1がリストアされました チャネル ORA_DISK_1: リストアが完了しました。経過時間: 00:00:01 restoreが完了しました(完了時間: 2012/12/01 16:12:49) 不完全回復を実行します。

node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN> recover database until sequence 17 thread 1; recoverが開始されました(開始時間: 2012/12/01 16:19:56) チャネル ORA_DISK_1の使用

Page 72: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 71

メディア・リカバリを開始しています チャネル ORA_DISK_1: デフォルトの宛先へのアーカイブ・ログのリストアを開始しています チャネル ORA_DISK_1: アーカイブ・ログをリストアしています アーカイブ・ログ・スレッド=1 順序=15 チャネル ORA_DISK_1: アーカイブ・ログをリストアしています アーカイブ・ログ・スレッド=2 順序=12 チャネル ORA_DISK_1: アーカイブ・ログをリストアしています アーカイブ・ログ・スレッド=2 順序=13 チャネル ORA_DISK_1: アーカイブ・ログをリストアしています アーカイブ・ログ・スレッド=2 順序=14 チャネル ORA_DISK_1: アーカイブ・ログをリストアしています アーカイブ・ログ・スレッド=1 順序=16 チャネル ORA_DISK_1: バックアップ・ピース/backup/rman/0vnrpga4_1_1から読取り中です チャネル ORA_DISK_1: ピース・ハンドル=/backup/rman/0vnrpga4_1_1 タグ=TAG20121201T160256 チャネル ORA_DISK_1: バックアップ・ピース 1がリストアされました チャネル ORA_DISK_1: リストアが完了しました。経過時間: 00:00:07 アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/1_15_800893891.dbf スレッド=1 順序=15 アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_12_800893891.dbf スレッド=2 順序=12 アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_13_800893891.dbf スレッド=2 順序=13 アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_14_800893891.dbf スレッド=2 順序=14 アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/1_16_800893891.dbf スレッド=1 順序=16 メディア・リカバリが完了しました。経過時間: 00:00:34 recoverが完了しました(完了時間: 2012/12/01 16:20:39)

RESETLOGS オプションでデータベースをオープンします。 node1 のリカバリマネージャー上でこのコマンドを実行します。

RMAN> alter database open resetlogs; データベースがオープンしました。 データベースの新しいインカネーションがリカバリ・カタログに登録されました リカバリ・カタログの完全再同期を開始しています 完全再同期が完了しました すべての ASM インスタンスで DG_CRS 以外のすべてのディスクグループを マウントします。

node2 の ASM インスタンス上でこのコマンドを実行します。 SQL> alter diskgroup DG_DATA, DG_REDO, DG_REDO_M, DG_ARCH mount; Diskgroup altered. SQL> select ag.name "GROUP_NAME", ad.mount_status, ad.header_status, ad.path

2 from v$asm_disk ad, v$asm_diskgroup ag 3 where ad.group_number != 0 and ad.group_number = ag.group_number;

GROUP_NAME MOUNT_S HEADER_STATU PATH ------------ --------- ------------- --------------------------- DG_ARCH CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000b0000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200030000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200040000-part1 DG_CRS CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a2000a0000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000

Page 73: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 72

1001a200010000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200020000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200080000-part1 DG_DATA CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200090000-part1 DG_REDO CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200000000-part1 DG_REDO_M CACHED MEMBER /dev/disk/by-id/scsi-3600000e00d10000000 1001a200070000-part1 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 1 DG_CRS MOUNTED NORMAL 2 DG_ARCH MOUNTED EXTERN 3 DG_DATA MOUNTED EXTERN 4 DG_REDO MOUNTED EXTERN 5 DG_REDO_M MOUNTED EXTERN データベースのインスタンスをサーバー・パラメータ・ファイルから起動し直すために、データベ

ースのインスタンスを終了します。 node1 の OS コマンドライン上でこのコマンドを実行します。

[grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res –t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1

Page 74: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 73

ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 OFFLINE OFFLINE Instance Shutdown ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop instance -d rac -nnode1 –o immediate [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res –t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2

Page 75: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 74

ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 OFFLINE OFFLINE Instance Shutdown 2 OFFLINE OFFLINE Instance Shutdown ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 すべてのデータベースインスタンスを起動します。

node1 の OS コマンドライン上でこのコマンドを実行します。 [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl start database -d rac [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status res –t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg

Page 76: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 75

ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 アーカイブ・ログ・ファイルの無効なエントリを削除します。

node1 のリカバリマネージャー上でこのコマンドを実行します。 RMAN> crosscheck archivelog all; リカバリ・カタログの完全再同期を開始しています 完全再同期が完了しました チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=135 インスタンス=rac1 デバイス・タイプ=DISK アーカイブ・ログの検証に失敗しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/1_30_800741391.dbf レコード ID=24 スタンプ=800751676

Page 77: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 76

アーカイブ・ログの検証に失敗しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_13_800741391.dbf レコード ID=25 スタンプ=800751678 アーカイブ・ログの検証に失敗しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/1_1_800752274.dbf レコード ID=27 スタンプ=800892464

アーカイブ・ログの検証が正常終了しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_1_800900597.dbf レコード ID=68 スタンプ=800900613 40オブジェクトをクロスチェックしました RMAN> list archivelog all; データベース db_unique_name RACのアーカイブ・ログ・コピーのリスト ===================================================================== Key Thrd Seq S Low時間 ------- ---- ------- - ------------------- 445 1 30 X 2012/11/30 22:28:27 名前: +DG_ARCH/rac/arch/1_30_800741391.dbf 446 2 13 X 2012/11/30 22:28:27 名前: +DG_ARCH/rac/arch/2_13_800741391.dbf : 1315 2 14 A 2012/12/01 16:01:46 名前: +DG_ARCH/rac/arch/2_14_800893891.dbf 1441 2 1 A 2012/12/01 16:23:17 名前: +DG_ARCH/rac/arch/2_1_800900597.dbf RMAN> delete expired archivelog all; チャネル: ORA_DISK_1がリリースされました チャネル: ORA_DISK_1が割り当てられました チャネル ORA_DISK_1: SID=135 インスタンス=rac1 デバイス・タイプ=DISK データベース db_unique_name RACのアーカイブ・ログ・コピーのリスト ===================================================================== Key Thrd Seq S Low時間 ------- ---- ------- - ------------------- 445 1 30 X 2012/11/30 22:28:27 名前: +DG_ARCH/rac/arch/1_30_800741391.dbf 446 2 13 X 2012/11/30 22:28:27

名前: +DG_ARCH/rac/arch/2_13_800741391.dbf :

1120 2 10 X 2012/12/01 15:33:47 名前: +DG_ARCH/rac/arch/2_10_800893891.dbf 1156 2 11 X 2012/12/01 15:42:19 名前: +DG_ARCH/rac/arch/2_11_800893891.dbf このオブジェクトを削除しますか(YESまたは NOを入力してください)。yes

Page 78: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 77

アーカイブ・ログを削除しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/1_30_800741391.dbf レコード ID=24 スタンプ=800751676 アーカイブ・ログを削除しました

: アーカイブ・ログを削除しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_10_800893891.dbf レコード ID=53 スタンプ=800898139 アーカイブ・ログを削除しました アーカイブ・ログ・ファイル名=+DG_ARCH/rac/arch/2_11_800893891.dbf レコード ID=57 スタンプ=800898817 34EXPIREDオブジェクトを削除しました RMAN> list archivelog all; データベース db_unique_name RACのアーカイブ・ログ・コピーのリスト ===================================================================== Key Thrd Seq S Low時間 ------- ---- ------- - ------------------- 1316 1 15 A 2012/12/01 15:53:34 名前: +DG_ARCH/rac/arch/1_15_800893891.dbf 1317 1 16 A 2012/12/01 16:01:48 名前: +DG_ARCH/rac/arch/1_16_800893891.dbf 1319 2 12 A 2012/12/01 15:53:37 名前: +DG_ARCH/rac/arch/2_12_800893891.dbf 1318 2 13 A 2012/12/01 15:57:55 名前: +DG_ARCH/rac/arch/2_13_800893891.dbf 1315 2 14 A 2012/12/01 16:01:46 名前: +DG_ARCH/rac/arch/2_14_800893891.dbf 1441 2 1 A 2012/12/01 16:23:17 名前: +DG_ARCH/rac/arch/2_1_800900597.dbf

DG_CRS のディスクグループが壊れた場合

node1 の CRS を停止します。

node1 の OS コマンドライン上でこのコマンドを実行します。 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status resource -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1

Page 79: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 78

ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmagent CRS-2673: 'acmagent'('node1')の停止を試行しています CRS-2677: 'acmagent'('node1')の停止が成功しました [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmvip CRS-2673: 'acmvip'('node1')の停止を試行しています CRS-2677: 'acmvip'('node1')の停止が成功しました

Page 80: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 79

[oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop listener [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop scan_listener [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop scan [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop nodeapps [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop crs -f CRS-2791: 'node1'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンを開始して

います CRS-2673: 'ora.crsd'('node1')の停止を試行しています CRS-2790: 'node1'上にある、Cluster Ready Services管理下のリソースのシャットダウンを開始

しています CRS-2673: 'ora.DG_CRS.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_ARCH.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_DATA.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_REDO.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_REDO_M.dg'('node1')の停止を試行しています CRS-2677: 'ora.DG_CRS.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_ARCH.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_DATA.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_REDO.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_REDO_M.dg'('node1')の停止が成功しました CRS-2673: 'ora.asm'('node1')の停止を試行しています CRS-2677: 'ora.asm'('node1')の停止が成功しました CRS-2792: 'node1'上にある、Cluster Ready Services管理下のリソースのシャットダウンが完了

しました CRS-2677: 'ora.crsd'('node1')の停止が成功しました CRS-2673: 'ora.gpnpd'('node1')の停止を試行しています CRS-2673: 'ora.cssdmonitor'('node1')の停止を試行しています CRS-2673: 'ora.ctssd'('node1')の停止を試行しています CRS-2673: 'ora.evmd'('node1')の停止を試行しています CRS-2673: 'ora.asm'('node1')の停止を試行しています CRS-2673: 'ora.mdnsd'('node1')の停止を試行しています CRS-2677: 'ora.cssdmonitor'('node1')の停止が成功しました CRS-2677: 'ora.gpnpd'('node1')の停止が成功しました CRS-2677: 'ora.mdnsd'('node1')の停止が成功しました CRS-2677: 'ora.evmd'('node1')の停止が成功しました CRS-2677: 'ora.ctssd'('node1')の停止が成功しました

node2 の CRS を停止します。 node2 の OS コマンドライン上でこのコマンドを実行します。

[root@node2]# /u01/app/11.2.0/grid/bin/crsctl stop crs -f CRS-2791: 'node2'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンを開始して

います CRS-2673: 'ora.cssdmonitor'('node2')の停止を試行しています CRS-2673: 'ora.ctssd'('node2')の停止を試行しています CRS-2673: 'ora.evmd'('node2')の停止を試行しています CRS-2673: 'ora.asm'('node2')の停止を試行しています CRS-2673: 'ora.mdnsd'('node2')の停止を試行しています CRS-2677: 'ora.cssdmonitor'('node2')の停止が成功しました CRS-2677: 'ora.mdnsd'('node2')の停止が成功しました CRS-2677: 'ora.evmd'('node2')の停止が成功しました CRS-2677: 'ora.ctssd'('node2')の停止が成功しました

Page 81: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 80

排他モードで CRS を起動します。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs –excl CRS-4123: Oracle High Availability Services has been started. CRS-2672: 'ora.gipcd'('node1')の起動を試行しています CRS-2672: 'ora.mdnsd'('node1')の起動を試行しています CRS-2676: 'ora.gipcd'('node1')の起動が成功しました CRS-2676: 'ora.mdnsd'('node1')の起動が成功しました CRS-2672: 'ora.gpnpd'('node1')の起動を試行しています CRS-2676: 'ora.gpnpd'('node1')の起動が成功しました CRS-2672: 'ora.cssdmonitor'('node1')の起動を試行しています CRS-2676: 'ora.cssdmonitor'('node1')の起動が成功しました CRS-2672: 'ora.cssd'('node1')の起動を試行しています CRS-2679: 'ora.diskmon'('node1')のクリーニングを試行しています CRS-2681: 'ora.diskmon'('node1')のクリーニングが成功しました CRS-2672: 'ora.diskmon'('node1')の起動を試行しています CRS-2676: 'ora.diskmon'('node1')の起動が成功しました CRS-2676: 'ora.cssd'('node1')の起動が成功しました CRS-2672: 'ora.ctssd'('node1')の起動を試行しています CRS-2676: 'ora.ctssd'('node1')の起動が成功しました CRS-2672: 'ora.asm'('node1')の起動を試行しています CRS-2676: 'ora.asm'('node1')の起動が成功しました CRS-2672: 'ora.crsd'('node1')の起動を試行しています CRS-2676: 'ora.crsd'('node1')の起動が成功しました

crsd を停止します。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop resource ora.crsd –init

dd コマンドを使用して DG_CRS のディスクヘッダーをクリアします。 node1 の OS コマンドライン上でこのコマンドを実行します。

[grid@node1]$ dd if=/dev/zero of=/dev/sde1 bs=1024k count=10 10+0 records in 10+0 records out [grid@node1]$ dd if=/dev/zero of=/dev/sdf1 bs=1024k count=10 10+0 records in 10+0 records out [grid@node1]$ dd if=/dev/zero of=/dev/sdj1 bs=1024k count=10 10+0 records in 10+0 records out

DG_CRS のメタデータをリストアします。 node1 の ASM インスタンス上および、ASMCMD ユーティリティ上でこのコマンドを実行し

ます。 SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 0 DG_ARCH DISMOUNTED 0 DG_DATA DISMOUNTED 0 DG_REDO DISMOUNTED 0 DG_REDO_M DISMOUNTED ASMCMD> md_restore /backup/meta/md_bk --full -G 'DG_CRS' Current Diskgroup metadata being restored: DG_CRS Diskgroup DG_CRS created!

Page 82: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 81

System template TEMPFILE modified! System template CHANGETRACKING modified! System template DUMPSET modified! System template ASM_STALE modified! System template ASMPARAMETERFILE modified! System template ASMPARAMETERBAKFILE modified! System template PARAMETERFILE modified! System template CONTROLFILE modified! System template ONLINELOG modified! System template FLASHBACK modified! System template OCRBACKUP modified! System template AUTOBACKUP modified! System template DATAFILE modified! System template ARCHIVELOG modified! System template FLASHFILE modified! System template XTRANSPORT modified! System template OCRFILE modified! System template BACKUPSET modified! System template DATAGUARDCONFIG modified! Directory +DG_CRS/crs re-created! Directory +DG_CRS/crs/ASMPARAMETERFILE re-created! Directory +DG_CRS/crs/OCRFILE re-created! SQL> select group_number, name, state, type from v$asm_diskgroup; GROUP_NUMBER NAME STATE TYPE ------------ ------------- ----------- --------- 0 DG_ARCH DISMOUNTED 0 DG_DATA DISMOUNTED 0 DG_REDO DISMOUNTED 0 DG_REDO_M DISMOUNTED 1 DG_CRS MOUNTED NORMAL

ASM インスタンスをシャットダウンします。 node1 の ASM インスタンス上でこのコマンドを実行します。

SQL> shutdown immediate ASM diskgroups dismounted ASM instance shutdown バックアップの初期化バラメータを指定し、ASM インスタンスを起動します。

node1 の ASM インスタンス上でこのコマンドを実行します。 SQL> startup pfile='/backup/pfile_asm/initasm.ora' ASM instance started Total System Global Area 284008448 bytes Fixed Size 2147392 bytes Variable Size 256695232 bytes ASM Cache 25165824 bytes ASM diskgroups mounted

ASM インスタンスのサーバー・パラメータ・ファイルを再作成します。 node1 の ASM インスタンス上でこのコマンドを実行します。

SQL> create spfile='+DG_CRS' from pfile' ='/backup/pfile_asm/initasm.ora'; File created.

OCR をリストアします。 node1 の OS コマンドライン上でこのコマンドを実行します。

[root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig -restore /backup/ocr/backup_20121130_151838.ocr

Page 83: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 82

OCR の整合性を検証します。

node1 の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/ocrcheck Status of Oracle Cluster Registry is as follows : Version : 3 Total space (kbytes) : 262120 Used space (kbytes) : 2856 Available space (kbytes) : 259264 ID : 1114258316 Device/File Name : +DG_CRS Device/File integrity check succeeded Device/File not configured Device/File not configured Device/File not configured Device/File not configured Cluster registry integrity check succeeded Logical corruption check succeeded 投票ディスクのリストアを実行します。 node1 の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl replace votedisk +DG_CRS Successful addition of voting disk 9c6593fbe6dc4f27bf1ace7317f3c2d6. Successful addition of voting disk a544bbc4b6ef4ff4bf826fa196f2f505. Successful addition of voting disk 6f52872289464f9cbf96355735a89b2d. Successfully replaced voting disk group with +DG_CRS. CRS-4266: Voting file(s) successfully replaced 排他モードで起動されている CRS を停止します。 node1 の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin /crsctl stop crs -f CRS-2791: 'node1'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンを開始して

います CRS-2673: 'ora.crsd'('node1')の停止を試行しています CRS-2677: 'ora.crsd'('node1')の停止が成功しました CRS-2673: 'ora.gpnpd'('node1')の停止を試行しています CRS-2673: 'ora.cssdmonitor'('node1')の停止を試行しています CRS-2673: 'ora.ctssd'('node1')の停止を試行しています CRS-2673: 'ora.asm'('node1')の停止を試行しています CRS-2673: 'ora.mdnsd'('node1')の停止を試行しています CRS-2677: 'ora.cssdmonitor'('node1')の停止が成功しました CRS-2677: 'ora.gpnpd'('node1')の停止が成功しました CRS-2677: 'ora.mdnsd'('node1')の停止が成功しました CRS-2677: 'ora.ctssd'('node1')の停止が成功しました CRS-2677: 'ora.asm'('node1')の停止が成功しました CRS-2673: 'ora.cssd'('node1')の停止を試行しています CRS-2677: 'ora.cssd'('node1')の停止が成功しました CRS-2673: 'ora.diskmon'('node1')の停止を試行しています CRS-2673: 'ora.gipcd'('node1')の停止を試行しています CRS-2677: 'ora.gipcd'('node1')の停止が成功しました CRS-2677: 'ora.diskmon'('node1')の停止が成功しました

Page 84: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 83

CRS-2793: 'node1'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンが完了しま

した CRS-4133: Oracle High Availability Services has been stopped.

CRS を起動します。 すべてのノード(node1、node2)の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs CRS-4123: Oracle High Availability Services has been started. [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status resource -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE

Page 85: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 84

ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1

OLR が壊れた場合

※OLR のリカバリは OLR が破損したノードのみリカバリ作業を行えば良いですが、以下の手順では全てのノードの OLRが破損した場合の手順を説明いたします。

node1 の CRS を停止します。 node1 の OS コマンドライン上でこのコマンドを実行します。

[grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status resource -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2

Page 86: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 85

--------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip 1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1 [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmagent CRS-2673: 'acmagent'('node1')の停止を試行しています CRS-2677: 'acmagent'('node1')の停止が成功しました [grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl stop resource acmvip CRS-2673: 'acmvip'('node1')の停止を試行しています CRS-2677: 'acmvip'('node1')の停止が成功しました [oracle@node1]$ /u01/app/oracle/11.2.0/dbhome_1/bin/srvctl stop database –d rac [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop listener [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop scan_listener [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop scan [grid@node1]$ /u01/app/11.2.0/grid/bin/srvctl stop nodeapps [root@node1]# /u01/app/11.2.0/grid/bin/crsctl stop crs CRS-2791: 'node1'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンを開始して

います CRS-2673: 'ora.crsd'('node1')の停止を試行しています CRS-2790: 'node1'上にある、Cluster Ready Services管理下のリソースのシャットダウンを開始

しています CRS-2673: 'ora.DG_CRS.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_ARCH.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_DATA.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_REDO.dg'('node1')の停止を試行しています CRS-2673: 'ora.DG_REDO_M.dg'('node1')の停止を試行しています CRS-2677: 'ora.DG_CRS.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_ARCH.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_DATA.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_REDO.dg'('node1')の停止が成功しました CRS-2677: 'ora.DG_REDO_M.dg'('node1')の停止が成功しました

Page 87: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 86

CRS-2673: 'ora.asm'('node1')の停止を試行しています CRS-2677: 'ora.asm'('node1')の停止が成功しました CRS-2792: 'node1'上にある、Cluster Ready Services管理下のリソースのシャットダウンが完了

しました CRS-2677: 'ora.crsd'('node1')の停止が成功しました CRS-2673: 'ora.mdnsd'('node1')の停止を試行しています CRS-2673: 'ora.gpnpd'('node1')の停止を試行しています CRS-2673: 'ora.cssdmonitor'('node1')の停止を試行しています CRS-2673: 'ora.ctssd'('node1')の停止を試行しています CRS-2673: 'ora.evmd'('node1')の停止を試行しています CRS-2673: 'ora.asm'('node1')の停止を試行しています CRS-2677: 'ora.cssdmonitor'('node1')の停止が成功しました CRS-2677: 'ora.mdnsd'('node1')の停止が成功しました CRS-2677: 'ora.gpnpd'('node1')の停止が成功しました CRS-2677: 'ora.evmd'('node1')の停止が成功しました CRS-2677: 'ora.ctssd'('node1')の停止が成功しました CRS-2677: 'ora.asm'('node1')の停止が成功しました CRS-2673: 'ora.cssd'('node1')の停止を試行しています CRS-2677: 'ora.cssd'('node1')の停止が成功しました CRS-2673: 'ora.diskmon'('node1')の停止を試行しています CRS-2673: 'ora.gipcd'('node1')の停止を試行しています CRS-2677: 'ora.gipcd'('node1')の停止が成功しました CRS-2677: 'ora.diskmon'('node1')の停止が成功しました CRS-2793: 'node1'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンが完了しま

した CRS-4133: Oracle High Availability Services has been stopped.

node2 の CRS を停止します。 node2 の OS コマンドライン上でこのコマンドを実行します。

[root@node2]# /u01/app/11.2.0/grid/bin/crsctl stop crs CRS-2791: 'node2'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンを開始して

います CRS-2673: 'ora.crsd'('node2')の停止を試行しています CRS-2790: 'node2'上にある、Cluster Ready Services管理下のリソースのシャットダウンを開始

しています CRS-2673: 'ora.DG_CRS.dg'('node2')の停止を試行しています CRS-2673: 'ora.DG_ARCH.dg'('node2')の停止を試行しています CRS-2673: 'ora.DG_DATA.dg'('node2')の停止を試行しています CRS-2673: 'ora.DG_REDO.dg'('node2')の停止を試行しています CRS-2673: 'ora.DG_REDO_M.dg'('node2')の停止を試行しています CRS-2677: 'ora.DG_CRS.dg'('node2')の停止が成功しました CRS-2677: 'ora.DG_ARCH.dg'('node2')の停止が成功しました CRS-2677: 'ora.DG_DATA.dg'('node2')の停止が成功しました CRS-2677: 'ora.DG_REDO.dg'('node2')の停止が成功しました CRS-2677: 'ora.DG_REDO_M.dg'('node2')の停止が成功しました CRS-2673: 'ora.asm'('node2')の停止を試行しています CRS-2677: 'ora.asm'('node2')の停止が成功しました CRS-2792: 'node2'上にある、Cluster Ready Services管理下のリソースのシャットダウンが完了

しました CRS-2677: 'ora.crsd'('node2')の停止が成功しました CRS-2673: 'ora.mdnsd'('node2')の停止を試行しています CRS-2673: 'ora.gpnpd'('node2')の停止を試行しています CRS-2673: 'ora.cssdmonitor'('node2')の停止を試行しています CRS-2673: 'ora.ctssd'('node2')の停止を試行しています CRS-2673: 'ora.evmd'('node2')の停止を試行しています

Page 88: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 87

CRS-2673: 'ora.asm'('node2')の停止を試行しています CRS-2677: 'ora.cssdmonitor'('node2')の停止が成功しました CRS-2677: 'ora.mdnsd'('node2')の停止が成功しました CRS-2677: 'ora.gpnpd'('node2')の停止が成功しました CRS-2677: 'ora.evmd'('node2')の停止が成功しました CRS-2677: 'ora.ctssd'('node2')の停止が成功しました CRS-2677: 'ora.asm'('node2')の停止が成功しました CRS-2673: 'ora.cssd'('node2')の停止を試行しています CRS-2677: 'ora.cssd'('node2')の停止が成功しました CRS-2673: 'ora.diskmon'('node2')の停止を試行しています CRS-2673: 'ora.gipcd'('node2')の停止を試行しています CRS-2677: 'ora.gipcd'('node2')の停止が成功しました CRS-2677: 'ora.diskmon'('node2')の停止が成功しました CRS-2793: 'node2'上にある、Oracle高可用性サービス管理下のリソースのシャットダウンが完了しま

した CRS-4133: Oracle High Availability Services has been stopped.

ocrconfig を使用して OLR のリストアをします。 ※OLR がなくなった場合({GI インストール先}/cdata/ホスト名.olr)は空ファイルを作成してお

く必要があります。 すべてのノード(node1、node2)の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# ls –l /u01/app/11.2.0/grid/cdata total 12822 drwxr-xr-x 2 grid oinstall 512 Feb 23 19:24 localhost drwxrwxr-x 2 grid oinstall 512 Mar 3 15:18 crs drwxr-xr-x 2 grid oinstall 512 Mar 3 13:09 node1 [root@node1]# touch /u01/app/11.2.0/grid/cdata/node1.olr [root@node1]# chown root:oinstall /u01/app/11.2.0/grid/cdata/node1.olr [root@node1]# chmod 600 /u01/app/11.2.0/grid/cdata/node1.olr [root@node1]# ls –l /u01/app/11.2.0/grid/cdata total 12822 drwxr-xr-x 2 grid oinstall 512 Feb 23 19:24 localhost drwxrwxr-x 2 grid oinstall 512 Mar 3 15:18 crs drwxr-xr-x 2 grid oinstall 512 Mar 3 13:09 node1 -rw------- 1 root oinstall 0 Mar 3 17:41 node1.olr [root@node1]# /u01/app/11.2.0/grid/bin/ocrconfig -local -restore /backup/olr/node1/backup_20121130_130937.olr [root@node1]# /u01/app/11.2.0/grid/bin /ocrcheck -local Status of Oracle Local Registry is as follows : Version : 3 Total space (kbytes) : 262120 Used space (kbytes) : 2212 Available space (kbytes) : 259908 ID : 1828220526 Device/File Name : /u01/app/11.2.0/grid/cdata/node1.olr Device/File integrity check succeeded Local registry integrity check succeeded Logical corruption check succeeded

CRS を起動します。 すべてのノード(node1、node2)の OS コマンドライン上でこのコマンドを実行します。 [root@node1]# /u01/app/11.2.0/grid/bin/crsctl start crs CRS-4123: Oracle High Availability Services has been started.

Page 89: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 88

[grid@node1]$ /u01/app/11.2.0/grid/bin/crsctl status resource -t --------------------------------------------------------------------------------NAME TARGET STATE SERVER STATE_DETAILS --------------------------------------------------------------------------------Local Resources --------------------------------------------------------------------------------ora.DG_ARCH.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_CRS.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_DATA.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.DG_REDO_M.dg ONLINE ONLINE node1 ONLINE ONLINE node2 ora.LISTENER.lsnr ONLINE ONLINE node1 ONLINE ONLINE node2 ora.asm ONLINE ONLINE node1 Started ONLINE ONLINE node2 Started ora.gsd OFFLINE OFFLINE node1 OFFLINE OFFLINE node2 ora.net1.network ONLINE ONLINE node1 ONLINE ONLINE node2 ora.ons ONLINE ONLINE node1 ONLINE ONLINE node2 ora.registry.acfs ONLINE ONLINE node1 ONLINE OFFLINE node2 --------------------------------------------------------------------------------Cluster Resources --------------------------------------------------------------------------------acmagent 1 ONLINE ONLINE node1 acmvip 1 ONLINE ONLINE node1 ora.LISTENER_SCAN1.lsnr 1 ONLINE ONLINE node2 ora.LISTENER_SCAN2.lsnr 1 ONLINE ONLINE node1 ora.LISTENER_SCAN3.lsnr 1 ONLINE ONLINE node1 ora.cvu 1 OFFLINE OFFLINE ora.node1.vip 1 ONLINE ONLINE node1 ora.node2.vip 1 ONLINE ONLINE node2 ora.oc4j 1 ONLINE ONLINE node2 ora.rac.db 1 ONLINE ONLINE node1 Open 2 ONLINE ONLINE node2 Open ora.scan1.vip

Page 90: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 89

1 ONLINE ONLINE node2 ora.scan2.vip 1 ONLINE ONLINE node1 ora.scan3.vip 1 ONLINE ONLINE node1

7-3. 参考資料 Oracle web サイト

(1) Oracle Real Application Clusters

http://www.oracle.com/technology/products/database/clustering/index.html 富士通 ストレージ基盤ソフトウェア (1) ETERNUS SF AdvancedCopy Manager

http://storage-system.fujitsu.com/jp/eternus-sf/advance/ 富士通 ETERNUS ストレージシステム (1) 富士通 SAN 対応ディスクアレイ

http://storage-system.fujitsu.com/jp/products/diskarray/ (2) FUJITSU ETERNUS DX series エンタープライズディスクアレイ 製品カタログ

http://storage-system.fujitsu.com/jp/products/diskarray/dx-enterprise/download/pdf/dx-enterprise.pdf

(3) FUJITSU ETERNUS DX series ミッドレンジディスクアレイ 製品カタログ http://storage-system.fujitsu.com/jp/products/diskarray/dx-mid/download/pdf/dx-mid.pdf

(4) FUJITSU ETERNUS DX series エントリーディスクアレイ 製品カタログ

http://storage-system.fujitsu.com/jp/products/diskarray/dx-entry/download/pdf/dx-entry.pdf (5) ホワイトペーパー 「富士通 ETERNUS ディスクアレイの MAID 技術による省エネルギー」

http://storage-system.fujitsu.com/jp/products/diskarray/download/pdf/MAID_whitepaper.pdf (6) ホワイトペーパー 「コンプライアンスと生産性を支えるストレージ基盤のあり方」

http://storage-system.fujitsu.com/jp/solution/idc/whitepaper0111.pdf

Page 91: Oracle Database 11g R2 ASMと富士通ストレージに …...ムはEquivalent Copy (EC)、One Point Copy (OPC)、QuickOPC、SnapOPC+というコピー機能を提供します。EC

[ベスト・プラクティス] Oracle Database 11g R2 ASM と富士通ストレージ

Copyright 2013 FUJITSU LIMITED 90

ホワイトペーパーについて

本書は、Oracle データベース 11g R2 ASM と富士通 ETERNUS DX ストレージシステムに関する概要と技術情報を提供するものであ

り、本書に記載されている内容は改善のため、予告なく変更することがあります。

記載内容に誤りがあれば、富士通株式会社までお知らせください。

富士通株式会社は、本書の内容に関して、いかなる保証もいたしません。また、本書の内容に関連した、いかなる損害についてもその

責任は負いません。

富士通株式会社

http://storage-system.fujitsu.com/jp/