gs홈쇼핑 u2l 마이그레이션 사례분석

30
1 고효율/저비용 인프라 아키텍쳐 (Linux/x86 전환 & 오픈소스 적용 사례) GS홈쇼핑 서호석

Upload: talk-it-

Post on 14-Aug-2015

451 views

Category:

Technology


30 download

TRANSCRIPT

Page 1: GS홈쇼핑 U2L 마이그레이션 사례분석

1

고효율/저비용 인프라 아키텍쳐(Linux/x86 전환 & 오픈소스 적용 사례)

GS홈쇼핑 서호석

Page 2: GS홈쇼핑 U2L 마이그레이션 사례분석

TV, 인터넷, 모바일, 카탈로그 등 다양한 채널에서 사업을 수행하고 있는 온라인 쇼핑 기업

- 년 취급액 2.54조원

- 월 평균 취급액 2119억원

- 일 평균 페이지뷰 2000만

Page 3: GS홈쇼핑 U2L 마이그레이션 사례분석

효율적인 인프라에대한 고민

왜 Amazon, Google 등선진 인터넷-커머스 기업들은 Linux/x86 기반일까?

성능/비용/안정성

Page 4: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

IT 혁신 방향성

Page 5: GS홈쇼핑 U2L 마이그레이션 사례분석

Proprietary SW

Scale UpScale Out

Open Source SW

고비용 저효율 저비용 고효율

IT 혁신 과제

As-Is To-Be

Page 6: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 인프라 방향성

Cut Unix Scale Out OSS Virtualize Automate

고가 Unix서버의 수를

줄인다

수평 확장아키텍쳐를최우선 한다

오픈 소스를적극적으로활용 한다

가상화로효율을 극대화

한다(Cloud Ready)

높은 수준의자동화로 운영혁신을 이

룬다

Page 7: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

HW 혁신

Page 8: GS홈쇼핑 U2L 마이그레이션 사례분석

Why Scale Out?

VS

사용률100%

+

Active

Backup

사용률100%

●●

Active Backup

Active Active

Active Active

Active Active

Scale Up Scale Out

• 사용률 증가시 리소스 증설(Scale Up)

• 리소스 증설이 불가능할 경우 서버 교체

가 필요하며 변화에 취약한 구조

• 장애상황을 대비하여 동일 스팩의 백업

장비 필요

• 사용률 증가시 필요한 만큼 서버를 병렬

증설(Scale Out) 하는 매우 유연한 구조

• 모든 서버가 Active 인 효율적인 분산효

과로 고비용의 백업 서버 불필요

Page 9: GS홈쇼핑 U2L 마이그레이션 사례분석

고효율 Scale Out 서버

비용 : 4000 만원성능 : 1800 Spec

크기 : 8U 전력효율 : 하

관리효율 : 하

비용 : 4000 만원성능 : 1800 Spec

크기 : 4U 전력효율 : 중

관리효율 : 중

장애파급력: 하

장애파급력: 중

비용 : 7000 만원성능 : 1800 Spec

크기 : 4U 전력효율 : 중상

관리효율 : 상 장애파급력: 상

VS

VS

1-CPU 서버

2-CPU 서버

4-CPU 서버

비용 : 4000 만원성능 : 1800 Spec

크기 : 2U 전력효율 : 상

관리효율 : 중 장애파급력: 중

2-CPU 고효율 서버

비용 대비 성능/크기 등 항목들에 대한 발랜스가 가장 우수

서비스1

서비스1 서비스1

서비스2 서비스2

서비스3 서비스3

서비스4 서비스4

서비스1 서비스2 서비스1 서비스2

서비스3 서비스4 서비스3 서비스4

서비스2 서비스1 서비스2

서비스3 서비스4 서비스3 서비스4

서비스1 서비스2

서비스3 서비스4

서비스1 서비스2

서비스3 서비스4

VS

Page 10: GS홈쇼핑 U2L 마이그레이션 사례분석

전력 크기

비용 성능

서버 선정 기준 표준 서버

E5-2640 x 2(총 12 코어) 서버성능 - SpecInt2006Rates : 463

전력 - SpecPower_ssj2008 : 3020

크기 – 0.5U

Linux OS

+

Dell C6220 클라우드 서버

고효율 표준 서버

Page 11: GS홈쇼핑 U2L 마이그레이션 사례분석

Why Linux/x86 ?

• Linux/x86 서버는 성능 대비 가격, 유지비용, 크기 등 모든 영역에서 Unix 서버를 상

회하고 있음

• Unix 서버가 꼭 필요한 영역은 초대형 Scale Up DB 영역을 제외하고는 사실상 없

성능(SPECint2006 Rate)

476 가격

32,000 천원

년 MA비용

3,600 천원크기

2u

Unix (HW + OS)(POWER7 3.7 GHz, 총 12 core)

Linux/x86 (HW + OS)Intel E5-2640 2.5GHz, 총 12 core

성능(SPECint2006 Rate)

463가격

10,000 천원

년 MA비용

950 천원크기

0.5u

VS

Page 12: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

오픈소스 혁신

Page 13: GS홈쇼핑 U2L 마이그레이션 사례분석

오픈소스 사용 정책

Active Active Active

Active Active Active ●●

• 쉽게 다중화/확장이 가능한 영역(예 :

App)

• 공개 오픈소스 사용과 자체 운영을 기본

으로 함

• 사용 오픈소스에 대한 일정수준 이상의

지식이 필요함

• 오픈소스 선정이 Key Factor

• 다중화/확장이 어려운 영역(예: DB)

• 설치될 솔루션이 사용 인증을 요구하는

영역(예: EAI)

• 상용 오픈소스 사용 및 벤더 지원을 필수

로 함

Active Backup

Scale Out Scale Up

Page 14: GS홈쇼핑 U2L 마이그레이션 사례분석

오픈소스 선정 기준

• 선진 기업들이 사용하는 오픈소스 제품을 최우선으로 고려한다

• 선진 IT시장(미국, 유럽) 내 User Community 가 견고한 오픈소스 제품을 우선한다

• 선진 IT시장(미국, 유럽) 내 향후 발전 가능성이 긍정적인 오픈소스 제품을 우선한다

• Scale-Out 오픈소스 와 Scale-Up 상용 오픈소스 에 대하여 기술 단일화를 고려한다(예: CentOS/Redhat Linux)

• 평가/사용 리포트 를 참고한다

• 자체 테스트를 수행한다

Page 15: GS홈쇼핑 U2L 마이그레이션 사례분석

영역별 오픈소스 적용 로드맵

Cache ServerApplication Server

Message Queue CEP/DEG

Data Store

Machine Learning

FoundationInfra

DBMS

SecurityNetwork

Web Server

Storage

OS

Virtualization

MonitoringPAAS ManagementCloud Management

ServiceInfra

Active 하게 사용하고 있는 오픈소스 테스트 중인 오픈소스

Page 16: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

사례1 -

GSshop 의 Main App 서버를기존 Unix/상용솔루션 에서Linux/오픈소스 + 가상화 까지 적용하여 전환한 사례

App서버 전환

Page 17: GS홈쇼핑 U2L 마이그레이션 사례분석

App 서버 전환 방법

운영 전체 적용

25% Load 25% Load 25% Load 24% Load 1% Load

Unix Unix Unix Unix x86

테스트서버 설정 및 마이그레이션 – 1개월(Spare Time)

• Java App 들은 큰 이슈 없이 이전

• 플랫폼 종속적인 상용 모듈들은 벤더에게 x86/Linux 버전으로 받아 설치

내부 테스트 – 1개월(Spare Time)

운영 소수 적용 – 1개월

20% Load 20% Load 20% Load 20% Load 20% Load

x86 x86 x86 x86 x86

Page 18: GS홈쇼핑 U2L 마이그레이션 사례분석

App 서버 전환 결과

HW4코어 Xeon X5570 2.93GHz x 2 (총 8코어) T2000(8코어 T1 1.2GHz x 1)

VM1 (4 vcpu) VM2 (4 vcpu) VM3 (4 vcpu) VM4 (3 vcpu) 가상화 없음

Instances 1-1 1-2 2-1 2-2 3-1 3-2 4-1 4-2 5-1 5-2 5-3

상품 페이지 1.492 1.423 1.44 1.399 1.501 1.414 2.44 2.183 2.233 1.786 1.564

소세분류 페이지 0.704 0.716 0.741 0.722 0.728 0.695 1.055 1.082 1.75 1.373 0.967

중분류 페이지 1.608 1.637 1.743 1.616 1.671 1.622 3.612 2.63 2.741 2.066 2.156

대 분류 페이지 1.78 1.791 1.847 1.773 1.775 1.809 2.894 2.519 2.569 2.409 2.666

메인 페이지 0.21 0.207 0.208 0.231 0.211 0.203 0.355 0.349 0.348 0.302 0.3

주문 페이지 6.514 6.495 6.249 6.384 6.731 6.323 7.924 7.348 9.221 6.836 6.726

인스턴스 별 요청실행 수 28,121 28,137 28,112 28,119 28,131 28,127 28,134 28,150 23,367 27,644 20,685

장비 별 요청실행 수(총 합) 225,031 71,696

* 2010년 11월16일 16:00pm ~ 17:00pm 피크 시간대의 실 운영 환경의 결과이며 다른 날짜의 피크 시간 에서도 대동소이한 결과를 보임

• 피크시간대의 총 요청 실행 수는 x86 서버가 총 225,031 으로 Sun T2000의 71,696 총 처리건수 보다 3.1배 이상의 요청을 받음

• 모든 x86 VM들의 주요 Application 들에 대한 총 응답시간 평균은 2.25초 로 T2000의 모든 인스터스들의 총 응답시간 평균인 2.67초 보다 약 15.6% 빠르게 처리함

• Sun T2000의 경우 각 인스턴스별 요청 실행수의 차이가 눈에 띄게 보이나 x86 모든 VM들의 경우 인스턴스별 호출 실행수의차이가 매우 근소하였으며 이는 CPU의 실행 시 좀더 높은 성능과 안정성으로 인한 효과로 판단됨

• 부하가 특히 높은 피크 시간대에는 설정한 vcpu 수에 대체로 비례하여 응답시간이 향상되는 결과를 보임

Page 19: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

사례2 -

EC분석 Oracle DB서버를 Linux 서버로 전환한 사례

EC분석DB 서버전환

Page 20: GS홈쇼핑 U2L 마이그레이션 사례분석

느린 배치 수행시간으로인한 현업들의 불만

크고 느리고 고비용 임

중대형 급 Oracle DB 의 x86/Linux 플랫폼에서의 가능성

배경

Page 21: GS홈쇼핑 U2L 마이그레이션 사례분석

EC분석 DB 서버 전환 방법

Unix >>> x86 전환

테스트서버 설정 및 마이그레이션 – 1개월(Spare Time)• 서버 OS 및 스토리지 볼륨 구성• Oracle x86/Linux 버전으로 설치 후 데이터 마이그레이션(import/export)• 플랫폼 종속적인 상용 모듈들은 벤더에게 x86/Linux 버전으로 받아 설치• Pro-C 들에 대한 재 컴파일 : 컴파일러 버전에 대한 문법 차이로 소스 수정이 필요하였

내부 테스트 – 1주(Full Time)

시스템 튜닝 – 1일(Full Time)• Linux OS 튜닝• Oracle 파라메터 조정

운영 적용 – 1일(Full Time)• 원DB 다운 후 데이터 마이그레이션

(import/export) • – 3T 데이터 이관에 약 9시간 소요• 최종 확인 후 서비스 오픈

Page 22: GS홈쇼핑 U2L 마이그레이션 사례분석

EC분석 DB 서버 전환 결과

기존 신규 효과

모델 Sun SF6900 (2005년 6월 도입) x86 서버

CPU US4 1.2GHz x 8 (총 16코어) X5650 2.66GHz x 2 (총 12코어)

RAM 32G 64G 2배

크기 Full(190.5cm) 2U(8.9cm) 21배 개선

성능(배치수행시간)

로그 6시간 13분 1시간 22분 4.54배개선

로그(고객) 4시간 5분 2시간 49분 1.45배개선

고객동선 2시간 10분 32분 4.09배개선

고객 23분 25분 1.11배저하

상품 56분 23분 2.45배개선

매출 21분 11분 1.94배개선

총 평균 14시간 8분 5시간 42분 2.48배개선

4년 HW 총비용 7100 만원 (MA비용만) 2900 만원 (도입가 + MA비용) 2.45배개선

EC분석DB 서버의 전환 효과 및 의의• 성능 개선 : 총 배치 성능 2.48배 개선 -> Linux 플랫폼 에서의 Oracle DBMS의 비용 대비 성능 우수성 확인• 비용 개선 : 4년 HW TCO 4200만원 절감• 중대형 급 오라클 DB영역의 x86/Linux 플랫폼으로의 전환 첫 시도 -> 향후 중대형 급 DB영역의 x86/Linux 플랫폼

도입 가능성 검토의 좋은 사례

Page 23: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

사례3 -

Unix 기반의 인프라를 Linux/x86 기반 으로 전환 진행중

ERP 재구축프로젝트(현재 진행중)

Page 24: GS홈쇼핑 U2L 마이그레이션 사례분석

ERP 환경 : AS-IS

ERP DB (HA)

ERP CI (HA)

ERP App

ERP DB

ERP CI

ERP App

ERP App

ERP App

ERP App

ERP App

ERP App

ERP App

BW

BW 개발

HA

HA

ERP 개발

ERP Archive

SpecPowerSSJ2008

?Unit Size

132u

HW/SMA 4년 TCO

10억 +SpecInt2006Rates

1135

Unix 서버 8대

Page 25: GS홈쇼핑 U2L 마이그레이션 사례분석

HAHA

VSERP DB : Intel E7, 총 40코어 x 2ERP App : Intel E5, 총 12코어 x 4OS : Redhat Enterprise Linux 5.7HA : Redhat Cluster

ERP DB : Unix CPU, 총 30코어 x 2ERP App : Unix CPU, 총 8코어 x 4OS : Unix OSHA : Unix HA

SpecPowerSSJ2008

21632Unit Size

12u

HW/SMA 4년 TCO

3.2억SpecInt2006Rates

4020

SpecPowerSSJ2008

?Unit Size

32u

HW/SMA 4년 TCO

10.4억SpecInt2006Rates

3620

ERP 환경 : TO-BE

Page 26: GS홈쇼핑 U2L 마이그레이션 사례분석

IT 혁신

사례4 -

Cloud Ready 고효율/저비용 인프라구조로 전환하는 장기적인 프로젝트로 Linux/x86 기반으로 다양하고 폭넓은 오픈소스 에 대한 검토/테스트/적용 계획

New EC프로젝트

(현재 계획 진행중)

Page 27: GS홈쇼핑 U2L 마이그레이션 사례분석

New EC : TO-BE 환경 신규 오픈소스

••App1

Data Store

App2

Que ••App3

Data Store

App4

Que ••App5

Data Store

App6

Que

••App1

Data Store

App2

Front DB ••App3

Internal L4

App4

Front DB ••App5

Internal L4

App6

Front DB

Cloud Management

••

••

••CEP

Machine L

DEG

Data Store ••CEP

Machine L

DEG

Data Store ••CEP

Machine L

DEG

Data Store

••

PAAS Management Network Management

DBMS DBMS DBMS

••

Data Storage Data Storage Data Storage

Monitoring & Automation

or

or

Page 28: GS홈쇼핑 U2L 마이그레이션 사례분석

감가 끝난 Unix 서버들에 대한 지속적인 전환

주요 DB 영역에서도 x86/Linux 플랫폼으로 점진적으로 전환

다양한 분야(스토리지, 네트워크 등)의 오픈소스 적용 확장

향후계획

고효율/저비용 Cloud 인프라 완성

Page 29: GS홈쇼핑 U2L 마이그레이션 사례분석

“No Try No Innovation”

“The biggest risk is not

taking any risk” - Mark Zuckerberg

Page 30: GS홈쇼핑 U2L 마이그레이션 사례분석

감사합니다