gs홈쇼핑 u2l 마이그레이션 사례분석
TRANSCRIPT
1
고효율/저비용 인프라 아키텍쳐(Linux/x86 전환 & 오픈소스 적용 사례)
GS홈쇼핑 서호석
TV, 인터넷, 모바일, 카탈로그 등 다양한 채널에서 사업을 수행하고 있는 온라인 쇼핑 기업
- 년 취급액 2.54조원
- 월 평균 취급액 2119억원
- 일 평균 페이지뷰 2000만
효율적인 인프라에대한 고민
왜 Amazon, Google 등선진 인터넷-커머스 기업들은 Linux/x86 기반일까?
성능/비용/안정성
IT 혁신
IT 혁신 방향성
Proprietary SW
Scale UpScale Out
Open Source SW
고비용 저효율 저비용 고효율
IT 혁신 과제
As-Is To-Be
IT 인프라 방향성
Cut Unix Scale Out OSS Virtualize Automate
고가 Unix서버의 수를
줄인다
수평 확장아키텍쳐를최우선 한다
오픈 소스를적극적으로활용 한다
가상화로효율을 극대화
한다(Cloud Ready)
높은 수준의자동화로 운영혁신을 이
룬다
IT 혁신
HW 혁신
Why Scale Out?
VS
사용률100%
+
Active
Backup
사용률100%
●●
Active Backup
Active Active
Active Active
Active Active
Scale Up Scale Out
• 사용률 증가시 리소스 증설(Scale Up)
• 리소스 증설이 불가능할 경우 서버 교체
가 필요하며 변화에 취약한 구조
• 장애상황을 대비하여 동일 스팩의 백업
장비 필요
• 사용률 증가시 필요한 만큼 서버를 병렬
증설(Scale Out) 하는 매우 유연한 구조
• 모든 서버가 Active 인 효율적인 분산효
과로 고비용의 백업 서버 불필요
고효율 Scale Out 서버
비용 : 4000 만원성능 : 1800 Spec
크기 : 8U 전력효율 : 하
관리효율 : 하
비용 : 4000 만원성능 : 1800 Spec
크기 : 4U 전력효율 : 중
관리효율 : 중
장애파급력: 하
장애파급력: 중
비용 : 7000 만원성능 : 1800 Spec
크기 : 4U 전력효율 : 중상
관리효율 : 상 장애파급력: 상
VS
VS
1-CPU 서버
2-CPU 서버
4-CPU 서버
비용 : 4000 만원성능 : 1800 Spec
크기 : 2U 전력효율 : 상
관리효율 : 중 장애파급력: 중
2-CPU 고효율 서버
비용 대비 성능/크기 등 항목들에 대한 발랜스가 가장 우수
서비스1
서비스1 서비스1
서비스2 서비스2
서비스3 서비스3
서비스4 서비스4
서비스1 서비스2 서비스1 서비스2
서비스3 서비스4 서비스3 서비스4
서비스2 서비스1 서비스2
서비스3 서비스4 서비스3 서비스4
서비스1 서비스2
서비스3 서비스4
서비스1 서비스2
서비스3 서비스4
VS
전력 크기
비용 성능
서버 선정 기준 표준 서버
E5-2640 x 2(총 12 코어) 서버성능 - SpecInt2006Rates : 463
전력 - SpecPower_ssj2008 : 3020
크기 – 0.5U
Linux OS
+
Dell C6220 클라우드 서버
고효율 표준 서버
Why Linux/x86 ?
• Linux/x86 서버는 성능 대비 가격, 유지비용, 크기 등 모든 영역에서 Unix 서버를 상
회하고 있음
• Unix 서버가 꼭 필요한 영역은 초대형 Scale Up DB 영역을 제외하고는 사실상 없
음
성능(SPECint2006 Rate)
476 가격
32,000 천원
년 MA비용
3,600 천원크기
2u
Unix (HW + OS)(POWER7 3.7 GHz, 총 12 core)
Linux/x86 (HW + OS)Intel E5-2640 2.5GHz, 총 12 core
성능(SPECint2006 Rate)
463가격
10,000 천원
년 MA비용
950 천원크기
0.5u
VS
IT 혁신
오픈소스 혁신
오픈소스 사용 정책
Active Active Active
Active Active Active ●●
• 쉽게 다중화/확장이 가능한 영역(예 :
App)
• 공개 오픈소스 사용과 자체 운영을 기본
으로 함
• 사용 오픈소스에 대한 일정수준 이상의
지식이 필요함
• 오픈소스 선정이 Key Factor
• 다중화/확장이 어려운 영역(예: DB)
• 설치될 솔루션이 사용 인증을 요구하는
영역(예: EAI)
• 상용 오픈소스 사용 및 벤더 지원을 필수
로 함
Active Backup
Scale Out Scale Up
오픈소스 선정 기준
• 선진 기업들이 사용하는 오픈소스 제품을 최우선으로 고려한다
• 선진 IT시장(미국, 유럽) 내 User Community 가 견고한 오픈소스 제품을 우선한다
• 선진 IT시장(미국, 유럽) 내 향후 발전 가능성이 긍정적인 오픈소스 제품을 우선한다
• Scale-Out 오픈소스 와 Scale-Up 상용 오픈소스 에 대하여 기술 단일화를 고려한다(예: CentOS/Redhat Linux)
• 평가/사용 리포트 를 참고한다
• 자체 테스트를 수행한다
영역별 오픈소스 적용 로드맵
Cache ServerApplication Server
Message Queue CEP/DEG
Data Store
Machine Learning
FoundationInfra
DBMS
SecurityNetwork
Web Server
Storage
OS
Virtualization
MonitoringPAAS ManagementCloud Management
ServiceInfra
Active 하게 사용하고 있는 오픈소스 테스트 중인 오픈소스
IT 혁신
사례1 -
GSshop 의 Main App 서버를기존 Unix/상용솔루션 에서Linux/오픈소스 + 가상화 까지 적용하여 전환한 사례
App서버 전환
App 서버 전환 방법
운영 전체 적용
25% Load 25% Load 25% Load 24% Load 1% Load
Unix Unix Unix Unix x86
테스트서버 설정 및 마이그레이션 – 1개월(Spare Time)
• Java App 들은 큰 이슈 없이 이전
• 플랫폼 종속적인 상용 모듈들은 벤더에게 x86/Linux 버전으로 받아 설치
내부 테스트 – 1개월(Spare Time)
운영 소수 적용 – 1개월
20% Load 20% Load 20% Load 20% Load 20% Load
x86 x86 x86 x86 x86
App 서버 전환 결과
HW4코어 Xeon X5570 2.93GHz x 2 (총 8코어) T2000(8코어 T1 1.2GHz x 1)
VM1 (4 vcpu) VM2 (4 vcpu) VM3 (4 vcpu) VM4 (3 vcpu) 가상화 없음
Instances 1-1 1-2 2-1 2-2 3-1 3-2 4-1 4-2 5-1 5-2 5-3
상품 페이지 1.492 1.423 1.44 1.399 1.501 1.414 2.44 2.183 2.233 1.786 1.564
소세분류 페이지 0.704 0.716 0.741 0.722 0.728 0.695 1.055 1.082 1.75 1.373 0.967
중분류 페이지 1.608 1.637 1.743 1.616 1.671 1.622 3.612 2.63 2.741 2.066 2.156
대 분류 페이지 1.78 1.791 1.847 1.773 1.775 1.809 2.894 2.519 2.569 2.409 2.666
메인 페이지 0.21 0.207 0.208 0.231 0.211 0.203 0.355 0.349 0.348 0.302 0.3
주문 페이지 6.514 6.495 6.249 6.384 6.731 6.323 7.924 7.348 9.221 6.836 6.726
인스턴스 별 요청실행 수 28,121 28,137 28,112 28,119 28,131 28,127 28,134 28,150 23,367 27,644 20,685
장비 별 요청실행 수(총 합) 225,031 71,696
* 2010년 11월16일 16:00pm ~ 17:00pm 피크 시간대의 실 운영 환경의 결과이며 다른 날짜의 피크 시간 에서도 대동소이한 결과를 보임
• 피크시간대의 총 요청 실행 수는 x86 서버가 총 225,031 으로 Sun T2000의 71,696 총 처리건수 보다 3.1배 이상의 요청을 받음
• 모든 x86 VM들의 주요 Application 들에 대한 총 응답시간 평균은 2.25초 로 T2000의 모든 인스터스들의 총 응답시간 평균인 2.67초 보다 약 15.6% 빠르게 처리함
• Sun T2000의 경우 각 인스턴스별 요청 실행수의 차이가 눈에 띄게 보이나 x86 모든 VM들의 경우 인스턴스별 호출 실행수의차이가 매우 근소하였으며 이는 CPU의 실행 시 좀더 높은 성능과 안정성으로 인한 효과로 판단됨
• 부하가 특히 높은 피크 시간대에는 설정한 vcpu 수에 대체로 비례하여 응답시간이 향상되는 결과를 보임
IT 혁신
사례2 -
EC분석 Oracle DB서버를 Linux 서버로 전환한 사례
EC분석DB 서버전환
느린 배치 수행시간으로인한 현업들의 불만
크고 느리고 고비용 임
중대형 급 Oracle DB 의 x86/Linux 플랫폼에서의 가능성
배경
EC분석 DB 서버 전환 방법
Unix >>> x86 전환
테스트서버 설정 및 마이그레이션 – 1개월(Spare Time)• 서버 OS 및 스토리지 볼륨 구성• Oracle x86/Linux 버전으로 설치 후 데이터 마이그레이션(import/export)• 플랫폼 종속적인 상용 모듈들은 벤더에게 x86/Linux 버전으로 받아 설치• Pro-C 들에 대한 재 컴파일 : 컴파일러 버전에 대한 문법 차이로 소스 수정이 필요하였
음
내부 테스트 – 1주(Full Time)
시스템 튜닝 – 1일(Full Time)• Linux OS 튜닝• Oracle 파라메터 조정
운영 적용 – 1일(Full Time)• 원DB 다운 후 데이터 마이그레이션
(import/export) • – 3T 데이터 이관에 약 9시간 소요• 최종 확인 후 서비스 오픈
EC분석 DB 서버 전환 결과
기존 신규 효과
모델 Sun SF6900 (2005년 6월 도입) x86 서버
CPU US4 1.2GHz x 8 (총 16코어) X5650 2.66GHz x 2 (총 12코어)
RAM 32G 64G 2배
크기 Full(190.5cm) 2U(8.9cm) 21배 개선
성능(배치수행시간)
로그 6시간 13분 1시간 22분 4.54배개선
로그(고객) 4시간 5분 2시간 49분 1.45배개선
고객동선 2시간 10분 32분 4.09배개선
고객 23분 25분 1.11배저하
상품 56분 23분 2.45배개선
매출 21분 11분 1.94배개선
총 평균 14시간 8분 5시간 42분 2.48배개선
4년 HW 총비용 7100 만원 (MA비용만) 2900 만원 (도입가 + MA비용) 2.45배개선
EC분석DB 서버의 전환 효과 및 의의• 성능 개선 : 총 배치 성능 2.48배 개선 -> Linux 플랫폼 에서의 Oracle DBMS의 비용 대비 성능 우수성 확인• 비용 개선 : 4년 HW TCO 4200만원 절감• 중대형 급 오라클 DB영역의 x86/Linux 플랫폼으로의 전환 첫 시도 -> 향후 중대형 급 DB영역의 x86/Linux 플랫폼
도입 가능성 검토의 좋은 사례
IT 혁신
사례3 -
Unix 기반의 인프라를 Linux/x86 기반 으로 전환 진행중
ERP 재구축프로젝트(현재 진행중)
ERP 환경 : AS-IS
ERP DB (HA)
ERP CI (HA)
ERP App
ERP DB
ERP CI
ERP App
ERP App
ERP App
ERP App
ERP App
ERP App
ERP App
BW
BW 개발
HA
HA
ERP 개발
ERP Archive
SpecPowerSSJ2008
?Unit Size
132u
HW/SMA 4년 TCO
10억 +SpecInt2006Rates
1135
Unix 서버 8대
HAHA
VSERP DB : Intel E7, 총 40코어 x 2ERP App : Intel E5, 총 12코어 x 4OS : Redhat Enterprise Linux 5.7HA : Redhat Cluster
ERP DB : Unix CPU, 총 30코어 x 2ERP App : Unix CPU, 총 8코어 x 4OS : Unix OSHA : Unix HA
SpecPowerSSJ2008
21632Unit Size
12u
HW/SMA 4년 TCO
3.2억SpecInt2006Rates
4020
SpecPowerSSJ2008
?Unit Size
32u
HW/SMA 4년 TCO
10.4억SpecInt2006Rates
3620
ERP 환경 : TO-BE
IT 혁신
사례4 -
Cloud Ready 고효율/저비용 인프라구조로 전환하는 장기적인 프로젝트로 Linux/x86 기반으로 다양하고 폭넓은 오픈소스 에 대한 검토/테스트/적용 계획
New EC프로젝트
(현재 계획 진행중)
New EC : TO-BE 환경 신규 오픈소스
••App1
Data Store
App2
Que ••App3
Data Store
App4
Que ••App5
Data Store
App6
Que
••App1
Data Store
App2
Front DB ••App3
Internal L4
App4
Front DB ••App5
Internal L4
App6
Front DB
Cloud Management
••
••
••CEP
Machine L
DEG
Data Store ••CEP
Machine L
DEG
Data Store ••CEP
Machine L
DEG
Data Store
••
PAAS Management Network Management
DBMS DBMS DBMS
••
Data Storage Data Storage Data Storage
Monitoring & Automation
or
or
감가 끝난 Unix 서버들에 대한 지속적인 전환
주요 DB 영역에서도 x86/Linux 플랫폼으로 점진적으로 전환
다양한 분야(스토리지, 네트워크 등)의 오픈소스 적용 확장
향후계획
고효율/저비용 Cloud 인프라 완성
“No Try No Innovation”
“The biggest risk is not
taking any risk” - Mark Zuckerberg
감사합니다