scrum gathering 2012 shanghai_精益与持续改进分会场演讲话题：...
TRANSCRIPT
大型企业 CI平台建设和实施分享
腾讯 陈小光
Agenda
现状 &挑战实践分享 -平台建设实践分享 -实施推广总结Q&A
现状 &挑战 -现状工程师 > 500
同时进行的项目 > 20
开发语言覆盖 c,c+ + ,php,java，以及手机平台等项目之间依赖复杂，涉及到多层循环
现状 &挑战 -挑战 -平台
同时存在 CI 平台五套，各自为政，平台不一，资源浪费，是否要整合？
当项目代码量超过百万时，如何提升构建效率？如何管理复杂构建依赖？
CI 集群 30台，如何能及时有效的更新工具和软件以及配置到相关环境里面？
如何保证从开发 -> 测试 -> 上线三个步骤的源码和二进制包版本一致性？
如果处理来自不同团队的对 CI 平台的需求？
现状 &挑战 -挑战 -实施
BU 老大们对 CI 理解不一，如何获取他们的支持？
开发对持续构建的失败漠不关心怎么办？
如何让不到五人的 CI 团队，高满意度的支持大于五百人团队实施CI ？
如何提高开发编写单元测试的积极性？
底层代码随意变更提交，影响到上层代码怎么办？
解决方案 -平台 -设计思想
平台设计思想 :统一平台和运维，减少维护成本和机器资源，成果共享环境保证绝对权威，跟线上、测试、开发保持一致提升易用性，减少用户学习成本统一测试和上线的包出口
工具尽量使用开源Jenkins
Subversion
Testlink
解决方案 -平台 -拓扑结构
解决方案 -平台 -高效构建系统
基于开源 scons自研的一套分布式统一构建系统
支持 c+ + ,java,probuf,swig等多种语言代码变更后可以自动分析依赖关系集构建，测试，静态代码检查，高亮错误显示等功能支持增量和分布式编译和测试
解决了构建效率和依赖管理问题
其他提升构建速度方法 : 使用 tmpfs,I O 效率基本为 0，需要大内存机器 使用 cache机制，比如 ccache
分布式编译，比如 distcc
源码分层 :抽离基础库代码专人维护 ,包括 common和 thirdparty
解决方案 -构建分级
构建类型NightlyBuild: 夜间，全量测试和构建，重建 cache
CheckI nBuild:CheckI nSvn，增量 ut，增量构建，基于cache
HandleBuild: 按需，全量构建和测试，为了打包
解决方案 -平台 -统一接入脚本
概述：统一某种类型的项目或代码的公共动作 (比如编译 ,执行 ut,静态检查 ,包上传等 )
到一个脚本或工具里面，用户只需要输入路径配置即可完成 CI 的配置，减少用户学习和使用成本。
C++: 写好脚本 ci_exec compile_dir= $dir1 ut_dir= $dir2 st_dir= $dir3
Java( ant为例 ) :
解决方案 -平台 -统一环境管理 -puppet管理环境
使用 puppet做构建环境统一管理更新 管理如下配置：Hosts配置构建脚本构建软件Slave初始化脚本
Slave上 puppet初始化用 rpm包实现。
Subversion
Puppetmaster
Puppetslave1
Puppetslave1
…WorkSpace
CheckIn
亦可通过 CI 本身功能来管理环境Jenkins提供多 Slave配置功能
解决方案 -平台 -统一环境管理 -Jenkins管理环节
通过 Jenkins本身管理构建环境， slave正在以后即可做。
通过 Jenkins多 Slave配置完成：规划好 SVN 里面目录 Conf bin等在 Slave机器上配置 bin目录到 $PATH
优点：使用方便，测试通过以后直接提交到 SVN 即可更新Jenkins直接辐射到各个 Slave，更新方便
缺点：没有整体视图
Subversion
Jenkinsmaster
Jenkinsslave1
Jenkinsslave1
…修改工作区
CheckIn
解决方案 -平台 -presubmit方案 -client模式
D ev工作区
Subversion CheckSvnService
Upload.py专用提交脚本
Check.py检查 :提交的注释里面是否有指定加密串通知 :通过对应人
Upload.py：1 .检查是否被模块 owner Codereview且被 Approved
2.在内存文件系统 tmpfs中快速 run编译和 ut
3.做 CodeStyle检查以及静态检查4.成功则自动提交 ,在注视里面加标记5.失败给予提示upload.py –i 33896 –I 后为 codereview id目的：把问题扼杀在提交到代码库之前，减少影响
D ev工作区
SourceControlSystem
CheckSvnService
presubmit.py脚本检查、信息搜集、打 diff、上传
Check.py检查 :提交的注释是否有指定加密串通知 :通过对应人
两种 Presubmit模式 -Client/Server模式
Presubmit服务器
验证、提交
解决方案 -平台 -包服务器媒介
包服务器
CI
Test Rel
IDCTest
1 2
3
4
包服务器两分支Test: 用来存放从 CI 发过来的包，待测试Rel: 用来存放从已测的包，待发布包服务器跟电子流串通
1 CI 里面执行手工打包，到包服务器 test分支
2 测试从包服务器取包部署测试测试环境
3 得到测试通过信号后，被测通过的包自动转到 rel分支
4 发布系统从 rel分支拉取测通过的包上线
解决方案 -平台 -报表平台
jenkins构建的报表平台保存如下数据构建成功率构建时长测试覆盖率接入率等
有开源插件可支持数据报表展现！
解决方案 -实施 -先试点
试点项目选择 :交付压力小的重点项目成立联合虚拟项目组运作做好评估 :缺陷率 ,代码质量等
试点目标目标 :摸索经验平台建立树立标杆建立影响透明效果取得重视
解决方案 -实施 -制度化
接口人制度 :1 .需要实施 CI 部门指定接口人2.每个部门对应 CI 实施责任人3.对 CI 实施接口人进行 training
CI 平台需求管理流程 :1 .把 CI “ ”平台当做 产品来做2.明确需求管理流程3.排期实现，可视化进度
沉淀制度1 .把 CI 实施框架和 FAQ 沉淀到 wiki
2.每周专人值班辅助接口人3.常见问题沉淀到 wiki
合作，而非推广
解决方案 -实施 -可视化周报 :部门周报月报 :整个事业部周报显示器 :质量情况 ,放置门口
总结
平台总体架构：统一平台，包服务器，统一出口构建平台：构建平台，管理依赖，支持分布，增量编译公用脚本：封装复杂操作，减少 dev学习和使用成本环境管理： puppet，利用 CI平台管理构建环境Presubmit机制： presubmit， codereview确保质量
实施试点先行：摸索经验，建立平台，树立标杆，扩大影响推广策略：沉淀 wiki，职责明确，值班制度，合作态度报告和奖励机制：数据可视化
Q&A