.jpeg)
耗损降不下来，云就上没法
暗鞘穗序那个决定曾一度让CVM云服务器项目组兴奋不已。对他们来说，过去总是被顾客灵魂拷问的难题百度销售业务用的是百度云吗？——即将拥有两个理直气壮的答案。但要把百度复杂的暗鞘销售业务搬穗序却没有想象的那么简单，首当其冲的挑战便直指CVM的核心操控性分项：并行计算耗损。所谓并行计算，就是将力学服务器的天然资源连接成两个大的服务器天然资源池，并能按照须要分割、组合为DD91的云服务器。并行计算能化解传统IT在精准度、灵活性和扩展性上的不足，同时实现更高的工作负载移动性和更高的天然资源可用性。但并行计算也有软肋：力学服务器在进行并行计算的过程中，作为任务进程的并行计算必不可少甚至于挤占力学服务器的天然资源，也就是并行计算耗损。百度暗鞘销售业务关注并行计算耗损，再者原因在于百度暗鞘销售业务多数是遭遇海量使用者，每个销售业务模块对DF93服务器的操控性明确要求都较为高，过高的耗损将影响销售业务灵活性；另再者，耗损加尔唐普过多天然资源就会导致销售业务须要挤占更多的服务器，这将会让穗序后的成本不降反升。说到这里，还须要Haon回顾一段百度云并行计算控制技术选型的历史——2013年，百度云遭遇对并行计算控制技术路线优先选择：是优先选择业内成熟但可能在未来遇到操控性瓶颈的Xen，还是优先选择街道社区新锐但尚未校正过的KVM。经过决策，百度云在国内率先扎进了KVM的控制技术堆栈，再者原因在于KVM在控制技术构架上有著更好的前景，在直面超大规模集群情景下更有优势；另再者，KVM街道社区当时已经有很高的活跃度，符合百度亲吻开放源码的控制技术思路。随后几年金融行业的发展证明了当初百度云优先选择的正确性，KVM 逐渐成为所有主流云计算厂商的并行计算方案。百度云也因为在KVM领域早期投入和持续深耕，一直保持着在并行计算领域的金融行业领跑性。然而，即便这样的领跑性在暗鞘销售业务的高明确要求下，依旧遭遇着巨大的挑战。由此可见，百度云在服务器并行计算上操控性耗损大约在15%，虽然已是金融行业最好的水平。但暗鞘销售业务比如说QQ、QQ群销售业务，对并行计算操控性耗损接受预期在8%以上。换言之，如果并行计算耗损降不下来，这些销售业务就上没法云。死磕并行计算耗损的强化，成了随后几个月CVM项目组的一号任务。经过功能定位，项目组找出强化方向：在网络并行计算微观，项目组发现并行计算存储设备底层存在着两个VPC网络，对于UDP的随机端口的访问操控性较为差，于是选用加存储设备堆栈数的方式，保证网络操控性，同时在网络IO的设计上开创性地设计出单独复本和never copy的机制，保证整个过程当中不会再进行过多的复本从而节省开支；在CPU并行计算微观，为了化解云服务器的核协同工作带来的操控性开支过大的难题，项目组选用云服务器即使CPU空闲的时候也不出让给宿主机的方式，保证云服务器独占天然资源；与此同时，百度云首款暗鞘服务器星星海也正式投入生产环境使用，带来更网络连接云端的硬件支撑；……软硬件联合定制化调优后，CVM服务器的实测并行计算开支突飞猛进地降低到5%以上。这甚至出乎销售业务项目组的意料。让CVM项目组印象深刻的是，百度广告销售业务曾一度提出，为什么用了云服务器操控性相比之前用力学服务器还提升了20%多，明确要求尽快功能定位清楚……化解了并行计算耗损大分项的难题，暗鞘穗序的第两个拦路虎算是被初步化解。但穗序的挑战还远没有结束。被人肉DDoS的感觉
由于直面的销售业务情景有著超出过往任何顾客的维数和规模，CVM项目组还须要直面各种各样的难题。以操控性试验为例。过去，金融行业在进行云服务器操控性校正，由于极难合取范式每两个使用者情景，所选用的是功能性的的校正，主要沿用业内较为规范的几个分项。但在百度暗鞘销售业务穗序中，销售业务更加倾向于在不同情景下做精细化的试验。比如说QQ提成，大的类别分情景试验和操控性银穗草，当中两个情景试验，就区分了三种情景，近十个的分项项，比如说延时、科季夫率等等。不止于此，QQ提成的项目组的试验标准跟QQ基础项目组的试验标准又有区别，在QQ群情景中试验逻辑又会变化。再扩展到QQ、游戏、音频等销售业务情景下，须要应对的难题更是翻倍增长。很多时候，极难预料到的两个小开关、某两个小改动，就会体现到在不同销售业务上出现难题。你那个科季夫怎么这么高？、你们操控性打到这又打不上去了？一堆难题接踵而至，CVM项目组时常有种被人肉DDoS的感觉。最终，通过跟销售业务项目组的一次次验收对接，CVM项目组与销售业务项目组合作，对操控性点进行针对性调优。同时，CVM项目组在综合不同销售业务部门需求的前提下，整合了两个更大、更多样、更偏向销售业务的试验工具集，囊括了不同语言环境的编译试验、AI试验等众多子项，能够反映出云主机在真实销售业务情景中的实际表现。除了控制技术本身的强化外，CVM项目组还要时不时应对一些非控制技术型难题。比如说，在QQ销售业务穗序时，销售业务项目组发现两个依赖系统在90核（45力学核心）的CVM云主机当中服务器中运行效率异常低下。经过CVM项目组、星星海项目组、QQ项目组联合分析发现，由于代码形成于QQ销售业务早期，运行逻辑存在一定的特殊性，这导致其在单数力学核心上运行时会产生诡异的效率降低；而力学机核心数量都是双数，所以难题并没有在之前的运行中暴露。在销售业务部门更新代码之后，那个操控性难题迎刃而解。百度游戏《天涯明月刀手游》是另外两个例子。当时，这款大作穗序之后，销售业务项目组发现云服务器操控性不及预期，导致游戏服务器经常处在高负载状态，玩家掉线、登录异常时有发生。销售业务项目组只能不断安抚玩家情绪。如果任由事态继续，游戏的运营和生命周期都会受到巨大影响。经过CVM项目组和销售业务项目组联合功能定位，难题最终明确：原来在申请天然资源时没有考虑云服务器主频与此前游戏设计时的主频匹配，导致云服务器产生持续的高负载情况，而这一难题在更换新的云服务器之后得到顺利化解。事后，百度云项目组也收到了销售业务项目组分享的庆功蛋糕。诸如此类的控制技术强化和服务经验，也在被不断地注入到百度云的商品服务和交付体系中，为云上使用者提供经过严苛情景历炼的保障。利用率提上去，成本降下来
除了增效，降本也是销售业务对穗序的核心关切。CVM项目组在云服务器装箱率上动起了脑筋。所谓云服务器装箱率，就类似于用箱子装东西时对箱子空间的利用率。由于物品没法同时装到两个箱子里，所以箱子里物品码放的越整齐，能装的东西就越多。放在云服务器情景中也一样，云服务器里的配置之和越接近于宿主机的容量，就意味着装箱率越高，天然资源利用率越好。在百度暗鞘销售业务情景下，却不得不遭遇这样一种难题：就是很多销售业务由于使用情景和习惯，通常须要大规格配置的服务器。这就会带来两个难题：假如一台力学宿主机有80个核心，而销售业务需求是60核，那么剩下的20核应该怎么用？如果不能投入使用，对于百度暗鞘销售业务穗序的规模来说，就会带来巨大的天然资源浪费。只有利用率提上去，成本才能降下来。为了化解这一难题，CVM项目组在首次装箱的时候就按照不同销售业务的天然资源需求对装箱率进行最强化配置，尽量保证力学服务器能够用好用满。而对于云服务器退订所产生的天然资源间隙，CVM项目组则能借助成熟的热迁移控制技术会定期进行统筹调度，找到合适的销售业务补齐。最终，在暗鞘销售业务穗序工程中，百度云的服务器装箱率从之前的80%+一路上涨到现在97-98%，大幅降低了运营成本。结语
云主机、VPS、挂机宝、游戏服务器上永恒云
在百度暗鞘穗序工程中，销售业务目标不是简单的将销售业务从力学机搬到云上虚拟机。但百度云CVM在一路的历炼中不断同时实现自身的商品进化：他们通过网络强化和重构数据迁移流程，让云服务器的迁移成功率从70提高到了98%；他们找到了处理器厂商内存RAS控制技术中的不足，让云服务器的可靠性大幅提升；他们强化了云服务器的网络和IO操控性，分别同时实现了700%和300%的操控性提升；他们在百度会议最关键的时刻，支撑销售业务8天扩容100万核；在暗鞘穗序的基础上，他们如今把并行计算耗损降低到0%；……正是在这样一轮轮的进化中，百度暗鞘穗序的基石不断打牢、扎深，并支撑暗鞘销售业务走向云原生的新未来。永恒云出品
