最新消息:欢迎来到 艺宵网,有任何问题或建议请联系!在线留言

性能超群的HTTP服务器,搜狗C++服务器引擎发布

Jacky 艺宵网

9月3日,搜狗公司正式宣布开源C++服务器引擎——Sogou C++Workflow。目前Workflow支撑着搜狗几乎所有后端C++在线服务包括所有搜索服务,云输入法,在线广告等,每日处理数百亿请求,引擎一经发布就在 GitHub 上引起众多开发者关注。这款引擎不仅实现了高性能、轻量级的落地,还创新性的引入任务流概念,实现了计算任务与通信任务的统一和协同调度。基于Workflow引擎,开发者可以方便的实现复杂的业务逻辑,并进一步满足对高并发、高性能C++服务器程序的开发需求。

GitHub搜索 Sogou C ++ Workflow即可找到该项目。

  轻量级、高性能, Sogou C++ Workflow助力企业降本增效

Workflow在设计之初,就秉持着高性能与轻量级两个核心理念。长久以来,业界中优化服务器性能都主要专注于如何跑满cpu、如何单独地让网络请求极速响应等方面。而此次上线搜狗Workflow则更专注于如何让各种网络资源被具体的调度器管理,使其尽可能地全部调度起来。

另一方面,对多通信计算资源融为一体的解决方案,进一步提升了Workflow引擎的性能。过去开发者在面临选择高吞吐网络框架时,需要自己面对不同计算资源比例而划分不同大小的线程池。然而每种计算具体资源需求比例是动态变化的,重要性也不一样,后端响应时长也是动态变动。如今在workflow的加持下,C++服务器引擎也能像Go语言一样,实现网络资源异步调度,并且进一步打通计算,磁盘等资源。

引入任务流概念,是搜狗Workflow引擎的另一亮点。Workflow将资源高度封装,用户再也接触不到连接池、线程池、包括想要做aio时的文件fd与各种异步通知机制。这就意味着,在开发阶段开发人员仅仅需要了解业务关系而不用关心内部细节,帮助开发者们实现自己复杂的业务逻辑。

开发人员可以利用Workflow封装好的各种任务来动态或静态组建自己的业务逻辑,如下图所示,不同类型的任务都可以被串行、并行到一起:

除了各种创新设计以外,workflow还拥有比其他C++框架更友好的用户体验。过去许多企业自己搭建的服务器平台,在设计之初并未考虑到对多平台、多协议的支持,导致当新需求出现之时,开发者不得不通过自定义框架等方式来解决这个问题。Workflow原生实现了对http、redis、mysql和kafka等协议,可以直接作为这些协议的客户端使用。并且在其基础上开发了一套更加易用的Sogou RPC,实现与brpc和thrift互通,IDL支持protobuf和thrift,并且可以通过http+json或IDL实现跨语言,Sogou RPC项目也会在不久的将来开源。

  Http Server性能实测:Sogou C++Workflow VS nginx、brpc

为了充分的体现出Workflow在性能上的优势,搜狗也提供了Workflow和nginx、brpc两个比较主流知名的系统一起做的http server性能对比,

  测试环境:

这里选取了最基本的测试场景:wrk或者wrk2跨机做client,单server,长连接,CPU:40核 E5-2630 v4 @ 2.20GHz,内存:192GB,网卡:25000Mb/s。nginx配置了auto的进程数(与核数一致),brpc配置了40个nthreads,workflow配置了16个poller线程和20个handler线程。

  测试一:不同并发数对QPS的影响(越高越好)

结论:随着压测并发数的增加,server的QPS会随着增高。可以看到Workflow无论是低并发数还是高并发数的情况下,QPS依然比nginx和brpc要高,尤其是并发数超过128的时候优势更加明显,Workfow对于小包基本能保证50w的QPS,说明内部对网络资源的高并发调度做了很多优化。

  测试二:不同数据大小对QPS的影响(越高越好)

结论:此处的返回包大小是http请求的body大小,随着返回包增大,QPS会有所下降,我们希望QPS依然尽可能保持平稳不要下降得太快。Workflow在同并发下的性能依然比其他两个系统要好,说明网络收发和其他调用之间的调度协调得更好。

  测试三:固定QPS下的延迟分布CDF图(越左越好,越直越好)

结论:本测试由wrk2进行固定QPS的压测,其中还有1%的长尾请求Outiler,长尾请求不计入结果,因为我们关注的是模拟真实情况下普通请求能否被及时处理。由于nginx在其他测试中性能略差一截,因此没有对其进行CDF对比。可以看到在不同比例的分布中,Workflow的延迟更低、且最慢的那些(0.99到1.00之间)延迟增长也相对缓慢,说明Workflow对长尾处理更及时。

通过对比,可以发现Workflow的确在核心性能上有着自己独到的优势,对于很多开发者来说,往后也就多了一种选择,遇到合适的应用场景,Workflow无疑会帮助开发者大大提升开发效率,确保项目成功。

  开源核心技术,让搜狗走向开发者生态的前沿

开源如此“硬核”的服务器引擎并不常见。许多科技公司都在花费极大精力对自己的产品、技术进行保密,核心算法更是秘而不宣。而近年来,搜狗却走了一条与大众相反的道路。不仅是Workflow,之前搜狗还相继开源了机器阅读理解工具SMRC、内部项目管理系统Cynthia在内的多项核心技术和工具。事实上,搜狗正是通过的不断对核心技术的开源,遵守并理解开源社区文化,才能推动企业本身的技术进步,吸纳更多优秀的开发者投入其中,为相关产品的后续发展持续输送技术养料和创造力。

想要在日趋激烈的互联网市场中获得话语权,就必须积极的制定标准,始终站在开发者生态的前沿,建立可持续的竞争优势,让产品被更多用户喜爱并使用。未来,在开源的道路上,搜狗还会不断将相关先进技术持续对外开放,发挥自身领域的专业能力与力量,推动开源运动的进一步普及。

大家都在看

incaseformat病毒大面积爆发,请早做防范
科技资讯

incaseformat病毒大面积爆发,请早做防范

观威海 2021-01-14 536浏览 0评论

近期,部分单位政务网、互联网电脑感染“incaseformat病毒”,病毒可通过U盘、光盘等移动介质传播,导致删除大量文件且无法恢复,请各单位及时更新杀毒软件病毒库,专杀工具互联网下载地址:http://59.224.26.143。下班后关闭不使用的电脑,不要长期使电脑处于待机状态。...

2021年需要关注的10个IT趋势
科技资讯

2021年需要关注的10个IT趋势

Danny 2021-01-13 637浏览 0评论

当行业分析师和技术专家在2020年年初做出年度预测时,他们专注于云计算、人工智能、机器人等技术将如何改变市场。他们预测,对IT人才的需求将会供不应求,数据科学将继续发挥重要作用,数字化转型将决定组织业务的成败。但他们却没有预料到在全球爆发的新冠病毒疫情会从根本上改变人们工作和个人生活的各个方面。...

阿里百度等互联网平台上线“绿网计划”
科技资讯

阿里百度等互联网平台上线“绿网计划”

郑合惠子 2020-11-28 898浏览 0评论

每一年,涌入互联网平台的非正常搜索高达数百亿次。这些搜索背后,可能暗藏着试图自杀的人的挣扎与呼救。让每一次搜索背后的求助都能得到回应,而不是冰冷的报错与拦截,阿里百度等互联网平台上线“绿网计划” ,用暖心的宣导呼吁来取代“抱歉,这个页面找不到”。...

云麦科技出席CNBC全球科技大会,探讨智能健康未来
科技资讯

云麦科技出席CNBC全球科技大会,探讨智能健康未来

Jacky 2020-11-20 512浏览 0评论

以东西方科技对话为主题的2020CNBC全球科技大会,于2020年11月17日在广州召开。作为智能运动健康领域的头部企业,云麦科技受邀参加本次大会,云麦科技创始人CEO Wyatt出席,并与古德菲力CEO许捷一同参与《结构后疫情时代健康产业趋势》主题圆桌会谈。 疫情期间,大众对健康的关注度大幅提升,希望通过运动增强免疫,根据CBNDATA调...

奥克斯率先携手中国标准化研究院,联合共建首个符合GB/T33658热舒适实验室!
科技资讯

奥克斯率先携手中国标准化研究院,联合共建首个符合GB/T33658热舒适实验室!

Jacky 2020-11-20 476浏览 0评论

11月17日上午,奥克斯与中国标准化研究院在人类工效学领域达成共识,进行了合作签约,并在奥克斯创研中心举行了热舒适联合共建实验室揭牌仪式。中国标准化研究院作为国家级科研机构,拥有国内唯一经CNAS认可的人类工效学实验室。这是家电企业首次联合中国标准化研究院共建热舒适实验室,对奥克斯乃至整个家电行业来说意义非...

2020电子政务与智慧城市解决方案提供商100强
科技资讯

2020电子政务与智慧城市解决方案提供商100强

Danny 2020-11-18 1328浏览 0评论

智慧城市是电子政务的延伸与拓展,赋予了电子政务新的内涵。某种意义而言,电子政务与智慧城市就是同气连枝的共生关系,电子政务与智慧城市解决方案提供商正是将二者的发展做到“曲尽其妙”之境的重要推手。...

K歌人的狂欢,电商赛拉开2020全民K歌年度盛典大幕
科技资讯

K歌人的狂欢,电商赛拉开2020全民K歌年度盛典大幕

Jacky 2020-11-16 923浏览 0评论

日前,2020全民K歌年度盛典线上大赛电商赛场正式开赛,比赛将从主播、商家和品牌三个维度进行比拼,最终决出年度电商带货主播和商家的优胜者,跨界音乐人们将在这里实现自我价值的又一次飞跃。 除电商赛场之外,今年的年度盛典还设置了其余6大赛道公会、个人、粉丝团、歌房、家族和星计划,平台上的每位主播都将开足火力全...

新技术驱动新商业 网易创新企业大会看点前瞻
科技资讯

新技术驱动新商业 网易创新企业大会看点前瞻

Jacky 2020-11-16 912浏览 0评论

突如其来的疫情对传统商业模式的冲击,让各大企业看到了数字化技术和能力对于商业模式创新和商业生态系统重构的助力。AI、5G、云计算、超高清、VR/AR新技术层见迭出,线上零售、在线会议、互联网医疗、AI 营销新商业模式不断显现,正在重塑全行业。那么企业该如何利用新技术驱动新商业,获得创新发展呢? 11月28日,网易旗...

奢护四季 吾衣例外,COLMO洗衣机 X 例外打造奢品护理季,掀全国奢护美学风暴
科技资讯

奢护四季 吾衣例外,COLMO洗衣机 X 例外打造奢品护理季,掀全国奢护美学风暴

Jacky 2020-11-16 183浏览 0评论

高端衣物的背后,究竟有何奢护美学?自10月17日开始,从北京到重庆、上海、成都等全国十几座城市,高端AI科技家电品牌COLMO携手国内一线时装品牌例外,打造奢品护理季,让1%菁英群体零距离尊享空气洗体验,与数千位对品质生活有着无限追求的消费者一道,共同完成了一场奢护四季吾衣例外高端衣物奢护美学之旅。 尊享奢洗五 步...

网易数帆入选2020年电子信息行业自主创新成果
科技资讯

网易数帆入选2020年电子信息行业自主创新成果

Jacky 2020-11-16 515浏览 0评论

11月12日,2020第二十四届中国国际软件博览会(以下简称软博会),在杭州白马湖国际会展中心开幕。大会以软件铸魂,数智转型为主题,展现软件产业发展新特点、新模式、新业态。会上,中国电子信息行业联合会正式发布《2020年电子信息行业自主创新成果推广目录》。网易数帆基础软件平台成功入编该目录,荣膺自主创新应用称号...

发表我的评论
取消评论
昵称 (必填) 手机号 (必填)

网友最新评论【查看所有评论

阅读原文 阅读 100000+