今日头条Go建千亿级微服务的实践

《今日头条Go建千亿级微服务的实践》要点：
本文介绍了今日头条Go建千亿级微服务的实践，希望对您有用。如果有疑问，可以联系我们。

作者：项超

编辑：小智

今日头条当前后端服务超过80%的流量是跑在 Go 构建的服务上.微服务数量超过100个,高峰 QPS 超过700万,日处理请求量超过3000亿,是业内最大规模的 Go 应用.

Go 构建微服务的历程

在2015年之前,头条的主要编程语言是 Python 以及部分 C++.随着业务和流量的快速增长,服务端的压力越来越大,随之而来问题频出.Python 的解释性语言特性以及其落后的多进程服务模型受到了巨大的挑战.此外,当时的服务端架构是一个典型的单体架构,耦合严重,部分独立功能也急需从单体架构中拆出来.

为什么选择 Go 语言?

Go 语言相对其它语言具有几点天然的优势：

1. 语法简单,上手快
2. 性能高,编译快,开发效率也不低
3. 原生支持并发,协程模型是非常优秀的服务端模型,同时也适合网络调用
4. 部署方便,编译包小,几乎无依赖

当时 Go 的1.4版本已经发布,我曾在 Go 处于1.1版本的时候,开始使用 Go 语言开发后端组件,并且使用 Go 构建过超大流量的后端服务,因此对 Go 语言本身的稳定性比较有信心.再加上头条后端整体服务化的架构改造,所以决定使用 Go 语言构建今日头条后端的微服务架构.

2015年6月,今日头条开始使用 Go 语言重构后端的 Feed 流服务,期间一边重构,一边迭代现有业务,同时还进行服务拆分,直到2016年6月,Feed 流后端服务几乎全部迁移到 Go.由于期间业务增长较快,夹杂服务拆分,因此没有横向对比重构前后的各项指标.但实际上切换到 Go 语言之后,服务整体的稳定性和性能都大幅提高.

微服务架构

对于复杂的服务间调用,我们抽象出五元组的概念：(From,FromCluster,To,ToCluster,?Method).每一个五元组唯一定义了一类的RPC调用.以五元组为单元,我们构建了一整套微服务架构.

我们使用 Go 语言研发了内部的微服务框架 kite,协议上完全兼容 Thrift.以五元组为基础单元,我们在 kite 框架上集成了服务注册和发现,分布式负载均衡,超时和熔断管理,服务降级,Method 级别的指标监控,分布式调用链追踪等功能.目前统一使用 kite 框架开发内部 Go 语言的服务,整体架构支持无限制水平扩展.

关于 kite 框架和微服务架构实现细节后续有机会会专门分享,这里主要分享下我们在使用 Go 构建大规模微服务架构中,Go 语言本身给我们带来了哪些便利以及实践过程中我们取得的经验.内容主要包括并发,性能,监控以及对Go语言使用的一些体会.

并发

Go 作为一门新兴的编程语言,最大特点就在于它是原生支持并发的.和传统基于 OS 线程和进程实现不同,Go 语言的并发是基于用户态的并发,这种并发方式就变得非常轻量,能够轻松运行几万甚至是几十万的并发逻辑.因此使用 Go 开发的服务端应用采用的就是“协程模型”,每一个请求由独立的协程处理完成.

比进程线程模型高出几个数量级的并发能力,而相对基于事件回调的服务端模型,Go 开发思路更加符合人的逻辑处理思维,因此即使使用 Go 开发大型的项目,也很容易维护.

并发模型

Go 的并发属于 CSP 并发模型的一种实现,CSP 并发模型的核心概念是：“不要通过共享内存来通信,而应该通过通信来共享内存”.这在 Go 语言中的实现就是 Goroutine 和 Channel.在1978发表的 CSP 论文中有一段使用 CSP 思路解决问题的描述.

“Problem: To print in ascending order all primes less than 10000. Use an array of processes,SIEVE,in which each process inputs a prime from its predecessor and prints it. The process then inputs an ascending stream of numbers from its predecessor and passes them on to its successor,suppressing any that are multiples of the original prime.”

要找出10000以内所有的素数,这里使用的方法是筛法,即从2开始每找到一个素数就标记所有能被该素数整除的所有数.直到没有可标记的数,剩下的就都是素数.下面以找出10以内所有素数为例,借用 CSP 方式解决这个问题.

从上图中可以看出,每一行过滤使用独立的并发处理程序,上下相邻的并发处理程序传递数据实现通信.通过4个并发处理程序得出10以内的素数表,对应的 Go 实现代码如下：

这个例子体现使用 Go 语言开发的两个特点：

1.Go 语言的并发很简单,并且通过提高并发可以提高处理效率.

2.协程之间可以通过通信的方式来共享变量.

并发控制

当并发成为语言的原生特性之后,在实践过程中就会频繁地使用并发来处理逻辑问题,尤其是涉及到网络I/O的过程,例如 RPC 调用,数据库访问等.下图是一个微服务处理请求的抽象描述：

当 Request 到达 GW 之后,GW 需要整合下游5个服务的结果来响应本次的请求,假定对下游5个服务的调用不存在互相的数据依赖问题.那么这里会同时发起5个 RPC 请求,然后等待5个请求的返回结果.为避免长时间的等待,这里会引入等待超时的概念.超时事件发生后,为了避免资源泄漏,会发送事件给正在并发处理的请求.在实践过程中,得出两种抽象的模型.

• Wait
• Cancel

（编辑：济源站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!