Go 并发编程协程及调度机制详情
作者:宇宙之一粟 发布时间:2024-01-31 03:22:55
前言:
协程(coroutine)是 Go 语言最大的特色之一,goroutine 的实现其实是通过协程。
协程的概念
协程一词最早出现在 1963 年发表的论文中,该论文的作者为美国计算机科学家 Melvin E.Conway。著名的康威定律:“设计系统的架构受制于产生这些设计的组织的沟通结构。” 也是这个作者。
协程是一种用户态的轻量级线程,可以想成一个线程里面可以有多个协程,而协程的调度完全由用户控制,协程也会有自己的 registers、context、stack 等等,并且由协程的调度器来控制说目前由哪个协程执行,哪个协程要被 block 住。
而相对于 Thread 及 Process 的调度,则是由 CPU 内核去进行调度,因此操作系统其实会有所谓许多的调度算法,并且可以进行抢占式调度,可以主动抢夺执行的控制权。
反之,协程是不行的,只能进行非抢占式的调度。 可以理解成,如果 coroutine 被 block 住,则会在用户态直接切换另外一个 coroutine 给此 thread 继续执行,这样其他 coroutine 就不会被 block 住,让资源能够有效的被利用,借此实现 Concurrent 的概念。
协程与线程
线程 是 CPU 调度的基本单位,多个线程可以通过共享进程的资源,通过共享内存等方式来进行线程间通信。
协程 可理解为轻量级线程,与线程相比,协程不受操作系统系统调度,协程调度由用户应用程序提供,协程调度器按照调度策略把协程调度到线程中运行。
协程只需花几 KB 就可以被创立,线程则需要几 MB 的内存才能创立
切换开销方面,协程远远低于线程,切换的速度也因此大幅提升
goroutine 的诞生
Golang 语言的 goroutine 其实就是协程,特别的是在语言层面直接原生支持创立协程,并在 runtime、系统调用等多方面对 goroutine 调度进行封装及处理。
相对于 Java 的建立线程,操作系统是会直接建立一个线程与其对应,而多个线程的间互相切换需要通过内核线程来进行,会有较大的上下文切换开销,造成的资源耗费,而 goroutine 是在代码上直接实现切换,不需要经过内核线程。
goroutine 的优势:
与线程相比, goroutine 非常便宜,可以根据应用程序的需求自动分配, 但在线程的大小通常是固定的
使用 goroutine 访问共享内存的时候 透过 channel 可以避免竞态条件的发生
比如,我们计算一个数字的质数,可以写出如下的代码:
package main
import (
"fmt"
"time"
)
func main() {
num := 300000
start := time.Now()
for i := 1; i <= num; i++ {
if isPrime(i) {
fmt.Println(i)
}
}
end := time.Now()
fmt.Println(end.Unix()-start.Unix(), "seconds")
}
func isPrime(num int) bool {
if num == 1 {
return false
} else if num == 2 {
return true
} else {
for i := 2; i < num; i++ {
if num%i == 0 {
return false
}
}
return true
}
}
上面的代码用 num := 300000 来测试,也就是从 1~300000 之间来看那些数字会是质数,如果是质数的话就把质数输出,最后看到最终花费了 37 秒。运行结果如下:
使用 goroutine 加快速度
package main
import (
"fmt"
"time"
)
func main() {
num := 300000
start := time.Now()
for i := 1; i <= num; i++ {
go findPrimes(i)
}
end := time.Now()
time.Sleep(5 * time.Second)
fmt.Println(end.Unix()-start.Unix(), "seconds")
}
func findPrimes(num int) {
if num == 1 {
return
} else if num == 2 {
fmt.Println(num)
} else {
for i := 2; i < num; i++ {
if num%i == 0 {
return
}
}
fmt.Println(num)
}
}
go findPrimes
这条语句就可以开启一个 goroutine,因此以主程序来说这样等于是开启 300000 个 goroutine 来各自判断自己拿到 num 是不是质数这样。
用 time. Sleep
来休息五秒来让 main 主程序不要被关闭,否则由于开启 goroutine 之后代码会继续往下执行,如果没做 sleep 的话会导致主程序关闭,主程序一关闭 goroutine 就跟着关闭了,我们就看不出效果了。
这边运行之后会发现输出的质数出现并不是从小到大的,这是因为这些 goroutine 是一起做事情的,所以谁先做完谁就先输出这样。
运行结果如下,最后花费了大概 11 秒:
goroutine 的机制原理
理解 goroutine 机制的原理,关键是理解 Go 语言是如何实现调度器模型的。
计算机科学领域的任何问题都可以通过添加间接中间层来解决。GPM 模型就是这一理论的实践者。
Go 语言中支撑整个调度器实现的主要有 4 个重要结构,分别是 machine(简称 M )、goroutine(简称 G )、processor(简称 P )、Scheduler(简称 Sched), 前三个定义在 runtime.h
中,Sched 定义在 proc.c
中。
Sched 结构就是调度器,它维护有存储 M 和 G 的队列以及调度器的一些状态信息等
M 结构是 Machine,系统线程,它由操作系统管理和调度的,goroutine 就是跑在 M 之上的; M 是一个很大的结构,里面维护小对象内存 cache(mcache)、当前执行的 goroutine、随机数发生器等等非常多的信息。
P 结构是 Processor,处理器,它的主要用途就是用来执行 goroutine 的,它维护了一个 goroutine 队列,即 runqueue。 Processor 是让我们从 N:1 调度到 M:N 调度的重要部分。
G 是 goroutine 实现的核心结构,它包含了栈,指令指针,以及其他对调度 goroutine 很重要的信息,例如其阻塞的 channel。
我们分别用三角形,矩形和圆形表示 Machine Processor 和 Goroutine:
在单核处理器的场景下,所有 goroutine 运行在同一个 M 系统线程中,每一个 M 系统线程维护一个 Processor,任何时刻,一个 Processor 中只有一个 goroutine,其他 goroutine 在 runqueue 中等待。
一个 goroutine 运行完自己的时间片后,让出上下文,回到 runqueue 中。 多核处理器的场景下,为了运行 goroutines,每个 M 系统线程会持有一个 Processor 。
可以看到 Go 的并发用起来非常简单,用了一个语法糖将内部复杂的实现结结实实的包装了起来。
其内部可以用下面这张图来概述:
在单核处理器的场景下,所有 goroutine 运行在同一个 M 系统线程中,每一个 M 系统线程维护一个 Processor,任何时刻,一个 Processor 中只有一个 goroutine,其他 goroutine 在 runqueue 中等待。一个 goroutine 运行完自己的时间片后,让出上下文,回到 runqueue 中。 多核处理器的场景下,为了运行 goroutines,每个 M 系统线程会持有一个 Processor 。
在正常情况下,scheduler 会按照上面的流程进行调度,但是线程会发生阻塞等情况,看一下goroutine对线程阻塞等的处理。
来源:https://juejin.cn/post/7140291758201503774


猜你喜欢
- 本文实例讲述了Python进程池Pool应用。分享给大家供大家参考,具体如下:当需要创建的子进程数量不多时,可以直接利用multiproce
- 近期安装了python后,发现使用pycharm工具打开代码后发现代码下边会有波浪线的显示;但是该代码语句确实没有错误,通过查询发现了两种方
- 本次分析一下Logger.info的流程1. Logger.info源码: def info(self, msg, *args, **kwa
- 这次主要介绍字符串常用操作方法及例子1.python字符串在python中声明一个字符串,通常有三种方法:在它的两边加上单引号、双引号或者三
- 使用Python获取电脑的磁盘信息需要借助于第三方的模块psutil,这个模块需要自己安装,纯粹的CPython下面不具备这个功能。在iPy
- 源代码如下:#-*- coding:utf-8 -*- def check_exsit(process_name): import win3
- 首先声明:本人虽然在web前端岗位干了好多年,但无奈岗位对技术要求不高。html,css用的比较多,JavaScript自己原创的很少,基本
- <?php $path = "D:\\in.txt"; try //检测异常 { file_open($path)
- 引题:该题源自一个网友的求助,作为水群龙王的我义不容辞的接下了这道题目,先来看题目:拿到这道题,题目的意思已经很清楚了,列表里含有2的元素都
- 首先,看一下sql server,之前我们都通过前台用户选择一个起始时间和一个结束时间(以日为最小单位),然后来作为条件进行查询,如果直接通
- 题目描述输入n个整数,找出其中最小的K个数。例如输入4,5,1,6,2,7,3,8这8个数字,则最小的4个数字是1,2,3,4,。这个题目完
- 本人非计算机,亦非心理学,或者交互设计,更非设计专业出身,因此什么都是半桶水。即使如此,依然靠着兴趣寻找乐趣。对于设计,爱之,但没有受过系统
- 看代码吧~# 加载库import pandas as pd# 데이터프레임을 만듭니다.dataframe = pd.DataFrame()
- 一、基本(1)利用pytorch建好的层进行搭建import torchfrom torch import nnfrom torch.nn
- 1、字典的概念Python中的字典数据类型和现实中的字典很像,它是以键值对(键和值的组合)的方式把数据组织到一起,可以通过键找到与之对应的值
- python文件可以直接使用命令python xxx.py来启动文件,但是这样会有一个弊端,就是关闭ssh连接,python文件就会自动的进
- 运行平台:WindowsPython版本:Python3.xIDE:Sublime text3一、Scrapy简介Scrapy是一个为了爬取
- 简介壁纸的选择其实很大程度上能看出电脑主人的内心世界,有的人喜欢风景,有的人喜欢星空,有的人喜欢美女,有的人喜欢动物。然而,终究有一天你已经
- 学习前言在前一段时间已经完成了卷积神经网络的复习,现在要对循环神经网络的结构进行更深层次的明确。RNN简介RNN 是当前发展非常火热的神经网
- 一.字典的基本方法1.新建字典1)、建立一个空的字典>>> dict1={} >>> dict2=dic