目录
一、引言
二、代码实现
三、思考
一、引言
在线程章节的 3.2 部分,我们曾经提到过线程池的实现
在当时的代码中,我们仅仅用的一个 int 类型的变量来表示这个“池”,用来存放任务
显然这个池太小了,如果下游线程很多,可能会出现以下情况:
我们只需要将任务池的容量增大点,就可以很好地减少上述提到的多次调度带来的上下文切换开销:
池需要用一个数据结构来维护其池中的任务(数据),我们选用队列进行实现
其实队列这个数据结构的特征和管道非常类似,数据从队列尾入队,从队列首出队;数据写入管道的写端,然后从管道的读端读取数据
我们接下来将动手实现一个队列(管道),并基于该管道扩充池的容量。其实内核也提供了现成的管道,我们不直接使用内核提供的管道主要有以下两点考虑:
- 内核提供的管道可用于进程间通信,线程间通信没必要用内核提供的机制,用的话就有点儿大材小用了
- 自己实现管道能够深入了解管道的特点,为后续讲解进程间通信做铺垫(到时候会用到内核提供的管道)
二、代码实现
mypipe.h,暴露接口
#ifndef MYPIPE_H__
#define MYPIPE_H__
#define PIPESIZE 1024
#define MYPIPE_READ 0b00000001UL
#define MYPIPE_WRITE 0b00000010UL
typedef void mypipe_t;
mypipe_t* mypipe_init(void); // 创建(初始化)一个管道
int mypipe_register(mypipe_t *, int opmap); // 注册用户身份
int mypipe_unregister(mypipe_t *, int opmap); // 取消注册用户身份
int mypipe_read(mypipe_t *, int *buf, size_t count); // 读管道
int mypipe_write(mypipe_t *, const int *buf, size_t count); // 写管道
int mypipe_destroy(mypipe_t *); // 销毁管道
#endif
mypipe.c,实现接口。注意如何将在 mypipe.h 中隐藏的数据结构解除隐藏
#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>
#include "mypipe.h"
struct mypipe_st { // 并发队列
int head; // 指向队头
int tail; // 指向队尾
int data[PIPESIZE]; // 存放数据的地方
int datasize; // 队列中有效数据的个数
pthread_mutex_t mutex; // 互斥量
pthread_cond_t cond; // 条件变量
int count_rd, count_wr; // 读者写者计数
// 从这里看出,我们需要用户指定其读者/写者的身份
};
mypipe_t * mypipe_init(void) { // 初始化一个管道
struct mypipe_st *me;
me = malloc(sizeof(*me));
if (me == NULL)
return NULL;
me->head = 0;
me->tail = 0;
me->datasize = 0;
me->count_rd = 0; // 读者个数为0
me->count_wr = 0; // 写者个数为0
pthread_mutex_init(&me->mutex, NULL);
pthread_cond_init(&me->cond, NULL);
return me;
}
int mypipe_register(mypipe_t *ptr, int opmap) { // 用户通过该函数指定其身份
struct mypipe_st * me = ptr; // 之前在.h文件中隐藏了ptr所表征的数据结构,在这里取消隐藏
pthread_mutex_lock(&me->mutex); // 可能多个线程同时注册身份,需要互斥
if (opmap & MYPIPE_READ) // 将宏看成位图,注意位图操作
me->count_rd++;
if (opmap & MYPIPE_WRITE)
me->count_wr++;
pthread_mutex_unlock(&me->mutex);
return 0;
}
int mypipe_unregister(mypipe_t *ptr, int opmap) { // 用户通过该函数取消注册其身份
struct mypipe_st * me = ptr;
pthread_mutex_lock(&me->mutex);
if (opmap & MYPIPE_READ)
me->count_rd--;
if (opmap & MYPIPE_WRITE)
me->count_wr--;
pthread_cond_broadcast(&me->cond); // 可能读者或者写者被减为0了,需要通知一下read及write
pthread_mutex_unlock(&me->mutex);
return 0;
}
int mypipe_read(mypipe_t * ptr, int *buf, size_t count) {
struct mypipe_st * me = ptr;
pthread_mutex_lock(&me->mutex);
while (me->datasize <= 0 && me->count_wr > 0) // 当管道中没有数据,但是还有写者,就继续等待
{
pthread_cond_wait(&me->cond, &me->mutex); // 等待管道中有数据
// 等待写者数量变为0
}
if (me->datasize <= 0 && me->count_wr <= 0)
{
pthread_mutex_unlock(&me->mutex); // 没有写者且管道中没有数据,就直接返回读取到的字节数为0
return 0;
}
int i;
for (i = 0; i < count; ++i) { // 读取
if (me->datasize <= 0)
break;
*(buf+i) = me->data[me->head];
me->head = (me->head + 1)%PIPESIZE; // 读出来了,相当于队列首出队了一个元素
me->datasize--;
}
pthread_cond_broadcast(&me->cond); // 告诉写者能写了
pthread_mutex_unlock(&me->mutex);
return i;
}
int mypipe_write(mypipe_t *ptr, const int *buf, size_t count) {
struct mypipe_st * me = ptr;
pthread_mutex_lock(&me->mutex);
while (me->datasize >= PIPESIZE && me->count_rd > 0) // 当管道满,但是还有读者,就继续等待
pthread_cond_wait(&me->cond, &me->mutex); // 等待读者读出数据,使管道不满
// 等待读者数量变为0
if (me->datasize >= PIPESIZE && me->count_rd <= 0) // 没有读者后,且管道已经满了,就没必要继续写了,直接返回
{
pthread_mutex_unlock(&me->mutex);
return 0;
}
int i;
for (i = 0; i < count; ++i) { // 写入
if (me->datasize == PIPESIZE)
break;
me->data[me->tail] = *(buf+i);
me->tail = (me->tail + 1)%PIPESIZE;
me->datasize++;
}
pthread_cond_broadcast(&me->cond); // 告诉读者能读了
pthread_mutex_unlock(&me->mutex);
return i;
}
int mypipe_destroy(mypipe_t * ptr) {
struct mypipe_st * me = ptr;
pthread_mutex_destroy(&me->mutex);
pthread_cond_destroy(&me->cond);
free(ptr);
return 0;
}
main.c,演示用户如何使用接口。main 首先创建 10 个线程(这 10 个线程负责从池中获取数据并判断是否为质数),然后 main 线程自身源源不断往池中写入数据。我们需要用我们上述写的管道来表征这个池,注意如何使用我们的接口:
- 创建管道
- 往管道写入数据前需要注册写者身份,写入完毕后需要取消注册的身份
- 从管道读取数据前需要注册读者身份,读取完毕后需要取消注册的身份
- 管道用完后需要销毁管道
#include <stdio.h>
#include <stdlib.h>
#include <pthread.h>
#include <unistd.h>
#include "mypipe.h"
#define NUM_THREADS 10
#define START_NUM 30000000
#define END_NUM 30000200
// 质数判断函数
int is_prime(int number) {
if (number <= 1) return 0;
for (int i = 2; i * i <= number; i++) {
if (number % i == 0) return 0;
}
return 1;
}
// 线程函数
void *reader_function(void *arg) {
mypipe_t *pipe = (mypipe_t *)arg;
int number;
mypipe_register(pipe, MYPIPE_READ);
while (mypipe_read(pipe, &number, 1) > 0) {
if (is_prime(number)) {
printf("Prime number: %d\n", number);
}
}
mypipe_unregister(pipe, MYPIPE_READ);
return NULL;
}
int main() {
pthread_t threads[NUM_THREADS];
mypipe_t *pipe = mypipe_init();
// 创建读线程
for (int i = 0; i < NUM_THREADS; i++) {
pthread_create(&threads[i], NULL, reader_function, pipe);
}
// 主线程写入数据
mypipe_register(pipe, MYPIPE_WRITE);
for (int i = START_NUM; i <= END_NUM; i++) {
mypipe_write(pipe, &i, 1);
}
mypipe_unregister(pipe, MYPIPE_WRITE);
// 等待所有读线程完成
for (int i = 0; i < NUM_THREADS; i++) {
pthread_join(threads[i], NULL);
}
// 销毁管道
mypipe_destroy(pipe);
return 0;
}
结果示例如下
我们判断的是从 30000000 到 30000200 之间的质数,结果和线程章节的 3.2 中所实现代码的运行结果一致,说明代码没毛病
我们从我们自己创建的管道,可以看出管道的如下几个特点
- 管道通信是单工的。一方作为读者,另一方作为写者。写永远写在尾部,读永远是从首部读
- 管道必须凑齐读写双方才能正常运行。注意 mypipe_read 和 mypipe_write 中的 while 循环条件:只要缺失读者或者写者,另一方就可能直接返回而不会等待新的数据(哪怕后面可能有新的读者或者写者加入并读写管道)
- 管道内部自带同步与互斥机制
三、思考
上述代码的一个缺陷是:没有办法约束用户的行为!
比如我是一个用户,我注册了写者身份后却调用的 write......
那可不妥!!一种好的思路是引入权限的概念,并对上述接口再封装一层......
上述蓝色字体表示封装出来的新的接口,以供用户调用;绿色字体介绍了这样封装的思想和逻辑。其实这就是 UNIX “一切皆文件”思想的部分实现方式!即:就算最底层可能是完全不一样的东东(操作管道、操作设备、操作普通文件......),也会再封装一层,并提供通用的接口(如 open、read、write、close 和文件描述符 fd......)。这样一来,在用户的视角里,操作文件的接口也可以操作很多不一样的东东,因此“一切皆文件”