Linux 编程中常用的进程间通信方法:互斥锁和条件变量、共享内存和信号。
最编程
2024-03-01 13:05:34
...
本文介绍常见的进程间通信方式,分为互斥锁和条件变量,共享内存和信号量两部分,并分别给出样例使用方式和运行结果:
一、互斥锁和条件变量
1. 生产者和消费者使用互斥锁和条件变量通信
- 在单个进程中创建多个线程,分为生产者线程和消费者线程,生产者和消费者使用同一块内存区。
- 生产者向内存区写入数据,同时修改head和tail,消费者从内存区读取数据,也修改head和tail。
- 对于内存区不允许消费者和生产者同时访问,因此使用pthread_mutex_t进行互斥锁保护。
- 生产者使用pthread_cond_broadcast唤醒调用了pthread_cond_wait的消费者,这里需要注意pthread_cond_wait会自动释放锁,无需再次释放。
详细代码如下:
#include <pthread.h>
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <memory.h>
#define NUM_OF_PRODUCER 2
#define NUM_OF_CONSUMER 3
#define MAX_TASK_QUEUE_LEN 10
char task_queue[MAX_TASK_QUEUE_LEN];
int head=0,tail=0,quit=0;
pthread_mutex_t g_task_lock;
pthread_cond_t g_task_cv;
void print_task_status(){
for(int i=0;i<MAX_TASK_QUEUE_LEN;i++){
if(i!=0)
printf(",\t");
printf("%c", task_queue[i]);
if(head==i)
printf("%c", 'H');
if(tail==i)
printf("%c", 'T');
}
printf("\n");
}
void *consumer(void *not_used){
pthread_t tid=pthread_self();
while(!quit){
pthread_mutex_lock(&g_task_lock);
while(head==tail){
if(quit){
printf("Thread consumer %u is quiting!\n", (unsigned int)tid);
pthread_mutex_unlock(&g_task_lock);
pthread_exit((void*)0);
}
printf("No task now! Thread %u is waiting!\n", (unsigned int)tid);
pthread_cond_wait(&g_task_cv, &g_task_lock);
printf("Have task now! Thread %u is grabing the task !\n", (unsigned int)tid);
}
char task=task_queue[tail];
task_queue[tail]='.';
tail=(tail+1)%MAX_TASK_QUEUE_LEN;
printf("consumer %u has a task %c now!\n", (unsigned int)tid, task);
print_task_status();
pthread_mutex_unlock(&g_task_lock);
sleep(2);
printf("consumer %u finish the task %c!\n", (unsigned int)tid, task);
}
pthread_exit((void*)0);
}
void *producer(void *not_used){
pthread_t tid=pthread_self();
while(!quit){
pthread_mutex_lock(&g_task_lock);
if((head+1)%MAX_TASK_QUEUE_LEN != tail){
char task='A' + rand()%26;
task_queue[head] = task;
head=(head+1)%MAX_TASK_QUEUE_LEN;
printf("producer %u gen a task %c!\n", (unsigned int)tid, task);
print_task_status();
pthread_cond_broadcast(&g_task_cv);
}
else{
printf("producer %u find the queue is full !\n", (unsigned int)tid);
}
pthread_mutex_unlock(&g_task_lock);
sleep(rand()%2);
}
printf("Thread %u producer is quiting!\n", (unsigned int)tid);
pthread_exit((void *)0);
}
int main(){
pthread_t pros[NUM_OF_PRODUCER];
pthread_t cons[NUM_OF_CONSUMER];
int rc,t;
memset(task_queue, '.', sizeof(char) * MAX_TASK_QUEUE_LEN);
pthread_mutex_init(&g_task_lock, NULL);
pthread_cond_init(&g_task_cv, NULL);
for(t=0;t<NUM_OF_PRODUCER;t++){
rc=pthread_create(&pros[t], NULL, producer, NULL);
if(rc){
printf("ERROR; return code from producer pthread_create() is %d\n", rc);
exit(-1);
}
}
for(t=0;t<NUM_OF_CONSUMER;t++){
rc=pthread_create(&cons[t], NULL, consumer, NULL);
if(rc){
printf("ERROR; return code from consumer pthread_create() is %d\n", rc);
exit(-1);
}
}
sleep(20);
pthread_mutex_lock(&g_task_lock);
quit=1;
pthread_cond_broadcast(&g_task_cv);
pthread_mutex_unlock(&g_task_lock);
pthread_mutex_destroy(&g_task_lock);
pthread_cond_destroy(&g_task_cv);
pthread_exit(NULL);
}
2. 运行截图如下:
其中H表示head位置,T表示tail位置,点表示内存区域为空,可能未生产数据或者已经被消费完成了。
二、共享内存和信号量
1. 共享内存和信号量的使用有以下几点需要注意:
- 无论是共享内存还是信号量,创建与初始化都遵循同样流程,通过ftok得到key,通过xxxget创建对象并
- 生成id;
- 生产者和消费者都通过shmat将共享内存映射到各自的内存空间,在不同的进程里面映射的位置不同;
- 为了访问共享内存,需要信号量进行保护,信号量需要通过semctl初始化为某个值;
- 接下来生产者和消费者要通过semop(-1)来竞争信号量,如果生产者抢到信号量则写入,然后通过
- semop(+1)释放信号量,如果消费者抢到信号量则读出,然后通过semop(+1)释放信号量;
- 共享内存使用完毕,可以通过shmdt来解除映射。
shared.h包含了consumer.cpp和producer.cpp共同用到的方法。producer中让用户输入几个整数,并将输入的整数保存到共享内存中,然后consumer从共享内存中读取整数相加产生结果。这里的信号量只设定为1,起到了互斥锁的作用。
//shared.h
#include <stdio.h>
#include <stdlib.h>
#include <sys/ipc.h>
#include <sys/shm.h>
#include <sys/types.h>
#include <sys/sem.h>
#include <string.h>
#define MAX_NUM 128
struct shm_data {
int data[MAX_NUM];
int data_len;
};
union semun {
int val;
struct semid_ds *buf;
unsigned short int *array;
struct seminfo *__buf;
};
int get_shmid(){
int shmid;
key_t key;
if((key=ftok("/data/angelotong/multi_task/shm_key", 1024)) < 0){
perror("ftok error");
return -1;
}
shmid = shmget(key, sizeof(shm_data), IPC_CREAT|0777);
return shmid;
}
int get_semid(){
int semid;
int key;
if((key=ftok("/data/angelotong/multi_task/sem_key", 1024)) < 0){
perror("ftok error");
return -1;
}
semid = semget(key, 1, IPC_CREAT|0777);
return semid;
}
int sem_init(int semid){
union semun argument;
unsigned short values[1];
values[0]=1;
argument.array = values;
return semctl(semid, 0, SETALL, argument);
}
int sem_p(int semid){
struct sembuf operations[1];
operations[0].sem_num = 0;
operations[0].sem_op = -1;
operations[0].sem_flag = SEM_UNDO; //这里的flag去掉a
return semop(semid, operations, 1);
}
int sem_v(int semid){
struct sembuf operations[1];
operations[0].sem_num = 0;
operations[0].sem_op = 1;
operations[0].sem_flag = SEM_UNDO; //这里的flag去掉a
return semop(semid, operations, 1);
}
//producer.cpp
#include <unistd.h>
#include "shared.h"
int main(){
void *shm = NULL;
struct shm_data *shared = NULL;
int shmid = get_shmid();
int semid = get_semid();
int i;
shm = shmat(shmid, 0, 0);
if(shm == (void*)-1){
exit(0);
}
shared = (struct shm_data*)shm;
memset(shared, 0, sizeof(struct shm_data));
sem_init(semid);
while(true){
sem_p(semid);
if(shared->data_len>0){
sem_v(semid);
sleep(1);
}
else{
printf("input integers num: ");
scanf("%d", &shared->data_len);
if(shared->data_len > MAX_NUM){
perror("too many integers.");
shared->data_len = 0;
sem_v(semid);
exit(1);
}
for(i=0;i<shared->data_len;i++){
printf("Input the %dth integer: ", i);
scanf("%d", &shared->data[i]);
}
sem_v(semid);
}
}
}
//consumer.cpp
#include <unistd.h>
#include "shared.h"
int main(){
void *shm = NULL;
struct shm_data *shared = NULL;
int shmid = get_shmid();
int semid = get_semid();
int i;
shm = shmat(shmid, (void*)0, 0);
if(shm == (void*)-1){
exit(0);
}
shared = (struct shm_data*)shm;
while(true){
sem_p(semid);
if(shared->data_len>0){
int sum = 0;
for(i=0;i<shared->data_len-1;i++){
printf("%d+",shared->data[i]);
sum+=shared->data[i];
}
printf("%d",shared->data[i]);
sum+=shared->data[shared->data_len-1];
printf("=%d\n", sum);
memset(shared, 0, sizeof(struct shm_data));
sem_v(semid);
}
else{
sem_v(semid);
printf("no tasks, waiting.\n");
sleep(1);
}
}
}
2. 实际运行结果如下:
使用ipcs命令可以查看到我们创建的共享内存和信号量:
三、在使用锁时,需要注意不要产生死锁
1. 死锁产生必要条件:
- 资源互斥:进程对所分配到的资源进行排他性使用,即在一段时间内某个资源只能由一个进程占用
- 请求和保持:进程在持有资源不释放的情况下继续申请其他互斥资源
- 不剥夺:持有互斥资源的进程在完成之前不被其他进程剥夺,资源仅由本进程完成后释放
- 循环等待:多个进程间互相持有其他进程的资源,任何进程都无法进步一获得资源
2. 死锁预防--破坏必要条件:
- 允许资源共享,但适合场景有限
- 采用静态分配方式,进程执行前先申请全部所需资源,都满足后才开始执行
- 1)申请新资源时必须释放已有资源;2)允许资源分配程序剥夺申请资源进程的已有资源
- 采用编号分配策略,资源申请必须按照编号依次进行,避免循环等待
3. 死锁避免:
- 银行家算法
4. 死锁检测:
- 从一个节点出发进行深度优先搜索,标记已访问过的节点,判断有环路即已发生死锁
5. 死锁恢复:
- 资源剥夺,使进程休眠
- 恢复检查点并回退进程,直至处于安全状态
- 撤销死锁进程,回收并重新分配资源
上一篇: Linux 进程间通信方法及其优缺点
下一篇: 进程间通信机制中唯一的异步通信机制
推荐阅读
-
Linux 编程中常用的进程间通信方法:互斥锁和条件变量、共享内存和信号。
-
windows下进程间通信的(13种方法)-摘 要 本文讨论了进程间通信与应用程序间通信的含义及相应的实现技术,并对这些技术的原理、特性等进行了深入的分析和比较。 ---- 关键词 信号 管道 消息队列 共享存储段 信号灯 远程过程调用 Socket套接字 MQSeries 1 引言 ---- 进程间通信的主要目的是实现同一计算机系统内部的相互协作的进程之间的数据共享与信息交换,由于这些进程处于同一软件和硬件环境下,利用操作系统提供的的编程接口,用户可以方便地在程序中实现这种通信;应用程序间通信的主要目的是实现不同计算机系统中的相互协作的应用程序之间的数据共享与信息交换,由于应用程序分别运行在不同计算机系统中,它们之间要通过网络之间的协议才能实现数据共享与信息交换。进程间通信和应用程序间通信及相应的实现技术有许多相同之处,也各有自己的特色。即使是同一类型的通信也有多种的实现方法,以适应不同情况的需要。 ---- 为了充分认识和掌握这两种通信及相应的实现技术,本文将就以下几个方面对这两种通信进行深入的讨论:问题的由来、解决问题的策略和方法、每种方法的工作原理和实现、每种实现方法的特点和适用的范围等。 2 进程间的通信及其实现技术 ---- 用户提交给计算机的任务最终都是通过一个个的进程来完成的。在一组并发进程中的任何两个进程之间,如果都不存在公共变量,则称该组进程为不相交的。在不相交的进程组中,每个进程都独立于其它进程,它的运行环境与顺序程序一样,而且它的运行环境也不为别的进程所改变。运行的结果是确定的,不会发生与时间相关的错误。 ---- 但是,在实际中,并发进程的各个进程之间并不是完全互相独立的,它们之间往往存在着相互制约的关系。进程之间的相互制约关系表现为两种方式: ---- (1) 间接相互制约:共享CPU ---- (2) 直接相互制约:竞争和协作 ---- 竞争——进程对共享资源的竞争。为保证进程互斥地访问共享资源,各进程必须互斥地进入各自的临界段。 ---- 协作——进程之间交换数据。为完成一个共同任务而同时运行的一组进程称为同组进程,它们之间必须交换数据,以达到协作完成任务的目的,交换数据可以通知对方可以做某事或者委托对方做某事。 ---- 共享CPU问题由操作系统的进程调度来实现,进程间的竞争和协作由进程间的通信来完成。进程间的通信一般由操作系统提供编程接口,由程序员在程序中实现。UNIX在这个方面可以说最具特色,它提供了一整套进程间的数据共享与信息交换的处理方法——进程通信机制(IPC)。因此,我们就以UNIX为例来分析进程间通信的各种实现技术。 ---- 在UNIX中,文件(File)、信号(Signal)、无名管道(Unnamed Pipes)、有名管道(FIFOs)是传统IPC功能;新的IPC功能包括消息队列(Message queues)、共享存储段(Shared memory segment)和信号灯(Semapores)。 ---- (1) 信号 ---- 信号机制是UNIX为进程中断处理而设置的。它只是一组预定义的值,因此不能用于信息交换,仅用于进程中断控制。例如在发生浮点错、非法内存访问、执行无效指令、某些按键(如ctrl-c、del等)等都会产生一个信号,操作系统就会调用有关的系统调用或用户定义的处理过程来处理。 ---- 信号处理的系统调用是signal,调用形式是: ---- signal(signalno,action) ---- 其中,signalno是规定信号编号的值,action指明当特定的信号发生时所执行的动作。 ---- (2) 无名管道和有名管道 ---- 无名管道实际上是内存中的一个临时存储区,它由系统安全控制,并且独立于创建它的进程的内存区。管道对数据采用先进先出方式管理,并严格按顺序操作,例如不能对管道进行搜索,管道中的信息只能读一次。 ---- 无名管道只能用于两个相互协作的进程之间的通信,并且访问无名管道的进程必须有共同的祖先。 ---- 系统提供了许多标准管道库函数,如: pipe——打开一个可以读写的管道; close——关闭相应的管道; read——从管道中读取字符; write——向管道中写入字符; ---- 有名管道的操作和无名管道类似,不同的地方在于使用有名管道的进程不需要具有共同的祖先,其它进程,只要知道该管道的名字,就可以访问它。管道非常适合进程之间快速交换信息。 ---- (3) 消息队列(MQ) ---- 消息队列是内存中独立于生成它的进程的一段存储区,一旦创建消息队列,任何进程,只要具有正确的的访问权限,都可以访问消息队列,消息队列非常适合于在进程间交换短信息。 ---- 消息队列的每条消息由类型编号来分类,这样接收进程可以选择读取特定的消息类型——这一点与管道不同。消息队列在创建后将一直存在,直到使用msgctl系统调用或iqcrm -q命令删除它为止。 ---- 系统提供了许多有关创建、使用和管理消息队列的系统调用,如: ---- int msgget(key,flag)——创建一个具有flag权限的MQ及其相应的结构,并返回一个唯一的正整数msqid(MQ的标识符); ---- int msgsnd(msqid,msgp,msgsz,msgtyp,flag)——向队列中发送信息; ---- int msgrcv(msqid,cmd,buf)——从队列中接收信息; ---- int msgctl(msqid,cmd,buf)——对MQ的控制操作; ---- (4) 共享存储段(SM) ---- 共享存储段是主存的一部分,它由一个或多个独立的进程共享。各进程的数据段与共享存储段相关联,对每个进程来说,共享存储段有不同的虚拟地址。系统提供的有关SM的系统调用有: ---- int shmget(key,size,flag)——创建大小为size的SM段,其相应的数据结构名为key,并返回共享内存区的标识符shmid; ---- char shmat(shmid,address,flag)——将当前进程数据段的地址赋给shmget所返回的名为shmid的SM段; ---- int shmdr(address)——从进程地址空间删除SM段; ---- int shmctl (shmid,cmd,buf)——对SM的控制操作; ---- SM的大小只受主存限制,SM段的访问及进程间的信息交换可以通过同步读写来完成。同步通常由信号灯来实现。SM非常适合进程之间大量数据的共享。 ---- (5) 信号灯 ---- 在UNIX中,信号灯是一组进程共享的数据结构,当几个进程竞争同一资源时(文件、共享内存或消息队列等),它们的操作便由信号灯来同步,以防止互相干扰。 ---- 信号灯保证了某一时刻只有一个进程访问某一临界资源,所有请求该资源的其它进程都将被挂起,一旦该资源得到释放,系统才允许其它进程访问该资源。信号灯通常配对使用,以便实现资源的加锁和解锁。 ---- 进程间通信的实现技术的特点是:操作系统提供实现机制和编程接口,由用户在程序中实现,保证进程间可以进行快速的信息交换和大量数据的共享。但是,上述方式主要适合在同一台计算机系统内部的进程之间的通信。 3 应用程序间的通信及其实现技术 ---- 同进程之间的相互制约一样,不同的应用程序之间也存在竞争和协作的关系。UNIX操作系统也提供一些可用于应用程序之间实现数据共享与信息交换的编程接口,程序员可以通过自己编程来实现。如远程过程调用和基于TCP/IP协议的套接字(Socket)编程。但是,相对普通程序员来说,它们涉及的技术比较深,编程也比较复杂,实现起来困难较大。 ---- 于是,一种新的技术应运而生——通过将有关通信的细节完全掩盖在某个独立软件内部,即底层的通讯工作和相应的维护管理工作由该软件内部来实现,用户只需要将通信任务提交给该软件去完成,而不必理会它的具体工作过程——这就是所谓的中间件技术。 ---- 我们在这里分别讨论这三种常用的应用程序间通信的实现技术——远程过程调用、会话编程技术和MQSeries消息队列技术。其中远程过程调用和会话编程属于比较低级的方式,程序员参与的程度较深,而MQSeries消息队列则属于比较高级的方式,即中间件方式,程序员参与的程度较浅。 ---- 4.1 远程过程调用(RPC)