久久精品国产精品国产精品污,男人扒开添女人下部免费视频,一级国产69式性姿势免费视频,夜鲁夜鲁很鲁在线视频 视频,欧美丰满少妇一区二区三区,国产偷国产偷亚洲高清人乐享,中文 在线 日韩 亚洲 欧美,熟妇人妻无乱码中文字幕真矢织江,一区二区三区人妻制服国产

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁(yè) > 编程资源 > 编程问答 >内容正文

编程问答

线程模型、pthread 系列函数 和 简单多线程服务器端程序

發(fā)布時(shí)間:2025/3/20 编程问答 27 豆豆
生活随笔 收集整理的這篇文章主要介紹了 线程模型、pthread 系列函数 和 简单多线程服务器端程序 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

一、線程有3種模型,分別是N:1用戶線程模型,1:1核心線程模型和N:M混合線程模型,posix thread屬于1:1模型。


(一)、N:1用戶線程模型

“線程實(shí)現(xiàn)”建立在“進(jìn)程控制”機(jī)制之上,由用戶空間的程序庫(kù)來管理。OS內(nèi)核完全不知道線程信息。這些線程稱為用戶空間線程。這些線程都工作在“進(jìn)

程競(jìng)爭(zhēng)范圍”(process contention scope):各個(gè)線程在同一進(jìn)程競(jìng)爭(zhēng)“被調(diào)度的CPU時(shí)間”(但不直接和其他進(jìn)程中的線程競(jìng)爭(zhēng))。



在N:1線程模型中,內(nèi)核不干涉線程的任何生命活動(dòng),也不干涉同一進(jìn)程中的線程環(huán)境切換。

在N:1線程模型中,一個(gè)進(jìn)程中的多個(gè)線程只能調(diào)度到一個(gè)CPU,這種約束限制了可用的并行總量。

第二個(gè)缺點(diǎn)是如果某個(gè)線程執(zhí)行了一個(gè)“阻塞式”操作(如read),那么,進(jìn)程中的所有線程都會(huì)阻塞,直至那個(gè)操作結(jié)束。為此,一些線程的實(shí)現(xiàn)是為

這些阻塞式函數(shù)提供包裝器,用非阻塞版本替換這些系統(tǒng)調(diào)用,以消除這種限制。


(二)、1:1核心線程模型?pthread線程庫(kù)--NPTL(Native POSIX Threading Library)

在1:1核心線程模型中,應(yīng)用程序創(chuàng)建的每一個(gè)線程(也有書稱為L(zhǎng)WP)都由一個(gè)核心線程直接管理。OS內(nèi)核將每一個(gè)核心線程都調(diào)到系統(tǒng)CPU上,

因此,所有線程都工作在“系統(tǒng)競(jìng)爭(zhēng)范圍”(system contention scope):線程直接和“系統(tǒng)范圍”內(nèi)的其他線程競(jìng)爭(zhēng)。

這種線程的創(chuàng)建與調(diào)度由內(nèi)核完成,因?yàn)檫@種線程的系統(tǒng)開銷比較大(但一般來說,比進(jìn)程開銷小)




(三)、N:M混合線程模型 ?NGPT(Next Generation POSIX Threads)

N:M混合線程模型提供了兩級(jí)控制,將用戶線程映射為系統(tǒng)的可調(diào)度體以實(shí)現(xiàn)并行,這個(gè)可調(diào)度體稱為輕量級(jí)進(jìn)程(LWP:light weight process),LWP 再一一映射到核心線程。如下圖所示。OS內(nèi)核將每一個(gè)核心線程都調(diào)到系統(tǒng)CPU上,因此,所有線程都工作在“系統(tǒng)競(jìng)爭(zhēng)范圍”。

據(jù)說一些類UNIX系統(tǒng)(如Solaris)已經(jīng)實(shí)現(xiàn)了比較成熟的M:N線程模型, 其性能比起linux的線程還是有著一定的優(yōu)勢(shì),但不能利用SMP結(jié)構(gòu)。

按照2003年3月NGPT官方網(wǎng)站上的通知,NGPT考慮到NPTL日益廣泛地為人所接受,為避免不同的線程庫(kù)版本引起的混亂,今后將不再進(jìn)行進(jìn)一步開發(fā),而今進(jìn)行支持性的維護(hù)工作。也就是說,NGPT已經(jīng)放棄與NPTL競(jìng)爭(zhēng)下一代Linux POSIX線程庫(kù)標(biāo)準(zhǔn)。


二、posix 線程概述

我們知道,進(jìn)程在各自獨(dú)立的地址空間中運(yùn)行,進(jìn)程之間共享數(shù)據(jù)需要用進(jìn)程間通信機(jī)制,有些情況需要在一個(gè)進(jìn)程中同時(shí)執(zhí)行多個(gè)控制流程,這時(shí)候

線程就派上了用場(chǎng),比如實(shí)現(xiàn)一個(gè)圖形界面的下載軟件,一方面需要和用戶交互,等待和處理用戶的鼠標(biāo)鍵盤事件,另一方面又需要同時(shí)下載多個(gè)文

件,等待和處理從多個(gè)網(wǎng)絡(luò)主機(jī)發(fā)來的數(shù)據(jù),這些任務(wù)都需要一個(gè)“等待-處理”的循環(huán),可以用多線程實(shí)現(xiàn),一個(gè)線程專門負(fù)責(zé)與用戶交互,另外幾個(gè)線

程每個(gè)線程負(fù)責(zé)和一個(gè)網(wǎng)絡(luò)主機(jī)通信。


以前我們講過,main函數(shù)和信號(hào)處理函數(shù)是同一個(gè)進(jìn)程地址空間中的多個(gè)控制流程,多線程也是如此,但是比信號(hào)處理函數(shù)更加靈活,信號(hào)處理函數(shù)的

控制流程只是在信號(hào)遞達(dá)時(shí)產(chǎn)生,在處理完信號(hào)之后就結(jié)束,而多線程的控制流程可以長(zhǎng)期并存,操作系統(tǒng)會(huì)在各線程之間調(diào)度和切換,就像在多個(gè)進(jìn)

程之間調(diào)度和切換一樣。由于同一進(jìn)程的多個(gè)線程共享同一地址空間,因此Text Segment、Data Segment都是共享的,如果定義一個(gè)函數(shù),在各線程

中都可以調(diào)用,如果定義一個(gè)全局變量,在各線程中都可以訪問到,除此之外,各線程還共享以下進(jìn)程資源和環(huán)境:


文件描述符表

每種信號(hào)的處理方式(SIG_IGN、SIG_DFL或者自定義的信號(hào)處理函數(shù))

當(dāng)前工作目錄

用戶id和組id


但有些資源是每個(gè)線程各有一份的:

線程id

上下文,包括各種寄存器的值、程序計(jì)數(shù)器和棧指針

棧空間

errno變量

信號(hào)屏蔽字

調(diào)度優(yōu)先級(jí)


我們將要學(xué)習(xí)的線程庫(kù)函數(shù)是由POSIX標(biāo)準(zhǔn)定義的,稱為POSIX thread或者pthread。在Linux上線程函數(shù)位于libpthread共享庫(kù)中,因此在編譯時(shí)要加上-lpthread選項(xiàng)。


注:linux 2.6?以后的線程就是由用戶態(tài)的pthread庫(kù)實(shí)現(xiàn)的.使用pthread以后,?在用戶看來,?每一個(gè)task_struct就對(duì)應(yīng)一個(gè)線程,?而一組線程以及它們所共同引用的一組資源就是一個(gè)進(jìn)程.在linux 2.6中, 內(nèi)核有了線程組的概念, task_struct結(jié)構(gòu)中增加了一個(gè)tgid(thread group id)字段.?getpid(獲取進(jìn)程ID)系統(tǒng)調(diào)用返回的也是tast_struct中的tgid, 而tast_struct中的pid則由gettid系統(tǒng)調(diào)用來返回。
當(dāng)線程停止/繼續(xù), 或者是收到一個(gè)致命信號(hào)時(shí), 內(nèi)核會(huì)將處理動(dòng)作施加到整個(gè)線程組中。
比如程序a.out運(yùn)行時(shí),創(chuàng)建了一個(gè)線程。假設(shè)主線程的pid是10001、子線程是10002(它們的tgid都是10001)。這時(shí)如果你kill 10002,是可以把10001和10002這兩個(gè)線程一起殺死的,盡管執(zhí)行ps命令的時(shí)候根本看不到10002這個(gè)進(jìn)程。如果你不知道linux線程背后的故事,肯定會(huì)覺得遇到靈異事件了。

?


三、pthread 系列函數(shù)

(一)

功能:創(chuàng)建一個(gè)新的線程
原型 int pthread_create(pthread_t *thread, const pthread_attr_t *attr, void *(*start_routine)(void*), void *arg);
參數(shù)
thread:返回線程ID
attr:設(shè)置線程的屬性,attr為NULL表示使用默認(rèn)屬性
start_routine:是個(gè)函數(shù)地址,線程啟動(dòng)后要執(zhí)行的函數(shù)
arg:傳給線程啟動(dòng)函數(shù)的參數(shù)
返回值:成功返回0;失敗返回錯(cuò)誤碼


錯(cuò)誤檢查:

以前學(xué)過的系統(tǒng)函數(shù)都是成功返回0,失敗返回-1,而錯(cuò)誤號(hào)保存在全局變量errno中,而pthread庫(kù)的函數(shù)都是通過返回值返回錯(cuò)誤號(hào),雖然每個(gè)線程也都有一個(gè)errno,但這是為了兼容其它函數(shù)接口而提供的,pthread庫(kù)本身并不使用它,通過返回值返回錯(cuò)誤碼更加清晰。由于pthread_create的錯(cuò)誤碼不保存在errno中,因此不能直接用perror(3)打印錯(cuò)誤信息,可以先用strerror(3)把錯(cuò)誤號(hào)轉(zhuǎn)換成錯(cuò)誤信息再打印。


(二)

功能:線程終止
原型 void pthread_exit(void *value_ptr);
參數(shù)
value_ptr:value_ptr不要指向一個(gè)局部變量,因?yàn)楫?dāng)其它線程得到這個(gè)返回指針時(shí)線程函數(shù)已經(jīng)退出了。
返回值:無返回值,跟進(jìn)程一樣,線程結(jié)束的時(shí)候無法返回到它的調(diào)用者(自身)


如果需要只終止某個(gè)線程而不終止整個(gè)進(jìn)程,可以有三種方法:

1、從線程函數(shù)return。這種方法對(duì)主線程不適用,從main函數(shù)return相當(dāng)于調(diào)用exit,而如果任意一個(gè)線程調(diào)用了exit或_exit,則整個(gè)進(jìn)程的所有線程都終止。

2、一個(gè)線程可以調(diào)用pthread_cancel 終止同一進(jìn)程中的另一個(gè)線程。

3、線程可以調(diào)用pthread_exit終止自己。


(三)

功能:等待線程結(jié)束
原型 int pthread_join(pthread_t thread, void **value_ptr);
參數(shù)
thread:線程ID
value_ptr:它指向一個(gè)指針,后者指向線程的返回值
返回值:成功返回0;失敗返回錯(cuò)誤碼


當(dāng)pthread_create 中的 start_routine返回時(shí),這個(gè)線程就退出了,其它線程可以調(diào)用pthread_join得到start_routine的返回值,類似于父進(jìn)程調(diào)用wait(2)得到子進(jìn)程的退出狀態(tài)。

調(diào)用該函數(shù)的線程將掛起等待,直到id為thread的線程終止。thread線程以不同的方法終止,通過pthread_join得到的終止?fàn)顟B(tài)是不同的,總結(jié)如下:

1、如果thread線程通過return返回,value_ptr所指向的單元里存放的是thread線程函數(shù)的返回值。

2、如果thread線程被別的線程調(diào)用pthread_cancel異常終止掉,value_ptr所指向的單元里存放的是常數(shù)PTHREAD_CANCELED。

3、如果thread線程是自己調(diào)用pthread_exit終止的,value_ptr所指向的單元存放的是傳給pthread_exit的參數(shù)。

如果對(duì)thread線程的終止?fàn)顟B(tài)不感興趣,可以傳NULL給value_ptr參數(shù)。


(四)

功能:返回線程ID
原型 pthread_t pthread_self(void);
返回值:成功返回線程id

在Linux上,pthread_t類型是一個(gè)地址值,屬于同一進(jìn)程的多個(gè)線程調(diào)用getpid(2)可以得到相同的進(jìn)程號(hào),而調(diào)用pthread_self(3)得到的線程號(hào)各不相同。線程id只在當(dāng)前進(jìn)程中保證是唯一的,在不同的系統(tǒng)中pthread_t這個(gè)類型有不同的實(shí)現(xiàn),它可能是一個(gè)整數(shù)值,也可能是一個(gè)結(jié)構(gòu)體,也可能是一個(gè)地址,所以不能簡(jiǎn)單地當(dāng)成整數(shù)用printf打印。


(五)

功能:取消一個(gè)執(zhí)行中的線程
原型 int pthread_cancel(pthread_t thread);
參數(shù)
thread:線程ID
返回值:成功返回0;失敗返回錯(cuò)誤碼

一個(gè)新創(chuàng)建的線程默認(rèn)取消狀態(tài)(cancelability state)是可取消的,取消類型(?cancelability type)是同步的,即在某個(gè)可取消點(diǎn)(?cancellation point,即在執(zhí)行某些函數(shù)的時(shí)候)才會(huì)取消線程。具體可以man 一下。

相關(guān)函數(shù)?int pthread_setcancelstate(int state, int *oldstate); ?int pthread_setcanceltype(int type, int *oldtype); 為保證一個(gè)事務(wù)型處理邏輯的完整可以使用這兩個(gè)函數(shù),如下舉例,主線程創(chuàng)建完線程睡眠一陣調(diào)用pthread_cancel,test是thread_function。

?

C++ Code?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
? void?*test(void?*arg)
{
????for?(int?i?=?0;?i?<?10;?i++)
????{
????????pthread_setcancelstate(PTHREAD_CANCEL_DISABLE,?NULL);
????????printf("start:?%d;?",?i);
????????sleep(1);
????????printf("end:?%d\n",?i);
????????if?(i?>?7)
????????{
????????????pthread_setcancelstate(PTHREAD_CANCEL_ENABLE,?NULL);
????????????pthread_testcancel();
????????}
????}
????return?(void?*)0;
}


就算我們?cè)谕瓿梢淮瓮暾壿嫼蟛涣⒓锤幕?PTHREAD_CANCEL_ENABLE,就算后續(xù)循環(huán)再次調(diào)用?PTHREAD_CANCEL_DISABLE 設(shè)置,其 "未決狀態(tài)" 依然會(huì)保留的。循環(huán)執(zhí)行i=0~8 后,i=9時(shí)在sleep可取消點(diǎn)線程被中斷。


(六)

功能:將一個(gè)線程分離
原型 int pthread_detach(pthread_t thread);
參數(shù)
thread:線程ID
返回值:成功返回0;失敗返回錯(cuò)誤碼

一般情況下,線程終止后,其終止?fàn)顟B(tài)一直保留到其它線程調(diào)用pthread_join獲取它的狀態(tài)為止(僵線程)。但是線程也可以被置為detach狀態(tài),這樣的線程一旦終止就立刻回收它占用的所有資源,而不保留終止?fàn)顟B(tài)。不能對(duì)一個(gè)已經(jīng)處于detach狀態(tài)的線程調(diào)用pthread_join,這樣的調(diào)用將返回EINVAL。對(duì)一個(gè)尚未detach的線程調(diào)用pthread_join或pthread_detach都可以把該線程置為detach狀態(tài),也就是說,不能對(duì)同一線程調(diào)用兩次pthread_join,或者如果已經(jīng)對(duì)一個(gè)線程調(diào)用了pthread_detach就不能再調(diào)用pthread_join了。

這個(gè)函數(shù)既可以在主線程中調(diào)用,也可以在thread_function里面調(diào)用。

在主線程中通過線程屬性也可以達(dá)到同樣的效果,如下:

?

C++ Code?
1
2
3
4
5
6
7
? pthread_attr_t?attr;
pthread_attr_init(&attr);
pthread_attr_setdetachstate(&attr,?PTHREAD_CREATE_DETACHED);
pthread_t?tid;
pthread_create(&tid,?&attr,?test,?"a");?//?test?is?thread_function
sleep(3);
pthread_attr_destroy(&attr);




下面寫個(gè)程序走一下這些函數(shù):

?

C++ Code?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
?
#include<stdio.h>
#include<stdlib.h>
#include<sys/ipc.h>
#include<sys/msg.h>
#include<sys/types.h>
#include<unistd.h>
#include<errno.h>
#include<pthread.h>
#include<string.h>

#define?ERR_EXIT(m)?\
????do?{?\
????????perror(m);?\
????????exit(EXIT_FAILURE);?\
????}?while(0)

void?*routine(void?*arg)
{
????int?i;
????for?(i?=?0;?i?<?20;?i++)
????{
????????printf("B");
????????fflush(stdout);
????????usleep(20);
????????/*
????????????if?(i?==?3)
????????????????pthread_exit("ABC");
????????????*/
????}
????return?"DEF";
}

int?main(void)
{
????pthread_t?tid;
????int?ret;
????if?((ret?=?pthread_create(&tid,?NULL,?routine,?NULL))?!=?0)
????{
????????fprintf(stderr,?"pthread?create:?%s\n",?strerror(ret));
????????exit(EXIT_FAILURE);
????}

????int?i;
????for?(i?=?0;?i?<?20;?i++)
????{
????????printf("A");
????????fflush(stdout);
????????usleep(20);
????}

????void?*value;
????if?((ret?=?pthread_join(tid,?&value))?!=?0)
????{
????????fprintf(stderr,?"pthread?create:?%s\n",?strerror(ret));
????????exit(EXIT_FAILURE);
????}

????printf("\n");

????printf("return?msg=%s\n",?(char?*)value);
????return?0;
}

?

創(chuàng)建一個(gè)線程,主線程打印A,新線程打印B,主線程調(diào)用pthread_join 等待新線程退出,打印退出值。

simba@ubuntu:~/Documents/code/linux_programming/UNP/pthread$ ./pthread_create?
ABAABABABABABABABABABABABABAABABBABABABB
return msg=DEF

在新線程中也可調(diào)用pthread_exit 退出。


四、簡(jiǎn)單的多線程服務(wù)器端程序

在將socket 編程的時(shí)候曾經(jīng)使用fork 多進(jìn)程的方式來實(shí)現(xiàn)并發(fā),現(xiàn)在嘗試使用多線程方式來實(shí)現(xiàn):

?

C++ Code?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
? #include?<unistd.h>
#include?<sys/types.h>
#include?<sys/socket.h>
#include?<netinet/in.h>
#include?<arpa/inet.h>
#include?<pthread.h>

#include?<stdlib.h>
#include?<stdio.h>
#include?<errno.h>
#include?<string.h>

#define?ERR_EXIT(m)?\
????????do?\
????????{?\
????????????????perror(m);?\
????????????????exit(EXIT_FAILURE);?\
????????}?while(0)

void?echo_srv(int?conn)
{
????char?recvbuf[1024];
????while?(1)
????{
????????memset(recvbuf,?0,?sizeof(recvbuf));
????????int?ret?=?read(conn,?recvbuf,?sizeof(recvbuf));
????????if?(ret?==?0)
????????{
????????????printf("client?close\n");
????????????break;
????????}
????????else?if?(ret?==?-1)
????????????ERR_EXIT("read");
????????fputs(recvbuf,?stdout);
????????write(conn,?recvbuf,?ret);
????}
close(conn);
}

void?*thread_routine(void?*arg)
{
????/*?主線程沒有調(diào)用pthread_join等待線程退出?*/
????pthread_detach(pthread_self());?//剝離線程,避免產(chǎn)生僵線程
????/*int?conn?=?(int)arg;*/
????int?conn?=?*((int?*)arg);
????free(arg);
????echo_srv(conn);
????printf("exiting?thread?...\n");
????return?NULL;
}

int?main(void)
{
????int?listenfd;
????if?((listenfd?=?socket(PF_INET,?SOCK_STREAM,?IPPROTO_TCP))?<?0)
????????ERR_EXIT("socket");

????struct?sockaddr_in?servaddr;
????memset(&servaddr,?0,?sizeof(servaddr));
????servaddr.sin_family?=?AF_INET;
????servaddr.sin_port?=?htons(5188);
????servaddr.sin_addr.s_addr?=?htonl(INADDR_ANY);

????int?on?=?1;
????if?(setsockopt(listenfd,?SOL_SOCKET,?SO_REUSEADDR,?&on,?sizeof(on))?<?0)
????????ERR_EXIT("setsockopt");

????if?(bind(listenfd,?(struct?sockaddr?*)&servaddr,?sizeof(servaddr))?<?0)
????????ERR_EXIT("bind");
????if?(listen(listenfd,?SOMAXCONN)?<?0)
????????ERR_EXIT("listen");

????struct?sockaddr_in?peeraddr;
????socklen_t?peerlen?=?sizeof(peeraddr);
????int?conn;

????while?(1)
????{
????????if?((conn?=?accept(listenfd,?(struct?sockaddr?*)&peeraddr,?&peerlen))?<?0)
????????????ERR_EXIT("accept");

????????printf("ip=%s?port=%d\n",?inet_ntoa(peeraddr.sin_addr),?ntohs(peeraddr.sin_port));

????????pthread_t?tid;
????????//??????int?ret;
????????/*pthread_create(&tid,?NULL,?thread_routine,?(void*)&conn);*/?//?race?condition問題,竟態(tài)問題
????????int?*p?=?malloc(sizeof(int));
????????*p?=?conn;
????????pthread_create(&tid,?NULL,?thread_routine,?p);
????????/*
????????????????if?((ret?=?pthread_create(&tid,?NULL,?thread_routine,?(void*)conn))?!=?0)?//64位系統(tǒng)時(shí)指針不是4個(gè)字節(jié),不可移植
????????????????{
????????????????????fprintf(stderr,?"pthread_create:%s\n",?strerror(ret));
????????????????????exit(EXIT_FAILURE);
????????????????}
????????*/
????}

?

程序邏輯并不復(fù)雜,一旦accept 返回一個(gè)已連接套接字,就創(chuàng)建一個(gè)新線程對(duì)其服務(wù),在每個(gè)新線程thread_routine 中調(diào)用pthread_detach 剝離線程,我們的主線程不能調(diào)用pthread_join 等待這些新線程的退出,因?yàn)檫€要返回while 循環(huán)開頭去在accept 中阻塞監(jiān)聽。

如果使用pthread_create(&tid, NULL, thread_routine, (void*)&conn); 存在的問題是如果accept 再次返回一個(gè)已連接套接字,而此時(shí)thread_routine 函數(shù)還沒取走conn 時(shí),可能會(huì)讀取到已經(jīng)被更改的conn 值。

如果使用 ?pthread_create(&tid, NULL, thread_routine, (void*)conn); 存在的問題是在64位系統(tǒng)中指針不是4個(gè)字節(jié)而是8個(gè)字節(jié),即不可移植 性。

使用上述未被注釋的做法,每次返回一個(gè)conn,就malloc 一塊內(nèi)存存放起來,在thread_routine 函數(shù)中去讀取即可。

開多個(gè)客戶端,可以看到正常服務(wù)。


后記:其實(shí) pthread 系列函數(shù)也可以應(yīng)用于進(jìn)程間加鎖,怎么應(yīng)用到多進(jìn)程場(chǎng)合呢,被多個(gè)進(jìn)程共享呢?

很簡(jiǎn)單,首先需要設(shè)置互斥鎖的進(jìn)程間共享屬性:

?

?

C++ Code?
1
2
3
4
?int?pshared);
pthread_mutexattr_t?mattr;
pthread_mutexattr_init(&mattr);
pthread_mutexattr_setpshared(&mattr,?PTHREAD_PROCESS_SHARED);

其次,為了達(dá)到多進(jìn)程共享的需要,互斥鎖對(duì)象需要?jiǎng)?chuàng)建在共享內(nèi)存中。

最后,需要注意的是,并不是所有Linux系統(tǒng)都支持這個(gè)特性,程序里需要檢查是否定義了_POSIX_SHARED_MEMORY_OBJECTS宏,只有定義了才能用這種方式實(shí)現(xiàn)進(jìn)程間互斥鎖。



參考:

《linux c 編程一站式學(xué)習(xí)》

《UNP》

《APUE》

http://www.ibm.com/developerworks/cn/linux/l-cn-mthreadps/index.html

http://www.ibm.com/developerworks/cn/linux/kernel/l-thread/

?

?

?

?

Linux 的多線程編程的高效開發(fā)經(jīng)驗(yàn)

?

?

背景

?

Linux 平臺(tái)上的多線程程序開發(fā)相對(duì)應(yīng)其他平臺(tái)(比如 Windows)的多線程 API 有一些細(xì)微和隱晦的差別。不注意這些 Linux 上的一些開發(fā)陷阱,常常會(huì)導(dǎo)致程序問題不窮,死鎖不斷。本文中我們從 5 個(gè)方面總結(jié)出 Linux 多線程編程上的問題,并分別引出相關(guān)改善的開發(fā)經(jīng)驗(yàn),用以避免這些的陷阱。我們希望這些經(jīng)驗(yàn)可以幫助讀者們能更好更快的熟悉 Linux 平臺(tái)的多線程編程。

?

我們假設(shè)讀者都已經(jīng)很熟悉 Linux 平臺(tái)上基本的線程編程的 Pthread 庫(kù) API 。其他的第三方用以線程編程的庫(kù),如 boost,將不會(huì)在本文中提及。本文中主要涉及的題材包括線程開發(fā)中的線程管理,互斥變量,條件變量等。進(jìn)程概念將不會(huì)在本文中涉及。

?

Linux 上線程開發(fā) API 的概要介紹

?

多線程開發(fā)在 Linux 平臺(tái)上已經(jīng)有成熟的 Pthread 庫(kù)支持。其涉及的多線程開發(fā)的最基本概念主要包含三點(diǎn):線程,互斥鎖,條件。其中,線程操作又分線程的創(chuàng)建,退出,等待 3 種。互斥鎖則包括 4 種操作,分別是創(chuàng)建,銷毀,加鎖和解鎖。條件操作有 5 種操作:創(chuàng)建,銷毀,觸發(fā),廣播和等待。其他的一些線程擴(kuò)展概念,如信號(hào)燈等,都可以通過上面的三個(gè)基本元素的基本操作封裝出來。

?

線程,互斥鎖,條件在 Linux 平臺(tái)上對(duì)應(yīng)的 API 可以用表 1 歸納。為了方便熟悉 Windows 線程編程的讀者熟悉 Linux 多線程開發(fā)的 API,我們?cè)诒碇型瑫r(shí)也列出 Windows SDK 庫(kù)中所對(duì)應(yīng)的 API 名稱。

?

表 1. 線程函數(shù)列表

?

對(duì)象操作Linux Pthread APIWindows SDK 庫(kù)對(duì)應(yīng) API
線程創(chuàng)建pthread_createCreateThread
退出pthread_exitThreadExit
等待pthread_joinWaitForSingleObject
互斥鎖創(chuàng)建pthread_mutex_initCreateMutex
銷毀pthread_mutex_destroyCloseHandle
加鎖pthread_mutex_lockWaitForSingleObject
解鎖pthread_mutex_unlockReleaseMutex
條件創(chuàng)建pthread_cond_initCreateEvent
銷毀pthread_cond_destroyCloseHandle
觸發(fā)pthread_cond_signalSetEvent
廣播pthread_cond_broadcastSetEvent / ResetEvent
等待pthread_cond_wait / pthread_cond_timedwaitSingleObjectAndWait

?

多線程開發(fā)在 Linux 平臺(tái)上已經(jīng)有成熟的 Pthread 庫(kù)支持。其涉及的多線程開發(fā)的最基本概念主要包含三點(diǎn):線程,互斥鎖,條件。其中,線程操作又分線程的創(chuàng)建,退出,等待 3 種。互斥鎖則包括 4 種操作,分別是創(chuàng)建,銷毀,加鎖和解鎖。條件操作有 5 種操作:創(chuàng)建,銷毀,觸發(fā),廣播和等待。其他的一些線程擴(kuò)展概念,如信號(hào)燈等,都可以通過上面的三個(gè)基本元素的基本操作封裝出來。

?

Linux 線程編程中的 5 條經(jīng)驗(yàn)

?

盡量設(shè)置 recursive 屬性以初始化 Linux 的互斥變量

?

互斥鎖是多線程編程中基本的概念,在開發(fā)中被廣泛使用。其調(diào)用次序?qū)哟吻逦?jiǎn)單:建鎖,加鎖,解鎖,銷毀鎖。但是需要注意的是,與諸如 Windows 平臺(tái)的互斥變量不同,在默認(rèn)情況下,Linux 下的同一線程無法對(duì)同一互斥鎖進(jìn)行遞歸加速,否則將發(fā)生死鎖。

?

所謂遞歸加鎖,就是在同一線程中試圖對(duì)互斥鎖進(jìn)行兩次或兩次以上的行為。其場(chǎng)景在 Linux 平臺(tái)上的代碼可由清單 1 所示。

?

清單 1. Linux 重復(fù)對(duì)互斥鎖加鎖實(shí)例

?

// 通過默認(rèn)條件建鎖 ????pthread_mutex_t *theMutex = new pthread_mutex_t; ????pthread_mutexattr_t attr; ????pthread_mutexattr_init(&attr); ????pthread_mutex_init(theMutex,&attr); ????pthread_mutexattr_destroy(&attr); ????// 遞歸加鎖 ????pthread_mutex_lock (theMutex); ????pthread_mutex_lock (theMutex); ????pthread_mutex_unlock (theMutex); ????pthread_mutex_unlock (theMutex);

?

在以上代碼場(chǎng)景中,問題將出現(xiàn)在第二次加鎖操作。由于在默認(rèn)情況下,Linux 不允許同一線程遞歸加鎖,因此在第二次加鎖操作時(shí)線程將出現(xiàn)死鎖。

?

Linux 互斥變量這種奇怪的行為或許對(duì)于特定的某些場(chǎng)景會(huì)所有用處,但是對(duì)于大多數(shù)情況下看起來更像是程序的一個(gè) bug 。畢竟,在同一線程中對(duì)同一互斥鎖進(jìn)行遞歸加鎖在尤其是二次開發(fā)中經(jīng)常會(huì)需要。

?

這個(gè)問題與互斥鎖的中的默認(rèn) recursive 屬性有關(guān)。解決問題的方法就是顯式地在互斥變量初始化時(shí)將設(shè)置起 recursive 屬性。基于此,以上代碼其實(shí)稍作修改就可以很好的運(yùn)行,只需要在初始化鎖的時(shí)候加設(shè)置一個(gè)屬性。請(qǐng)看清單 2 。

?

清單 2. 設(shè)置互斥鎖 recursive 屬性實(shí)例

?

pthread_mutexattr_init(&attr); ????// 設(shè)置 recursive 屬性 ????pthread_mutexattr_settype(&attr,PTHREAD_MUTEX_RECURSIVE_NP); ????pthread_mutex_init(theMutex,&attr);

?

因此,建議盡量設(shè)置 recursive 屬性以初始化 Linux 的互斥鎖,這樣既可以解決同一線程遞歸加鎖的問題,又可以避免很多情況下死鎖的發(fā)生。這樣做還有一個(gè)額外的好處,就是可以讓 Windows 和 Linux 下讓鎖的表現(xiàn)統(tǒng)一。

?

注意 Linux 平臺(tái)上觸發(fā)條件變量的自動(dòng)復(fù)位問題

?

條件變量的置位和復(fù)位有兩種常用模型:第一種模型是當(dāng)條件變量置位(signaled)以后,如果當(dāng)前沒有線程在等待,其狀態(tài)會(huì)保持為置位(signaled),直到有等待的線程進(jìn)入被觸發(fā),其狀態(tài)才會(huì)變?yōu)閺?fù)位(unsignaled),這種模型的采用以 Windows 平臺(tái)上的 Auto-set Event 為代表。其狀態(tài)變化如圖 1 所示:

?

圖 1. Windows 的條件變量狀態(tài)變化流程

第二種模型則是 Linux 平臺(tái)的 Pthread 所采用的模型,當(dāng)條件變量置位(signaled)以后,即使當(dāng)前沒有任何線程在等待,其狀態(tài)也會(huì)恢復(fù)為復(fù)位(unsignaled)狀態(tài)。其狀態(tài)變化如圖 2 所示:

?

圖 2. Linux 的條件變量狀態(tài)變化流程

具體來說,Linux 平臺(tái)上 Pthread 下的條件變量狀態(tài)變化模型是這樣工作的:調(diào)用 pthread_cond_signal() 釋放被條件阻塞的線程時(shí),無論存不存在被阻塞的線程,條件都將被重新復(fù)位,下一個(gè)被條件阻塞的線程將不受影響。而對(duì)于 Windows,當(dāng)調(diào)用 SetEvent 觸發(fā) Auto-reset 的 Event 條件時(shí),如果沒有被條件阻塞的線程,那么條件將維持在觸發(fā)狀態(tài),直到有新的線程被條件阻塞并被釋放為止。

?

這種差異性對(duì)于那些熟悉 Windows 平臺(tái)上的條件變量狀態(tài)模型而要開發(fā) Linux 平臺(tái)上多線程的程序員來說可能會(huì)造成意想不到的尷尬結(jié)果。試想要實(shí)現(xiàn)一個(gè)旅客坐出租車的程序:旅客在路邊等出租車,調(diào)用條件等待。出租車來了,將觸發(fā)條件,旅客停止等待并上車。一個(gè)出租車只能搭載一波乘客,于是我們使用單一觸發(fā)的條件變量。這個(gè)實(shí)現(xiàn)邏輯在第一個(gè)模型下即使出租車先到,也不會(huì)有什么問題,其過程如圖 3 所示:

?

圖 3. 采用 Windows 條件變量模型的出租車實(shí)例流程

然而如果按照這個(gè)思路來在 Linux 上來實(shí)現(xiàn),代碼看起來可能是清單 3 這樣。

?

清單 3. Linux 出租車案例代碼實(shí)例

?

…… ?// 提示出租車到達(dá)的條件變量 ?pthread_cond_t taxiCond; ?// 同步鎖 ?pthread_mutex_t taxiMutex; ?// 旅客到達(dá)等待出租車 ?void * traveler_arrive(void * name) { ????cout<< ” Traveler: ” <<(char *)name<< ” needs a taxi now! ” <<endl; ????pthread_mutex_lock(&taxiMutex); ????pthread_cond_wait (&taxiCond, &taxtMutex); ????pthread_mutex_unlock (&taxtMutex); ????cout<< ” Traveler: ” << (char *)name << ” now got a taxi! ” <<endl; ????pthread_exit( (void *)0 ); ?} ?// 出租車到達(dá) ?void * taxi_arrive(void *name) { ????cout<< ” Taxi ” <<(char *)name<< ” arrives. ” <<endl; ????pthread_cond_signal(&taxtCond); ????pthread_exit( (void *)0 ); ?} ?void main() {? ????// 初始化 ????taxtCond= PTHREAD_COND_INITIALIZER; ????taxtMutex= PTHREAD_MUTEX_INITIALIZER; ????pthread_t thread; ????pthread_attr_t threadAttr; ????pthread_attr_init(&threadAttr); ????pthread_create(&thread, & threadAttr, taxt_arrive, (void *)( ” Jack ” )); ????sleep(1); ????pthread_create(&thread, &threadAttr, traveler_arrive, (void *)( ” Susan ” )); ????sleep(1); ????pthread_create(&thread, &threadAttr, taxi_arrive, (void *)( ” Mike ” )); ????sleep(1); ????return 0; ?}

?

好的,運(yùn)行一下,看看結(jié)果如清單 4 。

?

清單 4. 程序結(jié)果輸出

?

Taxi Jack arrives. ????Traveler Susan needs a taxi now! ????Taxi Mike arrives. ????Traveler Susan now got a taxi.

?

其過程如圖 4 所示:

?

圖 4. 采用 Linux 條件變量模型的出租車實(shí)例流程

通過對(duì)比結(jié)果,你會(huì)發(fā)現(xiàn)同樣的邏輯,在 Linux 平臺(tái)上運(yùn)行的結(jié)果卻完全是兩樣。對(duì)于在 Windows 平臺(tái)上的模型一, Jack 開著出租車到了站臺(tái),觸發(fā)條件變量。如果沒顧客,條件變量將維持觸發(fā)狀態(tài),也就是說 Jack 停下車在那里等著。直到 Susan 小姐來了站臺(tái),執(zhí)行等待條件來找出租車。 Susan 搭上 Jack 的出租車離開,同時(shí)條件變量被自動(dòng)復(fù)位。

?

但是到了 Linux 平臺(tái),問題就來了,Jack 到了站臺(tái)一看沒人,觸發(fā)的條件變量被直接復(fù)位,于是 Jack 排在等待隊(duì)列里面。來遲一秒的 Susan 小姐到了站臺(tái)卻看不到在那里等待的 Jack,只能等待,直到 Mike 開車趕到,重新觸發(fā)條件變量,Susan 才上了 Mike 的車。這對(duì)于在排隊(duì)系統(tǒng)前面的 Jack 是不公平的,而問題癥結(jié)是在于 Linux 平臺(tái)上條件變量觸發(fā)的自動(dòng)復(fù)位引起的一個(gè) Bug 。

?

條件變量在 Linux 平臺(tái)上的這種模型很難說好壞。但是在實(shí)際開發(fā)中,我們可以對(duì)代碼稍加改進(jìn)就可以避免這種差異的發(fā)生。由于這種差異只發(fā)生在觸發(fā)沒有被線程等待在條件變量的時(shí)刻,因此我們只需要掌握好觸發(fā)的時(shí)機(jī)即可。最簡(jiǎn)單的做法是增加一個(gè)計(jì)數(shù)器記錄等待線程的個(gè)數(shù),在決定觸發(fā)條件變量前檢查下該變量即可。改進(jìn)后 Linux 函數(shù)如清單 5 所示。

?

清單 5. Linux 出租車案例代碼實(shí)例

?

…… ?// 提示出租車到達(dá)的條件變量 ?pthread_cond_t taxiCond; ?// 同步鎖 ?pthread_mutex_t taxiMutex; ?// 旅客人數(shù),初始為 0 ?int travelerCount=0; ?// 旅客到達(dá)等待出租車 ?void * traveler_arrive(void * name) { ????cout<< ” Traveler: ” <<(char *)name<< ” needs a taxi now! ” <<endl; ????pthread_mutex_lock(&taxiMutex); ????// 提示旅客人數(shù)增加 ????travelerCount++; ????pthread_cond_wait (&taxiCond, &taxiMutex); ????pthread_mutex_unlock (&taxiMutex); ????cout<< ” Traveler: ” << (char *)name << ” now got a taxi! ” <<endl; ????pthread_exit( (void *)0 ); ?} ?// 出租車到達(dá) ?void * taxi_arrive(void *name) ?{ ????cout<< ” Taxi ” <<(char *)name<< ” arrives. ” <<endl; ?while(true) ?{ ????????pthread_mutex_lock(&taxiMutex); ????????// 當(dāng)發(fā)現(xiàn)已經(jīng)有旅客在等待時(shí),才觸發(fā)條件變量 ????????if(travelerCount>0) ????????{ ????????????pthread_cond_signal(&taxtCond); ????????????pthread_mutex_unlock (&taxiMutex); ????????????break; ????????} ????????pthread_mutex_unlock (&taxiMutex); ????} ????pthread_exit( (void *)0 ); ?}

?

因此我們建議在 Linux 平臺(tái)上要出發(fā)條件變量之前要檢查是否有等待的線程,只有當(dāng)有線程在等待時(shí)才對(duì)條件變量進(jìn)行觸發(fā)。

?

注意條件返回時(shí)互斥鎖的解鎖問題

?

在 Linux 調(diào)用 pthread_cond_wait 進(jìn)行條件變量等待操作時(shí),我們?cè)黾右粋€(gè)互斥變量參數(shù)是必要的,這是為了避免線程間的競(jìng)爭(zhēng)和饑餓情況。但是當(dāng)條件等待返回時(shí)候,需要注意的是一定不要遺漏對(duì)互斥變量進(jìn)行解鎖。

?

Linux 平臺(tái)上的 pthread_cond_wait(pthread_cond_t *cond, pthread_mutex_t *mutex) 函數(shù)返回時(shí),互斥鎖 mutex 將處于鎖定狀態(tài)。因此之后如果需要對(duì)臨界區(qū)數(shù)據(jù)進(jìn)行重新訪問,則沒有必要對(duì) mutex 就行重新加鎖。但是,隨之而來的問題是,每次條件等待以后需要加入一步手動(dòng)的解鎖操作。正如前文中乘客等待出租車的 Linux 代碼如清單 6 所示:

?

清單 6. 條件變量返回后的解鎖實(shí)例

?

void * traveler_arrive(void * name) { ????cout<< ” Traveler: ” <<(char *)name<< ” needs a taxi now! ” <<endl; ????pthread_mutex_lock(&taxiMutex); ????pthread_cond_wait (&taxiCond, &taxtMutex); ????pthread_mutex_unlock (&taxtMutex); ????cout<< ” Traveler: ” << (char *)name << ” now got a taxi! ” <<endl; ????pthread_exit( (void *)0 ); ?}

?

這一點(diǎn)對(duì)于熟悉 Windows 平臺(tái)多線程開發(fā)的開發(fā)者來說尤為重要。 Windows 上的 SignalObjectAndWait() 函數(shù)是常與 Linux 平臺(tái)上的 pthread_cond_wait() 函數(shù)被看作是跨平臺(tái)編程時(shí)的一對(duì)等價(jià)函數(shù)。但是需要注意的是,兩個(gè)函數(shù)退出時(shí)的狀態(tài)是不一樣的。在 Windows 平臺(tái)上,SignalObjectAndWait(HANDLE a, HANDLE b, …… ) 方法在調(diào)用結(jié)束返回時(shí)的狀態(tài)是 a 和 b 都是置位(signaled)狀態(tài),在普遍的使用方法中,a 經(jīng)常是一個(gè) Mutex 變量,在這種情況下,當(dāng)返回時(shí),Mutex a 處于解鎖狀態(tài)(signaled),Event b 處于置位狀態(tài)(signaled), 因此,對(duì)于 Mutex a 而言,我們不需要考慮解鎖的問題。而且,在 SignalObjectAndWait() 之后,如果需要對(duì)臨界區(qū)數(shù)據(jù)進(jìn)行重新訪問,都需要調(diào)用 WaitForSingleObject() 重新加鎖。這一點(diǎn)剛好與 Linux 下的 pthread_cond_wait() 完全相反。

?

Linux 對(duì)于 Windows 的這一點(diǎn)額外解鎖的操作區(qū)別很重要,一定得牢記。否則從 Windows 移植到 Linux 上的條件等待操作一旦忘了結(jié)束后的解鎖操作,程序?qū)⒖隙〞?huì)發(fā)生死鎖。

?

等待的絕對(duì)時(shí)間問題

?

超時(shí)是多線程編程中一個(gè)常見的概念。例如,當(dāng)你在 Linux 平臺(tái)下使用 pthread_cond_timedwait() 時(shí)就需要指定超時(shí)這個(gè)參數(shù),以便這個(gè) API 的調(diào)用者最多只被阻塞指定的時(shí)間間隔。但是如果你是第一次使用這個(gè) API 時(shí),首先你需要了解的就是這個(gè) API 當(dāng)中超時(shí)參數(shù)的特殊性(就如本節(jié)標(biāo)題所提示的那樣)。我們首先來看一下這個(gè) API 的定義。 pthread_cond_timedwait() 定義請(qǐng)看清單 7 。

?

清單 7. pthread_cond_timedwait() 函數(shù)定義

?

int pthread_cond_timedwait(pthread_cond_t *restrict cond, ??????????????pthread_mutex_t *restrict mutex, ??????????????const struct timespec *restrict abstime);

?

參數(shù) abstime 在這里用來表示和超時(shí)時(shí)間相關(guān)的一個(gè)參數(shù),但是需要注意的是它所表示的是一個(gè)絕對(duì)時(shí)間,而不是一個(gè)時(shí)間間隔數(shù)值,只有當(dāng)系統(tǒng)的當(dāng)前時(shí)間達(dá)到或者超過 abstime 所表示的時(shí)間時(shí),才會(huì)觸發(fā)超時(shí)事件。這對(duì)于擁有 Windows 平臺(tái)線程開發(fā)經(jīng)驗(yàn)的人來說可能尤為困惑。因?yàn)?Windows 平臺(tái)下所有的 API 等待參數(shù)(如 SignalObjectAndWait,等)都是相對(duì)時(shí)間,

?

假設(shè)我們指定相對(duì)的超時(shí)時(shí)間參數(shù)如 dwMilliseconds (單位毫秒)來調(diào)用和超時(shí)相關(guān)的函數(shù),這樣就需要將 dwMilliseconds 轉(zhuǎn)化為 Linux 下的絕對(duì)時(shí)間參數(shù) abstime 使用。常用的轉(zhuǎn)換方法如清單 8 所示:

?

清單 8. 相對(duì)時(shí)間到絕對(duì)時(shí)間轉(zhuǎn)換實(shí)例

?

/* get the current time */ ????struct timeval now; ????gettimeofday(&now, NULL); ????? ????/* add the offset to get timeout value */ ????abstime ->tv_nsec = now.tv_usec * 1000 + (dwMilliseconds % 1000) * 1000000; ????abstime ->tv_sec = now.tv_sec + dwMilliseconds / 1000;

?

Linux 的絕對(duì)時(shí)間看似簡(jiǎn)單明了,卻是開發(fā)中一個(gè)非常隱晦的陷阱。而且一旦你忘了時(shí)間轉(zhuǎn)換,可以想象,等待你的錯(cuò)誤將是多么的令人頭疼:如果忘了把相對(duì)時(shí)間轉(zhuǎn)換成絕對(duì)時(shí)間,相當(dāng)于你告訴系統(tǒng)你所等待的超時(shí)時(shí)間是過去式的 1970 年 1 月 1 號(hào)某個(gè)時(shí)間段,于是操作系統(tǒng)毫不猶豫馬上送給你一個(gè) timeout 的返回值,然后你會(huì)舉著拳頭抱怨為什么另外一個(gè)同步線程耗時(shí)居然如此之久,并一頭扎進(jìn)尋找耗時(shí)原因的深淵里。

?

正確處理 Linux 平臺(tái)下的線程結(jié)束問題

?

在 Linux 平臺(tái)下,當(dāng)處理線程結(jié)束時(shí)需要注意的一個(gè)問題就是如何讓一個(gè)線程善始善終,讓其所占資源得到正確釋放。在 Linux 平臺(tái)默認(rèn)情況下,雖然各個(gè)線程之間是相互獨(dú)立的,一個(gè)線程的終止不會(huì)去通知或影響其他的線程。但是已經(jīng)終止的線程的資源并不會(huì)隨著線程的終止而得到釋放,我們需要調(diào)用 pthread_join() 來獲得另一個(gè)線程的終止?fàn)顟B(tài)并且釋放該線程所占的資源。 Pthread_join() 函數(shù)的定義如清單 9 。

?

清單 9. pthread_join 函數(shù)定義

?

int pthread_join(pthread_t th, void **thread_return);

?

調(diào)用該函數(shù)的線程將掛起,等待 th 所表示的線程的結(jié)束。 thread_return 是指向線程 th 返回值的指針。需要注意的是 th 所表示的線程必須是 joinable 的,即處于非 detached(游離)狀態(tài);并且只可以有唯一的一個(gè)線程對(duì) th 調(diào)用 pthread_join() 。如果 th 處于 detached 狀態(tài),那么對(duì) th 的 pthread_join() 調(diào)用將返回錯(cuò)誤。

?

如果你壓根兒不關(guān)心一個(gè)線程的結(jié)束狀態(tài),那么也可以將一個(gè)線程設(shè)置為 detached 狀態(tài),從而來讓操作系統(tǒng)在該線程結(jié)束時(shí)來回收它所占的資源。將一個(gè)線程設(shè)置為 detached 狀態(tài)可以通過兩種方式來實(shí)現(xiàn)。一種是調(diào)用 pthread_detach() 函數(shù),可以將線程 th 設(shè)置為 detached 狀態(tài)。其申明如清單 10 。

?

清單 10. pthread_detach 函數(shù)定義

?

int pthread_detach(pthread_t th);

?

另一種方法是在創(chuàng)建線程時(shí)就將它設(shè)置為 detached 狀態(tài),首先初始化一個(gè)線程屬性變量,然后將其設(shè)置為 detached 狀態(tài),最后將它作為參數(shù)傳入線程創(chuàng)建函數(shù) pthread_create(),這樣所創(chuàng)建出來的線程就直接處于 detached 狀態(tài)。方法如清單 11 。

?

清單 11. 創(chuàng)建 detach 線程代碼實(shí)例

?

………………………………… .. ????pthread_t?????? tid; ????pthread_attr_t? attr; ????pthread_attr_init(&attr); ????pthread_attr_setdetachstate(&attr, PTHREAD_CREATE_DETACHED); ????pthread_create(&tid, &attr, THREAD_FUNCTION, arg);

?

總之為了在使用 Pthread 時(shí)避免線程的資源在線程結(jié)束時(shí)不能得到正確釋放,從而避免產(chǎn)生潛在的內(nèi)存泄漏問題,在對(duì)待線程結(jié)束時(shí),要確保該線程處于 detached 狀態(tài),否著就需要調(diào)用 pthread_join() 函數(shù)來對(duì)其進(jìn)行資源回收。

?

總結(jié)與補(bǔ)充

?

本文以上部分詳細(xì)介紹了 Linux 的多線程編程的 5 條高效開發(fā)經(jīng)驗(yàn)。另外你也可以考慮嘗試其他一些開源類庫(kù)來進(jìn)行線程開發(fā)。

?

1. Boost 庫(kù)

?

Boost 庫(kù)來自于由 C++ 標(biāo)準(zhǔn)委員會(huì)類庫(kù)工作組成員發(fā)起,致力于為 C++ 開發(fā)新的類庫(kù)的 Boost 組織。雖然該庫(kù)本身并不是針對(duì)多線程而產(chǎn)生,但是發(fā)展至今,其已提供了比較全面的多線程編程的 API 支持。 Boost 庫(kù)對(duì)于多線程支持的 API 風(fēng)格上更類似于 Linux 的 Pthread 庫(kù),差別在于其將線程,互斥鎖,條件等線程開發(fā)概念都封裝成了 C++ 類,以方便開發(fā)調(diào)用。 Boost 庫(kù)目前對(duì)跨平臺(tái)支持的很不錯(cuò),不僅支持 Windows 和 Linux ,還支持各種商用的 Unix 版本。如果開發(fā)者想使用高穩(wěn)定性的統(tǒng)一線程編程接口減輕跨平臺(tái)開發(fā)的難度, Boost 庫(kù)將是首選。

?

2. ACE

?

ACE 全稱是 ADAPTIVE Communication Environment,它是一個(gè)免費(fèi)的,開源的,面向?qū)ο蟮墓ぞ呖蚣?#xff0c;用以開發(fā)并發(fā)訪問的軟件。由于 ACE 最初是面向網(wǎng)絡(luò)服務(wù)端的編程開發(fā),因此對(duì)于線程開發(fā)的工具庫(kù)它也能提供很全面的支持。其支持的平臺(tái)也很全面,包括 Windows,Linux 和各種版本 Unix 。 ACE 的唯一問題是如果僅僅是用于線程編程,其似乎顯得有些過于重量級(jí)。而且其較復(fù)雜的配置也讓其部署對(duì)初學(xué)者而言并非易事。

?

相關(guān)主題

?

  • IBM Developerworks 以下系列文章系列詳細(xì)介紹了如何對(duì)線程程序從 Windows 到 Linux 上進(jìn)行移植。
  • 文章《Strategies for Implementing POSIX Condition Variables on Win32》很全面的介紹了如何在 Windows 上實(shí)現(xiàn) POSIX condition。
  • 參閱 Boost 庫(kù)的官方網(wǎng)站
  • 參閱 ACE 庫(kù)的官方網(wǎng)站

?

?

?

?

?

Linux 線程實(shí)現(xiàn)機(jī)制分析

?

?

一.基礎(chǔ)知識(shí):線程和進(jìn)程

?

按照教科書上的定義,進(jìn)程是資源管理的最小單位,線程是程序執(zhí)行的最小單位。在操作系統(tǒng)設(shè)計(jì)上,從進(jìn)程演化出線程,最主要的目的就是更好的支持SMP以及減小(進(jìn)程/線程)上下文切換開銷。

?

無論按照怎樣的分法,一個(gè)進(jìn)程至少需要一個(gè)線程作為它的指令執(zhí)行體,進(jìn)程管理著資源(比如cpu、內(nèi)存、文件等等),而將線程分配到某個(gè)cpu上執(zhí)行。一個(gè)進(jìn)程當(dāng)然可以擁有多個(gè)線程,此時(shí),如果進(jìn)程運(yùn)行在SMP機(jī)器上,它就可以同時(shí)使用多個(gè)cpu來執(zhí)行各個(gè)線程,達(dá)到最大程度的并行,以提高效率;同時(shí),即使是在單cpu的機(jī)器上,采用多線程模型來設(shè)計(jì)程序,正如當(dāng)年采用多進(jìn)程模型代替單進(jìn)程模型一樣,使設(shè)計(jì)更簡(jiǎn)潔、功能更完備,程序的執(zhí)行效率也更高,例如采用多個(gè)線程響應(yīng)多個(gè)輸入,而此時(shí)多線程模型所實(shí)現(xiàn)的功能實(shí)際上也可以用多進(jìn)程模型來實(shí)現(xiàn),而與后者相比,線程的上下文切換開銷就比進(jìn)程要小多了,從語義上來說,同時(shí)響應(yīng)多個(gè)輸入這樣的功能,實(shí)際上就是共享了除cpu以外的所有資源的。

?

針對(duì)線程模型的兩大意義,分別開發(fā)出了核心級(jí)線程和用戶級(jí)線程兩種線程模型,分類的標(biāo)準(zhǔn)主要是線程的調(diào)度者在核內(nèi)還是在核外。前者更利于并發(fā)使用多處理器的資源,而后者則更多考慮的是上下文切換開銷。在目前的商用系統(tǒng)中,通常都將兩者結(jié)合起來使用,既提供核心線程以滿足smp系統(tǒng)的需要,也支持用線程庫(kù)的方式在用戶態(tài)實(shí)現(xiàn)另一套線程機(jī)制,此時(shí)一個(gè)核心線程同時(shí)成為多個(gè)用戶態(tài)線程的調(diào)度者。正如很多技術(shù)一樣,"混合"通常都能帶來更高的效率,但同時(shí)也帶來更大的實(shí)現(xiàn)難度,出于"簡(jiǎn)單"的設(shè)計(jì)思路,Linux從一開始就沒有實(shí)現(xiàn)混合模型的計(jì)劃,但它在實(shí)現(xiàn)上采用了另一種思路的"混合"。

?

在線程機(jī)制的具體實(shí)現(xiàn)上,可以在操作系統(tǒng)內(nèi)核上實(shí)現(xiàn)線程,也可以在核外實(shí)現(xiàn),后者顯然要求核內(nèi)至少實(shí)現(xiàn)了進(jìn)程,而前者則一般要求在核內(nèi)同時(shí)也支持進(jìn)程。核心級(jí)線程模型顯然要求前者的支持,而用戶級(jí)線程模型則不一定基于后者實(shí)現(xiàn)。這種差異,正如前所述,是兩種分類方式的標(biāo)準(zhǔn)不同帶來的。

?

當(dāng)核內(nèi)既支持進(jìn)程也支持線程時(shí),就可以實(shí)現(xiàn)線程-進(jìn)程的"多對(duì)多"模型,即一個(gè)進(jìn)程的某個(gè)線程由核內(nèi)調(diào)度,而同時(shí)它也可以作為用戶級(jí)線程池的調(diào)度者,選擇合適的用戶級(jí)線程在其空間中運(yùn)行。這就是前面提到的"混合"線程模型,既可滿足多處理機(jī)系統(tǒng)的需要,也可以最大限度的減小調(diào)度開銷。絕大多數(shù)商業(yè)操作系統(tǒng)(如Digital Unix、Solaris、Irix)都采用的這種能夠完全實(shí)現(xiàn)POSIX1003.1c標(biāo)準(zhǔn)的線程模型。在核外實(shí)現(xiàn)的線程又可以分為"一對(duì)一"、"多對(duì)一"兩種模型,前者用一個(gè)核心進(jìn)程(也許是輕量進(jìn)程)對(duì)應(yīng)一個(gè)線程,將線程調(diào)度等同于進(jìn)程調(diào)度,交給核心完成,而后者則完全在核外實(shí)現(xiàn)多線程,調(diào)度也在用戶態(tài)完成。后者就是前面提到的單純的用戶級(jí)線程模型的實(shí)現(xiàn)方式,顯然,這種核外的線程調(diào)度器實(shí)際上只需要完成線程運(yùn)行棧的切換,調(diào)度開銷非常小,但同時(shí)因?yàn)楹诵男盘?hào)(無論是同步的還是異步的)都是以進(jìn)程為單位的,因而無法定位到線程,所以這種實(shí)現(xiàn)方式不能用于多處理器系統(tǒng),而這個(gè)需求正變得越來越大,因此,在現(xiàn)實(shí)中,純用戶級(jí)線程的實(shí)現(xiàn),除算法研究目的以外,幾乎已經(jīng)消失了。

?

Linux內(nèi)核只提供了輕量進(jìn)程的支持,限制了更高效的線程模型的實(shí)現(xiàn),但Linux著重優(yōu)化了進(jìn)程的調(diào)度開銷,一定程度上也彌補(bǔ)了這一缺陷。目前最流行的線程機(jī)制LinuxThreads所采用的就是線程-進(jìn)程"一對(duì)一"模型,調(diào)度交給核心,而在用戶級(jí)實(shí)現(xiàn)一個(gè)包括信號(hào)處理在內(nèi)的線程管理機(jī)制。Linux-LinuxThreads的運(yùn)行機(jī)制正是本文的描述重點(diǎn)。

?

二.Linux 2.4內(nèi)核中的輕量進(jìn)程實(shí)現(xiàn)

?

最初的進(jìn)程定義都包含程序、資源及其執(zhí)行三部分,其中程序通常指代碼,資源在操作系統(tǒng)層面上通常包括內(nèi)存資源、IO資源、信號(hào)處理等部分,而程序的執(zhí)行通常理解為執(zhí)行上下文,包括對(duì)cpu的占用,后來發(fā)展為線程。在線程概念出現(xiàn)以前,為了減小進(jìn)程切換的開銷,操作系統(tǒng)設(shè)計(jì)者逐漸修正進(jìn)程的概念,逐漸允許將進(jìn)程所占有的資源從其主體剝離出來,允許某些進(jìn)程共享一部分資源,例如文件、信號(hào),數(shù)據(jù)內(nèi)存,甚至代碼,這就發(fā)展出輕量進(jìn)程的概念。Linux內(nèi)核在2.0.x版本就已經(jīng)實(shí)現(xiàn)了輕量進(jìn)程,應(yīng)用程序可以通過一個(gè)統(tǒng)一的clone()系統(tǒng)調(diào)用接口,用不同的參數(shù)指定創(chuàng)建輕量進(jìn)程還是普通進(jìn)程。在內(nèi)核中,clone()調(diào)用經(jīng)過參數(shù)傳遞和解釋后會(huì)調(diào)用do_fork(),這個(gè)核內(nèi)函數(shù)同時(shí)也是fork()、vfork()系統(tǒng)調(diào)用的最終實(shí)現(xiàn):

?

<linux-2.4.20/kernel/fork.c> int do_fork(unsigned long clone_flags, unsigned long stack_start, struct pt_regs *regs, unsigned long stack_size)

?

其中的clone_flags取自以下宏的"或"值:

?

<linux-2.4.20/include/linux/sched.h> #define CSIGNAL????? 0x000000ff? /* signal mask to be sent at exit */ #define CLONE_VM??? 0x00000100 /* set if VM shared between processes */ #define CLONE_FS??????? 0x00000200? /* set if fs info shared between processes */ #define CLONE_FILES???? 0x00000400? /* set if open files shared between processes */ #define CLONE_SIGHAND? 0x00000800 /* set if signal handlers and blocked signals shared */ #define CLONE_PID??? 0x00001000? /* set if pid shared */ #define CLONE_PTRACE? 0x00002000? /* set if we want to let tracing continue on the child too */ #define CLONE_VFORK? 0x00004000? /* set if the parent wants the child to wake it up on mm_release */ #define CLONE_PARENT? 0x00008000? /* set if we want to have the same parent as the cloner */ #define CLONE_THREAD? 0x00010000? /* Same thread group? */ #define CLONE_NEWNS? 0x00020000? /* New namespace group? */ #define CLONE_SIGNAL?? (CLONE_SIGHAND | CLONE_THREAD)

?

在do_fork()中,不同的clone_flags將導(dǎo)致不同的行為,對(duì)于LinuxThreads,它使用(CLONE_VM | CLONE_FS | CLONE_FILES | CLONE_SIGHAND)參數(shù)來調(diào)用clone()創(chuàng)建"線程",表示共享內(nèi)存、共享文件系統(tǒng)訪問計(jì)數(shù)、共享文件描述符表,以及共享信號(hào)處理方式。本節(jié)就針對(duì)這幾個(gè)參數(shù),看看Linux內(nèi)核是如何實(shí)現(xiàn)這些資源的共享的。

?

1.CLONE_VM

?

do_fork()需要調(diào)用copy_mm()來設(shè)置task_struct中的mm和active_mm項(xiàng),這兩個(gè)mm_struct數(shù)據(jù)與進(jìn)程所關(guān)聯(lián)的內(nèi)存空間相對(duì)應(yīng)。如果do_fork()時(shí)指定了CLONE_VM開關(guān),copy_mm()將把新的task_struct中的mm和active_mm設(shè)置成與current的相同,同時(shí)提高該mm_struct的使用者數(shù)目(mm_struct::mm_users)。也就是說,輕量級(jí)進(jìn)程與父進(jìn)程共享內(nèi)存地址空間,由下圖示意可以看出mm_struct在進(jìn)程中的地位:

?

?

2.CLONE_FS

?

task_struct中利用fs(struct fs_struct *)記錄了進(jìn)程所在文件系統(tǒng)的根目錄和當(dāng)前目錄信息,do_fork()時(shí)調(diào)用copy_fs()復(fù)制了這個(gè)結(jié)構(gòu);而對(duì)于輕量級(jí)進(jìn)程則僅增加fs->count計(jì)數(shù),與父進(jìn)程共享相同的fs_struct。也就是說,輕量級(jí)進(jìn)程沒有獨(dú)立的文件系統(tǒng)相關(guān)的信息,進(jìn)程中任何一個(gè)線程改變當(dāng)前目錄、根目錄等信息都將直接影響到其他線程。

?

3.CLONE_FILES

?

一個(gè)進(jìn)程可能打開了一些文件,在進(jìn)程結(jié)構(gòu)task_struct中利用files(struct files_struct *)來保存進(jìn)程打開的文件結(jié)構(gòu)(struct file)信息,do_fork()中調(diào)用了copy_files()來處理這個(gè)進(jìn)程屬性;輕量級(jí)進(jìn)程與父進(jìn)程是共享該結(jié)構(gòu)的,copy_files()時(shí)僅增加files->count計(jì)數(shù)。這一共享使得任何線程都能訪問進(jìn)程所維護(hù)的打開文件,對(duì)它們的操作會(huì)直接反映到進(jìn)程中的其他線程。

?

4.CLONE_SIGHAND

?

每一個(gè)Linux進(jìn)程都可以自行定義對(duì)信號(hào)的處理方式,在task_struct中的sig(struct signal_struct)中使用一個(gè)struct k_sigaction結(jié)構(gòu)的數(shù)組來保存這個(gè)配置信息,do_fork()中的copy_sighand()負(fù)責(zé)復(fù)制該信息;輕量級(jí)進(jìn)程不進(jìn)行復(fù)制,而僅僅增加signal_struct::count計(jì)數(shù),與父進(jìn)程共享該結(jié)構(gòu)。也就是說,子進(jìn)程與父進(jìn)程的信號(hào)處理方式完全相同,而且可以相互更改。

?

do_fork()中所做的工作很多,在此不詳細(xì)描述。對(duì)于SMP系統(tǒng),所有的進(jìn)程fork出來后,都被分配到與父進(jìn)程相同的cpu上,一直到該進(jìn)程被調(diào)度時(shí)才會(huì)進(jìn)行cpu選擇。

?

盡管Linux支持輕量級(jí)進(jìn)程,但并不能說它就支持核心級(jí)線程,因?yàn)長(zhǎng)inux的"線程"和"進(jìn)程"實(shí)際上處于一個(gè)調(diào)度層次,共享一個(gè)進(jìn)程標(biāo)識(shí)符空間,這種限制使得不可能在Linux上實(shí)現(xiàn)完全意義上的POSIX線程機(jī)制,因此眾多的Linux線程庫(kù)實(shí)現(xiàn)嘗試都只能盡可能實(shí)現(xiàn)POSIX的絕大部分語義,并在功能上盡可能逼近。

?

三.LinuxThread的線程機(jī)制

?

LinuxThreads是目前Linux平臺(tái)上使用最為廣泛的線程庫(kù),由Xavier Leroy (Xavier.Leroy@inria.fr)負(fù)責(zé)開發(fā)完成,并已綁定在GLIBC中發(fā)行。它所實(shí)現(xiàn)的就是基于核心輕量級(jí)進(jìn)程的"一對(duì)一"線程模型,一個(gè)線程實(shí)體對(duì)應(yīng)一個(gè)核心輕量級(jí)進(jìn)程,而線程之間的管理在核外函數(shù)庫(kù)中實(shí)現(xiàn)。

?

1.線程描述數(shù)據(jù)結(jié)構(gòu)及實(shí)現(xiàn)限制

?

LinuxThreads定義了一個(gè)struct _pthread_descr_struct數(shù)據(jù)結(jié)構(gòu)來描述線程,并使用全局?jǐn)?shù)組變量__pthread_handles來描述和引用進(jìn)程所轄線程。在__pthread_handles中的前兩項(xiàng),LinuxThreads定義了兩個(gè)全局的系統(tǒng)線程:__pthread_initial_thread和__pthread_manager_thread,并用__pthread_main_thread表征__pthread_manager_thread的父線程(初始為__pthread_initial_thread)。

?

struct _pthread_descr_struct是一個(gè)雙環(huán)鏈表結(jié)構(gòu),__pthread_manager_thread所在的鏈表僅包括它一個(gè)元素,實(shí)際上,__pthread_manager_thread是一個(gè)特殊線程,LinuxThreads僅使用了其中的errno、p_pid、p_priority等三個(gè)域。而__pthread_main_thread所在的鏈則將進(jìn)程中所有用戶線程串在了一起。經(jīng)過一系列pthread_create()之后形成的__pthread_handles數(shù)組將如下圖所示:

?

?

新創(chuàng)建的線程將首先在__pthread_handles數(shù)組中占據(jù)一項(xiàng),然后通過數(shù)據(jù)結(jié)構(gòu)中的鏈指針連入以__pthread_main_thread為首指針的鏈表中。這個(gè)鏈表的使用在介紹線程的創(chuàng)建和釋放的時(shí)候?qū)⑻岬健?/p>

?

LinuxThreads遵循POSIX1003.1c標(biāo)準(zhǔn),其中對(duì)線程庫(kù)的實(shí)現(xiàn)進(jìn)行了一些范圍限制,比如進(jìn)程最大線程數(shù),線程私有數(shù)據(jù)區(qū)大小等等。在LinuxThreads的實(shí)現(xiàn)中,基本遵循這些限制,但也進(jìn)行了一定的改動(dòng),改動(dòng)的趨勢(shì)是放松或者說擴(kuò)大這些限制,使編程更加方便。這些限定宏主要集中在sysdeps/unix/sysv/linux/bits/local_lim.h(不同平臺(tái)使用的文件位置不同)中,包括如下幾個(gè):

?

每進(jìn)程的私有數(shù)據(jù)key數(shù),POSIX定義_POSIX_THREAD_KEYS_MAX為128,LinuxThreads使用PTHREAD_KEYS_MAX,1024;私有數(shù)據(jù)釋放時(shí)允許執(zhí)行的操作數(shù),LinuxThreads與POSIX一致,定義PTHREAD_DESTRUCTOR_ITERATIONS為4;每進(jìn)程的線程數(shù),POSIX定義為64,LinuxThreads增大到1024(PTHREAD_THREADS_MAX);線程運(yùn)行棧最小空間大小,POSIX未指定,LinuxThreads使用PTHREAD_STACK_MIN,16384(字節(jié))。

?

2.管理線程

?

"一對(duì)一"模型的好處之一是線程的調(diào)度由核心完成了,而其他諸如線程取消、線程間的同步等工作,都是在核外線程庫(kù)中完成的。在LinuxThreads中,專門為每一個(gè)進(jìn)程構(gòu)造了一個(gè)管理線程,負(fù)責(zé)處理線程相關(guān)的管理工作。當(dāng)進(jìn)程第一次調(diào)用pthread_create()創(chuàng)建一個(gè)線程的時(shí)候就會(huì)創(chuàng)建(__clone())并啟動(dòng)管理線程。

?

在一個(gè)進(jìn)程空間內(nèi),管理線程與其他線程之間通過一對(duì)"管理管道(manager_pipe[2])"來通訊,該管道在創(chuàng)建管理線程之前創(chuàng)建,在成功啟動(dòng)了管理線程之后,管理管道的讀端和寫端分別賦給兩個(gè)全局變量__pthread_manager_reader和__pthread_manager_request,之后,每個(gè)用戶線程都通過__pthread_manager_request向管理線程發(fā)請(qǐng)求,但管理線程本身并沒有直接使用__pthread_manager_reader,管道的讀端(manager_pipe[0])是作為__clone()的參數(shù)之一傳給管理線程的,管理線程的工作主要就是監(jiān)聽管道讀端,并對(duì)從中取出的請(qǐng)求作出反應(yīng)。

?

創(chuàng)建管理線程的流程如下所示:
(全局變量pthread_manager_request初值為-1)

?

?

初始化結(jié)束后,在__pthread_manager_thread中記錄了輕量級(jí)進(jìn)程號(hào)以及核外分配和管理的線程id,2*PTHREAD_THREADS_MAX+1這個(gè)數(shù)值不會(huì)與任何常規(guī)用戶線程id沖突。管理線程作為pthread_create()的調(diào)用者線程的子線程運(yùn)行,而pthread_create()所創(chuàng)建的那個(gè)用戶線程則是由管理線程來調(diào)用clone()創(chuàng)建,因此實(shí)際上是管理線程的子線程。(此處子線程的概念應(yīng)該當(dāng)作子進(jìn)程來理解。)

?

__pthread_manager()就是管理線程的主循環(huán)所在,在進(jìn)行一系列初始化工作后,進(jìn)入while(1)循環(huán)。在循環(huán)中,線程以2秒為timeout查詢(__poll())管理管道的讀端。在處理請(qǐng)求前,檢查其父線程(也就是創(chuàng)建manager的主線程)是否已退出,如果已退出就退出整個(gè)進(jìn)程。如果有退出的子線程需要清理,則調(diào)用pthread_reap_children()清理。

?

然后才是讀取管道中的請(qǐng)求,根據(jù)請(qǐng)求類型執(zhí)行相應(yīng)操作(switch-case)。具體的請(qǐng)求處理,源碼中比較清楚,這里就不贅述了。

?

3.線程棧

?

在LinuxThreads中,管理線程的棧和用戶線程的棧是分離的,管理線程在進(jìn)程堆中通過malloc()分配一個(gè)THREAD_MANAGER_STACK_SIZE字節(jié)的區(qū)域作為自己的運(yùn)行棧。

?

用戶線程的棧分配辦法隨著體系結(jié)構(gòu)的不同而不同,主要根據(jù)兩個(gè)宏定義來區(qū)分,一個(gè)是NEED_SEPARATE_REGISTER_STACK,這個(gè)屬性僅在IA64平臺(tái)上使用;另一個(gè)是FLOATING_STACK宏,在i386等少數(shù)平臺(tái)上使用,此時(shí)用戶線程棧由系統(tǒng)決定具體位置并提供保護(hù)。與此同時(shí),用戶還可以通過線程屬性結(jié)構(gòu)來指定使用用戶自定義的棧。因篇幅所限,這里只能分析i386平臺(tái)所使用的兩種棧組織方式:FLOATING_STACK方式和用戶自定義方式。

?

在FLOATING_STACK方式下,LinuxThreads利用mmap()從內(nèi)核空間中分配8MB空間(i386系統(tǒng)缺省的最大棧空間大小,如果有運(yùn)行限制(rlimit),則按照運(yùn)行限制設(shè)置),使用mprotect()設(shè)置其中第一頁(yè)為非訪問區(qū)。該8M空間的功能分配如下圖:

?

?

低地址被保護(hù)的頁(yè)面用來監(jiān)測(cè)棧溢出。

?

對(duì)于用戶指定的棧,在按照指針對(duì)界后,設(shè)置線程棧頂,并計(jì)算出棧底,不做保護(hù),正確性由用戶自己保證。

?

不論哪種組織方式,線程描述結(jié)構(gòu)總是位于棧頂緊鄰堆棧的位置。

?

4.線程id和進(jìn)程id

?

每個(gè)LinuxThreads線程都同時(shí)具有線程id和進(jìn)程id,其中進(jìn)程id就是內(nèi)核所維護(hù)的進(jìn)程號(hào),而線程id則由LinuxThreads分配和維護(hù)。

?

__pthread_initial_thread的線程id為PTHREAD_THREADS_MAX,__pthread_manager_thread的是2*PTHREAD_THREADS_MAX+1,第一個(gè)用戶線程的線程id為PTHREAD_THREADS_MAX+2,此后第n個(gè)用戶線程的線程id遵循以下公式:

tid=n*PTHREAD_THREADS_MAX+n+1

?

?

這種分配方式保證了進(jìn)程中所有的線程(包括已經(jīng)退出)都不會(huì)有相同的線程id,而線程id的類型pthread_t定義為無符號(hào)長(zhǎng)整型(unsigned long int),也保證了有理由的運(yùn)行時(shí)間內(nèi)線程id不會(huì)重復(fù)。

?

從線程id查找線程數(shù)據(jù)結(jié)構(gòu)是在pthread_handle()函數(shù)中完成的,實(shí)際上只是將線程號(hào)按PTHREAD_THREADS_MAX取模,得到的就是該線程在__pthread_handles中的索引。

?

5.線程的創(chuàng)建

?

在pthread_create()向管理線程發(fā)送REQ_CREATE請(qǐng)求之后,管理線程即調(diào)用pthread_handle_create()創(chuàng)建新線程。分配棧、設(shè)置thread屬性后,以pthread_start_thread()為函數(shù)入口調(diào)用__clone()創(chuàng)建并啟動(dòng)新線程。pthread_start_thread()讀取自身的進(jìn)程id號(hào)存入線程描述結(jié)構(gòu)中,并根據(jù)其中記錄的調(diào)度方法配置調(diào)度。一切準(zhǔn)備就緒后,再調(diào)用真正的線程執(zhí)行函數(shù),并在此函數(shù)返回后調(diào)用pthread_exit()清理現(xiàn)場(chǎng)。

?

6.LinuxThreads的不足

?

由于Linux內(nèi)核的限制以及實(shí)現(xiàn)難度等等原因,LinuxThreads并不是完全POSIX兼容的,在它的發(fā)行README中有說明。

?

1)進(jìn)程id問題

?

這個(gè)不足是最關(guān)鍵的不足,引起的原因牽涉到LinuxThreads的"一對(duì)一"模型。

?

Linux內(nèi)核并不支持真正意義上的線程,LinuxThreads是用與普通進(jìn)程具有同樣內(nèi)核調(diào)度視圖的輕量級(jí)進(jìn)程來實(shí)現(xiàn)線程支持的。這些輕量級(jí)進(jìn)程擁有獨(dú)立的進(jìn)程id,在進(jìn)程調(diào)度、信號(hào)處理、IO等方面享有與普通進(jìn)程一樣的能力。在源碼閱讀者看來,就是Linux內(nèi)核的clone()沒有實(shí)現(xiàn)對(duì)CLONE_PID參數(shù)的支持。

?

在內(nèi)核do_fork()中對(duì)CLONE_PID的處理是這樣的:

?

? if (clone_flags & CLONE_PID) { ????????if (current->pid) ????????????????goto fork_out; }

?

這段代碼表明,目前的Linux內(nèi)核僅在pid為0的時(shí)候認(rèn)可CLONE_PID參數(shù),實(shí)際上,僅在SMP初始化,手工創(chuàng)建進(jìn)程的時(shí)候才會(huì)使用CLONE_PID參數(shù)。

?

按照POSIX定義,同一進(jìn)程的所有線程應(yīng)該共享一個(gè)進(jìn)程id和父進(jìn)程id,這在目前的"一對(duì)一"模型下是無法實(shí)現(xiàn)的。

?

2)信號(hào)處理問題

?

由于異步信號(hào)是內(nèi)核以進(jìn)程為單位分發(fā)的,而LinuxThreads的每個(gè)線程對(duì)內(nèi)核來說都是一個(gè)進(jìn)程,且沒有實(shí)現(xiàn)"線程組",因此,某些語義不符合POSIX標(biāo)準(zhǔn),比如沒有實(shí)現(xiàn)向進(jìn)程中所有線程發(fā)送信號(hào),README對(duì)此作了說明。

?

如果核心不提供實(shí)時(shí)信號(hào),LinuxThreads將使用SIGUSR1和SIGUSR2作為內(nèi)部使用的restart和cancel信號(hào),這樣應(yīng)用程序就不能使用這兩個(gè)原本為用戶保留的信號(hào)了。在Linux kernel 2.1.60以后的版本都支持?jǐn)U展的實(shí)時(shí)信號(hào)(從_SIGRTMIN到_SIGRTMAX),因此不存在這個(gè)問題。

?

某些信號(hào)的缺省動(dòng)作難以在現(xiàn)行體系上實(shí)現(xiàn),比如SIGSTOP和SIGCONT,LinuxThreads只能將一個(gè)線程掛起,而無法掛起整個(gè)進(jìn)程。

?

3)線程總數(shù)問題

?

LinuxThreads將每個(gè)進(jìn)程的線程最大數(shù)目定義為1024,但實(shí)際上這個(gè)數(shù)值還受到整個(gè)系統(tǒng)的總進(jìn)程數(shù)限制,這又是由于線程其實(shí)是核心進(jìn)程。

?

在kernel 2.4.x中,采用一套全新的總進(jìn)程數(shù)計(jì)算方法,使得總進(jìn)程數(shù)基本上僅受限于物理內(nèi)存的大小,計(jì)算公式在kernel/fork.c的fork_init()函數(shù)中:

?

max_threads = mempages / (THREAD_SIZE/PAGE_SIZE) / 8

?

在i386上,THREAD_SIZE=2*PAGE_SIZE,PAGE_SIZE=2^12(4KB),mempages=物理內(nèi)存大小/PAGE_SIZE,對(duì)于256M的內(nèi)存的機(jī)器,mempages=256*2^20/2^12=256*2^8,此時(shí)最大線程數(shù)為4096。

?

但為了保證每個(gè)用戶(除了root)的進(jìn)程總數(shù)不至于占用一半以上物理內(nèi)存,fork_init()中繼續(xù)指定:

?

init_task.rlim[RLIMIT_NPROC].rlim_cur = max_threads/2; init_task.rlim[RLIMIT_NPROC].rlim_max = max_threads/2;

?

這些進(jìn)程數(shù)目的檢查都在do_fork()中進(jìn)行,因此,對(duì)于LinuxThreads來說,線程總數(shù)同時(shí)受這三個(gè)因素的限制。

?

4)管理線程問題

?

管理線程容易成為瓶頸,這是這種結(jié)構(gòu)的通病;同時(shí),管理線程又負(fù)責(zé)用戶線程的清理工作,因此,盡管管理線程已經(jīng)屏蔽了大部分的信號(hào),但一旦管理線程死亡,用戶線程就不得不手工清理了,而且用戶線程并不知道管理線程的狀態(tài),之后的線程創(chuàng)建等請(qǐng)求將無人處理。

?

5)同步問題

?

LinuxThreads中的線程同步很大程度上是建立在信號(hào)基礎(chǔ)上的,這種通過內(nèi)核復(fù)雜的信號(hào)處理機(jī)制的同步方式,效率一直是個(gè)問題。

?

6)其他POSIX兼容性問題

?

Linux中很多系統(tǒng)調(diào)用,按照語義都是與進(jìn)程相關(guān)的,比如nice、setuid、setrlimit等,在目前的LinuxThreads中,這些調(diào)用都僅僅影響調(diào)用者線程。

?

7)實(shí)時(shí)性問題

?

線程的引入有一定的實(shí)時(shí)性考慮,但LinuxThreads暫時(shí)不支持,比如調(diào)度選項(xiàng),目前還沒有實(shí)現(xiàn)。不僅LinuxThreads如此,標(biāo)準(zhǔn)的Linux在實(shí)時(shí)性上考慮都很少。

?

四.其他的線程實(shí)現(xiàn)機(jī)制

?

LinuxThreads的問題,特別是兼容性上的問題,嚴(yán)重阻礙了Linux上的跨平臺(tái)應(yīng)用(如Apache)采用多線程設(shè)計(jì),從而使得Linux上的線程應(yīng)用一直保持在比較低的水平。在Linux社區(qū)中,已經(jīng)有很多人在為改進(jìn)線程性能而努力,其中既包括用戶級(jí)線程庫(kù),也包括核心級(jí)和用戶級(jí)配合改進(jìn)的線程庫(kù)。目前最為人看好的有兩個(gè)項(xiàng)目,一個(gè)是RedHat公司牽頭研發(fā)的NPTL(Native Posix Thread Library),另一個(gè)則是IBM投資開發(fā)的NGPT(Next Generation Posix Threading),二者都是圍繞完全兼容POSIX 1003.1c,同時(shí)在核內(nèi)和核外做工作以而實(shí)現(xiàn)多對(duì)多線程模型。這兩種模型都在一定程度上彌補(bǔ)了LinuxThreads的缺點(diǎn),且都是重起爐灶全新設(shè)計(jì)的。

?

1.NPTL

?

NPTL的設(shè)計(jì)目標(biāo)歸納可歸納為以下幾點(diǎn):

?

  • POSIX兼容性
  • SMP結(jié)構(gòu)的利用
  • 低啟動(dòng)開銷
  • 低鏈接開銷(即不使用線程的程序不應(yīng)當(dāng)受線程庫(kù)的影響)
  • 與LinuxThreads應(yīng)用的二進(jìn)制兼容性
  • 軟硬件的可擴(kuò)展能力
  • 多體系結(jié)構(gòu)支持
  • NUMA支持
  • 與C++集成

?

在技術(shù)實(shí)現(xiàn)上,NPTL仍然采用1:1的線程模型,并配合glibc和最新的Linux Kernel2.5.x開發(fā)版在信號(hào)處理、線程同步、存儲(chǔ)管理等多方面進(jìn)行了優(yōu)化。和LinuxThreads不同,NPTL沒有使用管理線程,核心線程的管理直接放在核內(nèi)進(jìn)行,這也帶了性能的優(yōu)化。

?

主要是因?yàn)楹诵牡膯栴},NPTL仍然不是100%POSIX兼容的,但就性能而言相對(duì)LinuxThreads已經(jīng)有很大程度上的改進(jìn)了。

?

2.NGPT

?

IBM的開放源碼項(xiàng)目NGPT在2003年1月10日推出了穩(wěn)定的2.2.0版,但相關(guān)的文檔工作還差很多。就目前所知,NGPT是基于GNU Pth(GNU Portable Threads)項(xiàng)目而實(shí)現(xiàn)的M:N模型,而GNU Pth是一個(gè)經(jīng)典的用戶級(jí)線程庫(kù)實(shí)現(xiàn)。

?

按照2003年3月NGPT官方網(wǎng)站上的通知,NGPT考慮到NPTL日益廣泛地為人所接受,為避免不同的線程庫(kù)版本引起的混亂,今后將不再進(jìn)行進(jìn)一步開發(fā),而今進(jìn)行支持性的維護(hù)工作。也就是說,NGPT已經(jīng)放棄與NPTL競(jìng)爭(zhēng)下一代Linux POSIX線程庫(kù)標(biāo)準(zhǔn)。

?

3.其他高效線程機(jī)制

?

此處不能不提到Scheduler Activations。這個(gè)1991年在ACM上發(fā)表的多線程內(nèi)核結(jié)構(gòu)影響了很多多線程內(nèi)核的設(shè)計(jì),其中包括Mach3.0、NetBSD和商業(yè)版本Digital Unix(現(xiàn)在叫Compaq True64 Unix)。它的實(shí)質(zhì)是在使用用戶級(jí)線程調(diào)度的同時(shí),盡可能地減少用戶級(jí)對(duì)核心的系統(tǒng)調(diào)用請(qǐng)求,而后者往往是運(yùn)行開銷的重要來源。采用這種結(jié)構(gòu)的線程機(jī)制,實(shí)際上是結(jié)合了用戶級(jí)線程的靈活高效和核心級(jí)線程的實(shí)用性,因此,包括Linux、FreeBSD在內(nèi)的多個(gè)開放源碼操作系統(tǒng)設(shè)計(jì)社區(qū)都在進(jìn)行相關(guān)研究,力圖在本系統(tǒng)中實(shí)現(xiàn)Scheduler Activations。

?

相關(guān)主題

?

    • [Linus Torvalds,2002] Linux內(nèi)核源碼v2.4.20
    • [GNU,2002] Glibc源碼v2.2.2(內(nèi)含LinuxThreads v0.9)
    • [Thomas E. Terrill,1997] An Introduction to Threads Using The LinuxThreads Interface
    • [Ulrich Drepper,Ingo Molnar,2003] The Native POSIX Thread Library for Linux
    • http://www.ibm.com/developerworks/oss/pthreads/,NGPT官方網(wǎng)站
    • [Ralf S. Engelschall,2000] Portable Multithreading
    • [Thomas E. Anderson, Brian N. Bershad, Edward D. Lazowska, Henry M. Levy,1992] Scheduler Activations: Effective Kernel Support for the User-Level Management of Parallelism
    • [pcjockey@21cn.com] Linux線程初探

?

轉(zhuǎn)載于:https://www.cnblogs.com/alantu2018/p/8477038.html

總結(jié)

以上是生活随笔為你收集整理的线程模型、pthread 系列函数 和 简单多线程服务器端程序的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

欧美性色19p | 99久久99久久免费精品蜜桃 | 动漫av一区二区在线观看 | 国产在线无码精品电影网 | 亚洲第一无码av无码专区 | 亚洲精品国产精品乱码不卡 | 国产成人精品一区二区在线小狼 | 亚洲无人区一区二区三区 | 久久成人a毛片免费观看网站 | 日本大乳高潮视频在线观看 | 粉嫩少妇内射浓精videos | 少妇高潮一区二区三区99 | 一区二区三区高清视频一 | 日韩欧美中文字幕公布 | 亚洲国产日韩a在线播放 | 午夜性刺激在线视频免费 | 久久亚洲a片com人成 | 亚洲熟妇色xxxxx欧美老妇y | 精品水蜜桃久久久久久久 | 国产精品对白交换视频 | 国产精品亚洲五月天高清 | 国产av无码专区亚洲a∨毛片 | 国产精品a成v人在线播放 | 欧美熟妇另类久久久久久不卡 | 国产精品久久久久久久影院 | 国产suv精品一区二区五 | 99久久久无码国产aaa精品 | 久久久中文字幕日本无吗 | 亚洲无人区午夜福利码高清完整版 | 十八禁视频网站在线观看 | 少妇高潮喷潮久久久影院 | 宝宝好涨水快流出来免费视频 | 九九综合va免费看 | 男女下面进入的视频免费午夜 | 玩弄中年熟妇正在播放 | 狠狠躁日日躁夜夜躁2020 | 亚洲综合伊人久久大杳蕉 | 久久久中文久久久无码 | 在线看片无码永久免费视频 | 精品一二三区久久aaa片 | 国产人妻精品一区二区三区 | 日本大乳高潮视频在线观看 | 永久免费精品精品永久-夜色 | 一本色道久久综合亚洲精品不卡 | 国产精品久久久午夜夜伦鲁鲁 | 久久亚洲中文字幕精品一区 | 丰满护士巨好爽好大乳 | 国产内射老熟女aaaa | 国产精品亚洲综合色区韩国 | 麻豆蜜桃av蜜臀av色欲av | 国产成人一区二区三区别 | 红桃av一区二区三区在线无码av | 两性色午夜免费视频 | 人人超人人超碰超国产 | 十八禁视频网站在线观看 | 免费观看的无遮挡av | 亚洲春色在线视频 | 久久视频在线观看精品 | 亚洲天堂2017无码中文 | 亚洲色成人中文字幕网站 | 亚洲の无码国产の无码影院 | 特级做a爰片毛片免费69 | 永久免费观看国产裸体美女 | 超碰97人人做人人爱少妇 | 在线播放免费人成毛片乱码 | 波多野结衣一区二区三区av免费 | 国产性生交xxxxx无码 | 人人澡人摸人人添 | 色五月五月丁香亚洲综合网 | 久久午夜无码鲁丝片秋霞 | 欧美 日韩 人妻 高清 中文 | 国产精品久久久久久久影院 | 久久精品女人的天堂av | 亚洲色无码一区二区三区 | 蜜臀av在线播放 久久综合激激的五月天 | 夜先锋av资源网站 | 久在线观看福利视频 | 巨爆乳无码视频在线观看 | 午夜精品久久久内射近拍高清 | 丰腴饱满的极品熟妇 | 欧美人与禽zoz0性伦交 | 欧美 日韩 亚洲 在线 | 久久亚洲中文字幕精品一区 | 国产精品无码成人午夜电影 | 中文字幕无码热在线视频 | 波多野结衣av在线观看 | av人摸人人人澡人人超碰下载 | 精品一区二区三区无码免费视频 | 少妇的肉体aa片免费 | 国产69精品久久久久app下载 | 99麻豆久久久国产精品免费 | 国产精品久久久久久无码 | 国产成人无码午夜视频在线观看 | 亚洲国产精品久久人人爱 | 亚洲春色在线视频 | 四虎影视成人永久免费观看视频 | 日本精品久久久久中文字幕 | 欧美兽交xxxx×视频 | 夜夜高潮次次欢爽av女 | 精品无码成人片一区二区98 | 人人澡人人妻人人爽人人蜜桃 | 久久综合九色综合欧美狠狠 | 国产精品国产三级国产专播 | 亚洲色成人中文字幕网站 | 国产片av国语在线观看 | 久久亚洲中文字幕精品一区 | 亚洲自偷自偷在线制服 | 人妻少妇精品无码专区二区 | 在线观看欧美一区二区三区 | 日本xxxx色视频在线观看免费 | 欧美放荡的少妇 | 国产办公室秘书无码精品99 | 国产亚洲精品久久久久久大师 | 最新版天堂资源中文官网 | 精品乱码久久久久久久 | 欧美丰满熟妇xxxx性ppx人交 | 特大黑人娇小亚洲女 | 免费无码的av片在线观看 | 国产又粗又硬又大爽黄老大爷视 | 国精产品一品二品国精品69xx | 国产精品高潮呻吟av久久4虎 | 人人妻人人澡人人爽人人精品 | 成在人线av无码免费 | 99视频精品全部免费免费观看 | 人人爽人人澡人人高潮 | 亚洲七七久久桃花影院 | 久久久久久国产精品无码下载 | 久久国产精品精品国产色婷婷 | 麻豆成人精品国产免费 | 欧美成人午夜精品久久久 | 成人毛片一区二区 | 性做久久久久久久免费看 | 国内精品一区二区三区不卡 | 色婷婷综合中文久久一本 | 日韩人妻少妇一区二区三区 | 国产精品久久久久久亚洲影视内衣 | 青春草在线视频免费观看 | 麻豆成人精品国产免费 | 亚洲一区二区三区四区 | 欧美一区二区三区视频在线观看 | 国产一区二区三区精品视频 | 中文字幕人成乱码熟女app | 少妇太爽了在线观看 | 中文精品久久久久人妻不卡 | 国内精品九九久久久精品 | 亚洲日韩av一区二区三区四区 | 久久综合激激的五月天 | 熟女俱乐部五十路六十路av | 55夜色66夜色国产精品视频 | 伊人久久大香线焦av综合影院 | 精品久久久久久亚洲精品 | 在线播放无码字幕亚洲 | 亚洲国产精品美女久久久久 | 亚洲日韩中文字幕在线播放 | 又黄又爽又色的视频 | 麻豆国产人妻欲求不满 | 亚洲精品综合五月久久小说 | 伊人久久大香线蕉av一区二区 | 婷婷五月综合缴情在线视频 | 人妻插b视频一区二区三区 | 日韩av无码中文无码电影 | 亚洲成a人片在线观看无码3d | 亚洲综合无码久久精品综合 | 大地资源中文第3页 | 欧美三级a做爰在线观看 | 人妻插b视频一区二区三区 | 色一情一乱一伦一区二区三欧美 | 强辱丰满人妻hd中文字幕 | 国精产品一品二品国精品69xx | 少妇无套内谢久久久久 | 日本丰满护士爆乳xxxx | 欧洲欧美人成视频在线 | 麻豆av传媒蜜桃天美传媒 | 日本乱偷人妻中文字幕 | 日本精品人妻无码77777 天堂一区人妻无码 | 鲁鲁鲁爽爽爽在线视频观看 | 国产精品福利视频导航 | 中文亚洲成a人片在线观看 | 亚洲色无码一区二区三区 | 亚洲色欲色欲欲www在线 | 少妇人妻大乳在线视频 | 初尝人妻少妇中文字幕 | 国产在线一区二区三区四区五区 | 亚洲熟悉妇女xxx妇女av | 无码人妻久久一区二区三区不卡 | 激情爆乳一区二区三区 | 亚洲成色www久久网站 | 国产一区二区不卡老阿姨 | 欧洲美熟女乱又伦 | 一个人免费观看的www视频 | 国产综合久久久久鬼色 | 国产亚洲精品久久久久久久久动漫 | 成人亚洲精品久久久久软件 | 久久午夜无码鲁丝片 | 人妻有码中文字幕在线 | 又大又黄又粗又爽的免费视频 | 免费中文字幕日韩欧美 | 又大又硬又爽免费视频 | 久久国产36精品色熟妇 | 国产无套内射久久久国产 | 骚片av蜜桃精品一区 | 久久综合色之久久综合 | 人人妻人人澡人人爽精品欧美 | 三上悠亚人妻中文字幕在线 | 国产成人午夜福利在线播放 | 黑人巨大精品欧美黑寡妇 | 亚洲综合无码一区二区三区 | 午夜不卡av免费 一本久久a久久精品vr综合 | 中国女人内谢69xxxx | 国产成人无码av片在线观看不卡 | 久久久精品欧美一区二区免费 | 免费人成在线观看网站 | 亚洲中文字幕av在天堂 | 亚洲の无码国产の无码步美 | v一区无码内射国产 | 清纯唯美经典一区二区 | 国产精品久久久久7777 | 日本在线高清不卡免费播放 | 领导边摸边吃奶边做爽在线观看 | 一本久久伊人热热精品中文字幕 | 国语自产偷拍精品视频偷 | 亚洲va欧美va天堂v国产综合 | a国产一区二区免费入口 | 午夜精品久久久内射近拍高清 | 牲欲强的熟妇农村老妇女视频 | 国产成人午夜福利在线播放 | 窝窝午夜理论片影院 | 国产精品理论片在线观看 | 色欲人妻aaaaaaa无码 | 日日躁夜夜躁狠狠躁 | 四虎影视成人永久免费观看视频 | 夜夜影院未满十八勿进 | 日韩亚洲欧美中文高清在线 | 人人妻人人澡人人爽精品欧美 | 少妇性俱乐部纵欲狂欢电影 | 国产无遮挡吃胸膜奶免费看 | 无遮挡国产高潮视频免费观看 | 亚洲熟妇色xxxxx亚洲 | 国产真实夫妇视频 | 久久久久久久久888 | 亚洲人成无码网www | 大胆欧美熟妇xx | 国内精品九九久久久精品 | 色综合久久久无码网中文 | 少妇被粗大的猛进出69影院 | 精品国产福利一区二区 | 国产人妻久久精品二区三区老狼 | 成在人线av无码免费 | 日日夜夜撸啊撸 | 欧洲熟妇精品视频 | 日产精品高潮呻吟av久久 | 色狠狠av一区二区三区 | 亚洲欧美中文字幕5发布 | 亚洲精品www久久久 | 日本一区二区三区免费高清 | 亚洲va欧美va天堂v国产综合 | 久久精品中文闷骚内射 | 俺去俺来也www色官网 | 精品一区二区不卡无码av | 野外少妇愉情中文字幕 | 亚洲 欧美 激情 小说 另类 | 国産精品久久久久久久 | 2020久久超碰国产精品最新 | 国产成人精品无码播放 | 成人欧美一区二区三区黑人 | 精品国产精品久久一区免费式 | 永久免费观看美女裸体的网站 | 午夜福利一区二区三区在线观看 | 无码播放一区二区三区 | 人人超人人超碰超国产 | 99国产精品白浆在线观看免费 | 狠狠噜狠狠狠狠丁香五月 | 桃花色综合影院 | 亚洲精品中文字幕乱码 | 日韩成人一区二区三区在线观看 | 天天综合网天天综合色 | 国产亚av手机在线观看 | 无码任你躁久久久久久久 | 精品无码国产自产拍在线观看蜜 | 啦啦啦www在线观看免费视频 | 国产精品毛多多水多 | 天堂а√在线地址中文在线 | 捆绑白丝粉色jk震动捧喷白浆 | 老子影院午夜精品无码 | 国産精品久久久久久久 | 亚洲精品一区二区三区四区五区 | 亚洲高清偷拍一区二区三区 | 国产性生交xxxxx无码 | 亚洲一区二区三区无码久久 | 国产精品多人p群无码 | 99久久精品午夜一区二区 | 精品偷拍一区二区三区在线看 | 色综合久久久久综合一本到桃花网 | 少妇无码av无码专区在线观看 | 中文字幕精品av一区二区五区 | 欧美日本精品一区二区三区 | 欧美喷潮久久久xxxxx | 成人性做爰aaa片免费看 | 国产香蕉尹人视频在线 | 国产97色在线 | 免 | 久久国产精品二国产精品 | 永久免费观看美女裸体的网站 | 亚洲国产精品美女久久久久 | 国产香蕉尹人综合在线观看 | 人人妻人人藻人人爽欧美一区 | 国产综合久久久久鬼色 | 偷窥日本少妇撒尿chinese | 久久综合香蕉国产蜜臀av | 亚洲va欧美va天堂v国产综合 | 欧美放荡的少妇 | 牲交欧美兽交欧美 | 久久久久亚洲精品中文字幕 | 午夜免费福利小电影 | 内射爽无广熟女亚洲 | 永久免费精品精品永久-夜色 | 成人一在线视频日韩国产 | 久青草影院在线观看国产 | 成人精品视频一区二区三区尤物 | 久久精品国产一区二区三区 | 九九久久精品国产免费看小说 | 日韩欧美中文字幕在线三区 | 无码人妻黑人中文字幕 | 久久精品国产99精品亚洲 | 成人aaa片一区国产精品 | 亚洲 a v无 码免 费 成 人 a v | 免费看男女做好爽好硬视频 | 国产偷抇久久精品a片69 | 久久精品国产大片免费观看 | 亚洲欧美日韩成人高清在线一区 | 伊在人天堂亚洲香蕉精品区 | 精品熟女少妇av免费观看 | 免费视频欧美无人区码 | 亚洲国产精品一区二区美利坚 | 久久精品人人做人人综合试看 | 亚洲熟妇色xxxxx欧美老妇y | 国产美女极度色诱视频www | 波多野结衣乳巨码无在线观看 | 精品国产乱码久久久久乱码 | 人妻有码中文字幕在线 | 欧美精品一区二区精品久久 | 久久精品人人做人人综合试看 | 国产两女互慰高潮视频在线观看 | 麻豆果冻传媒2021精品传媒一区下载 | 欧美老熟妇乱xxxxx | 麻豆精品国产精华精华液好用吗 | 午夜福利试看120秒体验区 | 99视频精品全部免费免费观看 | 欧美兽交xxxx×视频 | 国产人妻久久精品二区三区老狼 | 无码av中文字幕免费放 | 亚洲人交乣女bbw | 四虎国产精品免费久久 | 国产成人无码午夜视频在线观看 | 波多野结衣aⅴ在线 | 欧美 日韩 亚洲 在线 | 无码午夜成人1000部免费视频 | 未满成年国产在线观看 | 无码中文字幕色专区 | 最新国产乱人伦偷精品免费网站 | 免费无码肉片在线观看 | 99视频精品全部免费免费观看 | 欧美激情一区二区三区成人 | 一个人看的www免费视频在线观看 | 成人无码精品1区2区3区免费看 | 久久久精品456亚洲影院 | 青草青草久热国产精品 | 青草视频在线播放 | 国产在热线精品视频 | 亚洲成av人影院在线观看 | 人妻aⅴ无码一区二区三区 | 十八禁真人啪啪免费网站 | 亚洲人交乣女bbw | 蜜桃视频韩日免费播放 | 日本又色又爽又黄的a片18禁 | 精品国产aⅴ无码一区二区 | 日本大香伊一区二区三区 | 欧美成人高清在线播放 | 欧美变态另类xxxx | 少妇激情av一区二区 | 亚洲の无码国产の无码步美 | 乱人伦人妻中文字幕无码久久网 | 又粗又大又硬又长又爽 | 亚洲国产欧美日韩精品一区二区三区 | 又粗又大又硬又长又爽 | 国产精品99爱免费视频 | 超碰97人人做人人爱少妇 | 成人性做爰aaa片免费看不忠 | 国产精品无码一区二区三区不卡 | 人人妻人人澡人人爽欧美一区 | 黑森林福利视频导航 | 日韩精品无码一本二本三本色 | 日韩人妻系列无码专区 | 在线a亚洲视频播放在线观看 | 国产精品高潮呻吟av久久4虎 | 天堂无码人妻精品一区二区三区 | 精品国偷自产在线 | 亚洲日韩av一区二区三区中文 | 99精品国产综合久久久久五月天 | 九月婷婷人人澡人人添人人爽 | 国产午夜福利100集发布 | 国产色在线 | 国产 | 亚洲乱码国产乱码精品精 | 欧洲美熟女乱又伦 | 九九热爱视频精品 | 成年女人永久免费看片 | a国产一区二区免费入口 | 四虎4hu永久免费 | 一本久久伊人热热精品中文字幕 | 日本www一道久久久免费榴莲 | 欧美人与禽zoz0性伦交 | 波多野结衣乳巨码无在线观看 | 国产极品美女高潮无套在线观看 | 少妇一晚三次一区二区三区 | 国产人妻精品一区二区三区 | 精品久久8x国产免费观看 | 国产亚洲精品久久久久久国模美 | 波多野结衣av一区二区全免费观看 | av小次郎收藏 | 国产猛烈高潮尖叫视频免费 | 在线精品国产一区二区三区 | 国产精品亚洲一区二区三区喷水 | 亚洲天堂2017无码中文 | 国产农村妇女高潮大叫 | 欧美亚洲日韩国产人成在线播放 | 一本久久伊人热热精品中文字幕 | 一个人看的视频www在线 | 欧洲vodafone精品性 | 久久国产精品_国产精品 | 欧美阿v高清资源不卡在线播放 | 亚洲精品中文字幕乱码 | 黑人粗大猛烈进出高潮视频 | 国产综合在线观看 | 任你躁国产自任一区二区三区 | 牛和人交xxxx欧美 | 中文字幕av伊人av无码av | 黑人巨大精品欧美一区二区 | 日本爽爽爽爽爽爽在线观看免 | 未满小14洗澡无码视频网站 | 一本久道久久综合狠狠爱 | √天堂资源地址中文在线 | 国色天香社区在线视频 | 亚洲综合精品香蕉久久网 | 美女毛片一区二区三区四区 | 在线播放无码字幕亚洲 | 日韩精品a片一区二区三区妖精 | 国产精品久久福利网站 | 精品无人区无码乱码毛片国产 | 亚洲精品国产精品乱码不卡 | 一区二区三区乱码在线 | 欧洲 | 免费观看黄网站 | 久久国产精品_国产精品 | 午夜精品久久久久久久 | 欧美国产亚洲日韩在线二区 | 精品成在人线av无码免费看 | 婷婷综合久久中文字幕蜜桃三电影 | 成人综合网亚洲伊人 | 国产精品鲁鲁鲁 | av无码电影一区二区三区 | 青草视频在线播放 | 天海翼激烈高潮到腰振不止 | 少妇高潮一区二区三区99 | 51国偷自产一区二区三区 | 国产精品.xx视频.xxtv | 奇米影视7777久久精品人人爽 | 亚洲狠狠色丁香婷婷综合 | 免费看少妇作爱视频 | 高中生自慰www网站 | 国产精品亚洲а∨无码播放麻豆 | 国产手机在线αⅴ片无码观看 | 成 人 免费观看网站 | 日本精品人妻无码免费大全 | 伊在人天堂亚洲香蕉精品区 | 男人和女人高潮免费网站 | 久久国产36精品色熟妇 | 久久久久久九九精品久 | 国产在热线精品视频 | 99精品无人区乱码1区2区3区 | 午夜肉伦伦影院 | 国产亚洲精品久久久久久国模美 | 欧美性黑人极品hd | 午夜理论片yy44880影院 | 中文字幕 亚洲精品 第1页 | √8天堂资源地址中文在线 | 天天综合网天天综合色 | 女人被爽到呻吟gif动态图视看 | 亚洲日韩中文字幕在线播放 | 天堂亚洲2017在线观看 | 国产精品久免费的黄网站 | 国语精品一区二区三区 | 国产艳妇av在线观看果冻传媒 | 日本在线高清不卡免费播放 | 亚洲一区二区三区含羞草 | 久热国产vs视频在线观看 | 自拍偷自拍亚洲精品10p | 无码人妻黑人中文字幕 | 亚无码乱人伦一区二区 | 无码精品人妻一区二区三区av | 丰满少妇高潮惨叫视频 | 国产精品嫩草久久久久 | 精品国产麻豆免费人成网站 | 久久久久久久人妻无码中文字幕爆 | 亚洲日韩av一区二区三区四区 | 久久国产精品萌白酱免费 | 亚洲成a人片在线观看无码3d | 成人综合网亚洲伊人 | 国产xxx69麻豆国语对白 | 最新国产麻豆aⅴ精品无码 | www国产精品内射老师 | 国产精品久久久午夜夜伦鲁鲁 | 无码任你躁久久久久久久 | 男女作爱免费网站 | 伊人色综合久久天天小片 | 无套内谢老熟女 | 377p欧洲日本亚洲大胆 | 超碰97人人做人人爱少妇 | 久久综合香蕉国产蜜臀av | 日本一区二区三区免费播放 | 日韩av无码一区二区三区 | 成人欧美一区二区三区黑人免费 | 久久久精品欧美一区二区免费 | 99er热精品视频 | 日韩av无码一区二区三区不卡 | 亚洲精品国偷拍自产在线观看蜜桃 | 国内老熟妇对白xxxxhd | 免费播放一区二区三区 | 日日天日日夜日日摸 | 激情亚洲一区国产精品 | 久久久久久久女国产乱让韩 | 亚洲欧洲日本无在线码 | 乱人伦中文视频在线观看 | 免费乱码人妻系列无码专区 | 无码av最新清无码专区吞精 | 国产凸凹视频一区二区 | 性开放的女人aaa片 | 人妻少妇精品无码专区动漫 | 乱人伦中文视频在线观看 | 国产精品久久国产三级国 | 亚洲国产精品一区二区第一页 | 国产成人精品必看 | 欧美日韩视频无码一区二区三 | 国产成人综合在线女婷五月99播放 | 欧美日韩亚洲国产精品 | 亚洲日韩av一区二区三区四区 | 兔费看少妇性l交大片免费 | 曰韩无码二三区中文字幕 | 日本xxxx色视频在线观看免费 | 波多野结衣一区二区三区av免费 | 亚洲国产欧美日韩精品一区二区三区 | yw尤物av无码国产在线观看 | 蜜桃视频插满18在线观看 | 三上悠亚人妻中文字幕在线 | 婷婷丁香六月激情综合啪 | 欧美日韩一区二区综合 | 噜噜噜亚洲色成人网站 | 免费视频欧美无人区码 | 国产九九九九九九九a片 | 无码av中文字幕免费放 | 亚洲精品国产第一综合99久久 | 亚洲人成网站色7799 | 精品久久8x国产免费观看 | 久久亚洲精品中文字幕无男同 | 捆绑白丝粉色jk震动捧喷白浆 | 人妻夜夜爽天天爽三区 | 日韩人妻系列无码专区 | 国产熟妇高潮叫床视频播放 | 老子影院午夜精品无码 | 九月婷婷人人澡人人添人人爽 | 国产乱人偷精品人妻a片 | 欧美黑人巨大xxxxx | 亚洲欧美精品aaaaaa片 | 人妻少妇精品视频专区 | 人妻aⅴ无码一区二区三区 | 久久人人97超碰a片精品 | 99久久精品国产一区二区蜜芽 | 牲欲强的熟妇农村老妇女 | 永久黄网站色视频免费直播 | 熟妇人妻无码xxx视频 | 两性色午夜视频免费播放 | 精品人人妻人人澡人人爽人人 | 黑人大群体交免费视频 | 成熟妇人a片免费看网站 | 亚洲色大成网站www国产 | 少妇的肉体aa片免费 | 在线播放无码字幕亚洲 | 日韩欧美成人免费观看 | 狠狠综合久久久久综合网 | 国产激情精品一区二区三区 | 妺妺窝人体色www婷婷 | 激情综合激情五月俺也去 | 天堂а√在线中文在线 | 成人精品天堂一区二区三区 | 国产真人无遮挡作爱免费视频 | 亚洲熟悉妇女xxx妇女av | 人人妻人人澡人人爽精品欧美 | 久久综合九色综合欧美狠狠 | 亚洲熟女一区二区三区 | 久久视频在线观看精品 | 十八禁视频网站在线观看 | 亚洲の无码国产の无码影院 | 99久久久无码国产精品免费 | 免费无码的av片在线观看 | 青青青手机频在线观看 | 国产精品成人av在线观看 | 18精品久久久无码午夜福利 | 亚洲自偷自拍另类第1页 | 亚洲欧美国产精品久久 | 娇妻被黑人粗大高潮白浆 | 性色欲网站人妻丰满中文久久不卡 | 国产av一区二区三区最新精品 | 双乳奶水饱满少妇呻吟 | 在线а√天堂中文官网 | 国产特级毛片aaaaaa高潮流水 | 偷窥村妇洗澡毛毛多 | 亚洲精品一区二区三区在线 | 波多野结衣一区二区三区av免费 | 无码成人精品区在线观看 | 久久zyz资源站无码中文动漫 | 久久五月精品中文字幕 | 国产精品永久免费视频 | 国产精品无码久久av | 欧美第一黄网免费网站 | 狠狠cao日日穞夜夜穞av | 中文字幕乱码中文乱码51精品 | 精品夜夜澡人妻无码av蜜桃 | 奇米影视7777久久精品人人爽 | 欧洲精品码一区二区三区免费看 | www成人国产高清内射 | 久久久www成人免费毛片 | 麻花豆传媒剧国产免费mv在线 | 在线视频网站www色 | 国产精品久久久久久久9999 | 国产无av码在线观看 | 人人妻在人人 | 激情亚洲一区国产精品 | 国产精品嫩草久久久久 | aa片在线观看视频在线播放 | 久久 国产 尿 小便 嘘嘘 | 久久久久成人片免费观看蜜芽 | 日日橹狠狠爱欧美视频 | 成人精品天堂一区二区三区 | 日本一区二区三区免费播放 | 国产卡一卡二卡三 | 国产色在线 | 国产 | 爽爽影院免费观看 | 熟女俱乐部五十路六十路av | 久久国内精品自在自线 | 人妻与老人中文字幕 | 黑人大群体交免费视频 | 欧美乱妇无乱码大黄a片 | 婷婷五月综合缴情在线视频 | 四虎国产精品一区二区 | 亚洲爆乳精品无码一区二区三区 | 在线播放免费人成毛片乱码 | 麻豆蜜桃av蜜臀av色欲av | 国产精品久久久久久亚洲毛片 | 无码av中文字幕免费放 | 丰满岳乱妇在线观看中字无码 | 日日天日日夜日日摸 | 国产莉萝无码av在线播放 | 少妇太爽了在线观看 | 日日鲁鲁鲁夜夜爽爽狠狠 | 激情内射日本一区二区三区 | 婷婷五月综合激情中文字幕 | 久久精品人人做人人综合 | 男人扒开女人内裤强吻桶进去 | 特黄特色大片免费播放器图片 | 美女扒开屁股让男人桶 | 无套内谢老熟女 | 久久久久久亚洲精品a片成人 | 无码人妻精品一区二区三区不卡 | а√天堂www在线天堂小说 | 久久人妻内射无码一区三区 | 欧美性猛交xxxx富婆 | 国产两女互慰高潮视频在线观看 | 亚洲精品一区二区三区在线观看 | 中文字幕无码av激情不卡 | 亚洲精品中文字幕久久久久 | 网友自拍区视频精品 | 一个人看的视频www在线 | 日本熟妇大屁股人妻 | 成人精品一区二区三区中文字幕 | 午夜福利试看120秒体验区 | 欧美日韩一区二区免费视频 | 亚洲成a人片在线观看无码3d | 日韩精品a片一区二区三区妖精 | 国产精品久久久久久无码 | 人人妻人人澡人人爽欧美精品 | 青青青手机频在线观看 | 久久精品人人做人人综合试看 | 牲欲强的熟妇农村老妇女视频 | 久久国产36精品色熟妇 | 又色又爽又黄的美女裸体网站 | 欧美性生交xxxxx久久久 | 国产一区二区不卡老阿姨 | 巨爆乳无码视频在线观看 | 日本精品人妻无码免费大全 | 无码吃奶揉捏奶头高潮视频 | 国产成人精品视频ⅴa片软件竹菊 | 久久精品国产精品国产精品污 | 中文无码成人免费视频在线观看 | 无人区乱码一区二区三区 | 夫妻免费无码v看片 | 久久综合狠狠综合久久综合88 | 国产精品18久久久久久麻辣 | 九月婷婷人人澡人人添人人爽 | 亚洲欧美国产精品久久 | 久久午夜夜伦鲁鲁片无码免费 | 欧美日本免费一区二区三区 | 国内揄拍国内精品人妻 | 无码av岛国片在线播放 | 免费国产黄网站在线观看 | 精品国产aⅴ无码一区二区 | 18禁止看的免费污网站 | 日本精品人妻无码77777 天堂一区人妻无码 | 国产无遮挡又黄又爽免费视频 | 性生交大片免费看女人按摩摩 | 捆绑白丝粉色jk震动捧喷白浆 | 国产在线一区二区三区四区五区 | 色欲av亚洲一区无码少妇 | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 久久久精品成人免费观看 | 亚洲精品无码国产 | aⅴ在线视频男人的天堂 | 麻豆国产人妻欲求不满 | 水蜜桃亚洲一二三四在线 | 久久99热只有频精品8 | 亚洲s码欧洲m码国产av | 粗大的内捧猛烈进出视频 | 亚洲欧洲无卡二区视頻 | 在线a亚洲视频播放在线观看 | 久久久久久国产精品无码下载 | 国产人妻精品一区二区三区不卡 | 国语自产偷拍精品视频偷 | 亚洲性无码av中文字幕 | 老太婆性杂交欧美肥老太 | 水蜜桃亚洲一二三四在线 | 免费视频欧美无人区码 | 国产97在线 | 亚洲 | 少妇激情av一区二区 | 成人性做爰aaa片免费看 | 又大又硬又黄的免费视频 | 西西人体www44rt大胆高清 | 亚洲综合另类小说色区 | 国产日产欧产精品精品app | 国产精品人人妻人人爽 | 国产无套内射久久久国产 | 福利一区二区三区视频在线观看 | 欧美成人免费全部网站 | 丰满少妇女裸体bbw | 国产人妻大战黑人第1集 | 任你躁国产自任一区二区三区 | 丰满少妇弄高潮了www | 在线亚洲高清揄拍自拍一品区 | 国产一区二区三区日韩精品 | 综合网日日天干夜夜久久 | 久久久久久九九精品久 | 亚洲 另类 在线 欧美 制服 | 中文无码成人免费视频在线观看 | 欧美怡红院免费全部视频 | 中文字幕无码人妻少妇免费 | 一本久道久久综合狠狠爱 | 国产精品高潮呻吟av久久 | 精品国产青草久久久久福利 | 中文字幕av无码一区二区三区电影 | 成人欧美一区二区三区黑人 | 成年女人永久免费看片 | 精品人妻中文字幕有码在线 | 99久久精品国产一区二区蜜芽 | 国产激情无码一区二区 | 日本精品人妻无码77777 天堂一区人妻无码 | 免费无码肉片在线观看 | 欧美人与物videos另类 | 性欧美熟妇videofreesex | 国内丰满熟女出轨videos | 丰满少妇人妻久久久久久 | 国产乱人伦偷精品视频 | 亚洲欧美国产精品久久 | 国产一区二区不卡老阿姨 | 亚洲色在线无码国产精品不卡 | 国产又粗又硬又大爽黄老大爷视 | 97久久精品无码一区二区 | 精品国产成人一区二区三区 | 欧美35页视频在线观看 | 亚洲の无码国产の无码步美 | 国産精品久久久久久久 | 国产片av国语在线观看 | 无码福利日韩神码福利片 | 久久综合色之久久综合 | 色婷婷香蕉在线一区二区 | √8天堂资源地址中文在线 | 国内精品久久毛片一区二区 | 人妻少妇被猛烈进入中文字幕 | 欧美自拍另类欧美综合图片区 | 欧美性黑人极品hd | 精品国产国产综合精品 | 动漫av一区二区在线观看 | 免费看少妇作爱视频 | 日韩av无码中文无码电影 | 久久亚洲a片com人成 | 国产精品亚洲专区无码不卡 | 在线а√天堂中文官网 | 国产亚洲精品久久久ai换 | 少妇邻居内射在线 | 超碰97人人射妻 | 色综合视频一区二区三区 | 无码人妻久久一区二区三区不卡 | 亚洲狠狠色丁香婷婷综合 | 亚洲乱码国产乱码精品精 | 永久免费观看美女裸体的网站 | 牛和人交xxxx欧美 | 草草网站影院白丝内射 | 乱人伦中文视频在线观看 | 久久精品国产一区二区三区肥胖 | 欧美熟妇另类久久久久久不卡 | 中文精品久久久久人妻不卡 | 国产精品无码一区二区三区不卡 | 麻豆md0077饥渴少妇 | 亚洲国产欧美在线成人 | 夜精品a片一区二区三区无码白浆 | 成年美女黄网站色大免费视频 | 国产明星裸体无码xxxx视频 | 伊人久久大香线蕉午夜 | 亚洲国产欧美在线成人 | 性欧美videos高清精品 | 久久99精品久久久久久 | 日本精品人妻无码免费大全 | 人妻无码久久精品人妻 | 又色又爽又黄的美女裸体网站 | 亚洲色欲久久久综合网东京热 | 97夜夜澡人人爽人人喊中国片 | 亚洲国产精品无码久久久久高潮 | 草草网站影院白丝内射 | 荡女精品导航 | 夜夜躁日日躁狠狠久久av | 国内精品九九久久久精品 | 成 人影片 免费观看 | 无码国产激情在线观看 | 国产精品a成v人在线播放 | 亚洲gv猛男gv无码男同 | 国产在线一区二区三区四区五区 | 日本xxxx色视频在线观看免费 | 女人被男人躁得好爽免费视频 | 久久zyz资源站无码中文动漫 | 午夜精品一区二区三区在线观看 | 欧美一区二区三区 | 亚洲国产成人a精品不卡在线 | 午夜时刻免费入口 | 一本色道婷婷久久欧美 | 在线а√天堂中文官网 | 扒开双腿吃奶呻吟做受视频 | 精品乱码久久久久久久 | 精品欧洲av无码一区二区三区 | 国产无遮挡又黄又爽又色 | 俄罗斯老熟妇色xxxx | 伊人久久大香线焦av综合影院 | 人人澡人人妻人人爽人人蜜桃 | 亚洲精品国产第一综合99久久 | 亚洲天堂2017无码 | 午夜福利试看120秒体验区 | 亚洲综合精品香蕉久久网 | 无码av最新清无码专区吞精 | 久久久久久亚洲精品a片成人 | 色综合久久久久综合一本到桃花网 | 黑人玩弄人妻中文在线 | 色诱久久久久综合网ywww | 少妇激情av一区二区 | 国产熟妇另类久久久久 | 2020最新国产自产精品 | 日韩精品a片一区二区三区妖精 | 久久久久成人精品免费播放动漫 | 蜜臀av在线观看 在线欧美精品一区二区三区 | 国产福利视频一区二区 | 精品人妻人人做人人爽 | 亚洲中文字幕在线观看 | 国精品人妻无码一区二区三区蜜柚 | 成人试看120秒体验区 | 亚洲自偷自偷在线制服 | 亚洲日韩av一区二区三区四区 | 网友自拍区视频精品 | 在线а√天堂中文官网 | 东京热无码av男人的天堂 | 国产免费久久久久久无码 | 日韩av无码一区二区三区不卡 | 人妻插b视频一区二区三区 | 亚洲成在人网站无码天堂 | 少妇高潮一区二区三区99 | 成人免费视频视频在线观看 免费 | 欧美性生交活xxxxxdddd | 99riav国产精品视频 | 在线a亚洲视频播放在线观看 | 狠狠色丁香久久婷婷综合五月 | 成人性做爰aaa片免费看 | 久久综合香蕉国产蜜臀av | 扒开双腿疯狂进出爽爽爽视频 | 久久精品女人天堂av免费观看 | 午夜福利电影 | 国产片av国语在线观看 | 99久久人妻精品免费一区 | 天堂а√在线地址中文在线 | 国产免费久久精品国产传媒 | 精品无码国产自产拍在线观看蜜 | 久久99精品久久久久久 | 无码午夜成人1000部免费视频 | 亚洲精品综合一区二区三区在线 | 亚洲a无码综合a国产av中文 | 亚洲欧洲中文日韩av乱码 | 牲欲强的熟妇农村老妇女视频 | 久久综合九色综合欧美狠狠 | 国产亚洲精品精品国产亚洲综合 | 无套内谢老熟女 | 中文字幕人妻无码一夲道 | 狠狠噜狠狠狠狠丁香五月 | 国产97色在线 | 免 | 人妻体内射精一区二区三四 | 亚洲 a v无 码免 费 成 人 a v | 99久久精品国产一区二区蜜芽 | 亚洲成av人综合在线观看 | 亚洲综合伊人久久大杳蕉 | 波多野42部无码喷潮在线 | 精品国产乱码久久久久乱码 | 装睡被陌生人摸出水好爽 | 久久国产36精品色熟妇 | 久久久亚洲欧洲日产国码αv | 清纯唯美经典一区二区 | 牲欲强的熟妇农村老妇女视频 | 国产亚洲日韩欧美另类第八页 | 男人的天堂2018无码 | 久久熟妇人妻午夜寂寞影院 | 亚洲啪av永久无码精品放毛片 | 性欧美videos高清精品 | 日韩欧美中文字幕公布 | 久精品国产欧美亚洲色aⅴ大片 | 久久久久久久久888 | 国产成人精品优优av | 成人性做爰aaa片免费看不忠 | 少妇人妻大乳在线视频 | 76少妇精品导航 | 日韩视频 中文字幕 视频一区 | 四虎4hu永久免费 | 国产超碰人人爽人人做人人添 | 大肉大捧一进一出视频出来呀 | 久久国产精品偷任你爽任你 | 一本精品99久久精品77 | 青春草在线视频免费观看 | 日本丰满熟妇videos | 亚洲欧美日韩综合久久久 | 少妇无码av无码专区在线观看 | 男女超爽视频免费播放 | 亚洲自偷精品视频自拍 | 无遮挡国产高潮视频免费观看 | 无码人妻精品一区二区三区下载 | 日本精品人妻无码77777 天堂一区人妻无码 | 俺去俺来也在线www色官网 | 免费男性肉肉影院 | 亚洲熟妇自偷自拍另类 | 初尝人妻少妇中文字幕 | 爽爽影院免费观看 | 少妇人妻av毛片在线看 | 波多野结衣一区二区三区av免费 | 樱花草在线社区www | 国产亚洲精品久久久久久国模美 | 最新国产麻豆aⅴ精品无码 | 99久久精品日本一区二区免费 | 国产色精品久久人妻 | 丝袜 中出 制服 人妻 美腿 | 久久国产精品二国产精品 | 亚洲va中文字幕无码久久不卡 | 国产精品久久国产精品99 | 无码人妻少妇伦在线电影 | 精品久久久久久人妻无码中文字幕 | 一本精品99久久精品77 | 人妻熟女一区 | 日日橹狠狠爱欧美视频 | 鲁鲁鲁爽爽爽在线视频观看 | 国产乱子伦视频在线播放 | 全黄性性激高免费视频 | 欧美肥老太牲交大战 | 88国产精品欧美一区二区三区 | 欧美刺激性大交 | 亚洲人成网站在线播放942 | 天天躁日日躁狠狠躁免费麻豆 | 日韩精品久久久肉伦网站 | 精品 日韩 国产 欧美 视频 | 亚洲国产精品成人久久蜜臀 | 伊人久久大香线蕉午夜 | 久久精品中文字幕一区 | 色婷婷欧美在线播放内射 | 亚洲精品综合一区二区三区在线 | 国产精品va在线观看无码 | 天天躁日日躁狠狠躁免费麻豆 | 小鲜肉自慰网站xnxx | 亚洲国产欧美在线成人 | 国产午夜无码精品免费看 | 狠狠色丁香久久婷婷综合五月 | 亚洲精品欧美二区三区中文字幕 | 一个人看的视频www在线 | 图片区 小说区 区 亚洲五月 | 中文字幕乱码中文乱码51精品 | 亚洲区小说区激情区图片区 | 亚洲第一无码av无码专区 | 亚洲日韩乱码中文无码蜜桃臀网站 | 荫蒂添的好舒服视频囗交 | 俺去俺来也www色官网 | 久久精品国产99久久6动漫 | 日本精品少妇一区二区三区 | 奇米影视888欧美在线观看 | 国产午夜视频在线观看 | 男女性色大片免费网站 | 国产精品福利视频导航 | 欧美大屁股xxxxhd黑色 | 亚洲乱码日产精品bd | 精品午夜福利在线观看 | 最近中文2019字幕第二页 | 国产成人久久精品流白浆 | 无码人妻黑人中文字幕 | 影音先锋中文字幕无码 | av无码久久久久不卡免费网站 | 精品无码一区二区三区的天堂 | 天下第一社区视频www日本 | 老太婆性杂交欧美肥老太 | 狠狠cao日日穞夜夜穞av | 亚洲精品成a人在线观看 | 台湾无码一区二区 | 性欧美videos高清精品 | 国产精品毛片一区二区 | 久久精品无码一区二区三区 | a在线观看免费网站大全 | 亚洲中文字幕在线观看 | 亚洲国产高清在线观看视频 | 精品人妻人人做人人爽夜夜爽 | 成人无码影片精品久久久 | 国产亚洲精品精品国产亚洲综合 | 性欧美牲交xxxxx视频 | 中文字幕日产无线码一区 | 美女黄网站人色视频免费国产 | 精品国精品国产自在久国产87 | 天天躁日日躁狠狠躁免费麻豆 | 玩弄人妻少妇500系列视频 | 牲欲强的熟妇农村老妇女 | 久久久亚洲欧洲日产国码αv | 国内综合精品午夜久久资源 | 夜夜影院未满十八勿进 | 人妻少妇精品无码专区二区 | 亚洲成a人片在线观看无码 | 久久综合九色综合97网 | 曰韩少妇内射免费播放 | 粗大的内捧猛烈进出视频 | 亚洲码国产精品高潮在线 | 蜜桃av抽搐高潮一区二区 | 亚洲熟悉妇女xxx妇女av | 伊人久久大香线蕉亚洲 | 久久婷婷五月综合色国产香蕉 | 国产绳艺sm调教室论坛 | 国产精品无码久久av | 国产精品久久久久久久影院 | 国产精品久免费的黄网站 | 国产成人无码av一区二区 | 亚洲精品美女久久久久久久 | 久久国内精品自在自线 | 午夜精品久久久久久久 | 亚洲欧洲无卡二区视頻 | 国产无遮挡吃胸膜奶免费看 | 成人亚洲精品久久久久软件 | 中文字幕无码免费久久99 | 久久国产36精品色熟妇 | 亚洲精品综合一区二区三区在线 | 日韩少妇白浆无码系列 | 欧美人与善在线com | 亚洲毛片av日韩av无码 | 奇米影视888欧美在线观看 | 亚洲中文字幕无码中文字在线 | 国产两女互慰高潮视频在线观看 | 日韩精品无码一区二区中文字幕 | 亚洲小说春色综合另类 | 久久精品人妻少妇一区二区三区 | 樱花草在线播放免费中文 | 亚洲熟妇色xxxxx欧美老妇y | 大肉大捧一进一出好爽视频 | 欧美人与物videos另类 | 久久久av男人的天堂 | 国产片av国语在线观看 | 中文亚洲成a人片在线观看 | 性生交片免费无码看人 | 亚洲乱码中文字幕在线 | 曰本女人与公拘交酡免费视频 | 女人高潮内射99精品 | 少妇无码av无码专区在线观看 | 人人妻人人澡人人爽人人精品浪潮 | 成 人 免费观看网站 | 少妇高潮喷潮久久久影院 | 国模大胆一区二区三区 | 奇米影视888欧美在线观看 | 国产极品美女高潮无套在线观看 | a在线观看免费网站大全 | 四虎国产精品一区二区 | 日本成熟视频免费视频 | 久久久久免费看成人影片 | 自拍偷自拍亚洲精品10p | 国产精品va在线观看无码 | 无码任你躁久久久久久久 | 精品一二三区久久aaa片 | 国产激情综合五月久久 | 国产农村乱对白刺激视频 | 日本护士xxxxhd少妇 | 麻豆果冻传媒2021精品传媒一区下载 | 久久人妻内射无码一区三区 | 亚洲精品中文字幕 | 日本护士xxxxhd少妇 | 99久久久无码国产aaa精品 | 久久99久久99精品中文字幕 | 无码人妻丰满熟妇区毛片18 | 中文字幕无码热在线视频 | 成人av无码一区二区三区 | 丝袜 中出 制服 人妻 美腿 | 小sao货水好多真紧h无码视频 | 国产成人无码a区在线观看视频app | 亚拍精品一区二区三区探花 | 欧美成人免费全部网站 | 国产精品人妻一区二区三区四 | 亚洲欧美精品伊人久久 | 中文精品久久久久人妻不卡 | 蜜臀aⅴ国产精品久久久国产老师 | 亚洲综合伊人久久大杳蕉 | 亚洲国产成人a精品不卡在线 | 又紧又大又爽精品一区二区 | 99久久精品午夜一区二区 | 成年女人永久免费看片 | 精品无人区无码乱码毛片国产 | 亚洲欧洲无卡二区视頻 | 国产乡下妇女做爰 | 欧美激情综合亚洲一二区 | 欧美35页视频在线观看 | 亚洲色在线无码国产精品不卡 | 国产精品久久国产三级国 | 东京热男人av天堂 | 97夜夜澡人人爽人人喊中国片 | 人妻少妇精品无码专区二区 | 中文字幕亚洲情99在线 | 丰满少妇高潮惨叫视频 | 色一情一乱一伦一区二区三欧美 | 人妻天天爽夜夜爽一区二区 | 日韩精品无码一本二本三本色 | 亚洲男人av香蕉爽爽爽爽 | 国产美女精品一区二区三区 | 亚洲 另类 在线 欧美 制服 | 久激情内射婷内射蜜桃人妖 | 在线看片无码永久免费视频 | 熟妇人妻无乱码中文字幕 | 精品国产aⅴ无码一区二区 | 高中生自慰www网站 | 97人妻精品一区二区三区 | 露脸叫床粗话东北少妇 | 中文字幕人妻无码一夲道 | 亚洲国产av美女网站 | 国产精品久久久久影院嫩草 | 亚洲一区二区三区无码久久 | 欧美怡红院免费全部视频 | 国产精品久久久久久无码 | 欧美精品国产综合久久 | 九月婷婷人人澡人人添人人爽 | 无码播放一区二区三区 | 午夜精品久久久久久久 | 99国产欧美久久久精品 | 在线天堂新版最新版在线8 | 国产精品无码永久免费888 | 欧美性生交xxxxx久久久 | 国产农村妇女高潮大叫 | 18禁黄网站男男禁片免费观看 | 免费观看的无遮挡av | 在线观看欧美一区二区三区 | 内射白嫩少妇超碰 | 又大又硬又爽免费视频 | 日韩亚洲欧美中文高清在线 | 精品无码av一区二区三区 | 无套内谢的新婚少妇国语播放 | 性色av无码免费一区二区三区 | 色妞www精品免费视频 | 国产精品无码久久av | 国产精品香蕉在线观看 | 麻豆成人精品国产免费 | 欧美 日韩 人妻 高清 中文 | 最新国产乱人伦偷精品免费网站 | 无码任你躁久久久久久久 | 香港三级日本三级妇三级 | 欧美人与牲动交xxxx | 欧美黑人乱大交 | 少妇无码一区二区二三区 | 国产精品久久久av久久久 | 中国女人内谢69xxxx | 福利一区二区三区视频在线观看 | 国产又爽又黄又刺激的视频 | 丁香花在线影院观看在线播放 | 亚洲色偷偷偷综合网 | 久久精品国产99久久6动漫 | 午夜丰满少妇性开放视频 | 亚洲精品无码国产 | 久久精品国产99久久6动漫 | 亚洲啪av永久无码精品放毛片 | 欧美精品国产综合久久 | 成人影院yy111111在线观看 | 久久亚洲日韩精品一区二区三区 | 女人和拘做爰正片视频 | 亚洲国产午夜精品理论片 | 亚洲呦女专区 | 正在播放老肥熟妇露脸 | 中文久久乱码一区二区 | 欧美真人作爱免费视频 | 成年女人永久免费看片 | 亚洲热妇无码av在线播放 | 久久久久亚洲精品中文字幕 | 老子影院午夜伦不卡 | 精品人妻人人做人人爽夜夜爽 | 欧美人与牲动交xxxx | 国产av久久久久精东av | 久久人人爽人人爽人人片av高清 | 99久久久无码国产aaa精品 | 曰本女人与公拘交酡免费视频 | 日本一本二本三区免费 | 欧美性色19p | 国产成人精品必看 | 国产精品国产自线拍免费软件 | 久久综合给合久久狠狠狠97色 | 最近免费中文字幕中文高清百度 | 中文字幕无码日韩欧毛 | 亚洲人亚洲人成电影网站色 | 日本乱偷人妻中文字幕 | 久久久无码中文字幕久... | 九九在线中文字幕无码 | 国产综合在线观看 | 欧美 丝袜 自拍 制服 另类 | 久久国内精品自在自线 | 欧美老熟妇乱xxxxx | 99麻豆久久久国产精品免费 | 国产精品自产拍在线观看 | 丰满人妻一区二区三区免费视频 | 人人妻人人澡人人爽精品欧美 | 欧美zoozzooz性欧美 | 久久久久久久女国产乱让韩 | 亚洲精品鲁一鲁一区二区三区 | 无套内射视频囯产 | 一本加勒比波多野结衣 | 男人扒开女人内裤强吻桶进去 | 国产无套内射久久久国产 | 亚洲午夜久久久影院 | 亚洲精品一区国产 | 男女超爽视频免费播放 | 久久久av男人的天堂 | 麻豆国产丝袜白领秘书在线观看 | 亚洲精品国产第一综合99久久 | 中文字幕乱码人妻二区三区 | 国产激情综合五月久久 | 乱码午夜-极国产极内射 | 老熟妇仑乱视频一区二区 | 亚洲国产高清在线观看视频 | 男人的天堂2018无码 | 又粗又大又硬又长又爽 | 99久久久无码国产精品免费 | 精品国产av色一区二区深夜久久 | 精品人妻人人做人人爽 | 老熟妇乱子伦牲交视频 | 日韩欧美成人免费观看 | 一本色道久久综合亚洲精品不卡 | 正在播放东北夫妻内射 | 天海翼激烈高潮到腰振不止 | 综合人妻久久一区二区精品 | 亚洲精品久久久久中文第一幕 | 1000部啪啪未满十八勿入下载 | 精品厕所偷拍各类美女tp嘘嘘 | 欧美黑人性暴力猛交喷水 | 波多野结衣aⅴ在线 | 国产亚洲精品久久久久久 | 亚洲 日韩 欧美 成人 在线观看 | 狠狠综合久久久久综合网 | 亲嘴扒胸摸屁股激烈网站 | 一本色道久久综合亚洲精品不卡 | 亚洲一区二区三区香蕉 | 中文字幕乱妇无码av在线 | 国内综合精品午夜久久资源 | 奇米影视7777久久精品 | 一本一道久久综合久久 | 粉嫩少妇内射浓精videos | 亚洲精品国偷拍自产在线麻豆 | 男女超爽视频免费播放 | 亚洲精品欧美二区三区中文字幕 | a国产一区二区免费入口 | 国产高清不卡无码视频 | 无码人妻久久一区二区三区不卡 | 久久久久免费精品国产 | 熟妇人妻无码xxx视频 | 风流少妇按摩来高潮 | 无遮无挡爽爽免费视频 | 天天拍夜夜添久久精品大 | 国产suv精品一区二区五 | 欧美老人巨大xxxx做受 | 漂亮人妻洗澡被公强 日日躁 | 国产成人精品优优av | 国内丰满熟女出轨videos | 久久午夜无码鲁丝片 | 亚洲最大成人网站 | 精品国产一区二区三区av 性色 | 欧洲vodafone精品性 | 亚洲s色大片在线观看 | 成熟人妻av无码专区 | 久久久久99精品成人片 | 欧美丰满少妇xxxx性 | 亚洲熟妇自偷自拍另类 | 久久精品女人天堂av免费观看 | 四虎4hu永久免费 | 人人妻人人澡人人爽人人精品 | 人妻体内射精一区二区三四 | 无码中文字幕色专区 | 亚洲无人区一区二区三区 | 中文字幕无线码 | 久久久成人毛片无码 | 久久亚洲精品中文字幕无男同 | 亚洲精品一区二区三区大桥未久 | 小泽玛莉亚一区二区视频在线 | www国产亚洲精品久久久日本 | 免费网站看v片在线18禁无码 | 欧美性生交活xxxxxdddd | 午夜性刺激在线视频免费 | 欧美午夜特黄aaaaaa片 | 国内综合精品午夜久久资源 | 久久国产精品_国产精品 | 欧美精品无码一区二区三区 | 97人妻精品一区二区三区 | 国产乱人伦av在线无码 | 欧美日韩亚洲国产精品 | 久久精品国产一区二区三区 | 人妻熟女一区 | 午夜福利不卡在线视频 | 成人免费无码大片a毛片 | 荫蒂添的好舒服视频囗交 | 丰满岳乱妇在线观看中字无码 | 嫩b人妻精品一区二区三区 | 少妇人妻偷人精品无码视频 | 99久久精品午夜一区二区 | 99久久精品日本一区二区免费 | 美女毛片一区二区三区四区 | 亚洲精品国偷拍自产在线麻豆 | 77777熟女视频在线观看 а天堂中文在线官网 | 国产午夜亚洲精品不卡 | 欧美日韩久久久精品a片 | 99久久99久久免费精品蜜桃 | 久久精品中文字幕一区 | 国产黑色丝袜在线播放 | 麻豆国产人妻欲求不满谁演的 | 国产激情艳情在线看视频 | 女人被男人爽到呻吟的视频 | 国产一区二区不卡老阿姨 | 亚洲高清偷拍一区二区三区 | a片免费视频在线观看 | 爽爽影院免费观看 | 日欧一片内射va在线影院 | 在线观看免费人成视频 | 精品水蜜桃久久久久久久 | 国产av一区二区三区最新精品 | 少女韩国电视剧在线观看完整 | 亚洲の无码国产の无码影院 | 精品国产青草久久久久福利 | 国产精品久久国产精品99 | 无码av中文字幕免费放 | 一本久久伊人热热精品中文字幕 | 在线观看欧美一区二区三区 | 精品午夜福利在线观看 | 亚洲成色在线综合网站 | 国产午夜亚洲精品不卡下载 | 精品欧美一区二区三区久久久 | 男人和女人高潮免费网站 | 中文字幕无码免费久久99 | 国产一区二区三区日韩精品 | 在线精品国产一区二区三区 | 国产精品二区一区二区aⅴ污介绍 | 免费看男女做好爽好硬视频 | 亚洲日本va午夜在线电影 | 日韩av激情在线观看 | 免费看少妇作爱视频 | 国产成人精品久久亚洲高清不卡 | 久久亚洲中文字幕精品一区 | 精品 日韩 国产 欧美 视频 | 99久久久无码国产精品免费 | 久久精品国产亚洲精品 | 久久99精品久久久久久动态图 | 人人妻人人澡人人爽精品欧美 | 精品厕所偷拍各类美女tp嘘嘘 | 欧美三级不卡在线观看 | 国产极品美女高潮无套在线观看 | av人摸人人人澡人人超碰下载 | 97精品国产97久久久久久免费 | 精品人妻人人做人人爽 | 欧美人与牲动交xxxx | 两性色午夜视频免费播放 | 欧美日韩久久久精品a片 | 日本爽爽爽爽爽爽在线观看免 | 18禁黄网站男男禁片免费观看 | 狠狠cao日日穞夜夜穞av | 国产成人精品必看 | 亚洲精品成a人在线观看 | 国产凸凹视频一区二区 | 午夜精品久久久内射近拍高清 | 亚洲国产日韩a在线播放 | 黑森林福利视频导航 | 亚洲国产精品毛片av不卡在线 | 大屁股大乳丰满人妻 | 欧美放荡的少妇 | 国产成人无码午夜视频在线观看 | 俺去俺来也www色官网 | 天下第一社区视频www日本 | 噜噜噜亚洲色成人网站 | 日日天干夜夜狠狠爱 | 亚洲综合无码一区二区三区 | 丰满岳乱妇在线观看中字无码 | 精品无码国产自产拍在线观看蜜 | 在线观看免费人成视频 | 十八禁视频网站在线观看 | 亚洲a无码综合a国产av中文 | 免费无码午夜福利片69 | 欧美三级a做爰在线观看 | 一本久道高清无码视频 | 亚洲 日韩 欧美 成人 在线观看 | 国产精品美女久久久久av爽李琼 | 3d动漫精品啪啪一区二区中 | 欧美喷潮久久久xxxxx | 亚洲伊人久久精品影院 | 国产香蕉97碰碰久久人人 | 日产精品99久久久久久 | 无遮挡国产高潮视频免费观看 | 亚洲中文字幕久久无码 | 成人无码影片精品久久久 | а√资源新版在线天堂 | 国产香蕉97碰碰久久人人 | 熟妇女人妻丰满少妇中文字幕 | 国产精品人人爽人人做我的可爱 | 清纯唯美经典一区二区 | 亚洲成熟女人毛毛耸耸多 | 精品一二三区久久aaa片 | 狠狠色丁香久久婷婷综合五月 | 丝袜 中出 制服 人妻 美腿 | 亚洲伊人久久精品影院 | 人人澡人摸人人添 | 老熟妇乱子伦牲交视频 | 国产乱码精品一品二品 | 亚洲综合色区中文字幕 | 中文字幕 人妻熟女 | 亚洲乱码中文字幕在线 | 奇米影视7777久久精品人人爽 | 最近的中文字幕在线看视频 | 色一情一乱一伦一区二区三欧美 | 欧美怡红院免费全部视频 | 亚洲熟妇色xxxxx亚洲 | 最新国产乱人伦偷精品免费网站 | 国内精品久久久久久中文字幕 | 午夜福利试看120秒体验区 | 无码精品人妻一区二区三区av | 国语自产偷拍精品视频偷 | 国精品人妻无码一区二区三区蜜柚 | 老司机亚洲精品影院无码 | 日韩少妇内射免费播放 | 老子影院午夜精品无码 | 18精品久久久无码午夜福利 | 久久久久99精品国产片 | 色婷婷av一区二区三区之红樱桃 | 久久国语露脸国产精品电影 | 又粗又大又硬毛片免费看 | 亚洲人成影院在线无码按摩店 | 97久久精品无码一区二区 | 欧美 日韩 人妻 高清 中文 | 欧美阿v高清资源不卡在线播放 | 色 综合 欧美 亚洲 国产 | 在线观看免费人成视频 | 一本无码人妻在中文字幕免费 | 无码成人精品区在线观看 | 美女扒开屁股让男人桶 | 99在线 | 亚洲 | 在线播放无码字幕亚洲 | 曰韩少妇内射免费播放 | 亚洲日韩av片在线观看 | 久久综合色之久久综合 | 蜜桃视频插满18在线观看 | 亚洲成a人一区二区三区 | 亚洲va欧美va天堂v国产综合 | 九一九色国产 | 大肉大捧一进一出视频出来呀 | 亚洲色大成网站www国产 | 亚洲色在线无码国产精品不卡 | 九九久久精品国产免费看小说 | 日韩av激情在线观看 | 理论片87福利理论电影 | 国产成人一区二区三区在线观看 | 亚洲 a v无 码免 费 成 人 a v | 强开小婷嫩苞又嫩又紧视频 | 老司机亚洲精品影院无码 | 成人精品视频一区二区 | 国产午夜精品一区二区三区嫩草 | 国产综合在线观看 | 一本久久伊人热热精品中文字幕 | 人妻无码久久精品人妻 | 自拍偷自拍亚洲精品被多人伦好爽 | 国产午夜精品一区二区三区嫩草 | 欧美日韩一区二区综合 | 成人一在线视频日韩国产 | 永久免费精品精品永久-夜色 | 成人试看120秒体验区 | 人人妻人人澡人人爽人人精品浪潮 | 午夜男女很黄的视频 | 一本加勒比波多野结衣 | 激情内射日本一区二区三区 | 久久亚洲中文字幕精品一区 | 国内揄拍国内精品人妻 | 在线а√天堂中文官网 | 亚洲人成人无码网www国产 | 人妻少妇精品久久 | 色综合久久中文娱乐网 | 日韩欧美成人免费观看 | 国产人妖乱国产精品人妖 | 乌克兰少妇xxxx做受 | 人人超人人超碰超国产 | 99久久99久久免费精品蜜桃 | 性做久久久久久久久 | 亚洲午夜福利在线观看 | 国产乱码精品一品二品 | 老司机亚洲精品影院无码 | 国产av一区二区三区最新精品 | 99久久亚洲精品无码毛片 | 久久97精品久久久久久久不卡 | 嫩b人妻精品一区二区三区 | 伊人久久婷婷五月综合97色 | 成人免费视频在线观看 | 性做久久久久久久久 | 久久这里只有精品视频9 | 在教室伦流澡到高潮hnp视频 | 国产精品高潮呻吟av久久 | 日韩人妻无码中文字幕视频 | 久久久精品国产sm最大网站 | 2020最新国产自产精品 | 日日摸天天摸爽爽狠狠97 | 无套内谢的新婚少妇国语播放 | 牲欲强的熟妇农村老妇女视频 | 免费网站看v片在线18禁无码 | 999久久久国产精品消防器材 | 欧美成人家庭影院 | 国产性生大片免费观看性 | 亚洲欧洲日本无在线码 | 狂野欧美激情性xxxx | 久久久久99精品成人片 | 大乳丰满人妻中文字幕日本 | 国产免费久久久久久无码 | 无码av最新清无码专区吞精 | 精品一区二区不卡无码av | 少妇的肉体aa片免费 | 娇妻被黑人粗大高潮白浆 | 国产香蕉尹人综合在线观看 | 欧美熟妇另类久久久久久不卡 | 欧美性猛交xxxx富婆 | 久在线观看福利视频 | 国产sm调教视频在线观看 | 日韩成人一区二区三区在线观看 | 婷婷丁香五月天综合东京热 | 国产精品怡红院永久免费 | 99久久久无码国产aaa精品 | 国产成人无码av在线影院 | 一本色道婷婷久久欧美 | 无码人妻精品一区二区三区不卡 | 成 人影片 免费观看 | 特黄特色大片免费播放器图片 | 麻豆国产丝袜白领秘书在线观看 | 日产精品高潮呻吟av久久 | 永久免费观看美女裸体的网站 | 日本免费一区二区三区最新 | 1000部啪啪未满十八勿入下载 | 真人与拘做受免费视频 | 亚洲一区二区三区播放 | 少妇无码av无码专区在线观看 | 日本一区二区三区免费播放 | 丁香花在线影院观看在线播放 | 免费播放一区二区三区 | 久久午夜夜伦鲁鲁片无码免费 | 大色综合色综合网站 | 欧美一区二区三区 | 无码av岛国片在线播放 | 久久 国产 尿 小便 嘘嘘 | 色老头在线一区二区三区 | 18禁止看的免费污网站 | 激情五月综合色婷婷一区二区 | 亚洲欧洲中文日韩av乱码 | 国产片av国语在线观看 | 亚洲精品鲁一鲁一区二区三区 | 久精品国产欧美亚洲色aⅴ大片 | 99久久精品日本一区二区免费 | 人妻少妇精品无码专区动漫 | 久久天天躁狠狠躁夜夜免费观看 | 少妇愉情理伦片bd | 欧美午夜特黄aaaaaa片 | 国产精品国产三级国产专播 | 亚洲va中文字幕无码久久不卡 | 国产区女主播在线观看 | 无码中文字幕色专区 | 成人免费视频一区二区 | 国产麻豆精品一区二区三区v视界 | 97资源共享在线视频 | 日本一卡二卡不卡视频查询 | 精品人妻人人做人人爽夜夜爽 | 亚洲熟妇自偷自拍另类 | 国产精品丝袜黑色高跟鞋 | 中文字幕无码视频专区 | 少妇邻居内射在线 | 国产成人av免费观看 | 男女猛烈xx00免费视频试看 | 丰满诱人的人妻3 | 俺去俺来也www色官网 | 4hu四虎永久在线观看 | 欧美人与禽zoz0性伦交 | 久久综合给合久久狠狠狠97色 | 131美女爱做视频 | 99久久99久久免费精品蜜桃 | 人妻少妇被猛烈进入中文字幕 | √天堂资源地址中文在线 | 国产亚洲精品精品国产亚洲综合 | 中文字幕+乱码+中文字幕一区 | 桃花色综合影院 | av无码电影一区二区三区 | 少妇高潮喷潮久久久影院 | 亚洲国产成人av在线观看 | 中文字幕 亚洲精品 第1页 | 99久久久无码国产精品免费 | 亚洲精品成a人在线观看 | 最新版天堂资源中文官网 | 无码人妻精品一区二区三区不卡 | 国产人妻久久精品二区三区老狼 | 欧美怡红院免费全部视频 | 精品无码一区二区三区的天堂 | 久久国产精品_国产精品 | 伊人久久大香线蕉av一区二区 | 国产精品永久免费视频 | 少妇愉情理伦片bd | 精品久久久无码人妻字幂 | 久久人妻内射无码一区三区 | 久久99久久99精品中文字幕 | 少妇邻居内射在线 | 国产一区二区三区日韩精品 | 亚洲 a v无 码免 费 成 人 a v | 色欲综合久久中文字幕网 | 亚洲精品成人av在线 | 国产精品美女久久久久av爽李琼 | 国内精品九九久久久精品 | 天堂亚洲2017在线观看 | 中文字幕 人妻熟女 | 十八禁真人啪啪免费网站 | av香港经典三级级 在线 | 秋霞成人午夜鲁丝一区二区三区 | 国产亚洲视频中文字幕97精品 | www国产精品内射老师 | 极品尤物被啪到呻吟喷水 | 内射爽无广熟女亚洲 | 学生妹亚洲一区二区 | 国内精品久久久久久中文字幕 | av人摸人人人澡人人超碰下载 | 无码纯肉视频在线观看 | 初尝人妻少妇中文字幕 | 久久久久久久人妻无码中文字幕爆 | 帮老师解开蕾丝奶罩吸乳网站 | 亚洲人成网站免费播放 | 激情国产av做激情国产爱 | 亚洲人成网站色7799 | 大肉大捧一进一出视频出来呀 | 日日麻批免费40分钟无码 | 中文毛片无遮挡高清免费 | 中文字幕乱码人妻二区三区 | 欧美xxxx黑人又粗又长 | 久久五月精品中文字幕 | 奇米影视7777久久精品 | 婷婷综合久久中文字幕蜜桃三电影 | 性生交大片免费看女人按摩摩 | 国产绳艺sm调教室论坛 | 日本大乳高潮视频在线观看 | 日本高清一区免费中文视频 |