久久精品国产精品国产精品污,男人扒开添女人下部免费视频,一级国产69式性姿势免费视频,夜鲁夜鲁很鲁在线视频 视频,欧美丰满少妇一区二区三区,国产偷国产偷亚洲高清人乐享,中文 在线 日韩 亚洲 欧美,熟妇人妻无乱码中文字幕真矢织江,一区二区三区人妻制服国产

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 > 编程资源 > 综合教程 >内容正文

综合教程

linux scsi相关的一些学习笔记

發(fā)布時(shí)間:2023/12/13 综合教程 31 生活家
生活随笔 收集整理的這篇文章主要介紹了 linux scsi相关的一些学习笔记 小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

最近看scsi相關(guān)處理的一些備忘,比較零碎,僅作參考。

先從最顯而易見的打印入手:

[0:0:0:0]    disk    ATA      INTEL SSDSC2BX20 0150  -
[0:0:1:0]    disk    ATA      INTEL SSDSC2BX20 0150  -
[0:1:0:0]    disk    LSI      Logical Volume   3000  /dev/sda
[5:0:0:0]    enclosu AIC 12G  4U60: Hub        0c29  -
[5:0:1:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sdb
[5:0:2:0]    disk    SEAGATE  ST4000NM0025     N004  /dev/sdc
[5:0:3:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sdd
[5:0:4:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sde
[5:0:5:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sdf
[5:0:6:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sdg
[5:0:7:0]    disk    SEAGATE  ST4000NM0025     N004  /dev/sdh
[5:0:8:0]    disk    SEAGATE  ST4000NM0025     N003  /dev/sdi
[5:0:9:0]    disk    SEAGATE  ST4000NM0025     N004  /dev/sdj
[5:0:10:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdk
[5:0:11:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdl
[5:0:12:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdm
[5:0:13:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdn
[5:0:14:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdo
[5:0:15:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdp
[5:0:16:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdq
[5:0:17:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdr
[5:0:18:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sds
[5:0:19:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdt
[5:0:20:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdu
[5:0:21:0]   enclosu AIC 12G  4U60: Edge-C     0c2a  -
[5:0:22:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdv
[5:0:23:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdw
[5:0:24:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdx
[5:0:25:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdy
[5:0:26:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdz
[5:0:27:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdaa
[5:0:28:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdab
[5:0:29:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdac
[5:0:30:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdad
[5:0:31:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdae
[5:0:32:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdaf
[5:0:33:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdag
[5:0:34:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdah
[5:0:35:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdai
[5:0:36:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdaj
[5:0:37:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdak
[5:0:38:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdal
[5:0:39:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdam
[5:0:40:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdan
[5:0:41:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdao
[5:0:42:0]   enclosu AIC 12G  4U60: Edge-R     0c2a  -
[5:0:43:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdap
[5:0:44:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdaq
[5:0:45:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdar
[5:0:46:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdas
[5:0:47:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdat
[5:0:48:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdau
[5:0:49:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdav
[5:0:50:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sdaw
[5:0:51:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdax
[5:0:52:0]   disk    SEAGATE  ST4000NM0025     N004  /dev/sday
[5:0:53:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdaz
[5:0:54:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdba
[5:0:55:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbb
[5:0:56:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbc
[5:0:57:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbd
[5:0:58:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbe
[5:0:59:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbf
[5:0:60:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbg
[5:0:61:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbh
[5:0:62:0]   disk    SEAGATE  ST4000NM0025     N003  /dev/sdbi
[5:0:63:0]   enclosu AIC 12G  4U60: Edge-L     0c2a  -
[6:0:0:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbj
[6:0:1:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbk
[6:0:2:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbl
[6:0:3:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbm
[6:0:4:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbn
[6:0:5:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbo
[6:0:6:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbp
[6:0:7:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbq
[7:0:0:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbr
[7:0:1:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbs
[7:0:2:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbt
[7:0:3:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbu
[7:0:4:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbv
[7:0:5:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbw
[7:0:6:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdbx
[7:0:7:0]    disk    HGST     SDLL1DLR960GCAA1 W150  /dev/sdby

前面第一列數(shù)字是什么?各個(gè)數(shù)字之間的關(guān)系是什么?內(nèi)核中對(duì)scsi層的抽象是怎么做的?scsi命令的抽象是什么?

scsi命令下發(fā)后遇到錯(cuò)誤怎么辦,返回超時(shí)怎么辦?正常返回的流程是什么樣的?下面就帶著這些疑問來看代碼。

前面第一列數(shù)字是什么?

lsscsi顯示的第一列是scsi設(shè)備在內(nèi)核中展示的各級(jí)編號(hào),根據(jù)編號(hào)可以唯一確定一個(gè)設(shè)備,

如果使用cat /proc/scsi/scsi 來查看會(huì)顯得好理解一些:

cat /proc/scsi/scsi
Attached devices:
Host: scsi0 Channel: 01 Id: 00 Lun: 00
  Vendor: LSI      Model: Logical Volume   Rev: 3000
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi0 Channel: 00 Id: 00 Lun: 00
  Vendor: ATA      Model: INTEL SSDSC2BX20 Rev: 0150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi0 Channel: 00 Id: 01 Lun: 00
  Vendor: ATA      Model: INTEL SSDSC2BX20 Rev: 0150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 00 Lun: 00
  Vendor: AIC 12G  Model: 4U60: Hub        Rev: 0c29
  Type:   Enclosure                        ANSI  SCSI revision: 05
Host: scsi5 Channel: 00 Id: 01 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 02 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 03 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 04 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 05 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 06 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 07 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 08 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 09 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 10 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 11 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 12 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 13 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 14 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 15 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 16 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 17 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 18 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 19 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 20 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 21 Lun: 00
  Vendor: AIC 12G  Model: 4U60: Edge-C     Rev: 0c2a
  Type:   Enclosure                        ANSI  SCSI revision: 05
Host: scsi5 Channel: 00 Id: 22 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 23 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 24 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 25 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 26 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 27 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 28 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 29 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 30 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 31 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 32 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 33 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 34 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 35 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 36 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 37 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 38 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 39 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 40 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 41 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 42 Lun: 00
  Vendor: AIC 12G  Model: 4U60: Edge-R     Rev: 0c2a
  Type:   Enclosure                        ANSI  SCSI revision: 05
Host: scsi5 Channel: 00 Id: 43 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 44 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 45 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 46 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 47 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 48 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 49 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 50 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 51 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 52 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N004
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 53 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 54 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 55 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 56 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 57 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 58 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 59 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 60 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 61 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 62 Lun: 00
  Vendor: SEAGATE  Model: ST4000NM0025     Rev: N003
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi5 Channel: 00 Id: 63 Lun: 00
  Vendor: AIC 12G  Model: 4U60: Edge-L     Rev: 0c2a
  Type:   Enclosure                        ANSI  SCSI revision: 05
Host: scsi6 Channel: 00 Id: 00 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 01 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 02 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 03 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 04 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 05 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 06 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi6 Channel: 00 Id: 07 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 00 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 01 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 02 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 03 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 04 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 05 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 06 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06
Host: scsi7 Channel: 00 Id: 07 Lun: 00
  Vendor: HGST     Model: SDLL1DLR960GCAA1 Rev: W150
  Type:   Direct-Access                    ANSI  SCSI revision: 06

從編號(hào)可以看出,第一級(jí)是host,第二級(jí)是channel,第三級(jí)是target編號(hào),第四級(jí)是LUN號(hào)

h == hostadapter id (first one being 0)
c == SCSI channel on hostadapter (first one being 0)
t == ID
l == LUN (first one being 0)

各個(gè)數(shù)字之間的關(guān)系是什么?

一個(gè)主板可能接多個(gè)host,比如上面的服務(wù)器,在有多個(gè)sas芯片的情況下,肯定就有多個(gè)host。一個(gè)sas芯片又可以分割為多個(gè)通道,也就是channel,也叫bus。一個(gè)通道下多個(gè)target,一個(gè)target下多個(gè)lun。

如果一個(gè)硬盤支持雙通道,那么在scsi層,就是展示為兩個(gè)scsi標(biāo)號(hào)。

內(nèi)核中對(duì)scsi層的抽象是怎么做的?

對(duì)于device,有個(gè)scsi_device的抽象,host成員指向它歸屬的scsi_host,siblings成員嵌入到host的__device成員中。同時(shí),它的sdev_gendev 成員的parent指向 對(duì)應(yīng)的scsi_target的dev地址,

這個(gè)只要熟悉linux的驅(qū)動(dòng)模型就能理解了。

下面看一下scsi_device的實(shí)際例子:

crash> scsi_device ffff881fcee44800
struct scsi_device {
  host = 0xffff883fd0e38000,-----------------指向scsi_host,這個(gè)會(huì)在后面描述
  request_queue = 0xffff883fc1e28828,--------這個(gè)大家應(yīng)該清楚,就是之前申請(qǐng)存放下發(fā)io的request_queue,要注意區(qū)分單隊(duì)列和多隊(duì)列
  siblings = {-------------------------------當(dāng)前host下的所有scsi_device通過這個(gè)串起來,他們是兄弟關(guān)系,所以成員名就叫siblings
    next = 0xffff881fcece9810,
    prev = 0xffff881fcee44010
  },
  same_target_siblings = {------------------這個(gè)是同一個(gè)target下的scsi_device的串接,這里有個(gè)問題是,串接這個(gè)也需要獲取host的鎖,其實(shí)可以優(yōu)化。
    next = 0xffff883fc1e21c18,
    prev = 0xffff883fc1e21c18
  },
  {
    device_busy = {
      counter = 6
    },
    __UNIQUE_ID_rh_kabi_hide20 = {
      device_busy = 6
    },
    {<No data fields>}
  },
  list_lock = {
    {
      rlock = {
        raw_lock = {
          {
            head_tail = 1215842424,
            tickets = {
              head = 18552,
              tail = 18552
            }
          }
        }
      }
    }
  },
  cmd_list = {
    next = 0xffff881f49a2d508,
    prev = 0xffff883eeccee308
  },
  starved_entry = {
    next = 0xffff881fcee44848,
    prev = 0xffff881fcee44848
  },
  current_cmnd = 0x0,
  queue_depth = 254,
  max_queue_depth = 254,
  last_queue_full_depth = 0,
  last_queue_full_count = 0,
  last_queue_full_time = 0,
  queue_ramp_up_period = 120000,
  last_queue_ramp_up = 0,
  id = 4,--------------------------------這個(gè)一般賦值為target的id
  lun = 0,-------------------------------就是大家看到的四級(jí)編號(hào)的最后一級(jí),lun
  channel = 0,---------------------------通道號(hào)
  manufacturer = 0,
  sector_size = 512,
  hostdata = 0xffff883fca92ed20,
  type = 0 '00',
  scsi_level = 7 'a',
  inq_periph_qual = 0 '00',
  inquiry_len = 144 '220',
  inquiry = 0xffff883fc1e60b40 "",
  vendor = 0xffff883fc1e60b48 "SEAGATE ST4000NM0025    N003ZC18ASFP",
  model = 0xffff883fc1e60b50 "ST4000NM0025    N003ZC18ASFP",
  rev = 0xffff883fc1e60b60 "N003ZC18ASFP",
  current_tag = 0 '00',
  sdev_target = 0xffff883fc1e21c00,------這個(gè)指向scsi_target,按注釋是說single lun的時(shí)候才有效,但我看target的single lun的值為0,比較奇怪,穩(wěn)妥取scsi_target最好不用這個(gè)
  sdev_bflags = 0,
  eh_timeout = 10000,
  writeable = 1,
  removable = 0,
  changed = 0,
  busy = 0,
  lockable = 0,
  locked = 0,
  borken = 0,
  disconnect = 0,
  soft_reset = 0,
  sdtr = 0,
  wdtr = 0,
  ppr = 1,
  tagged_supported = 1,
  simple_tags = 0,
  ordered_tags = 0,
  was_reset = 0,
  expecting_cc_ua = 0,
  use_10_for_rw = 1,
  use_10_for_ms = 0,
  no_report_opcodes = 0,
  no_write_same = 0,
  use_16_for_rw = 1,
  skip_ms_page_8 = 0,
  skip_ms_page_3f = 0,
  skip_vpd_pages = 0,
  use_192_bytes_for_3f = 0,
  no_start_on_add = 0,
  allow_restart = 0,
  manage_start_stop = 0,
  start_stop_pwr_cond = 0,
  no_uld_attach = 0,
  select_no_atn = 0,
  fix_capacity = 0,
  guess_capacity = 0,
  retry_hwerror = 0,
  last_sector_bug = 0,
  no_read_disc_info = 0,
  no_read_capacity_16 = 0,
  try_rc_10_first = 0,
  is_visible = 1,
  wce_default_on = 0,
  no_dif = 0,
  broken_fua = 0,
  vpd_reserved = 0,
  xcopy_reserved = 0,
  lun_in_cdb = 0,
  disk_events_disable_depth = {
    counter = 0
  },
  supported_events = {0},
  pending_events = {0},
  event_list = {
    next = 0xffff881fcee44900,
    prev = 0xffff881fcee44900
  },
  event_work = {
    data = {
      counter = 68719476704
    },
    entry = {
      next = 0xffff881fcee44918,
      prev = 0xffff881fcee44918
    },
    func = 0xffffffff814241a0 <scsi_evt_thread>
  },
  {
    device_blocked = {
      counter = 0
    },
    __UNIQUE_ID_rh_kabi_hide21 = {
      device_blocked = 0
    },
    {<No data fields>}
  },
  max_device_blocked = 3,
  iorequest_cnt = {------------下發(fā)的io
    counter = 4641
  },
  iodone_cnt = {-----------------完成的io
    counter = 4635
  },
  ioerr_cnt = {
    counter = 283----------------這個(gè)要關(guān)注,出錯(cuò)的io統(tǒng)計(jì),這個(gè)會(huì)導(dǎo)出到/proc/diskstat中
  },
  sdev_gendev = {----------------設(shè)備模型,scsi_device的sdev_gendev的的parent指向scsi_target的dev成員,驅(qū)動(dòng)的樹狀模型體現(xiàn)。
    parent = 0xffff883fc1e21c28,
    p = 0xffff883fd0cf2b40,
    kobj = {
      name = 0xffff883fc21d9790 "5:0:4:0",----------四級(jí)命名的name,說明host_no為5,channel為0,target的id為4,lun為0
      entry = {
        next = 0xffff881fcee44c00,
        prev = 0xffff883fc1e21c40
      },
      parent = 0xffff883fc1e21c38,
      kset = 0xffff881fff86b6c0,
      ktype = 0xffffffff81a14e40 <device_ktype>,
      sd = 0xffff883fccc5ee70,
      kref = {
        refcount = {
          counter = 25
        }
      },
      state_initialized = 1,
      state_in_sysfs = 1,
      state_add_uevent_sent = 1,
      state_remove_uevent_sent = 0,
      uevent_suppress = 0
    },
    init_name = 0x0,
    type = 0xffffffff81a19760 <scsi_dev_type>,
    mutex = {
      count = {
        counter = 1
      },
      wait_lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      wait_list = {
        next = 0xffff881fcee449b0,
        prev = 0xffff881fcee449b0
      },
      owner = 0x0,
      {
        osq = 0x0,
        __UNIQUE_ID_rh_kabi_hide0 = {
          spin_mlock = 0x0
        },
        {<No data fields>}
      }
    },
    bus = 0xffffffff81a19320 <scsi_bus_type>,---------總線類型的指針,也在sdev_gendev成員中
    driver = 0xffffffffa011e008 <sd_template+8>,
    platform_data = 0x0,
    power = {
      power_state = {
        event = 0
      },
      can_wakeup = 0,
      async_suspend = 1,
      is_prepared = false,
      is_suspended = false,
      ignore_children = false,
      early_init = true,
      lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 1310740,
                tickets = {
                  head = 20,
                  tail = 20
                }
              }
            }
          }
        }
      },
      entry = {
        next = 0xffff881fcee44c98,
        prev = 0xffff883fc1e21cd8
      },
      completion = {
        done = 2147483647,
        wait = {
          lock = {
            {
              rlock = {
                raw_lock = {
                  {
                    head_tail = 131074,
                    tickets = {
                      head = 2,
                      tail = 2
                    }
                  }
                }
              }
            }
          },
          task_list = {
            next = 0xffff881fcee44a18,
            prev = 0xffff881fcee44a18
          }
        }
      },
      wakeup = 0x0,
      wakeup_path = false,
      syscore = false,
      suspend_timer = {
        entry = {
          next = 0x0,
          prev = 0x0
        },
        expires = 0,
        base = 0xffff883fd0c94000,
        function = 0xffffffff81402e90 <pm_suspend_timer_fn>,
        data = 18446612268929272136,
        slack = -1,
        start_pid = -1,
        start_site = 0x0,
        start_comm = "000000000000000000000000000000"
      },
      timer_expires = 0,
      work = {
        data = {
          counter = 68719476704
        },
        entry = {
          next = 0xffff881fcee44a98,
          prev = 0xffff881fcee44a98
        },
        func = 0xffffffff81402f10 <pm_runtime_work>
      },
      wait_queue = {
        lock = {
          {
            rlock = {
              raw_lock = {
                {
                  head_tail = 0,
                  tickets = {
                    head = 0,
                    tail = 0
                  }
                }
              }
            }
          }
        },
        task_list = {
          next = 0xffff881fcee44ab8,
          prev = 0xffff881fcee44ab8
        }
      },
      usage_count = {
        counter = 2
      },
      child_count = {
        counter = 0
      },
      disable_depth = 0,
      idle_notification = 0,
      request_pending = 0,
      deferred_resume = 0,
      run_wake = 0,
      runtime_auto = 0,
      no_callbacks = 0,
      irq_safe = 0,
      use_autosuspend = 1,
      timer_autosuspends = 0,
      memalloc_noio = 1,
      request = RPM_REQ_NONE,
      runtime_status = RPM_ACTIVE,
      runtime_error = 0,
      autosuspend_delay = -1,
      last_busy = 4295244282,
      active_jiffies = 0,
      suspended_jiffies = 0,
      accounting_timestamp = 4294683149,
      subsys_data = 0x0,
      qos = 0x0
    },
    pm_domain = 0x0,
    numa_node = 1,
    dma_mask = 0x0,
    coherent_dma_mask = 0,
    dma_parms = 0x0,
    dma_pools = {
      next = 0xffff881fcee44b40,
      prev = 0xffff881fcee44b40
    },
    dma_mem = 0x0,
    archdata = {
      dma_ops = 0x0,
      iommu = 0x0
    },
    of_node = 0x0,
    acpi_node = {
      {
        companion = 0x0,
        __UNIQUE_ID_rh_kabi_hide9 = {
          handle = 0x0
        },
        {<No data fields>}
      }
    },
    devt = 0,
    id = 0,
    devres_lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    devres_head = {
      next = 0xffff881fcee44b88,
      prev = 0xffff881fcee44b88
    },
    knode_class = {
      n_klist = 0x0,
      n_node = {
        next = 0x0,
        prev = 0x0
      },
      n_ref = {
        refcount = {
          counter = 0
        }
      }
    },
    class = 0x0,
    groups = 0x0,
    release = 0x0,
    iommu_group = 0x0,
    offline_disabled = false,
    offline = false,
    device_rh = 0xffff881fcee33378
  },
  sdev_dev = {
    parent = 0xffff881fcee44948,
    p = 0xffff883fd0cf2cc0,
    kobj = {
      name = 0xffff883fc21d9798 "5:0:4:0",---在 scsi_sysfs_device_initialize 函數(shù)中,設(shè)置為和scsi_device.sdev_gendev一樣的name
      entry = {
        next = 0xffff883fc1854418,
        prev = 0xffff881fcee44960
      },
      parent = 0xffff881fcee4cde0,
      kset = 0xffff881fff86b6c0,
      ktype = 0xffffffff81a14e40 <device_ktype>,
      sd = 0xffff883fcac120e0,
      kref = {
        refcount = {
          counter = 3
        }
      },
      state_initialized = 1,
      state_in_sysfs = 1,
      state_add_uevent_sent = 1,
      state_remove_uevent_sent = 0,
      uevent_suppress = 0
    },
    init_name = 0x0,
    type = 0x0,
    mutex = {
      count = {
        counter = 1
      },
      wait_lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      wait_list = {
        next = 0xffff881fcee44c50,
        prev = 0xffff881fcee44c50
      },
      owner = 0x0,
      {
        osq = 0x0,
        __UNIQUE_ID_rh_kabi_hide0 = {
          spin_mlock = 0x0
        },
        {<No data fields>}
      }
    },
    bus = 0x0,
    driver = 0x0,
    platform_data = 0x0,
    power = {
      power_state = {
        event = 0
      },
      can_wakeup = 0,
      async_suspend = 1,
      is_prepared = false,
      is_suspended = false,
      ignore_children = false,
      early_init = true,
      lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      entry = {
        next = 0xffff883fc18544b0,
        prev = 0xffff881fcee449f8
      },
      completion = {
        done = 2147483647,
        wait = {
          lock = {
            {
              rlock = {
                raw_lock = {
                  {
                    head_tail = 131074,
                    tickets = {
                      head = 2,
                      tail = 2
                    }
                  }
                }
              }
            }
          },
          task_list = {
            next = 0xffff881fcee44cb8,
            prev = 0xffff881fcee44cb8
          }
        }
      },
      wakeup = 0x0,
      wakeup_path = false,
      syscore = false,
      suspend_timer = {
        entry = {
          next = 0x0,
          prev = 0x0
        },
        expires = 0,
        base = 0xffff883fd0c94000,
        function = 0xffffffff81402e90 <pm_suspend_timer_fn>,
        data = 18446612268929272808,
        slack = -1,
        start_pid = -1,
        start_site = 0x0,
        start_comm = "000000000000000000000000000000"
      },
      timer_expires = 0,
      work = {
        data = {
          counter = 68719476704
        },
        entry = {
          next = 0xffff881fcee44d38,
          prev = 0xffff881fcee44d38
        },
        func = 0xffffffff81402f10 <pm_runtime_work>
      },
      wait_queue = {
        lock = {
          {
            rlock = {
              raw_lock = {
                {
                  head_tail = 0,
                  tickets = {
                    head = 0,
                    tail = 0
                  }
                }
              }
            }
          }
        },
        task_list = {
          next = 0xffff881fcee44d58,
          prev = 0xffff881fcee44d58
        }
      },
      usage_count = {
        counter = 0
      },
      child_count = {
        counter = 0
      },
      disable_depth = 1,
      idle_notification = 0,
      request_pending = 0,
      deferred_resume = 0,
      run_wake = 0,
      runtime_auto = 1,
      no_callbacks = 0,
      irq_safe = 0,
      use_autosuspend = 0,
      timer_autosuspends = 0,
      memalloc_noio = 0,
      request = RPM_REQ_NONE,
      runtime_status = RPM_SUSPENDED,
      runtime_error = 0,
      autosuspend_delay = 0,
      last_busy = 0,
      active_jiffies = 0,
      suspended_jiffies = 0,
      accounting_timestamp = 4294680236,
      subsys_data = 0x0,
      qos = 0x0
    },
    pm_domain = 0x0,
    numa_node = 1,
    dma_mask = 0x0,
    coherent_dma_mask = 0,
    dma_parms = 0x0,
    dma_pools = {
      next = 0xffff881fcee44de0,
      prev = 0xffff881fcee44de0
    },
    dma_mem = 0x0,
    archdata = {
      dma_ops = 0x0,
      iommu = 0x0
    },
    of_node = 0x0,
    acpi_node = {
      {
        companion = 0x0,
        __UNIQUE_ID_rh_kabi_hide9 = {
          handle = 0x0
        },
        {<No data fields>}
      }
    },
    devt = 0,
    id = 0,
    devres_lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    devres_head = {
      next = 0xffff881fcee44e28,
      prev = 0xffff881fcee44e28
    },
    knode_class = {
      n_klist = 0xffff883fcff106a8,
      n_node = {
        next = 0xffff881fcece9e40,
        prev = 0xffff881fcee44640
      },
      n_ref = {
        refcount = {
          counter = 1
        }
      }
    },
    class = 0xffffffff81a193e0 <sdev_class>,
    groups = 0x0,
    release = 0x0,
    iommu_group = 0x0,
    offline_disabled = false,
    offline = false,
    device_rh = 0xffff881fcee33398
  },
  ew = {
    work = {
      data = {
        counter = 0
      },
      entry = {
        next = 0x0,
        prev = 0x0
      },
      func = 0x0
    }
  },
  requeue_work = {
    data = {
      counter = 68719476704
    },
    entry = {
      next = 0xffff881fcee44eb0,
      prev = 0xffff881fcee44eb0
    },
    func = 0xffffffff814236e0 <scsi_requeue_run_queue>
  },
  scsi_dh_data = 0x0,
  sdev_state = SDEV_RUNNING,---------------當(dāng)前設(shè)備的狀態(tài)為運(yùn)行態(tài)
  {
    vpd_pg83 = 0xffff883fc1e62400 "",
    __UNIQUE_ID_rh_kabi_hide22 = {
      vpd_reserved1 = 0xffff883fc1e62400
    },
    {<No data fields>}
  },
  {
    vpd_pg83_len = 76,
    __UNIQUE_ID_rh_kabi_hide23 = {
      vpd_reserved2 = 0x4c
    },
    {<No data fields>}
  },
  {
    vpd_pg80 = 0xffff883fc1e62300 "",
    __UNIQUE_ID_rh_kabi_hide24 = {
      vpd_reserved3 = 0xffff883fc1e62300
    },
    {<No data fields>}
  },
  {
    vpd_pg80_len = 24,
    __UNIQUE_ID_rh_kabi_hide25 = {
      vpd_reserved4 = 0x18
    },
    {<No data fields>}
  },
  vpd_reserved5 = 0 '00',
  vpd_reserved6 = 0 '00',
  vpd_reserved7 = 0 '00',
  vpd_reserved8 = 0 '00',
  vpd_reserved9 = {
    {
      rlock = {
        raw_lock = {
          {
            head_tail = 0,
            tickets = {
              head = 0,
              tail = 0
            }
          }
        }
      }
    }
  },
  rh_reserved1 = 0x0,
  rh_reserved2 = 0x0,
  rh_reserved3 = 0x0,
  rh_reserved4 = 0x0,
  rh_reserved5 = 0x0,
  rh_reserved6 = 0x0,
  scsi_mq_reserved1 = {
    counter = 0
  },
  scsi_mq_reserved2 = {
    counter = 0
  },
  sdev_data = 0xffff881fcee44f38
}

通過scsi_device 怎么找到它歸屬的scsi_target呢?從前面的打印看,

crash> scsi_device.sdev_target ffff881fcee44800
  sdev_target = 0xffff883fc1e21c00

crash> struct -xo scsi_device.sdev_gendev ffff881fcee44800
struct scsi_device {
  [ffff881fcee44948] struct device sdev_gendev;
}
crash> device.parent ffff881fcee44948
  parent = 0xffff883fc1e21c28
crash> struct -xo scsi_target.dev
struct scsi_target {
   [0x28] struct device dev;
}
crash> px 0xffff883fc1e21c28-0x28
$4 = 0xffff883fc1e21c00--------------和直接取的sdev_target是一樣的,不過建議還是用第二種方法

也可以直接看,不用一級(jí)一級(jí)查看:

crash> scsi_device.sdev_gendev.parent ffff881fcee44800
sdev_gendev.parent = 0xffff883fc1e21c28,


scsi_target 的dev,也就是從linux驅(qū)動(dòng)層的角度來說,通過設(shè)備樹的方式來管理scsi_targe和scsi_device.

對(duì)于target,有個(gè)scsi_target 的抽象。它的starget_sdev_user成員指向當(dāng)前active的lun,

/*
 * scsi_target: representation of a scsi target, for now, this is only
 * used for single_lun devices. If no one has active IO to the target,-------注釋過時(shí)了么?
 * starget_sdev_user is NULL, else it points to the active sdev.
 */
struct scsi_target {
    struct scsi_device    *starget_sdev_user;---要么之前當(dāng)前active的scsi_device,要么為NULL,用于當(dāng)前target只支持一個(gè)lun的場景
...

struct devicedev;---device設(shè)備樹,
....

下面是一個(gè)scsi_target的例子:

crash> scsi_target 0xffff883fc1e21c00----這個(gè)就是前面scsi_device的歸屬scsi_target
struct scsi_target {
  starget_sdev_user = 0x0,
  siblings = {
    next = 0xffff883fc1e5f008,-------------這個(gè)成員嵌入到host的__target成員
    prev = 0xffff883fcaa4b408
  },
  devices = {-------------------一個(gè)target下的scsi_device的鏈
    next = 0xffff881fcee44820,
    prev = 0xffff881fcee44820
  },
  dev = {-----------------------從驅(qū)動(dòng)模型說,scsi_device的sdev_gendev的parent指向scsi_target的dev
    parent = 0xffff883fcaa4fc00,
    p = 0xffff883fd0cf29c0,
    kobj = {
      name = 0xffff883fc1e00660 "target5:0:4",
      entry = {
        next = 0xffff881fcee44960,
        prev = 0xffff883fc1853018
      },
      parent = 0xffff883fcaa4fc10,
      kset = 0xffff881fff86b6c0,
      ktype = 0xffffffff81a14e40 <device_ktype>,
      sd = 0xffff883fccc5ea10,
。。。。。。-----------------------------省略了其他device模型的又臭又長的結(jié)構(gòu)體
  reap_ref = 0,
  channel = 0,
  id = 4,
  create = 0,
  single_lun = 0,
  pdt_1f_for_no_lun = 0,
  no_report_luns = 0,
  expecting_lun_change = 0,
  {
    target_busy = {
      counter = 0
    },
    __UNIQUE_ID_rh_kabi_hide19 = {
      target_busy = 0
    },
    {<No data fields>}
  },
  can_queue = 0,
  {
    target_blocked = {
      counter = 0
    },
    __UNIQUE_ID_rh_kabi_hide20 = {
      target_blocked = 0
    },
    {<No data fields>}
  },
  max_target_blocked = 3,
  scsi_level = 7 'a',
  ew = {
    work = {
      data = {
        counter = 0
      },
      entry = {
        next = 0x0,
        prev = 0x0
      },
      func = 0x0
    }
  },
  state = STARGET_RUNNING,
  hostdata = 0xffff883fc1e22000,
  rh_reserved1 = 0x0,
  rh_reserved2 = 0x0,
  rh_reserved3 = 0x0,
  rh_reserved4 = 0x0,
  scsi_mq_reserved1 = {
    counter = 0
  },
  scsi_mq_reserved2 = {
    counter = 0
  },
  starget_data = 0xffff883fc1e21f48
}

scsi_request_fn 函數(shù)在給某個(gè)設(shè)備發(fā)送io請(qǐng)求的時(shí)候,還會(huì)判斷當(dāng)前設(shè)備歸屬的scsi_target 是否busy。

static void scsi_request_fn(struct request_queue *q)
    __releases(q->queue_lock)
    __acquires(q->queue_lock)
{
。。。。
        if (!scsi_target_queue_ready(shost, sdev))
            goto not_ready;
。。。。
}

雖然從內(nèi)核管理的角度說,scsi_target和scsi_device是一對(duì)多的,但是我看到的實(shí)際情況卻是一對(duì)一,由于這個(gè)starget_sdev_user 成員會(huì)指向active的scsi_device,但這個(gè)是個(gè)瞬間態(tài)。

大多時(shí)候是為NULL的。

對(duì)于bus/channel,沒有抽象,有一個(gè)id來表示,在host中有一個(gè)最大的channel編號(hào)max_channel 成員來區(qū)分一個(gè)host下的各個(gè)channel。

對(duì)于scsi的host,有個(gè)scsi_host的抽象。它通過__devices 成員串接它管理的所有scsi_device,通過__targets成員串接它管理的所有target,通過scsi_add_host 函數(shù)往系統(tǒng)增加host。

下面是一個(gè)host的例子:

crash> struct Scsi_Host 0xffff883fd0e38000
struct Scsi_Host {
  __devices = {
    next = 0xffff881fcee42810,
    prev = 0xffff883fc18a6010
  },
  __targets = {
    next = 0xffff883fc1e19008,
    prev = 0xffff883fc18f2408
  },
  cmd_pool = 0xffffffff81a18680 <scsi_cmd_pool>,
  free_list_lock = {
    {
      rlock = {
        raw_lock = {
          {
            head_tail = 0,
            tickets = {
              head = 0,
              tail = 0
            }
          }
        }
      }
    }
  },
  free_list = {
    next = 0xffff883fc8db0008,
    prev = 0xffff883fc8db0008
  },
  starved_list = {
    next = 0xffff883fd0e38040,
    prev = 0xffff883fd0e38040
  },
  default_lock = {
    {
      rlock = {
        raw_lock = {
          {
            head_tail = 93193614,
            tickets = {
              head = 1422,
              tail = 1422
            }
          }
        }
      }
    }
  },
  host_lock = 0xffff883fd0e38050,
  scan_mutex = {
    count = {
      counter = 1
    },
    wait_lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    wait_list = {
      next = 0xffff883fd0e38068,
      prev = 0xffff883fd0e38068
    },
    owner = 0x0,
    {
      osq = 0x0,
      __UNIQUE_ID_rh_kabi_hide1 = {
        spin_mlock = 0x0
      },
      {<No data fields>}
    }
  },
  eh_cmd_q = {
    next = 0xffff883fd0e38088,
    prev = 0xffff883fd0e38088
  },
  ehandler = 0xffff881fcc24a280,----這個(gè)對(duì)應(yīng)的是PID: 680    TASK: ffff881fcc24a280  CPU: 37  COMMAND: "scsi_eh_5"
  eh_action = 0x0,
  host_wait = {
    lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    task_list = {
      next = 0xffff883fd0e380b0,
      prev = 0xffff883fd0e380b0
    }
  },
  hostt = 0xffffffffa00d01c0,--------host的自己模板
  transportt = 0xffff883fcd090000,----這個(gè)就是 mpt3sas_transport_template,不同的host類型有不同的傳輸類型模板
  {
    bqt = 0x0,
    tag_set = 0x0
  },
  {
    host_busy = {
      counter = 8----------------8個(gè)busy的io,其實(shí)就是目前已經(jīng)離開request_queue之后的io統(tǒng)計(jì)
    },
    __UNIQUE_ID_rh_kabi_hide30 = {
      host_busy = 8
    },
    {<No data fields>}
  },
  host_failed = 0,--------------目前沒有fail的
  host_eh_scheduled = 0,
  host_no = 5,------------------這個(gè)關(guān)聯(lián)的錯(cuò)誤處理內(nèi)核線程,有多少個(gè)host就有多少個(gè)錯(cuò)誤處理線程--680      2  37  ffff881fcc24a280  IN   0.0       0      0  [scsi_eh_5]
  eh_deadline = -1,
  last_reset = 0,
  max_id = 4294967295,
  max_lun = 16895,
  max_channel = 0,
  unique_id = 1,
  max_cmd_len = 32,
  this_id = -1,
  can_queue = 2936,
  cmd_per_lun = 7,
  sg_tablesize = 128,
  sg_prot_tablesize = 0,
  max_sectors = 32767,
  dma_boundary = 4294967295,
  cmd_serial_number = 0,
  active_mode = 1,
  unchecked_isa_dma = 0,
  use_clustering = 1,
  use_blk_tcq = 0,
  host_self_blocked = 0,
  reverse_ordering = 0,
  ordered_tag = 0,
  tmf_in_progress = 0,
  async_scan = 0,
  eh_noresume = 0,
  no_write_same = 0,
  use_blk_mq = 0,------------------是否使用多隊(duì)列
  no_scsi2_lun_in_cdb = 0,
  work_q_name = "00000000000000000000000000000000000000",
  work_q = 0x0,
  tmf_work_q = 0xffff881fcef98800,
  {
    host_blocked = {
      counter = 0
    },
    __UNIQUE_ID_rh_kabi_hide31 = {
      host_blocked = 0
    },
    {<No data fields>}
  },
  max_host_blocked = 7,
  prot_capabilities = 7,
  prot_guard_type = 3 '03',
  uspace_req_q = 0x0,
  base = 0,
  io_port = 0,
  n_io_port = 0 '00',
  dma_channel = 255 '377',
  irq = 0,
  shost_state = SHOST_RUNNING,---------60個(gè)硬盤的也是running狀態(tài)
  shost_gendev = {
    parent = 0xffff883fcfded098,
    p = 0xffff883fd0c8b500,
    kobj = {
      name = 0xffff883fcd0661c0 "host5",---------設(shè)備驅(qū)動(dòng)類型的名稱
      entry = {
        next = 0xffff883fd0e38448,
        prev = 0xffff881fca1cd818
      },
      parent = 0xffff883fcfded0a8,
      kset = 0xffff881fff86b6c0,
      ktype = 0xffffffff81a14e40 <device_ktype>,
      sd = 0xffff883fccc9e690,
      kref = {
        refcount = {
          counter = 39
        }
      },
      state_initialized = 1,
      state_in_sysfs = 1,
      state_add_uevent_sent = 1,
      state_remove_uevent_sent = 0,
      uevent_suppress = 0
    },
    init_name = 0x0,
    type = 0xffffffff81a18a80 <scsi_host_type>,
    mutex = {
      count = {
        counter = 1
      },
      wait_lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      wait_list = {
        next = 0xffff883fd0e381f8,
        prev = 0xffff883fd0e381f8
      },
      owner = 0x0,
      {
        osq = 0x0,
        __UNIQUE_ID_rh_kabi_hide1 = {
          spin_mlock = 0x0
        },
        {<No data fields>}
      }
    },
    bus = 0xffffffff81a19320 <scsi_bus_type>,
    driver = 0x0,
    platform_data = 0x0,
    power = {
      power_state = {
        event = 0
      },
      can_wakeup = 0,
      async_suspend = 1,
      is_prepared = false,
      is_suspended = false,
      ignore_children = false,
      early_init = true,
      lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 9568402,
                tickets = {
                  head = 146,
                  tail = 146
                }
              }
            }
          }
        }
      },
      entry = {
        next = 0xffff883fd0e384e0,
        prev = 0xffff881fca1cd8b0
      },
      completion = {
        done = 2147483647,
        wait = {
          lock = {
            {
              rlock = {
                raw_lock = {
                  {
                    head_tail = 131074,
                    tickets = {
                      head = 2,
                      tail = 2
                    }
                  }
                }
              }
            }
          },
          task_list = {
            next = 0xffff883fd0e38260,
            prev = 0xffff883fd0e38260
          }
        }
      },
      wakeup = 0x0,
      wakeup_path = false,
      syscore = false,
      suspend_timer = {
        entry = {
          next = 0x0,
          prev = 0x0
        },
        expires = 0,
        base = 0xffff883fd0e24000,
        function = 0xffffffff81402e90 <pm_suspend_timer_fn>,
        data = 18446612406401728912,
        slack = -1,
        start_pid = -1,
        start_site = 0x0,
        start_comm = "000000000000000000000000000000"
      },
      timer_expires = 0,
      work = {
        data = {
          counter = 68719476704
        },
        entry = {
          next = 0xffff883fd0e382e0,
          prev = 0xffff883fd0e382e0
        },
        func = 0xffffffff81402f10 <pm_runtime_work>
      },
      wait_queue = {
        lock = {
          {
            rlock = {
              raw_lock = {
                {
                  head_tail = 262148,
                  tickets = {
                    head = 4,
                    tail = 4
                  }
                }
              }
            }
          }
        },
        task_list = {
          next = 0xffff883fd0e38300,
          prev = 0xffff883fd0e38300
        }
      },
      usage_count = {
        counter = 0
      },
      child_count = {
        counter = 0
      },
      disable_depth = 0,
      idle_notification = 0,
      request_pending = 0,
      deferred_resume = 0,
      run_wake = 0,
      runtime_auto = 1,
      no_callbacks = 0,
      irq_safe = 0,
      use_autosuspend = 0,
      timer_autosuspends = 0,
      memalloc_noio = 1,
      request = RPM_REQ_NONE,
      runtime_status = RPM_SUSPENDED,
      runtime_error = 0,
      autosuspend_delay = 0,
      last_busy = 0,
      active_jiffies = 9752,
      suspended_jiffies = 0,
      accounting_timestamp = 4294683155,
      subsys_data = 0x0,
      qos = 0x0
    },
    pm_domain = 0x0,
    numa_node = 1,
    dma_mask = 0x0,
    coherent_dma_mask = 0,
    dma_parms = 0x0,
    dma_pools = {
      next = 0xffff883fd0e38388,
      prev = 0xffff883fd0e38388
    },
    dma_mem = 0x0,
    archdata = {
      dma_ops = 0x0,
      iommu = 0x0
    },
    of_node = 0x0,
    acpi_node = {
      {
        companion = 0x0,
        __UNIQUE_ID_rh_kabi_hide7 = {
          handle = 0x0
        },
        {<No data fields>}
      }
    },
    devt = 0,
    id = 0,
    devres_lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    devres_head = {
      next = 0xffff883fd0e383d0,
      prev = 0xffff883fd0e383d0
    },
    knode_class = {
      n_klist = 0x0,
      n_node = {
        next = 0x0,
        prev = 0x0
      },
      n_ref = {
        refcount = {
          counter = 0
        }
      }
    },
    class = 0x0,
    groups = 0x0,
    release = 0x0,
    iommu_group = 0x0,
    offline_disabled = false,
    offline = false,
    device_rh = 0xffff883fccc84738
  },
  shost_dev = {
    parent = 0xffff883fd0e38190,
    p = 0xffff883fd0c8b5c0,
    kobj = {
      name = 0xffff883fcd0661c8 "host5",----------設(shè)備驅(qū)動(dòng)類型的名稱
      entry = {
        next = 0xffff881fce507818,
        prev = 0xffff883fd0e381a8
      },
      parent = 0xffff883fcd039180,
      kset = 0xffff881fff86b6c0,
      ktype = 0xffffffff81a14e40 <device_ktype>,
      sd = 0xffff883fccc9eb60,
      kref = {
        refcount = {
          counter = 3
        }
      },
      state_initialized = 1,
      state_in_sysfs = 1,
      state_add_uevent_sent = 1,
      state_remove_uevent_sent = 0,
      uevent_suppress = 0
    },
    init_name = 0x0,
    type = 0x0,
    mutex = {
      count = {
        counter = 1
      },
      wait_lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      wait_list = {
        next = 0xffff883fd0e38498,
        prev = 0xffff883fd0e38498
      },
      owner = 0x0,
      {
        osq = 0x0,
        __UNIQUE_ID_rh_kabi_hide1 = {
          spin_mlock = 0x0
        },
        {<No data fields>}
      }
    },
    bus = 0x0,
    driver = 0x0,
    platform_data = 0x0,
    power = {
      power_state = {
        event = 0
      },
      can_wakeup = 0,
      async_suspend = 1,
      is_prepared = false,
      is_suspended = false,
      ignore_children = false,
      early_init = true,
      lock = {
        {
          rlock = {
            raw_lock = {
              {
                head_tail = 0,
                tickets = {
                  head = 0,
                  tail = 0
                }
              }
            }
          }
        }
      },
      entry = {
        next = 0xffff881fce5078b0,
        prev = 0xffff883fd0e38240
      },
      completion = {
        done = 2147483647,
        wait = {
          lock = {
            {
              rlock = {
                raw_lock = {
                  {
                    head_tail = 131074,
                    tickets = {
                      head = 2,
                      tail = 2
                    }
                  }
                }
              }
            }
          },
          task_list = {
            next = 0xffff883fd0e38500,
            prev = 0xffff883fd0e38500
          }
        }
      },
      wakeup = 0x0,
      wakeup_path = false,
      syscore = false,
      suspend_timer = {
        entry = {
          next = 0x0,
          prev = 0x0
        },
        expires = 0,
        base = 0xffff883fd0e24000,
        function = 0xffffffff81402e90 <pm_suspend_timer_fn>,
        data = 18446612406401729584,
        slack = -1,
        start_pid = -1,
        start_site = 0x0,
        start_comm = "000000000000000000000000000000"
      },
      timer_expires = 0,
      work = {
        data = {
          counter = 68719476704
        },
        entry = {
          next = 0xffff883fd0e38580,
          prev = 0xffff883fd0e38580
        },
        func = 0xffffffff81402f10 <pm_runtime_work>
      },
      wait_queue = {
        lock = {
          {
            rlock = {
              raw_lock = {
                {
                  head_tail = 0,
                  tickets = {
                    head = 0,
                    tail = 0
                  }
                }
              }
            }
          }
        },
        task_list = {
          next = 0xffff883fd0e385a0,
          prev = 0xffff883fd0e385a0
        }
      },
      usage_count = {
        counter = 0
      },
      child_count = {
        counter = 0
      },
      disable_depth = 1,
      idle_notification = 0,
      request_pending = 0,
      deferred_resume = 0,
      run_wake = 0,
      runtime_auto = 1,
      no_callbacks = 0,
      irq_safe = 0,
      use_autosuspend = 0,
      timer_autosuspends = 0,
      memalloc_noio = 0,
      request = RPM_REQ_NONE,
      runtime_status = RPM_SUSPENDED,
      runtime_error = 0,
      autosuspend_delay = 0,
      last_busy = 0,
      active_jiffies = 0,
      suspended_jiffies = 0,
      accounting_timestamp = 4294671976,
      subsys_data = 0x0,
      qos = 0x0
    },
    pm_domain = 0x0,
    numa_node = 1,
    dma_mask = 0x0,
    coherent_dma_mask = 0,
    dma_parms = 0x0,
    dma_pools = {
      next = 0xffff883fd0e38628,
      prev = 0xffff883fd0e38628
    },
    dma_mem = 0x0,
    archdata = {
      dma_ops = 0x0,
      iommu = 0x0
    },
    of_node = 0x0,
    acpi_node = {
      {
        companion = 0x0,
        __UNIQUE_ID_rh_kabi_hide7 = {
          handle = 0x0
        },
        {<No data fields>}
      }
    },
    devt = 0,
    id = 0,
    devres_lock = {
      {
        rlock = {
          raw_lock = {
            {
              head_tail = 0,
              tickets = {
                head = 0,
                tail = 0
              }
            }
          }
        }
      }
    },
    devres_head = {
      next = 0xffff883fd0e38670,
      prev = 0xffff883fd0e38670
    },
    knode_class = {
      n_klist = 0xffff883fcff102a8,
      n_node = {
        next = 0xffff883fd0cb2688,
        prev = 0xffff881fce2b6688
      },
      n_ref = {
        refcount = {
          counter = 1
        }
      }
    },
    class = 0xffffffff81a18ac0 <shost_class>,
    groups = 0xffffffff81a19470 <scsi_sysfs_shost_attr_groups>,
    release = 0x0,
    iommu_group = 0x0,
    offline_disabled = false,
    offline = false,
    device_rh = 0xffff883fccc84758
  },
  sht_legacy_list = {
    next = 0x0,
    prev = 0x0
  },
  shost_data = 0xffff883fcd0391e0,
  dma_dev = 0xffff883fcfded098,
  rh_reserved1 = 0x0,
  rh_reserved2 = 0x0,
  rh_reserved3 = 0x0,
  rh_reserved4 = 0x0,
  rh_reserved5 = 0x0,
  rh_reserved6 = 0x0,
  scsi_mq_reserved1 = 0,
  scsi_mq_reserved2 = 0,
  scsi_mq_reserved3 = 0x0,
  scsi_mq_reserved4 = 0x0,
  scsi_mq_reserved5 = {
    counter = 0
  },
  scsi_mq_reserved6 = {
    counter = 0
  },
  hostdata = 0xffff883fd0e38740---這個(gè)一般存放控制器的相關(guān)數(shù)據(jù),如MPT3SAS_ADAPTER,MPT2SAS_ADAPTER等
}

一般在scsi主機(jī)適配器驅(qū)動(dòng)的probe里面,先是scsi_alloc_host,然后scsi_add_host,緊接著就調(diào)用scsi_scan_host掃描scsi總線。
scsi總線掃描的目的是通過協(xié)議特定或芯片特定的方式探測出掛接在主機(jī)適配器后面的目標(biāo)節(jié)點(diǎn)和邏輯單元,為它們在內(nèi)存中構(gòu)建相應(yīng)的數(shù)據(jù)結(jié)構(gòu),將它們添加到系統(tǒng)中。

scsi中間層依次以可能的ID和LUN構(gòu)造INQUIRY命令,之后將這些INQUIRY命令提交到塊IO系統(tǒng),后者最終將調(diào)用中間層的策略例程,再次提取到SCSI命令后,調(diào)用scsi底層驅(qū)動(dòng)的queuecommand回調(diào)函數(shù)。其實(shí)內(nèi)核中,只要涉及到注冊的,基本都涉及到往上層和往下層的關(guān)系的建立。

各個(gè)Scsi_Host之間什么關(guān)系?

從設(shè)備驅(qū)動(dòng)模型的角度說,各個(gè)host的shost_dev.parent指向同一個(gè)device,其他沒有相關(guān)性。

crash> device.parent ffff883fd0cb4190
  parent = 0xffff883fcfdef098
crash> device.parent 0xffff883fd0e38190
  parent = 0xffff883fcfded098
crash> device.parent 0xffff883fd0cb2190
  parent = 0xffff883fcfdee098
crash> device.parent 0xffff881fce2b6190
  parent = 0xffff883fcfdb0098

SCSI 子系統(tǒng)處理塊訪問請(qǐng)求

當(dāng) SCSI 子系統(tǒng)的請(qǐng)求隊(duì)列處理函數(shù)被通用塊層調(diào)用后,SCSI 中間層會(huì)根據(jù)塊訪問請(qǐng)求的內(nèi)容,生成、初始并提交 SCSI 命令 (struct scsi_cmd) 到 SCSI TARGET 端。

scsi這些是按層級(jí)去描述對(duì)應(yīng)通信的設(shè)備的,分別為host級(jí),bus級(jí),target級(jí),device級(jí)。前面提到的scsi_device就是device層的抽象,對(duì)應(yīng)的是lun,可能是磁盤,也可能是光盤之類的,

如果是磁盤,則還會(huì)生成一個(gè)scsi_disk的對(duì)象,光盤的話,則會(huì)產(chǎn)生一個(gè)scsi_cd 的對(duì)象來和scsi_device 對(duì)應(yīng)。

在scsi總線掃描的時(shí)候,每當(dāng)探測到一個(gè)設(shè)備,就會(huì)調(diào)用scsi_alloc_sdev()函數(shù),然后里面會(huì)繼續(xù)調(diào)用scsi_alloc_queue(),也就是當(dāng)內(nèi)核識(shí)別到一個(gè)scsi設(shè)備之后,需要為該設(shè)備設(shè)置一個(gè)request_queue,這個(gè)動(dòng)作在下面完成,具體怎么識(shí)別到scsi_device ,有一堆探測的流程,在此不展開。

struct request_queue *scsi_alloc_queue(struct scsi_device *sdev)
{
    struct request_queue *q;

    q = __scsi_alloc_queue(sdev->host, scsi_request_fn);----------申請(qǐng)常見的request_queue,并且設(shè)置它的成員,scsi_request_fn 用用來執(zhí)行request調(diào)用的
    if (!q)
        return NULL;

    blk_queue_prep_rq(q, scsi_prep_fn);-------------------scsi_prep_fn準(zhǔn)備scsi命令用的函數(shù)
    blk_queue_unprep_rq(q, scsi_unprep_fn);
    blk_queue_softirq_done(q, scsi_softirq_done);
    blk_queue_rq_timed_out(q, scsi_times_out);
    blk_queue_lld_busy(q, scsi_lld_busy);
    return q;
}

scsi命令的抽象:

內(nèi)核中使用scsi_cmnd 來管理生成的scsi命令,包括命令的時(shí)間,重試次數(shù),上下文指針,承載CDB的命令體等。一個(gè)典型的fs下發(fā)的request包含的scsi_cmnd 例子如下:

crash> scsi_cmnd 0xffff881f49a2d500
struct scsi_cmnd {
  device = 0xffff881fcee44800,------這個(gè)命令歸屬的scsi_device對(duì)象的指針
  list = {
    next = 0xffff881f49a2cfc8,
    prev = 0xffff881fcee44838
  },
  eh_entry = {----嵌入到錯(cuò)誤處理鏈表的成員,當(dāng)該scsi命令出現(xiàn)錯(cuò)誤或者超時(shí)的時(shí)候用到
    next = 0x0,
    prev = 0x0
  },
  abort_work = {----命令出現(xiàn)超時(shí)的時(shí)候用到,這個(gè)會(huì)嵌入到scsi_host的一個(gè)workqueue中去處理
    work = {
      data = {
        counter = 68719476704
      },
      entry = {
        next = 0xffff881f49a2d530,
        prev = 0xffff881f49a2d530
      },
      func = 0xffffffff8141eee0 <scmd_eh_abort_handler>----work_struct中的處理函數(shù)
    },
    timer = {
      entry = {
        next = 0x0,
        prev = 0x0
      },
      expires = 0,
      base = 0xffff881fd2d8c002,
      function = 0xffffffff8109c100 <delayed_work_timer_fn>,
      data = 18446612266693612840,
      slack = -1,
      start_pid = -1,
      start_site = 0x0,
      start_comm = "000000000000000000000000000000"
    },
    wq = 0x0,
    cpu = 0
  },
  eh_eflags = 0,
  serial_number = 0,------------------命令編號(hào)
  jiffies_at_alloc = 4298774713,------這個(gè)命令在alloc時(shí)的時(shí)戳
  retries = 0,
  allowed = 5,
  prot_op = 0 '00',
  prot_type = 0 '00',
  cmd_len = 16,
  sc_data_direction = DMA_FROM_DEVICE,
  cmnd = 0xffff883e9d3f7e98 "210",
  sdb = {
    table = {
      sgl = 0xffff880cdf50fe00,
      nents = 1,
      orig_nents = 1
    },
    length = 4096,
    resid = 0
  },
  prot_sdb = 0x0,
  underflow = 4096,
  transfersize = 512,
  request = 0xffff883e9d3f7d80,------------------命令對(duì)應(yīng)的blk層的request
  sense_buffer = 0xffff880168be0f00 "",
  scsi_done = 0xffffffff81420a90 <scsi_done>,---命令執(zhí)行后的回調(diào)
  SCp = {
    ptr = 0x0,
    this_residual = 0,
    buffer = 0x0,
    buffers_residual = 0,
    dma_handle = 0,
    Status = 0,
    Message = 0,
    have_data_in = 0,
    sent_command = 0,
    phase = 0
  },
  host_scribble = 0x0,
  result = 0,
  tag = 255 '377',
  rh_reserved1 = 0x0,
  rh_reserved2 = 0x0,
  rh_reserved3 = 0x0,
  rh_reserved4 = 0x0
}

SCSI 命令初始化和提交

除了通用塊層下發(fā)的scsi命令之外,可以通過sg來下發(fā)scsi命令。

SCSI 子系統(tǒng)的錯(cuò)誤處理

由于 硬盤底層驅(qū)動(dòng)是由廠商自己實(shí)現(xiàn)的,在此就不予討論。除此之外,SCSI 子系統(tǒng)的出錯(cuò)處理,主要是由 SCSI 中間層完成。在第一次回調(diào)過程中,SCSI 底層驅(qū)動(dòng)將 SCSI 命令的處理結(jié)果以及獲取的 SCSI 狀態(tài)信息返回給 SCSI 中間層,SCSI 中間層先對(duì) SCSI 底層驅(qū)動(dòng)返回的 SCSI 命令執(zhí)行的結(jié)果進(jìn)行判斷,若無法得到明確的結(jié)論,則對(duì) SCSI 底層驅(qū)動(dòng)返回的 SCSI 狀態(tài)、感測數(shù)據(jù)等進(jìn)行判斷。對(duì)于判斷結(jié)論為處理成功的 SCSI 命令,SCSI 中間層會(huì)直接進(jìn)行第二次回調(diào);對(duì)于判斷結(jié)論為需要重試的命令,則會(huì)被加入塊設(shè)備請(qǐng)求對(duì)列,重新被處理。這個(gè)過程可稱為 SCSI 中間層對(duì) SCSI 命令執(zhí)行結(jié)果的基本判斷方法。

一切看起來似乎是這么簡單,但是實(shí)際上并非如此,有些錯(cuò)誤是沒有明確的判斷依據(jù)的,如感測數(shù)據(jù)錯(cuò)誤或 TIMEOUT 錯(cuò)誤。為了解決這個(gè)問題,LINUX 內(nèi)核中 SCSI 子系統(tǒng)引入了一個(gè)專門進(jìn)行錯(cuò)誤處理的線程,對(duì)于無法判斷錯(cuò)誤原因的 SCSI 命令,都會(huì)交由該線程進(jìn)行處理。線程處理過程和兩個(gè)隊(duì)列密切相關(guān),一個(gè)是錯(cuò)誤處理隊(duì)列(eh_work_q),一個(gè)是錯(cuò)誤處理完成隊(duì)列 (done_q) 。錯(cuò)誤處理隊(duì)列記錄了需要進(jìn)行錯(cuò)誤處理的 SCSI 命令,錯(cuò)誤處理完成隊(duì)列記錄了在錯(cuò)誤處理過程中被處理完成的 SCSI 命令。下圖顯示了線程對(duì)錯(cuò)誤處理隊(duì)列上記錄的命令進(jìn)行錯(cuò)誤處理的過程。

錯(cuò)誤處理的過程
static void scsi_unjam_host(struct Scsi_Host *shost)
{
    unsigned long flags;
    LIST_HEAD(eh_work_q);
    LIST_HEAD(eh_done_q);

    spin_lock_irqsave(shost->host_lock, flags);
    list_splice_init(&shost->eh_cmd_q, &eh_work_q);
    spin_unlock_irqrestore(shost->host_lock, flags);

    SCSI_LOG_ERROR_RECOVERY(1, scsi_eh_prt_fail_stats(shost, &eh_work_q));

    if (!scsi_eh_get_sense(&eh_work_q, &eh_done_q))
        if (!scsi_eh_abort_cmds(&eh_work_q, &eh_done_q))
            scsi_eh_ready_devs(shost, &eh_work_q, &eh_done_q);

    spin_lock_irqsave(shost->host_lock, flags);
    if (shost->eh_deadline != -1)
        shost->last_reset = 0;
    spin_unlock_irqrestore(shost->host_lock, flags);
    scsi_eh_flush_done_q(&eh_done_q);
}

整個(gè)處理過程可歸納為四個(gè)階段:

感測數(shù)據(jù)查詢階段

通過查詢感測數(shù)據(jù),為處理 SCSI 命令重新提供判斷依據(jù),并按照前述基本判斷方法進(jìn)行判斷。如果判斷結(jié)果為成功或者重試,則可將該命令從錯(cuò)誤處理隊(duì)列移到錯(cuò)誤處理完成隊(duì)列。若判斷失敗,則命令將會(huì)繼續(xù)保留在 SCSI 錯(cuò)誤處理隊(duì)列中,錯(cuò)誤處理進(jìn)入到 ABORT 階段。

ABORT階段

在這個(gè)階段中,錯(cuò)誤處理隊(duì)列上的 SCSI 命令會(huì)被主動(dòng) ABORT 掉。被 ABORT 的命令,會(huì)被加入到錯(cuò)誤處理完成隊(duì)列。若 ABORT 過程結(jié)束,錯(cuò)誤處理隊(duì)列上還存在未能被處理的命令,則需進(jìn)入 START STOP UNIT 階段進(jìn)行處理。

START STOP UNIT階段

在這個(gè)階段,START STOP UNIT[6] 命令會(huì)被發(fā)送到與錯(cuò)誤處理隊(duì)列上的命令相關(guān)的 SCSI DEVICE 上,去試圖恢復(fù) SCSI DEVICE,如果在 START STOP UNIT 階段結(jié)束后,依舊有命令在錯(cuò)誤處理隊(duì)列上,則需要進(jìn)入 RESET 階段進(jìn)行處理。

RESET階段

RESET 階段的處理過程分四個(gè)層次:DEVICE RESET,TARGET RESET, BUS RESET 和 HOST RESET 。首先對(duì)與錯(cuò)誤隊(duì)列上的命令相關(guān)的 SCSI DEVICE,進(jìn)行 RESET 操作,如果 DEVICE RESET 后,SCSI 設(shè)備能處于正常狀態(tài),則和該設(shè)備相關(guān)的錯(cuò)誤處理隊(duì)列上的錯(cuò)誤命令,會(huì)被加入到錯(cuò)誤處理完成隊(duì)列中。若通過 DEVICE RESET 不能處理所有的錯(cuò)誤命令,則需進(jìn)入TARGET RESET,再失敗則需進(jìn)入到 BUS RESET 階段,BUS RESET 會(huì)對(duì)與錯(cuò)誤處理隊(duì)列上的命令相關(guān)的 BUS,進(jìn)行 RESET 操作。若 BUS RESET 還不能成功處理所有錯(cuò)誤處理隊(duì)列上的 SCSI 命令,則會(huì)進(jìn)入到 HOST RESET 階段,HOST RESET 會(huì)對(duì)與錯(cuò)誤處理隊(duì)列上的命令相關(guān)的 HOST 進(jìn)行 RESET 操作。當(dāng)然,很有可能 HOST RESET 也不能成功處理所有錯(cuò)誤命令,則只能認(rèn)為錯(cuò)誤處理隊(duì)列上錯(cuò)誤命令相關(guān)的 SCSI 設(shè)備不能被使用了。這些不能被使用的設(shè)備會(huì)被標(biāo)記為不能使用狀態(tài),同時(shí)相關(guān)的錯(cuò)誤命令都會(huì)被加入到錯(cuò)誤處理完成隊(duì)列中。對(duì)應(yīng)的函數(shù)如下:

那些簡寫:

stu-------START_UNIT ,比如scsi_eh_stu 函數(shù)。
tmf-------Task management function

scsi_abort_command---在timeout之后,abort一個(gè)命令,如果host已經(jīng)處于EH的recovery狀態(tài),則返回false,否則會(huì)將該命令加入到host中的tmf_work_q 成員中去,

queue_delayed_work(shost->tmf_work_q, &scmd->abort_work, HZ / 100);
最終這個(gè)work queue會(huì)回調(diào) scmd_eh_abort_handler。

在request_queue中,有一個(gè)timeout成員,負(fù)責(zé)定時(shí)做什么事呢?就是每個(gè)下發(fā)給驅(qū)動(dòng)的request,都會(huì)掛在
timeout_list 成員中,timeout成員就通過blk_rq_timed_out_timer 來查看那些命令已經(jīng)超時(shí)了,進(jìn)行超時(shí)的處理。

void blk_rq_timed_out_timer(unsigned long data)
{
    struct request_queue *q = (struct request_queue *) data;
    unsigned long flags, next = 0;
    struct request *rq, *tmp;
    int next_set = 0;

    spin_lock_irqsave(q->queue_lock, flags);

    list_for_each_entry_safe(rq, tmp, &q->timeout_list, timeout_list)
        blk_rq_check_expired(rq, &next, &next_set);-------遍歷下發(fā)給驅(qū)動(dòng)的request,查看這些request是否超時(shí)了,這些request都串接在timeout_list中

    if (next_set)
        mod_timer(&q->timeout, round_jiffies_up(next));

    spin_unlock_irqrestore(q->queue_lock, flags);
}

這里有一個(gè)需要注意的地方,從網(wǎng)上看,之前是一個(gè)request一個(gè)定時(shí)器,這樣定時(shí)器就可能設(shè)置很多,而且這些定時(shí)器很有可能都沒有用到,畢竟超時(shí)的概率還是比較低的,所以要不停創(chuàng)建和插入加刪除定時(shí)器,而目前是一個(gè)request_queue一個(gè)定時(shí)器,然后這個(gè)定時(shí)器負(fù)責(zé)掃描到期的request,且這個(gè)定時(shí)器是常駐內(nèi)存的。

blk_rq_check_expired 的機(jī)制:

static void blk_rq_check_expired(struct request *rq, unsigned long *next_timeout,
              unsigned int *next_set)
{
    if (time_after_eq(jiffies, rq->deadline)) {-------這個(gè)request超時(shí)了
        list_del_init(&rq->timeout_list);-------從request_queue的timeout_list中摘取出來

        /*
         * Check if we raced with end io completion
         */
        if (!blk_mark_rq_complete(rq))---防止并發(fā)
            blk_rq_timed_out(rq);------------處理這個(gè)超時(shí)的req
    } else if (!*next_set || time_after(*next_timeout, rq->deadline)) {
        *next_timeout = rq->deadline;
        *next_set = 1;
    }
}

blk_rq_timed_out 的處理如下:

static void blk_rq_timed_out(struct request *req)
{
    struct request_queue *q = req->q;
    enum blk_eh_timer_return ret;

    ret = q->rq_timed_out_fn(req);---我們調(diào)用的是 scsi_times_out
    switch (ret) {
    case BLK_EH_HANDLED:
        /* Can we use req->errors here? */
        __blk_complete_request(req);
        break;
    case BLK_EH_RESET_TIMER:
        blk_add_timer(req);
        blk_clear_rq_complete(req);
        break;
    case BLK_EH_NOT_HANDLED:
        /*
         * LLD handles this for now but in the future
         * we can send a request msg to abort the command
         * and we can move more of the generic scsi eh code to
         * the blk layer.
         */
        break;
    default:
        printk(KERN_ERR "block: bad eh return: %d
", ret);
        break;
    }
}

scsi_times_out 函數(shù)有兩種主要的出口,先是 調(diào)用scsi_abort_command 將命令abort,如果abort失敗,則發(fā)送scsi_eh_scmd_add 將命令加入到 host的
eh_cmd_q list中,然后喚醒錯(cuò)誤處理線程處理。

scmd_eh_abort_handler-->
scsi_try_to_abort_cmd-->

兩類命令,一類是正常的命令,可能返回錯(cuò)誤,或者不返回,直接timeout,還有一種是錯(cuò)誤恢復(fù)的命令,這些命令也有可能錯(cuò)誤或者超時(shí),針對(duì)前一種,對(duì)應(yīng)的錯(cuò)誤處理函數(shù)為:

scsi_abort_command----超時(shí)之后

Scsi_Host:

enum scsi_host_state {
SHOST_CREATED = 1,
SHOST_RUNNING,
SHOST_CANCEL,
SHOST_DEL,
SHOST_RECOVERY,
SHOST_CANCEL_RECOVERY,
SHOST_DEL_RECOVERY,
};
host你可以理解為在主板上的sas芯片,比如2008或者3008,它的狀態(tài)非常重要,主要關(guān)注兩個(gè)狀態(tài),一個(gè)是running,一個(gè)是recovery,處于recovery狀態(tài)的host,那么它管理的所有硬盤,
這個(gè)時(shí)候都無法發(fā)送命令下去,也就是會(huì)阻塞該host下所有硬盤的io。而目前來看,只要是任何一條命令出現(xiàn)錯(cuò)誤,都會(huì)把host置為
scsi_host_set_state(shost, SHOST_RECOVERY),我覺得內(nèi)核對(duì)這個(gè)處理得比較武斷,我們經(jīng)常遇到一塊磁盤出現(xiàn)超時(shí)的情況,這個(gè)時(shí)候內(nèi)核會(huì)將整個(gè)host下所有的io阻塞住。

If all scmds either complete or fail, the number of in-flight scmds
becomes equal to the number of failed scmds - i.e. shost->host_busy ==
shost->host_failed. This wakes up SCSI EH thread. So, once woken up,
SCSI EH thread can expect that all in-flight commands have failed and
are linked on shost->eh_cmd_q.


對(duì)于LUN的定義位于中間層的scsi_device結(jié)構(gòu)體。而對(duì)于node的定義是中間層的scsi_target結(jié)構(gòu)體,channel沒有對(duì)應(yīng)的結(jié)構(gòu)體,如果對(duì)應(yīng)的是硬盤,則還有一個(gè)scsi_disk的抽象,光盤的話,則有一個(gè)類似的scsi_cd 結(jié)構(gòu)。

系統(tǒng)中也有可能同時(shí)存在多個(gè)SCSI控制芯片,比如常見的服務(wù)器帶jbod的方式接入存儲(chǔ),也即多個(gè)SCSIhost。對(duì)于如何定位每個(gè)LUN設(shè)備就需要一種編碼方式。根據(jù)拓?fù)浣Y(jié)構(gòu)可以很容易的知道定位的編碼方式是:host_id: channel_id: node_id:lun_id。這些ID的生成方式不討論,但是根據(jù)每個(gè)各設(shè)備的編號(hào)就可以定位到具體的單個(gè)lun設(shè)備了。

對(duì)于被加入到錯(cuò)誤處理完成隊(duì)列上的請(qǐng)求,若是在設(shè)備狀態(tài)正確,命令重試次數(shù)小于允許次數(shù)的情況下,這些命令將被重新加入到塊訪問請(qǐng)求隊(duì)列中,進(jìn)行重新處理;否則,直接進(jìn)行第二次回調(diào)處理,完成 SCSI 子系統(tǒng)對(duì)塊訪問請(qǐng)求的處理。這樣,SCSI 子系統(tǒng)就完成了 SCSI 命令錯(cuò)誤處理的整個(gè)過程。

static void scsi_softirq_done(struct request *rq)
{
    struct scsi_cmnd *cmd = rq->special;
    unsigned long wait_for = (cmd->allowed + 1) * rq->timeout;
    int disposition;

    INIT_LIST_HEAD(&cmd->eh_entry);

    atomic_inc(&cmd->device->iodone_cnt);
    if (cmd->result)
        atomic_inc(&cmd->device->ioerr_cnt);

    disposition = scsi_decide_disposition(cmd);
    if (disposition != SUCCESS &&
        time_before(cmd->jiffies_at_alloc + wait_for, jiffies)) {
        sdev_printk(KERN_ERR, cmd->device,
                "timing out command, waited %lus
",
                wait_for/HZ);
        disposition = SUCCESS;
    }

    scsi_log_completion(cmd, disposition);

    switch (disposition) {
        case SUCCESS:
            scsi_finish_command(cmd);
            break;
        case NEEDS_RETRY:
            scsi_queue_insert(cmd, SCSI_MLQUEUE_EH_RETRY);
            break;
        case ADD_TO_MLQUEUE:
            scsi_queue_insert(cmd, SCSI_MLQUEUE_DEVICE_BUSY);
            break;
        default:
            if (!scsi_eh_scmd_add(cmd, 0))
                scsi_finish_command(cmd);
    }
}

sd表示磁盤,(你可以使用scsi_disk簡寫的方式來記憶,對(duì)應(yīng)的模塊是sd_mod)sr表示光盤,st表示磁帶,sg表示通用,文件系統(tǒng)向下調(diào)用磁盤中的文件需要用到的是sd,而sg內(nèi)核驅(qū)動(dòng)的存在使我們可以不使用文件系統(tǒng),直接在用戶空間調(diào)用scsi命令,比如有一次crash,看到大多數(shù)命令都是REQ_TYPE_FS,但是有一個(gè)是dfs通過ioctl直接訪問硬盤,命令類型就是REQ_TYPE_BLOCK_PC。一個(gè)lun可能對(duì)應(yīng)一個(gè)sd或sr,也可能對(duì)應(yīng)一個(gè)級(jí)聯(lián)phy口。Linux中的SCSI層看起來只包含SCSI命令,并不完全實(shí)現(xiàn)標(biāo)準(zhǔn)的scsi協(xié)議,你可以把linux的scsi理解為符合協(xié)議的一個(gè)命令構(gòu)造,命令執(zhí)行,命令返回的控制層。

sd,sr等,都需要實(shí)例化一個(gè)scsi_driver 的對(duì)象,

struct scsi_driver {
    struct module        *owner;
    struct device_driver    gendrv;

    void (*rescan)(struct device *);
    int (*init_command)(struct scsi_cmnd *);
    void (*uninit_command)(struct scsi_cmnd *);
    int (*done)(struct scsi_cmnd *);
    int (*eh_action)(struct scsi_cmnd *, int);

    int (*scsi_mq_reserved1)(struct scsi_cmnd *);
    void (*scsi_mq_reserved2)(struct scsi_cmnd *);
    void (*rh_reserved)(void);
};

比如我們的sd,則實(shí)例化如下:

static struct scsi_driver sd_template = {
    .owner            = THIS_MODULE,
    .gendrv = {
        .name        = "sd",
        .probe        = sd_probe,
        .remove        = sd_remove,
        .shutdown    = sd_shutdown,
        .pm        = &sd_pm_ops,
    },
    .rescan            = sd_rescan,
    .init_command        = sd_init_command,
    .uninit_command        = sd_uninit_command,
    .done            = sd_done,-----------------------阮中斷回調(diào)
    .eh_action        = sd_eh_action,
};

正常返回時(shí):

 0xffffffffc0273860 : sd_done+0x0/0x350 [sd_mod]
 0xffffffff8147527d : scsi_finish_command+0xcd/0x140 [kernel]
 0xffffffff8147f7b2 : scsi_softirq_done+0x142/0x190 [kernel]---這個(gè)就是req->q->softirq_done_fn
 0xffffffff8130ec66 : blk_done_softirq+0x96/0xc0 [kernel]------處理io返回的軟中斷
 0xffffffff810960ed : __do_softirq+0xfd/0x290 [kernel]
 0xffffffff816cf45c : call_softirq+0x1c/0x30 [kernel]
 0xffffffff8102d465 : do_softirq+0x65/0xa0 [kernel]
 0xffffffff81096535 : irq_exit+0x175/0x180 [kernel]
 0xffffffff810522b9 : smp_call_function_single_interrupt+0x39/0x40 [kernel]
 0xffffffff816ceb77 : call_function_single_interrupt+0x87/0x90 [kernel]

scsi_finish_command 是一個(gè)很關(guān)鍵的函數(shù),比如清除上層request的定時(shí)器之類的動(dòng)作在這個(gè)函數(shù)中調(diào)用完成。

 0xffffffff81307d10 : blk_finish_request+0x0/0x100 [kernel]
 0xffffffff814800f6 : scsi_end_request+0x116/0x1e0 [kernel]
 0xffffffff81480388 : scsi_io_completion+0x168/0x6a0 [kernel]
 0xffffffff8147528c : scsi_finish_command+0xdc/0x140 [kernel]
 0xffffffff8147f7b2 : scsi_softirq_done+0x142/0x190 [kernel]
 0xffffffff8130ec66 : blk_done_softirq+0x96/0xc0 [kernel]
 0xffffffff810960ed : __do_softirq+0xfd/0x290 [kernel]
 0xffffffff816cf45c : call_softirq+0x1c/0x30 [kernel]
 0xffffffff8102d465 : do_softirq+0x65/0xa0 [kernel]
 0xffffffff81096535 : irq_exit+0x175/0x180 [kernel]
 0xffffffff810522b9 : smp_call_function_single_interrupt+0x39/0x40 [kernel]
 0xffffffff816ceb77 : call_function_single_interrupt+0x87/0x90 [kernel]

__blk_complete_request:
涉及到io的硬中斷回來之后,投遞軟中斷的cpu選擇。

硬中斷的回調(diào):

 0xffffffff8147ec70 : scsi_done+0x0/0x60 [kernel]
 0xffffffffc0166fd7 : _scsih_io_done+0x117/0x11a0 [mpt3sas]
 0xffffffffc0156ad7 : _base_interrupt+0x247/0xc80 [mpt3sas]
 0xffffffff81138c74 : __handle_irq_event_percpu+0x44/0x1c0 [kernel]
 0xffffffff81138e22 : handle_irq_event_percpu+0x32/0x80 [kernel]
 0xffffffff81138eac : handle_irq_event+0x3c/0x60 [kernel]
 0xffffffff8113bbaf : handle_edge_irq+0x7f/0x150 [kernel]
 0xffffffff8102d321 : handle_irq+0xe1/0x1c0 [kernel]
 0xffffffff816d058d : __irqentry_text_start+0x4d/0xf0 [kernel]
 0xffffffff816c4287 : ret_from_intr+0x0/0x15 [kernel]

對(duì)于用于錯(cuò)誤恢復(fù)的scsi命令,比如scsi_send_eh_cmnd 函數(shù),設(shè)置的scmd->scsi_done = scsi_eh_done;而正常下發(fā)的命令則一般是scsi_done.

上層從通用塊層接收到了數(shù)據(jù)訪問的請(qǐng)求,將其轉(zhuǎn)化為SCSI命令,這個(gè)命令在上層中定義為scsi_cmnd結(jié)構(gòu)體。然后調(diào)用中間層的scsi_host_template結(jié)構(gòu)體中定義的queuecommand接口,將此命令交付中層處理。在命令處理結(jié)束,本層的回調(diào)函數(shù)會(huì)被以軟中斷的形式調(diào)用,以處理與命令相關(guān)的后續(xù)操作和通知通用塊層該條命令的執(zhí)行結(jié)果。

root      1007     2  0 Feb26 ?        00:00:00 [scsi_eh_0]
root      1019     2  0 Feb26 ?        00:00:00 [scsi_eh_1]
root      1030     2  0 Feb26 ?        00:00:00 [scsi_eh_2]
root      1036     2  0 Feb26 ?        00:00:00 [scsi_eh_3]
root      1046     2  0 Feb26 ?        00:00:00 [scsi_eh_4]
root      1054     2  0 Feb26 ?        00:00:00 [scsi_eh_5]

response

對(duì)CDB命令的響應(yīng)命令叫sense。但是這個(gè)響應(yīng)可不是自動(dòng)產(chǎn)生的,需要scsi設(shè)備主動(dòng)使用sense request命令去查詢。所以對(duì)于發(fā)送request方來說,命令的執(zhí)行結(jié)束分為兩個(gè)階段,發(fā)送成功和磁盤設(shè)備執(zhí)行成功。函數(shù)調(diào)用結(jié)束的狀態(tài)只表示是本機(jī)發(fā)送該命令的結(jié)果狀態(tài),而不表示實(shí)際磁盤設(shè)備的執(zhí)行情況。如果需要獲得執(zhí)行情況,需要去手動(dòng)獲取sense數(shù)據(jù)。

目前的linux的scsi實(shí)現(xiàn)就是這兩個(gè)階段的回調(diào),一個(gè)是處理本機(jī)處理結(jié)果,另一個(gè)是發(fā)送sense request查詢設(shè)備的執(zhí)行結(jié)果,才會(huì)繼續(xù)向下執(zhí)行。

SCSI Enclosure Services (SES)

參考資料:

Documentation/scsi/scsi_eh.txt

彪哥的博客《http://blog.chinaunix.net/uid-14528823-id-4924157.html》

總結(jié)

以上是生活随笔為你收集整理的linux scsi相关的一些学习笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò),歡迎將生活随笔推薦給好友。

国产内射老熟女aaaa | 欧洲vodafone精品性 | 伊人久久大香线蕉亚洲 | 青青久在线视频免费观看 | 一个人免费观看的www视频 | 久久天天躁狠狠躁夜夜免费观看 | 丰满妇女强制高潮18xxxx | av人摸人人人澡人人超碰下载 | 无码人妻出轨黑人中文字幕 | 激情五月综合色婷婷一区二区 | 伊人久久婷婷五月综合97色 | 午夜无码区在线观看 | 亚洲自偷自拍另类第1页 | 国产明星裸体无码xxxx视频 | 精品无码国产自产拍在线观看蜜 | 麻豆国产丝袜白领秘书在线观看 | 国产莉萝无码av在线播放 | 任你躁在线精品免费 | 久久天天躁狠狠躁夜夜免费观看 | 久久99精品久久久久久 | 国产69精品久久久久app下载 | 久久熟妇人妻午夜寂寞影院 | 久久99久久99精品中文字幕 | 亚洲熟妇色xxxxx亚洲 | 2019nv天堂香蕉在线观看 | 国産精品久久久久久久 | 亚洲一区二区三区国产精华液 | 奇米综合四色77777久久 东京无码熟妇人妻av在线网址 | 最近中文2019字幕第二页 | 中文字幕乱码中文乱码51精品 | 亚洲最大成人网站 | 性色av无码免费一区二区三区 | 国产成人久久精品流白浆 | 日本肉体xxxx裸交 | 色婷婷av一区二区三区之红樱桃 | 日本乱偷人妻中文字幕 | 欧美人与动性行为视频 | 4hu四虎永久在线观看 | 图片区 小说区 区 亚洲五月 | 东京无码熟妇人妻av在线网址 | 国产精品对白交换视频 | 荫蒂被男人添的好舒服爽免费视频 | 亚洲精品一区二区三区大桥未久 | 亚洲の无码国产の无码影院 | 真人与拘做受免费视频一 | 九九久久精品国产免费看小说 | 久久亚洲中文字幕无码 | 久久亚洲中文字幕精品一区 | 国产97人人超碰caoprom | 扒开双腿疯狂进出爽爽爽视频 | 精品国产成人一区二区三区 | 欧美黑人性暴力猛交喷水 | 成人精品天堂一区二区三区 | 亚洲国产欧美在线成人 | 理论片87福利理论电影 | 免费国产成人高清在线观看网站 | 任你躁在线精品免费 | 国内精品九九久久久精品 | 成人精品视频一区二区 | 国产成人一区二区三区别 | 国产午夜手机精彩视频 | 欧美日韩人成综合在线播放 | 日本www一道久久久免费榴莲 | 亚洲日本va午夜在线电影 | 四虎国产精品免费久久 | 高清无码午夜福利视频 | 色婷婷欧美在线播放内射 | 免费观看激色视频网站 | 天天摸天天碰天天添 | 免费中文字幕日韩欧美 | 中文毛片无遮挡高清免费 | 国产精品嫩草久久久久 | 亚洲 欧美 激情 小说 另类 | 无码人妻丰满熟妇区五十路百度 | 国产乱人伦av在线无码 | 日韩人妻无码一区二区三区久久99 | 国产福利视频一区二区 | 亚洲第一无码av无码专区 | 中文字幕人妻无码一夲道 | 亚洲七七久久桃花影院 | 在线天堂新版最新版在线8 | 理论片87福利理论电影 | 男人和女人高潮免费网站 | 少妇无码av无码专区在线观看 | 东京一本一道一二三区 | 99视频精品全部免费免费观看 | 荫蒂添的好舒服视频囗交 | 高清不卡一区二区三区 | 爆乳一区二区三区无码 | 亚洲日本va中文字幕 | 大肉大捧一进一出好爽视频 | 亚洲爆乳精品无码一区二区三区 | 中文字幕日产无线码一区 | 精品人人妻人人澡人人爽人人 | 人人妻人人澡人人爽欧美一区 | 日韩精品无码一区二区中文字幕 | 国产97人人超碰caoprom | 久久精品视频在线看15 | 国产疯狂伦交大片 | 蜜桃视频插满18在线观看 | 欧美老熟妇乱xxxxx | 熟妇女人妻丰满少妇中文字幕 | 国产在线一区二区三区四区五区 | 国产精品对白交换视频 | 久久久中文久久久无码 | 人妻少妇被猛烈进入中文字幕 | 色综合久久中文娱乐网 | 国产人成高清在线视频99最全资源 | 国产偷自视频区视频 | 日本乱偷人妻中文字幕 | av无码久久久久不卡免费网站 | 国产香蕉97碰碰久久人人 | 精品无码国产一区二区三区av | 中文字幕+乱码+中文字幕一区 | 色欲久久久天天天综合网精品 | 亚洲精品一区国产 | www成人国产高清内射 | 久久精品国产99精品亚洲 | 乱人伦中文视频在线观看 | 欧美国产日产一区二区 | 色欲av亚洲一区无码少妇 | 中文字幕人妻无码一区二区三区 | 中文无码伦av中文字幕 | v一区无码内射国产 | 久久天天躁狠狠躁夜夜免费观看 | 女人和拘做爰正片视频 | 久久国产36精品色熟妇 | 国产亚洲人成在线播放 | 亚洲日本va午夜在线电影 | 在线亚洲高清揄拍自拍一品区 | 国产性生交xxxxx无码 | 嫩b人妻精品一区二区三区 | 色综合久久中文娱乐网 | 亚洲最大成人网站 | 国产两女互慰高潮视频在线观看 | 久久综合色之久久综合 | 伊人久久大香线蕉av一区二区 | 免费无码肉片在线观看 | 日本免费一区二区三区最新 | 国产精品va在线观看无码 | 国产精品久久福利网站 | 国产精品美女久久久 | 在线a亚洲视频播放在线观看 | 欧美变态另类xxxx | 国产性猛交╳xxx乱大交 国产精品久久久久久无码 欧洲欧美人成视频在线 | 久久国语露脸国产精品电影 | 波多野结衣一区二区三区av免费 | 国产区女主播在线观看 | 中文字幕无码日韩欧毛 | 九一九色国产 | 人妻aⅴ无码一区二区三区 | 亚洲男女内射在线播放 | 亚洲日本va午夜在线电影 | 久热国产vs视频在线观看 | 成人动漫在线观看 | 正在播放老肥熟妇露脸 | 欧美三级a做爰在线观看 | 97精品国产97久久久久久免费 | 久久亚洲精品中文字幕无男同 | 粉嫩少妇内射浓精videos | 亚洲综合无码久久精品综合 | 欧美怡红院免费全部视频 | 无套内谢老熟女 | 国产一区二区三区四区五区加勒比 | 国产莉萝无码av在线播放 | 日本xxxx色视频在线观看免费 | 亚洲综合在线一区二区三区 | av小次郎收藏 | 色婷婷av一区二区三区之红樱桃 | 日韩亚洲欧美精品综合 | аⅴ资源天堂资源库在线 | 国内精品人妻无码久久久影院 | 国产精品多人p群无码 | 日本护士毛茸茸高潮 | 少妇高潮一区二区三区99 | 老太婆性杂交欧美肥老太 | 一本精品99久久精品77 | 国产精品.xx视频.xxtv | 沈阳熟女露脸对白视频 | 欧美精品一区二区精品久久 | 中文字幕av日韩精品一区二区 | 国产精品沙发午睡系列 | 国产精品理论片在线观看 | 成熟人妻av无码专区 | 成人三级无码视频在线观看 | 国内老熟妇对白xxxxhd | 亚洲国产欧美日韩精品一区二区三区 | 少妇愉情理伦片bd | 精品无码成人片一区二区98 | 在线天堂新版最新版在线8 | 亚洲 高清 成人 动漫 | 国产精品国产自线拍免费软件 | 国产精品第一国产精品 | ass日本丰满熟妇pics | 六十路熟妇乱子伦 | 亚洲の无码国产の无码步美 | 欧美午夜特黄aaaaaa片 | 捆绑白丝粉色jk震动捧喷白浆 | 日韩欧美中文字幕在线三区 | 日韩无套无码精品 | 欧美日韩久久久精品a片 | 国产亚洲人成在线播放 | 欧美自拍另类欧美综合图片区 | 久久99国产综合精品 | 水蜜桃亚洲一二三四在线 | 少妇高潮喷潮久久久影院 | 国产莉萝无码av在线播放 | 99久久精品日本一区二区免费 | 扒开双腿疯狂进出爽爽爽视频 | 丰满肥臀大屁股熟妇激情视频 | 国产免费无码一区二区视频 | 亚洲另类伦春色综合小说 | 亚洲色成人中文字幕网站 | 亚洲色欲久久久综合网东京热 | 国产特级毛片aaaaaa高潮流水 | 在线播放亚洲第一字幕 | 婷婷综合久久中文字幕蜜桃三电影 | 午夜福利试看120秒体验区 | 亚洲乱码国产乱码精品精 | 2019nv天堂香蕉在线观看 | 亚洲无人区午夜福利码高清完整版 | 99国产精品白浆在线观看免费 | 国内精品九九久久久精品 | 少妇性l交大片 | 免费乱码人妻系列无码专区 | 亚洲日韩中文字幕在线播放 | 日韩成人一区二区三区在线观看 | 国产人妻人伦精品1国产丝袜 | 成人精品一区二区三区中文字幕 | 成人影院yy111111在线观看 | 狠狠亚洲超碰狼人久久 | 国产成人人人97超碰超爽8 | 黑人巨大精品欧美黑寡妇 | 亚洲一区二区三区 | 无码av岛国片在线播放 | 色综合久久久无码网中文 | 成人性做爰aaa片免费看 | 国产日产欧产精品精品app | 日日天干夜夜狠狠爱 | 鲁大师影院在线观看 | 成人无码影片精品久久久 | 丝袜人妻一区二区三区 | 亚洲中文字幕无码一久久区 | 国产福利视频一区二区 | 中文无码伦av中文字幕 | 亚洲综合精品香蕉久久网 | 欧美丰满熟妇xxxx性ppx人交 | 日日麻批免费40分钟无码 | 亚洲娇小与黑人巨大交 | 99久久无码一区人妻 | 内射爽无广熟女亚洲 | av香港经典三级级 在线 | 精品成在人线av无码免费看 | 牲欲强的熟妇农村老妇女视频 | 国产精品毛片一区二区 | 久久久中文久久久无码 | 嫩b人妻精品一区二区三区 | 熟妇人妻中文av无码 | 免费无码午夜福利片69 | 国产精品视频免费播放 | 欧美野外疯狂做受xxxx高潮 | 午夜福利一区二区三区在线观看 | 澳门永久av免费网站 | 国产激情无码一区二区app | 色诱久久久久综合网ywww | 午夜无码区在线观看 | 又大又硬又爽免费视频 | 久久精品国产精品国产精品污 | 午夜肉伦伦影院 | 狠狠色噜噜狠狠狠7777奇米 | 人人澡人人妻人人爽人人蜜桃 | 2020久久香蕉国产线看观看 | 久久亚洲日韩精品一区二区三区 | 亚洲 a v无 码免 费 成 人 a v | 午夜肉伦伦影院 | 人人爽人人澡人人人妻 | 波多野结衣av在线观看 | 狠狠色噜噜狠狠狠狠7777米奇 | 国产精品久久久久9999小说 | 亚洲自偷精品视频自拍 | 久久综合久久自在自线精品自 | 日日噜噜噜噜夜夜爽亚洲精品 | 无码午夜成人1000部免费视频 | 真人与拘做受免费视频一 | 一本久道高清无码视频 | 国产成人无码av在线影院 | 成在人线av无码免费 | 亚洲熟熟妇xxxx | 久青草影院在线观看国产 | 久在线观看福利视频 | 日本大香伊一区二区三区 | 国产精品无码永久免费888 | 中国女人内谢69xxxxxa片 | 中文字幕乱码亚洲无线三区 | 天天躁日日躁狠狠躁免费麻豆 | 亚洲人成无码网www | 熟妇人妻无码xxx视频 | 国产激情一区二区三区 | 无遮无挡爽爽免费视频 | 久久人人爽人人人人片 | 中文毛片无遮挡高清免费 | 国产亚洲美女精品久久久2020 | 无码午夜成人1000部免费视频 | 国产成人亚洲综合无码 | 蜜臀av无码人妻精品 | 国产人妻精品午夜福利免费 | 亚洲综合在线一区二区三区 | 国产 浪潮av性色四虎 | 国产精品久久久久7777 | 午夜福利试看120秒体验区 | 又大又黄又粗又爽的免费视频 | 亚洲aⅴ无码成人网站国产app | 俄罗斯老熟妇色xxxx | 高潮毛片无遮挡高清免费视频 | 成人三级无码视频在线观看 | 精品乱码久久久久久久 | 国产极品美女高潮无套在线观看 | 国产真实伦对白全集 | 内射白嫩少妇超碰 | 老熟女重囗味hdxx69 | 在线亚洲高清揄拍自拍一品区 | 东京热男人av天堂 | 99精品视频在线观看免费 | 丝袜 中出 制服 人妻 美腿 | 国产后入清纯学生妹 | 日本一区二区三区免费播放 | 女人色极品影院 | 天天燥日日燥 | 亚洲国产精品成人久久蜜臀 | 300部国产真实乱 | 亚洲精品成a人在线观看 | 国产精品久久久久影院嫩草 | 搡女人真爽免费视频大全 | 成人欧美一区二区三区黑人免费 | 亚洲人亚洲人成电影网站色 | 国产性生交xxxxx无码 | 国产两女互慰高潮视频在线观看 | 性啪啪chinese东北女人 | 牛和人交xxxx欧美 | 高潮毛片无遮挡高清免费 | 青草视频在线播放 | 中文字幕日产无线码一区 | 欧美老妇交乱视频在线观看 | 女人色极品影院 | 伊人久久婷婷五月综合97色 | 97色伦图片97综合影院 | 亚洲精品中文字幕乱码 | 亚洲综合伊人久久大杳蕉 | 岛国片人妻三上悠亚 | 在线天堂新版最新版在线8 | 日本肉体xxxx裸交 | 国产色xx群视频射精 | 国产午夜福利100集发布 | 人妻无码久久精品人妻 | 精品一区二区不卡无码av | 亚洲国产一区二区三区在线观看 | 无码人妻丰满熟妇区五十路百度 | 国产无遮挡又黄又爽又色 | 久久久久99精品成人片 | 亚洲熟悉妇女xxx妇女av | 最近中文2019字幕第二页 | 内射后入在线观看一区 | 麻豆av传媒蜜桃天美传媒 | 少妇厨房愉情理9仑片视频 | 人人澡人人妻人人爽人人蜜桃 | 国产香蕉尹人综合在线观看 | 国产性生大片免费观看性 | 国产精品无码mv在线观看 | 欧美乱妇无乱码大黄a片 | 日韩亚洲欧美中文高清在线 | 欧美日韩一区二区免费视频 | 国产三级精品三级男人的天堂 | 国产人成高清在线视频99最全资源 | 黑人粗大猛烈进出高潮视频 | 欧美激情综合亚洲一二区 | 国产成人无码av一区二区 | 秋霞成人午夜鲁丝一区二区三区 | 中文字幕av无码一区二区三区电影 | 精品偷自拍另类在线观看 | 亚洲一区二区三区国产精华液 | 精品一区二区三区无码免费视频 | 无套内谢的新婚少妇国语播放 | 成人精品视频一区二区三区尤物 | 国产xxx69麻豆国语对白 | 99久久精品午夜一区二区 | 男女爱爱好爽视频免费看 | 性色欲网站人妻丰满中文久久不卡 | 学生妹亚洲一区二区 | 亚洲成色www久久网站 | 欧美日韩人成综合在线播放 | 最新国产麻豆aⅴ精品无码 | 99久久99久久免费精品蜜桃 | 午夜福利一区二区三区在线观看 | 天天做天天爱天天爽综合网 | 欧洲精品码一区二区三区免费看 | 免费观看又污又黄的网站 | 99精品久久毛片a片 | yw尤物av无码国产在线观看 | 亚洲精品午夜国产va久久成人 | 午夜精品一区二区三区在线观看 | 清纯唯美经典一区二区 | 亚洲国产精品毛片av不卡在线 | 国产69精品久久久久app下载 | 亚洲综合伊人久久大杳蕉 | 熟妇人妻激情偷爽文 | 国产在热线精品视频 | 日韩人妻无码中文字幕视频 | 中文字幕无线码免费人妻 | 色婷婷欧美在线播放内射 | 中文字幕无线码免费人妻 | 日本精品人妻无码77777 天堂一区人妻无码 | 亚洲中文字幕在线无码一区二区 | 日本高清一区免费中文视频 | 久精品国产欧美亚洲色aⅴ大片 | 亚洲一区二区三区香蕉 | 99riav国产精品视频 | 狠狠色色综合网站 | 国产午夜无码精品免费看 | 欧美第一黄网免费网站 | 少妇无码吹潮 | 人妻无码久久精品人妻 | 人人澡人摸人人添 | 丰满妇女强制高潮18xxxx | 又大又硬又黄的免费视频 | 国产农村妇女aaaaa视频 撕开奶罩揉吮奶头视频 | 国产在线精品一区二区三区直播 | 人人澡人人透人人爽 | 久久久久人妻一区精品色欧美 | 国内精品一区二区三区不卡 | 免费乱码人妻系列无码专区 | 日本大香伊一区二区三区 | 亚洲国产高清在线观看视频 | 亚洲欧美精品aaaaaa片 | 精品国产aⅴ无码一区二区 | 欧美熟妇另类久久久久久不卡 | 我要看www免费看插插视频 | 在线观看欧美一区二区三区 | 少妇厨房愉情理9仑片视频 | 成人无码精品一区二区三区 | 成人试看120秒体验区 | 大地资源中文第3页 | 99久久精品无码一区二区毛片 | 国产电影无码午夜在线播放 | 精品偷拍一区二区三区在线看 | 欧美精品无码一区二区三区 | 性色欲网站人妻丰满中文久久不卡 | 午夜精品久久久内射近拍高清 | 丰满岳乱妇在线观看中字无码 | 丰满岳乱妇在线观看中字无码 | 精品国产一区二区三区av 性色 | 亚洲伊人久久精品影院 | 老头边吃奶边弄进去呻吟 | 国产疯狂伦交大片 | 国产免费久久久久久无码 | 久久人人爽人人人人片 | 精品国产麻豆免费人成网站 | 67194成是人免费无码 | 久久综合给久久狠狠97色 | 国产九九九九九九九a片 | 丝袜 中出 制服 人妻 美腿 | 日韩视频 中文字幕 视频一区 | www国产精品内射老师 | 99久久人妻精品免费二区 | 窝窝午夜理论片影院 | 色一情一乱一伦 | 日日夜夜撸啊撸 | av无码电影一区二区三区 | 乌克兰少妇性做爰 | 国产精品久久久久影院嫩草 | 久久久精品人妻久久影视 | 欧美激情综合亚洲一二区 | 国产xxx69麻豆国语对白 | 又湿又紧又大又爽a视频国产 | 日本www一道久久久免费榴莲 | 亚洲日韩一区二区三区 | 无套内射视频囯产 | 亚洲一区二区三区含羞草 | 精品乱码久久久久久久 | 欧美日韩色另类综合 | 久久精品中文闷骚内射 | 国产精品高潮呻吟av久久 | 无码人妻丰满熟妇区五十路百度 | 亚洲欧美日韩成人高清在线一区 | 俺去俺来也在线www色官网 | av香港经典三级级 在线 | 国模大胆一区二区三区 | 精品午夜福利在线观看 | 国产97色在线 | 免 | 人人澡人摸人人添 | 久久精品中文闷骚内射 | 国产成人精品一区二区在线小狼 | 夜夜夜高潮夜夜爽夜夜爰爰 | 少妇久久久久久人妻无码 | 在教室伦流澡到高潮hnp视频 | 免费男性肉肉影院 | 荫蒂被男人添的好舒服爽免费视频 | 亚洲一区二区三区国产精华液 | 欧美xxxxx精品 | 精品亚洲韩国一区二区三区 | 波多野结衣av在线观看 | 九一九色国产 | 亚洲精品午夜国产va久久成人 | 国产精品二区一区二区aⅴ污介绍 | 免费人成在线观看网站 | 成人女人看片免费视频放人 | 国产婷婷色一区二区三区在线 | 日韩欧美成人免费观看 | 国产亚洲精品久久久久久 | 久久aⅴ免费观看 | 国产精品成人av在线观看 | 熟妇女人妻丰满少妇中文字幕 | 久久久久成人精品免费播放动漫 | 又粗又大又硬毛片免费看 | 亚洲一区二区三区 | a片在线免费观看 | 永久免费精品精品永久-夜色 | 伊人久久婷婷五月综合97色 | 午夜福利电影 | 亚洲精品鲁一鲁一区二区三区 | 人人妻人人澡人人爽欧美精品 | 青青草原综合久久大伊人精品 | 日本熟妇人妻xxxxx人hd | 人人爽人人爽人人片av亚洲 | 亚洲日韩精品欧美一区二区 | 精品国精品国产自在久国产87 | 麻豆国产人妻欲求不满谁演的 | 精品人人妻人人澡人人爽人人 | 女高中生第一次破苞av | 天海翼激烈高潮到腰振不止 | 国产精品18久久久久久麻辣 | 人妻互换免费中文字幕 | 国产亚洲精品久久久久久 | 成人欧美一区二区三区 | 少妇人妻av毛片在线看 | 亚洲人亚洲人成电影网站色 | 欧美成人家庭影院 | 捆绑白丝粉色jk震动捧喷白浆 | 国产精品久久久久9999小说 | 国产极品美女高潮无套在线观看 | 人妻与老人中文字幕 | 国产精品久久久午夜夜伦鲁鲁 | 国产成人精品一区二区在线小狼 | 免费无码午夜福利片69 | 国产人妻人伦精品1国产丝袜 | 人人妻人人澡人人爽精品欧美 | 国产精品久久国产精品99 | 久久久久久久人妻无码中文字幕爆 | 亚洲天堂2017无码中文 | 中文字幕 人妻熟女 | 国产suv精品一区二区五 | 国产在线aaa片一区二区99 | 中文字幕无码免费久久99 | 樱花草在线社区www | 国产精品久久久久久亚洲毛片 | 国产性生交xxxxx无码 | 男女猛烈xx00免费视频试看 | 久久久久久国产精品无码下载 | 日本熟妇乱子伦xxxx | 国产精品嫩草久久久久 | 午夜无码区在线观看 | 色情久久久av熟女人妻网站 | 亚洲国产精华液网站w | 欧洲vodafone精品性 | 婷婷丁香五月天综合东京热 | 日日麻批免费40分钟无码 | 天干天干啦夜天干天2017 | 国产真人无遮挡作爱免费视频 | 精品国产一区二区三区四区在线看 | 97精品国产97久久久久久免费 | 亚洲国产精品久久久天堂 | 国产无套粉嫩白浆在线 | 久久久久99精品成人片 | 青草视频在线播放 | 丰满少妇弄高潮了www | 国产片av国语在线观看 | 国产无遮挡吃胸膜奶免费看 | 亚欧洲精品在线视频免费观看 | 午夜福利不卡在线视频 | 国产婷婷色一区二区三区在线 | 欧美日韩在线亚洲综合国产人 | 国产精品国产自线拍免费软件 | 天堂а√在线地址中文在线 | 99久久久国产精品无码免费 | 国产精品无码成人午夜电影 | a在线亚洲男人的天堂 | 我要看www免费看插插视频 | 国产激情综合五月久久 | 99久久精品日本一区二区免费 | 强辱丰满人妻hd中文字幕 | 少妇愉情理伦片bd | 久久国产精品_国产精品 | 久久亚洲精品成人无码 | 毛片内射-百度 | 好男人www社区 | 性欧美熟妇videofreesex | 一区二区三区乱码在线 | 欧洲 | 亚洲另类伦春色综合小说 | 丰满肥臀大屁股熟妇激情视频 | 国产精品久久久久7777 | 亚洲天堂2017无码 | 亚洲理论电影在线观看 | 国产精品自产拍在线观看 | 麻豆国产丝袜白领秘书在线观看 | 亚洲成av人综合在线观看 | 国产精品嫩草久久久久 | 亚洲日韩av片在线观看 | www成人国产高清内射 | 国产精品自产拍在线观看 | 国产精品久免费的黄网站 | 国产卡一卡二卡三 | 狠狠色噜噜狠狠狠7777奇米 | 中文字幕无码免费久久99 | 中文字幕无码免费久久9一区9 | 国产艳妇av在线观看果冻传媒 | 丁香啪啪综合成人亚洲 | 天天燥日日燥 | 小泽玛莉亚一区二区视频在线 | 亚洲日本va中文字幕 | 日韩欧美中文字幕公布 | 色综合久久中文娱乐网 | 人妻少妇被猛烈进入中文字幕 | 色婷婷欧美在线播放内射 | 国内少妇偷人精品视频 | 亚洲中文无码av永久不收费 | 人人妻人人澡人人爽精品欧美 | 黑森林福利视频导航 | 欧洲vodafone精品性 | 欧美乱妇无乱码大黄a片 | 欧洲vodafone精品性 | 日韩精品成人一区二区三区 | 午夜免费福利小电影 | 亚洲欧洲日本无在线码 | 亚洲熟妇自偷自拍另类 | 中文字幕av伊人av无码av | 亚洲成av人片在线观看无码不卡 | 国产真实伦对白全集 | 特黄特色大片免费播放器图片 | 色五月五月丁香亚洲综合网 | 日韩视频 中文字幕 视频一区 | 蜜桃无码一区二区三区 | 对白脏话肉麻粗话av | 999久久久国产精品消防器材 | 亚洲色大成网站www国产 | 午夜精品一区二区三区在线观看 | 亚洲热妇无码av在线播放 | 国产午夜无码精品免费看 | 亚洲阿v天堂在线 | 99er热精品视频 | 国产精品自产拍在线观看 | 美女毛片一区二区三区四区 | 精品国产国产综合精品 | 国产成人一区二区三区在线观看 | 永久免费观看国产裸体美女 | 国内精品人妻无码久久久影院 | 中国大陆精品视频xxxx | 久久久成人毛片无码 | 亚洲精品综合五月久久小说 | 国产精品无码成人午夜电影 | 欧美黑人性暴力猛交喷水 | 日本一卡二卡不卡视频查询 | 99精品无人区乱码1区2区3区 | √8天堂资源地址中文在线 | 无码人妻出轨黑人中文字幕 | 欧美喷潮久久久xxxxx | 国产午夜福利亚洲第一 | 久久99精品久久久久久 | 精品熟女少妇av免费观看 | a国产一区二区免费入口 | 丰腴饱满的极品熟妇 | 久久99精品国产.久久久久 | 蜜桃视频插满18在线观看 | 东京无码熟妇人妻av在线网址 | 色诱久久久久综合网ywww | 秋霞成人午夜鲁丝一区二区三区 | 中文字幕乱码亚洲无线三区 | 奇米影视7777久久精品 | 国色天香社区在线视频 | 久久久久久av无码免费看大片 | 国产va免费精品观看 | 亚洲国产精品无码一区二区三区 | 国产成人综合在线女婷五月99播放 | 久久精品人妻少妇一区二区三区 | 欧美日韩在线亚洲综合国产人 | 在教室伦流澡到高潮hnp视频 | 国产又爽又猛又粗的视频a片 | 亚洲精品一区二区三区婷婷月 | 日本精品高清一区二区 | 无遮挡国产高潮视频免费观看 | 亚洲呦女专区 | 欧美怡红院免费全部视频 | 日本免费一区二区三区最新 | 在线精品亚洲一区二区 | 国产精品嫩草久久久久 | 亚洲国产av精品一区二区蜜芽 | 久久综合激激的五月天 | 亚洲一区二区三区 | 国产国语老龄妇女a片 | 久久精品女人的天堂av | 色情久久久av熟女人妻网站 | 内射巨臀欧美在线视频 | 综合人妻久久一区二区精品 | 奇米影视888欧美在线观看 | 国内精品一区二区三区不卡 | 国产精品久久久久久久影院 | 国产精品手机免费 | 俺去俺来也在线www色官网 | 久久精品国产亚洲精品 | 国产精品久久久久久亚洲影视内衣 | 人妻无码久久精品人妻 | 色妞www精品免费视频 | 精品无码国产一区二区三区av | 亚洲精品鲁一鲁一区二区三区 | 色爱情人网站 | 欧美自拍另类欧美综合图片区 | 18无码粉嫩小泬无套在线观看 | 国产精品99爱免费视频 | 亚洲午夜久久久影院 | 日韩视频 中文字幕 视频一区 | 色欲av亚洲一区无码少妇 | 国产成人无码a区在线观看视频app | 中文字幕 人妻熟女 | 国产做国产爱免费视频 | 99久久99久久免费精品蜜桃 | 色一情一乱一伦一视频免费看 | 久久国产精品萌白酱免费 | 国产精品理论片在线观看 | 亚洲日韩av一区二区三区中文 | 少妇性l交大片 | 国产色精品久久人妻 | 无码人妻出轨黑人中文字幕 | 国产精品美女久久久久av爽李琼 | 欧美日韩综合一区二区三区 | 正在播放东北夫妻内射 | 国产精品第一国产精品 | 国产成人无码午夜视频在线观看 | 久久久精品欧美一区二区免费 | av无码久久久久不卡免费网站 | 国产性猛交╳xxx乱大交 国产精品久久久久久无码 欧洲欧美人成视频在线 | 黑人玩弄人妻中文在线 | 精品久久8x国产免费观看 | 真人与拘做受免费视频一 | 精品国产av色一区二区深夜久久 | 麻豆国产人妻欲求不满 | 欧美成人午夜精品久久久 | 亚洲国产精品久久久天堂 | 亚洲小说图区综合在线 | 少妇无套内谢久久久久 | 久久综合狠狠综合久久综合88 | 亚洲熟妇色xxxxx欧美老妇 | 亚洲啪av永久无码精品放毛片 | 精品久久久无码人妻字幂 | 国精品人妻无码一区二区三区蜜柚 | 精品日本一区二区三区在线观看 | 久久精品国产大片免费观看 | 呦交小u女精品视频 | 亚洲の无码国产の无码影院 | 国产情侣作爱视频免费观看 | 熟女少妇在线视频播放 | 无码一区二区三区在线观看 | 国产人妻精品一区二区三区 | 十八禁视频网站在线观看 | 成人无码精品1区2区3区免费看 | 狠狠色欧美亚洲狠狠色www | 性欧美videos高清精品 | 东京热一精品无码av | 国产黄在线观看免费观看不卡 | 久久久久se色偷偷亚洲精品av | 黑人玩弄人妻中文在线 | 国产亚洲精品久久久久久久 | 中文字幕乱码亚洲无线三区 | 国产人妻人伦精品1国产丝袜 | 亚洲一区二区三区国产精华液 | 久久天天躁狠狠躁夜夜免费观看 | 欧美zoozzooz性欧美 | 狠狠色噜噜狠狠狠7777奇米 | 久久99精品久久久久久动态图 | 日本熟妇浓毛 | 亚洲熟悉妇女xxx妇女av | 人妻天天爽夜夜爽一区二区 | 久久五月精品中文字幕 | 久久精品一区二区三区四区 | 牛和人交xxxx欧美 | 麻豆蜜桃av蜜臀av色欲av | 无码国产激情在线观看 | 日韩人妻少妇一区二区三区 | 亚洲国产成人av在线观看 | 一本久久伊人热热精品中文字幕 | 亚洲自偷精品视频自拍 | 国精产品一品二品国精品69xx | 乱人伦人妻中文字幕无码 | 久久久久久久人妻无码中文字幕爆 | 日韩人妻无码一区二区三区久久99 | 亚洲国产欧美在线成人 | 精品亚洲成av人在线观看 | 国产va免费精品观看 | 久久精品视频在线看15 | 欧美刺激性大交 | 国产精品久久国产三级国 | 亚洲国产综合无码一区 | 人人妻人人藻人人爽欧美一区 | 日本饥渴人妻欲求不满 | 欧美日韩综合一区二区三区 | 无码精品国产va在线观看dvd | 精品一二三区久久aaa片 | 老头边吃奶边弄进去呻吟 | 亚洲精品无码国产 | 又黄又爽又色的视频 | 欧美 亚洲 国产 另类 | 噜噜噜亚洲色成人网站 | 黑人粗大猛烈进出高潮视频 | 精品夜夜澡人妻无码av蜜桃 | 97色伦图片97综合影院 | 亚洲中文无码av永久不收费 | www一区二区www免费 | 少妇无套内谢久久久久 | 无码成人精品区在线观看 | 国产色xx群视频射精 | 国产成人av免费观看 | 久久久久久国产精品无码下载 | 97资源共享在线视频 | 亚洲区欧美区综合区自拍区 | 国产成人无码区免费内射一片色欲 | 丰腴饱满的极品熟妇 | 色婷婷久久一区二区三区麻豆 | 国产后入清纯学生妹 | 无码纯肉视频在线观看 | 日日摸日日碰夜夜爽av | 欧美野外疯狂做受xxxx高潮 | 国产麻豆精品精东影业av网站 | 粗大的内捧猛烈进出视频 | 香港三级日本三级妇三级 | 成人无码视频在线观看网站 | 日日碰狠狠丁香久燥 | 图片小说视频一区二区 | 99久久精品无码一区二区毛片 | 中文字幕无码日韩欧毛 | 乌克兰少妇xxxx做受 | 白嫩日本少妇做爰 | 18精品久久久无码午夜福利 | 2020最新国产自产精品 | 日韩成人一区二区三区在线观看 | 国产精品国产自线拍免费软件 | 啦啦啦www在线观看免费视频 | 亚洲色偷偷偷综合网 | 国产小呦泬泬99精品 | 亚洲国产精品一区二区第一页 | 国产精品久久久午夜夜伦鲁鲁 | 国产成人精品一区二区在线小狼 | 给我免费的视频在线观看 | 三上悠亚人妻中文字幕在线 | 久久伊人色av天堂九九小黄鸭 | 亚洲无人区午夜福利码高清完整版 | 日本肉体xxxx裸交 | 亚洲色在线无码国产精品不卡 | 高清国产亚洲精品自在久久 | 久久午夜无码鲁丝片 | 国产疯狂伦交大片 | 高潮毛片无遮挡高清免费视频 | 97精品人妻一区二区三区香蕉 | 亚洲成熟女人毛毛耸耸多 | 国产免费久久精品国产传媒 | 强开小婷嫩苞又嫩又紧视频 | 免费男性肉肉影院 | 色偷偷人人澡人人爽人人模 | 少妇的肉体aa片免费 | 中文久久乱码一区二区 | 日本饥渴人妻欲求不满 | 青春草在线视频免费观看 | 又大又硬又黄的免费视频 | 欧美性黑人极品hd | 久久久久久亚洲精品a片成人 | 欧美日本免费一区二区三区 | 99视频精品全部免费免费观看 | 午夜熟女插插xx免费视频 | 精品日本一区二区三区在线观看 | 在线成人www免费观看视频 | 巨爆乳无码视频在线观看 | 国产人妻精品午夜福利免费 | 76少妇精品导航 | 东京热男人av天堂 | 强奷人妻日本中文字幕 | 国产成人无码专区 | 黄网在线观看免费网站 | 日本成熟视频免费视频 | 国产凸凹视频一区二区 | 亚欧洲精品在线视频免费观看 | 亚洲熟妇色xxxxx欧美老妇y | 国产成人无码专区 | 老头边吃奶边弄进去呻吟 | 一本无码人妻在中文字幕免费 | 国产精品18久久久久久麻辣 | 亚洲春色在线视频 | 国精品人妻无码一区二区三区蜜柚 | 2019nv天堂香蕉在线观看 | 一二三四在线观看免费视频 | 老子影院午夜伦不卡 | 又紧又大又爽精品一区二区 | 亚洲综合伊人久久大杳蕉 | 亚洲欧美日韩成人高清在线一区 | 国产香蕉尹人综合在线观看 | 人妻尝试又大又粗久久 | 亚洲日本一区二区三区在线 | 国产女主播喷水视频在线观看 | 精品午夜福利在线观看 | 国产精品久久久久9999小说 | 国产精品无码久久av | a在线观看免费网站大全 | 国内少妇偷人精品视频 | 波多野结衣一区二区三区av免费 | 欧美第一黄网免费网站 | 黑人巨大精品欧美一区二区 | 秋霞成人午夜鲁丝一区二区三区 | 国产亚洲精品久久久久久久久动漫 | 欧美 亚洲 国产 另类 | 成人亚洲精品久久久久软件 | 久久99精品久久久久婷婷 | 中文字幕人妻无码一夲道 | 亚洲国产精华液网站w | 老熟妇仑乱视频一区二区 | 久久国语露脸国产精品电影 | 久久国产36精品色熟妇 | 六月丁香婷婷色狠狠久久 | 在线观看国产一区二区三区 | 亚洲成av人综合在线观看 | 真人与拘做受免费视频 | 免费观看激色视频网站 | 精品无码成人片一区二区98 | 色综合视频一区二区三区 | 国产免费久久久久久无码 | 乱码av麻豆丝袜熟女系列 | 久久久久久av无码免费看大片 | 亚洲欧美综合区丁香五月小说 | 激情内射日本一区二区三区 | 久久国产自偷自偷免费一区调 | 亚洲 另类 在线 欧美 制服 | 久9re热视频这里只有精品 | 啦啦啦www在线观看免费视频 | 亚洲国产精品一区二区第一页 | 久久亚洲日韩精品一区二区三区 | 少妇久久久久久人妻无码 | 熟女俱乐部五十路六十路av | 国产极品美女高潮无套在线观看 | 精品成人av一区二区三区 | 久久99国产综合精品 | 国产成人人人97超碰超爽8 | 亚洲国产精品无码久久久久高潮 | 日韩亚洲欧美精品综合 | 国产真实夫妇视频 | 亚洲中文字幕av在天堂 | 国产区女主播在线观看 | 美女张开腿让人桶 | 少妇无码吹潮 | 久久精品视频在线看15 | 欧美黑人性暴力猛交喷水 | 色狠狠av一区二区三区 | 天海翼激烈高潮到腰振不止 | 国产熟妇高潮叫床视频播放 | 中文精品久久久久人妻不卡 | 欧美猛少妇色xxxxx | 少妇无码吹潮 | 国产手机在线αⅴ片无码观看 | 鲁一鲁av2019在线 | 午夜无码区在线观看 | 精品国产国产综合精品 | 免费国产黄网站在线观看 | 性做久久久久久久免费看 | 熟女体下毛毛黑森林 | 中文亚洲成a人片在线观看 | 国产精品国产三级国产专播 | 人妻无码久久精品人妻 | 国产午夜亚洲精品不卡下载 | 久久国产精品精品国产色婷婷 | 国产国产精品人在线视 | 国产精品久久久午夜夜伦鲁鲁 | 精品人妻人人做人人爽 | 色婷婷av一区二区三区之红樱桃 | 樱花草在线社区www | 97久久精品无码一区二区 | 国精品人妻无码一区二区三区蜜柚 | 老子影院午夜精品无码 | 国产另类ts人妖一区二区 | 熟妇人妻激情偷爽文 | 亚洲一区二区三区播放 | 亚洲欧美综合区丁香五月小说 | 香港三级日本三级妇三级 | 亲嘴扒胸摸屁股激烈网站 | 无码午夜成人1000部免费视频 | 久久久精品456亚洲影院 | 中文字幕乱码中文乱码51精品 | 国产麻豆精品一区二区三区v视界 | 在线 国产 欧美 亚洲 天堂 | 无遮挡国产高潮视频免费观看 | 麻豆国产97在线 | 欧洲 | 理论片87福利理论电影 | 蜜桃无码一区二区三区 | 国产在线无码精品电影网 | 福利一区二区三区视频在线观看 | 精品亚洲韩国一区二区三区 | 无码人妻久久一区二区三区不卡 | 欧美一区二区三区 | 无码一区二区三区在线 | 国产精品.xx视频.xxtv | 男人的天堂av网站 | 精品国产一区二区三区四区在线看 | 国产一区二区三区日韩精品 | 亚洲色欲久久久综合网东京热 | 又湿又紧又大又爽a视频国产 | 久久久久人妻一区精品色欧美 | 国产办公室秘书无码精品99 | 牛和人交xxxx欧美 | 婷婷丁香六月激情综合啪 | 六月丁香婷婷色狠狠久久 | 少妇高潮喷潮久久久影院 | 久久视频在线观看精品 | 精品久久久久久亚洲精品 | 欧美自拍另类欧美综合图片区 | 天堂无码人妻精品一区二区三区 | 国产精品美女久久久网av | 精品乱子伦一区二区三区 | 国产人妻精品午夜福利免费 | 狠狠色色综合网站 | 亚洲日韩av一区二区三区中文 | 亚洲精品成人福利网站 | 国产色精品久久人妻 | 波多野结衣aⅴ在线 | 中文字幕中文有码在线 | 国产成人一区二区三区在线观看 | 在线观看国产一区二区三区 | 国产精品内射视频免费 | 影音先锋中文字幕无码 | 日韩亚洲欧美精品综合 | 国产精品igao视频网 | 久久精品国产一区二区三区 | 无码人妻精品一区二区三区不卡 | 国内丰满熟女出轨videos | 日本一本二本三区免费 | 乱码av麻豆丝袜熟女系列 | 精品成在人线av无码免费看 | √天堂中文官网8在线 | 中文字幕久久久久人妻 | 台湾无码一区二区 | 波多野结衣高清一区二区三区 | 国内精品一区二区三区不卡 | 我要看www免费看插插视频 | 国产97在线 | 亚洲 | 亚洲色www成人永久网址 | 亚洲熟熟妇xxxx | 亚洲精品国产品国语在线观看 | 一本久道久久综合狠狠爱 | 国产精品视频免费播放 | 亚洲精品国产a久久久久久 | 免费无码av一区二区 | 日韩精品无码一本二本三本色 | 欧美阿v高清资源不卡在线播放 | 熟妇人妻无乱码中文字幕 | 精品人妻av区 | 欧美freesex黑人又粗又大 | 亚洲阿v天堂在线 | 免费网站看v片在线18禁无码 | 高潮毛片无遮挡高清免费 | 国产乱人偷精品人妻a片 | 18禁黄网站男男禁片免费观看 | 久久99久久99精品中文字幕 | 国产精品亚洲五月天高清 | 久久久久久久人妻无码中文字幕爆 | 久久久久99精品成人片 | 国产精品高潮呻吟av久久4虎 | 久久综合狠狠综合久久综合88 | 日日麻批免费40分钟无码 | 亚洲无人区午夜福利码高清完整版 | 国产精品久久久久久久9999 | 国产av一区二区精品久久凹凸 | 熟妇人妻无码xxx视频 | 青青久在线视频免费观看 | 玩弄中年熟妇正在播放 | 国产超碰人人爽人人做人人添 | 牲欲强的熟妇农村老妇女视频 | 一本久道久久综合狠狠爱 | 最近的中文字幕在线看视频 | 日本精品少妇一区二区三区 | 男女猛烈xx00免费视频试看 | 伊人久久大香线蕉av一区二区 | 国产精品a成v人在线播放 | 久久99久久99精品中文字幕 | 亚洲精品国偷拍自产在线麻豆 | 最新国产麻豆aⅴ精品无码 | 少妇久久久久久人妻无码 | 欧美午夜特黄aaaaaa片 | 国产无套粉嫩白浆在线 | 午夜男女很黄的视频 | 国产精品丝袜黑色高跟鞋 | ass日本丰满熟妇pics | 亚洲精品成a人在线观看 | 日韩亚洲欧美中文高清在线 | 大屁股大乳丰满人妻 | 丰满护士巨好爽好大乳 | 国产精华av午夜在线观看 | 精品无码一区二区三区的天堂 | 2019午夜福利不卡片在线 | 亚洲小说春色综合另类 | 国产精品人人爽人人做我的可爱 | 免费播放一区二区三区 | 欧美日韩人成综合在线播放 | 亚洲熟熟妇xxxx | 久久99国产综合精品 | 丰满少妇弄高潮了www | 国产精品久久国产三级国 | 日韩av无码中文无码电影 | 图片区 小说区 区 亚洲五月 | 中文字幕久久久久人妻 | 高清国产亚洲精品自在久久 | 国产精品亚洲一区二区三区喷水 | 亚洲精品无码人妻无码 | 亚洲日本在线电影 | 国产精品久久久久久无码 | 国产成人精品久久亚洲高清不卡 | 久久精品丝袜高跟鞋 | 成人亚洲精品久久久久 | 精品乱码久久久久久久 | 又粗又大又硬毛片免费看 | 十八禁视频网站在线观看 | 中文字幕日产无线码一区 | 无码人妻精品一区二区三区不卡 | 欧美精品无码一区二区三区 | 日本xxxx色视频在线观看免费 | 熟女俱乐部五十路六十路av | 亚洲成av人片天堂网无码】 | 蜜桃视频插满18在线观看 | 婷婷综合久久中文字幕蜜桃三电影 | 亚洲精品综合一区二区三区在线 | 国产午夜视频在线观看 | 国产美女极度色诱视频www | 久青草影院在线观看国产 | 亚洲成av人片在线观看无码不卡 | 又粗又大又硬毛片免费看 | 中文字幕无码av波多野吉衣 | 在线播放亚洲第一字幕 | 国产麻豆精品精东影业av网站 | 久久精品人人做人人综合 | 欧美人与善在线com | 无码国产乱人伦偷精品视频 | 内射白嫩少妇超碰 | 中文字幕日产无线码一区 | 精品偷拍一区二区三区在线看 | 国产美女精品一区二区三区 | 中文字幕人妻丝袜二区 | 色综合久久久无码网中文 | 人人澡人人妻人人爽人人蜜桃 | 亚洲色www成人永久网址 | 久久五月精品中文字幕 | 人人妻人人澡人人爽欧美精品 | 亚洲va中文字幕无码久久不卡 | 欧美日韩亚洲国产精品 | 精品国产av色一区二区深夜久久 | 欧美午夜特黄aaaaaa片 | 人人妻人人澡人人爽欧美一区 | 国产成人人人97超碰超爽8 | 人人妻人人澡人人爽精品欧美 | 人妻少妇被猛烈进入中文字幕 | 久久国产精品精品国产色婷婷 | 少妇被黑人到高潮喷出白浆 | 99麻豆久久久国产精品免费 | 两性色午夜视频免费播放 | 亚洲国产精品一区二区第一页 | 性欧美videos高清精品 | 色一情一乱一伦一区二区三欧美 | 中文字幕人妻丝袜二区 | 久久久久成人片免费观看蜜芽 | 少女韩国电视剧在线观看完整 | 在线观看国产午夜福利片 | 国产猛烈高潮尖叫视频免费 | 西西人体www44rt大胆高清 | 色综合天天综合狠狠爱 | 粗大的内捧猛烈进出视频 | 色婷婷久久一区二区三区麻豆 | 久久久久久久久888 | 人妻人人添人妻人人爱 | 最新国产麻豆aⅴ精品无码 | 人妻中文无码久热丝袜 | 乱人伦中文视频在线观看 | 国产精品无码成人午夜电影 | 国产午夜精品一区二区三区嫩草 | 日韩精品久久久肉伦网站 | 双乳奶水饱满少妇呻吟 | 99久久久无码国产aaa精品 | 国产精品久久久一区二区三区 | 色婷婷综合中文久久一本 | 粗大的内捧猛烈进出视频 | 日本爽爽爽爽爽爽在线观看免 | 澳门永久av免费网站 | 久久无码人妻影院 | 国产色精品久久人妻 | 亚洲 另类 在线 欧美 制服 | 欧美老熟妇乱xxxxx | 国内丰满熟女出轨videos | 国产suv精品一区二区五 | 久久久无码中文字幕久... | 国产精品久久久午夜夜伦鲁鲁 | 欧美激情一区二区三区成人 | 欧美亚洲国产一区二区三区 | 亚洲国产综合无码一区 | 无码人妻丰满熟妇区毛片18 | 美女毛片一区二区三区四区 | 国产精品久久久 | 久久久久成人精品免费播放动漫 | 国内少妇偷人精品视频 | 内射后入在线观看一区 | 日日躁夜夜躁狠狠躁 | 日韩人妻无码中文字幕视频 | 久久综合色之久久综合 | 免费观看激色视频网站 | 亚拍精品一区二区三区探花 | 免费人成在线视频无码 | 成人精品视频一区二区三区尤物 | 免费乱码人妻系列无码专区 | 精品厕所偷拍各类美女tp嘘嘘 | 丰满少妇人妻久久久久久 | 免费人成在线视频无码 | 老熟妇仑乱视频一区二区 | 久久久久av无码免费网 | 国产亚洲美女精品久久久2020 | 久久综合香蕉国产蜜臀av | 亚洲国产成人a精品不卡在线 | 亚洲人成无码网www | 东京热无码av男人的天堂 | 日韩精品乱码av一区二区 | 色一情一乱一伦一区二区三欧美 | 九九久久精品国产免费看小说 | 国产女主播喷水视频在线观看 | 日韩少妇白浆无码系列 | 少妇久久久久久人妻无码 | 午夜丰满少妇性开放视频 | 日韩精品久久久肉伦网站 | 无码国内精品人妻少妇 | 免费看男女做好爽好硬视频 | 中文字幕无码日韩欧毛 | 国产av人人夜夜澡人人爽麻豆 | 久久aⅴ免费观看 | 国产精品丝袜黑色高跟鞋 | 日韩精品无码免费一区二区三区 | 少女韩国电视剧在线观看完整 | 久久国内精品自在自线 | 无码人妻少妇伦在线电影 | 久久久精品成人免费观看 | 俄罗斯老熟妇色xxxx | 少妇人妻av毛片在线看 | 欧美一区二区三区视频在线观看 | 日本精品少妇一区二区三区 | 久久久无码中文字幕久... | 精品国产一区二区三区四区在线看 | 日韩人妻系列无码专区 | 日日碰狠狠丁香久燥 | 日韩精品一区二区av在线 | 日日夜夜撸啊撸 | av无码久久久久不卡免费网站 | 国产精品自产拍在线观看 | 中文字幕中文有码在线 | 国产免费观看黄av片 | 国产免费久久精品国产传媒 | 精品无码一区二区三区的天堂 | 久久亚洲a片com人成 | 国产真人无遮挡作爱免费视频 | 丰满少妇人妻久久久久久 | 久久久www成人免费毛片 | 精品国产av色一区二区深夜久久 | 欧美怡红院免费全部视频 | 噜噜噜亚洲色成人网站 | 狠狠cao日日穞夜夜穞av | 国产精品成人av在线观看 | 一本大道久久东京热无码av | 牲欲强的熟妇农村老妇女视频 | 99久久无码一区人妻 | 内射老妇bbwx0c0ck | 国产激情精品一区二区三区 | 色婷婷欧美在线播放内射 | a片免费视频在线观看 | 黑人巨大精品欧美一区二区 | 无码纯肉视频在线观看 | 丰满人妻翻云覆雨呻吟视频 | 日日天干夜夜狠狠爱 | 亚洲欧美色中文字幕在线 | 国产欧美亚洲精品a | 亚洲乱码中文字幕在线 | 成 人 网 站国产免费观看 | 人人妻人人澡人人爽人人精品 | 中文字幕人妻丝袜二区 | 欧美丰满少妇xxxx性 | 色噜噜亚洲男人的天堂 | 精品国产一区二区三区四区 | 国产舌乚八伦偷品w中 | 无码av免费一区二区三区试看 | 精品一二三区久久aaa片 | 亚洲成a人一区二区三区 | 人人澡人人妻人人爽人人蜜桃 | 99久久无码一区人妻 | 四虎永久在线精品免费网址 | 在线观看国产一区二区三区 | 日产国产精品亚洲系列 | 国产舌乚八伦偷品w中 | 国内揄拍国内精品人妻 | 久久久久人妻一区精品色欧美 | 亚洲人成网站在线播放942 | 国产亚洲精品久久久闺蜜 | 美女扒开屁股让男人桶 | 色五月丁香五月综合五月 | 99久久精品午夜一区二区 | 精品人妻人人做人人爽 | 性欧美牲交在线视频 | 免费观看黄网站 | 国产精品资源一区二区 | 乱码av麻豆丝袜熟女系列 | 18无码粉嫩小泬无套在线观看 | 国产精品欧美成人 | 免费观看黄网站 | 久久综合激激的五月天 | 国产婷婷色一区二区三区在线 | 国产成人综合色在线观看网站 | 国产精品久久福利网站 | 色欲综合久久中文字幕网 | 蜜臀aⅴ国产精品久久久国产老师 | 欧美人与物videos另类 | 欧美日本免费一区二区三区 | 女人被男人爽到呻吟的视频 | 久久亚洲精品中文字幕无男同 | 亚洲日韩av片在线观看 | 国产激情一区二区三区 | 波多野结衣乳巨码无在线观看 | 亚洲中文字幕无码中字 | 窝窝午夜理论片影院 | 熟女少妇人妻中文字幕 | 精品国产一区二区三区四区在线看 | 亚洲一区二区三区无码久久 | 国产精品久久久久无码av色戒 | 性欧美疯狂xxxxbbbb | 国产精品二区一区二区aⅴ污介绍 | 日韩亚洲欧美中文高清在线 | 中国女人内谢69xxxx | 熟女少妇人妻中文字幕 | 蜜臀aⅴ国产精品久久久国产老师 | 成人精品一区二区三区中文字幕 | 又湿又紧又大又爽a视频国产 | 精品无码国产自产拍在线观看蜜 | 一本久久a久久精品亚洲 | 99久久精品国产一区二区蜜芽 | 人妻少妇精品久久 | 欧美人与牲动交xxxx | 国产免费观看黄av片 | 丝袜 中出 制服 人妻 美腿 | 久久久久久亚洲精品a片成人 | 欧美人与禽zoz0性伦交 | 国产精品永久免费视频 | 日日摸夜夜摸狠狠摸婷婷 | 秋霞成人午夜鲁丝一区二区三区 | 久久99精品久久久久婷婷 | 成人综合网亚洲伊人 | 中国女人内谢69xxxx | 玩弄人妻少妇500系列视频 | 日韩av激情在线观看 | 成人一区二区免费视频 | 亚洲伊人久久精品影院 | 色婷婷av一区二区三区之红樱桃 | 国产超碰人人爽人人做人人添 | 狠狠色噜噜狠狠狠狠7777米奇 | 午夜福利试看120秒体验区 | 亚洲人成影院在线观看 | 欧美乱妇无乱码大黄a片 | 日韩欧美中文字幕在线三区 | 午夜理论片yy44880影院 | 西西人体www44rt大胆高清 | 在线亚洲高清揄拍自拍一品区 | 亚洲aⅴ无码成人网站国产app | 精品日本一区二区三区在线观看 | 丰满岳乱妇在线观看中字无码 | 国色天香社区在线视频 | 亚洲毛片av日韩av无码 | 精品国产福利一区二区 | 3d动漫精品啪啪一区二区中 | 日本一区二区三区免费高清 | 国产成人精品优优av | 日产国产精品亚洲系列 | 中文字幕无码视频专区 | 99久久久无码国产aaa精品 | 亚洲国产精品无码一区二区三区 | 欧美人与禽猛交狂配 | 性啪啪chinese东北女人 | 熟妇激情内射com | 亚洲日韩中文字幕在线播放 | 欧美猛少妇色xxxxx | av在线亚洲欧洲日产一区二区 | 精品国产一区av天美传媒 | 丁香花在线影院观看在线播放 | 成人欧美一区二区三区黑人免费 | 秋霞成人午夜鲁丝一区二区三区 | 国产成人久久精品流白浆 | 精品国产一区二区三区四区在线看 | 亚洲国产精品一区二区第一页 | 色综合久久久久综合一本到桃花网 | 任你躁国产自任一区二区三区 | 欧美第一黄网免费网站 | 高潮毛片无遮挡高清免费视频 | 成人无码视频免费播放 | 色窝窝无码一区二区三区色欲 | 人人澡人人妻人人爽人人蜜桃 | 精品无码av一区二区三区 | 国产av剧情md精品麻豆 | 377p欧洲日本亚洲大胆 | 亚洲中文字幕久久无码 | 国模大胆一区二区三区 | 曰本女人与公拘交酡免费视频 | 高清国产亚洲精品自在久久 | 午夜福利试看120秒体验区 | 国产做国产爱免费视频 | 亚洲成a人片在线观看无码3d | 无码午夜成人1000部免费视频 | 亚洲s色大片在线观看 | 国模大胆一区二区三区 | 国产三级久久久精品麻豆三级 | 国语自产偷拍精品视频偷 | 东京热无码av男人的天堂 | 精品国产麻豆免费人成网站 | 娇妻被黑人粗大高潮白浆 | 日本一区二区三区免费播放 | 无码国产乱人伦偷精品视频 | 亚洲欧美精品伊人久久 | 欧美高清在线精品一区 | 一区二区三区乱码在线 | 欧洲 | 人妻无码久久精品人妻 | 99久久人妻精品免费一区 | 日本又色又爽又黄的a片18禁 | 丰满肥臀大屁股熟妇激情视频 | 欧洲美熟女乱又伦 | 夜夜高潮次次欢爽av女 | 国精品人妻无码一区二区三区蜜柚 | 久久无码人妻影院 | 国产精品99久久精品爆乳 | 精品国精品国产自在久国产87 | 国产性猛交╳xxx乱大交 国产精品久久久久久无码 欧洲欧美人成视频在线 | 对白脏话肉麻粗话av | 小sao货水好多真紧h无码视频 | 国产乱人伦偷精品视频 | 国产成人精品视频ⅴa片软件竹菊 | 男女下面进入的视频免费午夜 | 亚洲色成人中文字幕网站 | 丝袜 中出 制服 人妻 美腿 | 国产香蕉97碰碰久久人人 | 任你躁在线精品免费 | 久在线观看福利视频 | 97久久超碰中文字幕 | 久久国产精品偷任你爽任你 | 精品成在人线av无码免费看 | 高清国产亚洲精品自在久久 | 亚洲精品欧美二区三区中文字幕 | 久久久久se色偷偷亚洲精品av | 亚洲国产一区二区三区在线观看 | 日韩人妻少妇一区二区三区 | 欧美丰满熟妇xxxx性ppx人交 | 精品无码一区二区三区爱欲 | 漂亮人妻洗澡被公强 日日躁 | 日韩 欧美 动漫 国产 制服 | 少妇无套内谢久久久久 | 亚洲日韩精品欧美一区二区 | 国产乱人伦偷精品视频 | 欧美日韩色另类综合 | 欧美 丝袜 自拍 制服 另类 | 99久久精品国产一区二区蜜芽 | 亚洲色欲色欲天天天www | 97久久精品无码一区二区 | 麻豆国产丝袜白领秘书在线观看 | 国产亚洲tv在线观看 | 免费无码一区二区三区蜜桃大 | 亚洲综合色区中文字幕 | 丰满妇女强制高潮18xxxx | 久久久精品欧美一区二区免费 | 国产在线精品一区二区高清不卡 | 国产三级精品三级男人的天堂 | 内射老妇bbwx0c0ck | 精品久久久久久亚洲精品 | 97精品国产97久久久久久免费 | 亚洲综合在线一区二区三区 | 日本欧美一区二区三区乱码 | 亚洲色大成网站www | 最新国产乱人伦偷精品免费网站 | 偷窥日本少妇撒尿chinese | 妺妺窝人体色www婷婷 | 国产综合在线观看 | 亚洲国产欧美在线成人 | 亚洲男女内射在线播放 | 一本久道高清无码视频 | 99久久精品国产一区二区蜜芽 | 天天摸天天透天天添 | 国产综合色产在线精品 | 亚洲色www成人永久网址 | 综合激情五月综合激情五月激情1 | 欧美日韩一区二区综合 | 人人澡人摸人人添 | 欧美变态另类xxxx | 国产成人综合在线女婷五月99播放 | 国产亚洲精品精品国产亚洲综合 | 女高中生第一次破苞av | 国产极品美女高潮无套在线观看 | 日本成熟视频免费视频 | 正在播放东北夫妻内射 | 亚洲成色www久久网站 | 国产成人综合在线女婷五月99播放 | 国语自产偷拍精品视频偷 | 97精品国产97久久久久久免费 | 色窝窝无码一区二区三区色欲 | 无套内谢的新婚少妇国语播放 | 亚洲 欧美 激情 小说 另类 | 国产精品爱久久久久久久 | 国产午夜亚洲精品不卡 | 高潮毛片无遮挡高清免费视频 | 娇妻被黑人粗大高潮白浆 | 性生交片免费无码看人 | 小sao货水好多真紧h无码视频 | 欧美丰满老熟妇xxxxx性 | 白嫩日本少妇做爰 | 亚洲精品国产精品乱码视色 | 久久久久成人精品免费播放动漫 | 亚洲成a人片在线观看无码3d | 欧美人与牲动交xxxx | 一个人看的视频www在线 | 极品嫩模高潮叫床 | 中文字幕乱码人妻无码久久 | 亚洲综合久久一区二区 | 妺妺窝人体色www在线小说 | 中国女人内谢69xxxxxa片 | 国产精品办公室沙发 | 18禁止看的免费污网站 | 熟妇人妻无码xxx视频 | 久久久久人妻一区精品色欧美 | 久久久久99精品国产片 | 亚洲人成影院在线无码按摩店 | 99久久精品无码一区二区毛片 | 欧美激情一区二区三区成人 | 精品日本一区二区三区在线观看 | 日韩人妻系列无码专区 | 国产人妻精品一区二区三区不卡 | 18精品久久久无码午夜福利 | 国产精品va在线观看无码 | 中文字幕无码人妻少妇免费 | 欧美老熟妇乱xxxxx | 东京热无码av男人的天堂 | 秋霞成人午夜鲁丝一区二区三区 | 日本一本二本三区免费 | 人人澡人人妻人人爽人人蜜桃 | 日韩少妇内射免费播放 | 国产综合在线观看 | 亚洲一区二区三区播放 | 青青青爽视频在线观看 | а√天堂www在线天堂小说 | 久在线观看福利视频 | 国产精品理论片在线观看 | 日韩av无码一区二区三区不卡 | 激情内射日本一区二区三区 | 无码人妻出轨黑人中文字幕 | 成人亚洲精品久久久久软件 | 久久精品人人做人人综合试看 | 久久亚洲精品成人无码 | 成人无码视频在线观看网站 | 国产亚洲精品久久久久久久 | 国产片av国语在线观看 | 亚洲精品综合一区二区三区在线 | 色综合久久久无码中文字幕 | 日本精品久久久久中文字幕 | 亚洲va欧美va天堂v国产综合 | 青青草原综合久久大伊人精品 | √天堂资源地址中文在线 | 久久久av男人的天堂 | 欧美日韩久久久精品a片 | 影音先锋中文字幕无码 | 亚洲一区二区三区国产精华液 | 亚洲性无码av中文字幕 | 国产成人综合在线女婷五月99播放 | 黑森林福利视频导航 | 国产成人精品无码播放 | 十八禁视频网站在线观看 | 嫩b人妻精品一区二区三区 | 亚洲精品国产第一综合99久久 | 久久久久99精品成人片 | 人妻无码αv中文字幕久久琪琪布 | 成人毛片一区二区 | 国语自产偷拍精品视频偷 | 熟女少妇人妻中文字幕 | 在线欧美精品一区二区三区 | 2019nv天堂香蕉在线观看 | 亚洲精品一区二区三区在线观看 | 久久久精品欧美一区二区免费 | 无码纯肉视频在线观看 | 日本大香伊一区二区三区 | 国产av一区二区三区最新精品 | 鲁鲁鲁爽爽爽在线视频观看 | 在线看片无码永久免费视频 | 亚洲精品一区二区三区在线 | 午夜精品久久久内射近拍高清 | 久久精品国产日本波多野结衣 | 人妻无码久久精品人妻 | 嫩b人妻精品一区二区三区 | 377p欧洲日本亚洲大胆 | 精品国产福利一区二区 | 国产熟妇另类久久久久 | www国产亚洲精品久久久日本 | 狠狠噜狠狠狠狠丁香五月 | 少妇无码吹潮 | 毛片内射-百度 | 精品久久综合1区2区3区激情 | 300部国产真实乱 | 少妇愉情理伦片bd | 精品偷自拍另类在线观看 | 国产午夜精品一区二区三区嫩草 | 国产黄在线观看免费观看不卡 | 国产精品国产自线拍免费软件 | 男女超爽视频免费播放 | 国产精品人人爽人人做我的可爱 | 国产一区二区三区精品视频 | 亚洲热妇无码av在线播放 | 精品无人区无码乱码毛片国产 | 水蜜桃亚洲一二三四在线 | 欧美日韩在线亚洲综合国产人 | 国产成人精品一区二区在线小狼 | 亚洲男女内射在线播放 | 欧美日韩综合一区二区三区 | 亚洲の无码国产の无码步美 | 理论片87福利理论电影 | 精品人妻人人做人人爽夜夜爽 | 国产深夜福利视频在线 | 亚洲精品中文字幕 | 一本色道婷婷久久欧美 | 欧美 日韩 人妻 高清 中文 | 在线成人www免费观看视频 | 精品aⅴ一区二区三区 | 日韩av无码一区二区三区 | 97无码免费人妻超级碰碰夜夜 | 中文字幕无码乱人伦 | 全球成人中文在线 | 亚洲综合伊人久久大杳蕉 | 少妇厨房愉情理9仑片视频 | 亚洲aⅴ无码成人网站国产app | 欧美色就是色 | av无码久久久久不卡免费网站 | 亚洲国产成人a精品不卡在线 | 久久综合色之久久综合 | 性色av无码免费一区二区三区 | 国产69精品久久久久app下载 | 亚洲另类伦春色综合小说 | 99久久亚洲精品无码毛片 | 免费乱码人妻系列无码专区 | 四十如虎的丰满熟妇啪啪 | 综合网日日天干夜夜久久 | 国模大胆一区二区三区 | 永久黄网站色视频免费直播 | 亚洲国产精品无码一区二区三区 | 高清不卡一区二区三区 | 国产免费久久久久久无码 | 色诱久久久久综合网ywww | 一本久久a久久精品亚洲 | 初尝人妻少妇中文字幕 | 牲欲强的熟妇农村老妇女视频 | 男女性色大片免费网站 | 国产亚洲人成在线播放 | 亚洲综合久久一区二区 | 男女爱爱好爽视频免费看 | 久久久久99精品成人片 | 东北女人啪啪对白 | 国产精品无码永久免费888 | 中文字幕无码免费久久99 | 成人无码视频免费播放 | 亚洲欧洲日本无在线码 | 久久久精品国产sm最大网站 | 国产精品视频免费播放 | 无码国模国产在线观看 | 色妞www精品免费视频 | 荫蒂添的好舒服视频囗交 | 成人试看120秒体验区 | 久久久久久久人妻无码中文字幕爆 | 亚洲の无码国产の无码影院 |