static int?nvme_alloc_admin_tags(struct nvme_dev *dev)

{

if (!dev->ctrl.admin_q) {

dev->admin_tagset.ops = &nvme_mq_admin_ops;

dev->admin_tagset.nr_hw_queues = 1;

dev->admin_tagset.queue_depth = NVME_AQ_BLKMQ_DEPTH - 1;

dev->admin_tagset.timeout = ADMIN_TIMEOUT;

dev->admin_tagset.numa_node = dev_to_node(dev->dev);

dev->admin_tagset.cmd_size = nvme_cmd_size(dev);

dev->admin_tagset.driver_data = dev;

if (blk_mq_alloc_tag_set(&dev->admin_tagset))

return -ENOMEM;

dev->ctrl.admin_q =?blk_mq_init_queue(&dev->admin_tagset);

if (IS_ERR(dev->ctrl.admin_q)) {

blk_mq_free_tag_set(&dev->admin_tagset);

return -ENOMEM;

}

if (!blk_get_queue(dev->ctrl.admin_q)) {

nvme_dev_remove_admin(dev);

dev->ctrl.admin_q = NULL;

return -ENODEV;

}

} else

blk_mq_start_stopped_hw_queues(dev->ctrl.admin_q, true);

return 0;

}

這個(gè)函數(shù)是NVMe設(shè)備采用Multi-Queue（MQ）的核心函數(shù)，所以在展開(kāi)解析這個(gè)函數(shù)之前，我們先聊聊Linux Multi-Queue Block Layer.?

如之前NVME文章(NVMe系列專題之二：隊(duì)列(Queue)管理)中介紹，多隊(duì)列、原生異步、無(wú)鎖是NVMe的最大特色，這些為高性能而生的設(shè)計(jì)迫使Linux Kernel在3.19拋棄了老的單隊(duì)列Block Layer而轉(zhuǎn)向Multi-Queue Block Layer. 這個(gè)Multi-Queue Block Layer的架構(gòu)直接對(duì)應(yīng)于NVMe的多隊(duì)列設(shè)計(jì)，如下圖：

所謂的Multi-Queue機(jī)制就是在多核CPU的情況下，將不同的block層提交隊(duì)列分配到不同的CPU核上，以更好的平衡IO的工作負(fù)載，大幅提高SSD等存儲(chǔ)設(shè)備的IO效率。Multi-Queue Block Layer長(zhǎng)啥樣子呢？畫了個(gè)圖，看一下：

• Multi-Queue Block Layer分為兩層，Software Queues和Hardware Dispatch Queues.?

• Softeware Queues是per core的，Queue的數(shù)目與協(xié)議有關(guān)系，比如NVMe協(xié)議，可以有最多64K對(duì) IO SQ/CQ。Software Queues層做的事情如上圖標(biāo)識(shí)部分。

• Hardware Queues數(shù)目由底層設(shè)備驅(qū)動(dòng)決定，可以1個(gè)或者多個(gè)。最大支持?jǐn)?shù)目一般會(huì)與MSI-X中斷最大數(shù)目一樣，支持2K。設(shè)備驅(qū)動(dòng)通過(guò)map_queue維護(hù)Software Queues和Hardware Queues之間的對(duì)接關(guān)系。

• 需要強(qiáng)調(diào)一點(diǎn)，Hardware Queues與Software Queues的數(shù)目不一定相等，上圖1:1 Mapping的情況屬于最理想的情況。

到這里，Multi-Queue Block Layer基本理論我們就算回顧完畢了，我回過(guò)頭來(lái)在看看nvme_alloc_admin_tags這個(gè)函數(shù)。

從上面的代碼來(lái)看，主要分為三步：

• 對(duì)admin_tagset結(jié)構(gòu)體初始化，在這個(gè)過(guò)程中特別提一下ops的賦值(后續(xù)會(huì)用到)。

  static struct blk_mq_ops?nvme_mq_admin_ops?= {

  .queue_rq = nvme_queue_rq,

  .complete = nvme_complete_rq,

  .init_hctx =?nvme_admin_init_hctx,

  .exit_hctx ? ? ?= nvme_admin_exit_hctx,

  .init_request = nvme_admin_init_request,

  .timeout = nvme_timeout,

  };

• 接著調(diào)用blk_mq_alloc_tag_set分配tag set并與request queue關(guān)聯(lián)，

• 然后調(diào)用blk_mq_init_allocated_queue對(duì)hardware queue和software queues進(jìn)行初始化，并配置兩者之間的mapping關(guān)系，最后將返回值傳遞給dev->ctrl.admin_q。

blk_mq_init_allocated_queue調(diào)用blk_mq_realloc_hw_ctxs，然調(diào)用blk_mq_init_hctx，最后調(diào)用set->ops->init_hctx，也就是nvme_admin_init_hctx。

也就是說(shuō)，blk_mq_init_allocated_queue初始化最終調(diào)用的是nvme_admin_init_hctx：

static int?nvme_admin_init_hctx(struct blk_mq_hw_ctx *hctx, void *data,

unsigned int hctx_idx)

{

struct nvme_dev *dev = data;

struct nvme_queue *nvmeq = dev->queues[0];

WARN_ON(hctx_idx != 0);

WARN_ON(dev->admin_tagset.tags[0] != hctx->tags);

WARN_ON(nvmeq->tags);

hctx->driver_data =?nvmeq;

nvmeq->tags = &dev->admin_tagset.tags[0];

return 0;

}

從上面的code，可以發(fā)現(xiàn)，Hardware Queue初始化時(shí)，會(huì)將nvme_configure_admin_queue函數(shù)中申請(qǐng)的NVMe Queue(nvmeq)賦值給Hardware Queue的driver_data. 由此可知，NVMe Queue與Hardware Queue是一一對(duì)應(yīng)的關(guān)系，這也是NVMe與Linux Multi-Queue Block Layer默契配合的關(guān)鍵之處。

總結(jié)

以上是生活随笔為你收集整理的Linux NVMe Driver学习笔记之6：Admin Queue与Blk-mq初始化的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。