blk-mq: switch ctx pending map to the sparser blk_align_bitmap
authorJens Axboe <axboe@fb.com>
Mon, 19 May 2014 15:23:55 +0000 (09:23 -0600)
committerJens Axboe <axboe@fb.com>
Mon, 19 May 2014 17:02:47 +0000 (11:02 -0600)
commit1429d7c9467e1e3de0b0ff91d7e4d67c1a92f8a3
tree3b15abb587392becc4ba37d0869d25a4d9420d1d
parente93ecf602beb8439f0bdcc1fa2cbc1f31fdfb8e2
blk-mq: switch ctx pending map to the sparser blk_align_bitmap

Each hardware queue has a bitmap of software queues with pending
requests. When new IO is queued on a software queue, the bit is
set, and when IO is pruned on a hardware queue run, the bit is
cleared. This causes a lot of traffic. Switch this from the regular
BITS_PER_LONG bitmap to a sparser layout, similarly to what was
done for blk-mq tagging.

20% performance increase was observed for single threaded IO, and
about 15% performanc increase on multiple threads driving the
same device.

Signed-off-by: Jens Axboe <axboe@fb.com>
block/blk-mq.c
include/linux/blk-mq.h