Merge branch 'dcache-word-accesses'
authorLinus Torvalds <torvalds@linux-foundation.org>
Mon, 19 Mar 2012 23:37:28 +0000 (16:37 -0700)
committerLinus Torvalds <torvalds@linux-foundation.org>
Mon, 19 Mar 2012 23:37:28 +0000 (16:37 -0700)
* branch 'dcache-word-accesses':
  vfs: use 'unsigned long' accesses for dcache name comparison and hashing

This does the name hashing and lookup using word-sized accesses when
that is efficient, namely on x86 (although any little-endian machine
with good unaligned accesses would do).

It does very much depend on little-endian logic, but it's a very hot
couple of functions under some real loads, and this patch improves the
performance of __d_lookup_rcu() and link_path_walk() by up to about 30%.
Giving a 10% improvement on some very pathname-heavy benchmarks.

Because we do make unaligned accesses past the filename, the
optimization is disabled when CONFIG_DEBUG_PAGEALLOC is active, and we
effectively depend on the fact that on x86 we don't really ever have the
last page of usable RAM followed immediately by any IO memory (due to
ACPI tables, BIOS buffer areas etc).

Some of the bit operations we do are a bit "subtle".  It's commented,
but you do need to really think about the code.  Or just consider it
black magic.

Thanks to people on G+ for some of the optimized bit tricks.

1  2 
fs/dcache.c
fs/namei.c

diff --cc fs/dcache.c
Simple merge
diff --cc fs/namei.c
Simple merge