vfs: fix up ENOIOCTLCMD error handling
authorLinus Torvalds <torvalds@linux-foundation.org>
Thu, 5 Jan 2012 23:40:12 +0000 (15:40 -0800)
committerLinus Torvalds <torvalds@linux-foundation.org>
Thu, 5 Jan 2012 23:40:12 +0000 (15:40 -0800)
commit07d106d0a33d6063d2061305903deb02489eba20
tree6f257f877a9c2e653ca0515253e930fa6606239a
parent805a6af8dba5dfdd35ec35dc52ec0122400b2610
vfs: fix up ENOIOCTLCMD error handling

We're doing some odd things there, which already messes up various users
(see the net/socket.c code that this removes), and it was going to add
yet more crud to the block layer because of the incorrect error code
translation.

ENOIOCTLCMD is not an error return that should be returned to user mode
from the "ioctl()" system call, but it should *not* be translated as
EINVAL ("Invalid argument").  It should be translated as ENOTTY
("Inappropriate ioctl for device").

That EINVAL confusion has apparently so permeated some code that the
block layer actually checks for it, which is sad.  We continue to do so
for now, but add a big comment about how wrong that is, and we should
remove it entirely eventually.  In the meantime, this tries to keep the
changes localized to just the EINVAL -> ENOTTY fix, and removing code
that makes it harder to do the right thing.

Signed-off-by: Linus Torvalds <torvalds@linux-foundation.org>
block/ioctl.c
fs/compat_ioctl.c
fs/ioctl.c
net/socket.c