configfs: Fix failing mkdir() making racing rmdir() fail
authorLouis Rilling <Louis.Rilling@kerlabs.com>
Mon, 16 Jun 2008 17:01:02 +0000 (19:01 +0200)
committerMark Fasheh <mfasheh@suse.com>
Mon, 14 Jul 2008 20:57:16 +0000 (13:57 -0700)
commit6d8344baee99402de58b5fa5dfea197242955c15
tree6be890feb8063bdaac6efaff1044980cb76ee961
parentb3e76af87441fc36eef3516d73ab2314e7b2d911
configfs: Fix failing mkdir() making racing rmdir() fail

When fixing the rename() vs rmdir() deadlock, we stopped locking default groups'
inodes in configfs_detach_prep(), letting racing mkdir() in default groups
proceed concurrently. This enables races like below happen, which leads to a
failing mkdir() making rmdir() fail, despite the group to remove having no
user-created directory under it in the end.

process A:  process B:
/* PWD=A/B */
mkdir("C")
  make_item("C")
  attach_group("C")
rmdir("A")
  detach_prep("A")
    detach_prep("B")
      error because of "C"
  return -ENOTEMPTY
    attach_group("C/D")
      error (eg -ENOMEM)
  return -ENOMEM

This patch prevents such scenarii by making rmdir() wait as long as
detach_prep() fails because a racing mkdir() is in the middle of attach_group().
To achieve this, mkdir() sets a flag CONFIGFS_USET_IN_MKDIR in parent's
configfs_dirent before calling attach_group(), and clears the flag once
attach_group() is done. detach_prep() fails with -EAGAIN whenever the flag is
hit and returns the guilty inode's mutex so that rmdir() can wait on it.

Signed-off-by: Louis Rilling <Louis.Rilling@kerlabs.com>
Signed-off-by: Joel Becker <joel.becker@oracle.com>
fs/configfs/configfs_internal.h
fs/configfs/dir.c