rcu: Force wakeup of rcu_gp_kthread at grace-period end
authorPaul E. McKenney <paulmck@linux.vnet.ibm.com>
Mon, 16 Mar 2015 18:53:52 +0000 (11:53 -0700)
committerPaul E. McKenney <paulmck@linux.vnet.ibm.com>
Wed, 27 May 2015 19:58:01 +0000 (12:58 -0700)
commitcd73ca21cd2bb3711b8d80ba74c90d37ef15fe4d
treeaf8915695057dad40b62a592a99d608de815d9d3
parent3382adbc1bb8c80ea512243acf6059564287620b
rcu: Force wakeup of rcu_gp_kthread at grace-period end

The rcu_gp_kthread_wake() refuses to do a wakeup unless at least
one of the ->gp_flags bits are set, which normally will not be the
case when the last quiescent state is reported.  This results in
up to a 3-jiffy delay given default Kconfig settings.  This commit
therefore has rcu_report_qs_rsp() set RCU_GP_FLAG_FQS before invoking
rcu_gp_kthread_wake() in order to force a more immediate wakeup at
grace-period end, thus reducing grace-period latencies.

Signed-off-by: Paul E. McKenney <paulmck@linux.vnet.ibm.com>
kernel/rcu/tree.c