ALSA: fix incorrect rounding direction in snd_interval_ratnum()
authorKrzysztof Helt <krzysztof.h1@wp.pl>
Sat, 19 Dec 2009 17:31:04 +0000 (18:31 +0100)
committerTakashi Iwai <tiwai@suse.de>
Mon, 21 Dec 2009 11:02:55 +0000 (12:02 +0100)
commit40962d7c741de1c21b6ce8516c1d9f8836fb383e
treea8e520b5bb7062f108919475834155c152ff2cc8
parentef86f581f7e8b29cb58d7f4e892e1a91b3805124
ALSA: fix incorrect rounding direction in snd_interval_ratnum()

The direction of rounding is incorrect in the snd_interval_ratnum()
It was detected with following parameters (sb8 driver playing
8kHz stereo file):
 - num is always 1000000
 - requested frequency rate is from 7999 to 7999 (single frequency)

The first loop calculates div_down(num, freq->min) which is 125.
Thus, a frequency range's minimum value is 1000000 / 125 = 8000 Hz.
The second loop calculates div_up(num, freq->max) which is 126
The frequency range's maximum value is 1000000 / 126 = 7936 Hz.
The range maximum is lower than the range minimum so the function
fails due to empty result range.

Signed-off-by: Krzysztof Helt <krzysztof.h1@wp.pl>
Signed-off-by: Takashi Iwai <tiwai@suse.de>
sound/core/pcm_lib.c