Ruby On Rails in UA

Icon_home

Add to bookmarks

Translate

translate

Регистрация Форум Блоги Пользователи Список джемов Rails проекты Поиск

Ruby On Rails in UA/Code Review, теоретические вопросы/Работа с числами/Сравнение дробных чисел

Назад

Новый

Ответить

ответить

2008-06-08 12:21:26	Ответить
Ruslan Voloshin Адрес: odessa Сообщений: 1289 Регистр: 2007-03-13 его блог 40 сообщ.	Сравнение дробных чисел
	1.8 + 0.1 # => 1.9 1.8 + 0.1 == 1.9 # => false 1.8 + 0.1 > 1.9 # => true #--- class Float def approx(other, relative_epsilon=Float::EPSILON, epsilon=Float::EPSILON) difference = other - self return true if difference.abs <= epsilon relative_error = (difference / (self > other ? self : other)).abs return relative_error <= relative_epsilon end end 100.2.approx(100.1 + 0.1) # => true 10e10.approx(10e10+1e-5) # => true 100.0.approx(100+1e-5) # => false #--- printf("%.55f", 1.9) # 1.8999999999999999111821580299874767661094665527343750000 printf("%.55f", 1.8 + 0.1) # 1.9000000000000001332267629550187848508358001708984375000 #--- Float::EPSILON # => 2.22044604925031e-16 (1.8 + 0.1) - 1.9 # => 2.22044604925031e-16 #--- class Float def absolute_approx(other, epsilon=Float::EPSILON) puts((other-self).abs) return (other-self).abs <= epsilon end end (1.8 + 0.1).absolute_approx(1.9) # => true 10e10.absolute_approx(10e10+1e-5) # => false #--- 98.6.approx(98.66) # => false 98.6.approx(98.66, 0.001) # => true #--- ------------ Занимаюсь вебом и продвижением сайтов.
	Comparing Floating-Point Numbers

Назад

Новый

Ответить

ответить

Гости: 187 Онлайн: 0

О проекте по всем вопросам обращайтесь на support
Rubyclub.com.ua Copyright © 2007 - 2008