Предел погрешности вычисления
Список продуктов
Данный раздел/документ содержится в продуктах:
Данный раздел/документ содержится в продуктах:
- Техэксперт: Охрана труда
- Техэксперт: Нормы, правила, стандарты и законодательство России
- Техэксперт: Нефтегазовый комплекс
- Техэксперт: Машиностроительный комплекс
- Техэксперт: Электроэнергетика
- Техэксперт: Теплоэнергетика
- Стройэксперт. "Вариант Лидер"
- Техэксперт: Эксплуатация зданий
- Стройтехнолог
ПРЕДЕЛ ПОГРЕШНОСТИ ВЫЧИСЛЕНИЯ
(numerical tolerance):
Половина длины наименьшего интервала, содержащего все числа, отражающие результат вычислений, которые могут быть корректно представлены заданным числом значащих цифр.
Пример - При использовании в представлении результата вычисления двух значащих цифр записи 1,8 соответствуют все числа более 1,75 и менее 1,85. Тогда предел погрешности вычисления будет равен (1,85-1,75)/2=0,05.
Примечание - Расчет предела погрешности вычисления - см. 7.9.2.



