Меня немного смущают обозначения e и маленькие отрицательные числа. Я понимаю, что e означает показатель степени 10 ^, например, 6e5 равен 6 * 10 ^ 5 = 600000, а 6e-5 равен 6 * 10 ^ -5 = 0,00006. Но в последнее время я нашел несколько файлов конфигурации, которые состоят из чисел, например:
1.215e-011
1.33e-002
7.20e-004
Так как бы я пошел с ними? Я понимаю, что знак показывает порядок величины, положительный или отрицательный, но как насчет числа за знаком? Начинается с нуля. Так игнорируется ли ноль или число меньше нуля?
Итак, я хотел бы знать, какой путь будет правильным, если номер моего примера будет 6e-005:
Способ 1: 6e-005 = 6 * -10 ^ -5 = 0,00006
Способ 2: 6e-005 = 6 * 10 ^ -0.005 = 5.93131856794
Какой подход правильный? или есть третий способ? Спасибо!
2 ответа
Формат дополняется нулями до фиксированного числа из трех цифр, поэтому "Путь 1" является правильной интерпретацией.
Просто игнорируйте ведущие нули. 6e-005 == 6e-5
.
Иногда они используются для того, чтобы все числа в контексте имели фиксированный формат.
Похожие вопросы
Новые вопросы
math
Математика включает в себя манипуляции с числами в программе. Общие вопросы по математике задавайте на math.stackexchange.com. Примечание. Если ваш вопрос касается неожиданных результатов вычислений с плавающей запятой, сначала прочтите https://stackoverflow.com/questions/588004/is-floating-point-math-broken.