Числа с плавающей запятой представляют собой аппроксимации действительных чисел, которые могут представлять большие диапазоны, чем целые числа, но используют тот же объем памяти за счет меньшей точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0,2 + 0,1 равно 0,300000001?) Или десятичных ошибок преобразования, пожалуйста, прочитайте страницу информации, связанную ниже, перед публикацией.

Подробнее про floating-point...

По какой-то причине иногда в моей программе я вижу, что cmpeqpd xmm3, xmm0, где xmm0 == {0x2cd000000000, 0x2cd000000000} и xmm3 == {0x0, 0x2011d0800000000}, возвращает {0xffffffffffffffff, 0x0} .......
Я пытаюсь найти простой способ решить эту плавающую точку Так что я нашел этот сайт http://www.ecs.umass.edu/ece/koren/arith/simulator/FPAdd/ Как я могу его решить? Кроме того, как я могу решить эту проблему вручную? Я не знаю, что искать, я не понимаю цифру 2 рядом с 1.000, почему это немного не та....
7 Апр 2021 в 23:15
Я ищу алгоритм для преобразования числа с плавающей запятой в рациональное число, чтобы рациональное число гарантированно возвращало исходное число с плавающей запятой, а знаменатель был минимизирован. Наивный алгоритм может просто вернуть фактическое значение числа с плавающей запятой как X / 2 ^ N....
7 Апр 2021 в 09:00
При преобразовании двойной бесконечности в float и наоборот, будет ли она по-прежнему бесконечностью? То же самое и с NaN?....
6 Апр 2021 в 16:00
Я работаю над созданием глубокого увеличения набора Мандельброта, и, как вы, возможно, знаете, OpenGL ES не поддерживает тип данных double. Наивысшая точность, которую он может предложить, - это IEEE 754 float. В Google и после долгих поисков я наткнулся на этот блог: https://blog.cyclemap.link/20....
6 Апр 2021 в 07:05
Я хочу извлекать числа из таких строк, как 10.5 \ Q \ C, A14.5, 6.7 \ P, nan \ B \ T. Они появляются во многих столбцах. Каков наиболее эффективный способ удалить эти строки и получить только числа? Вот коды, которые я написал до сих пор: import pandas as pd import numpy as np import matplotlib.py....
6 Апр 2021 в 02:41
У меня есть следующий код: public static float F (float n) {return -n; } который генерирует следующий asm: Program.F (Single) L0000: push eax L0001: vzeroupper L0004: vmovss xmm1, [esp + 8] .......
3 Апр 2021 в 12:54
При запуске следующий код: k = 0, а k <= 1: print (k) k + = 0,1 И получить результат: 0 0,1 0,2 0,30000000000000004 0,4 ​​0,5 0,6 0,7 0,7999999999999999 0,8999999999999999 0,9999999999999999 .......
3 Апр 2021 в 09:38
Конечная цель - уменьшить размер числа и вычислительной нагрузки за счет уменьшения размера данных с 32 бит до 8 бит, используя концепцию квантования. Такие функции, как np.int8 () не .......
1 Апр 2021 в 05:19
Как обрабатывать большие числа в моделях python и django для типа данных mysql? Я хочу хранить большие десятичные числа, например массу Солнца в кг (1,98847 ± 0,00007) × 10 ^ 30 кг и другие большие числа .......
29 Мар 2021 в 11:07
При форматировании чисел с плавающей запятой существует ли какой-либо метод / форматирование Python для уменьшения количества десятичных знаков, отображаемых при увеличении числа? Например, это может быть ограничение на количество цифр отображаемого числа. Пример ниже: 100.145 -> 100 2.392 -> ....
У меня есть следующий очень грубый калькулятор интеграции: // определенная интеграция по одной переменной // с использованием базового трапециевидного подхода.....
26 Мар 2021 в 01:39
Запуск следующего кода JDBC с SQL Server: try (PreparedStatement s = connection.prepareStatement("select 4.9E-324, ?")) { s.setDouble(1, 4.9E-324); try (ResultSet rs = s.executeQuery()) { while (rs.next()) { System.out.println(rs.getDouble(1)); System.out.pri....
25 Мар 2021 в 12:57
Как сложить два числа и сохранить их десятичные знаки в окончательном ответе? Ниже приведен код для этого, но он не работает. import re cnt = 0 s = 0 l1 = [] с open ('C: //Users/S/Documents/ok5.txt') .......
25 Мар 2021 в 04:24
У меня есть число с плавающей запятой, которое может иметь произвольную точность, и минимальный размер шага, который указывает, что минимальное количество этого числа может быть увеличено / уменьшено на: num = 3.56891211101 min_step = 0.005 Я бы .......
24 Мар 2021 в 17:24
Код (t125.c): #include <fenv.h> #include <stdint.h> #include <stdio.h> #if _MSC_VER #pragma fenv_access (on) #else #pragma STDC FENV_ACCESS ON #endif void show_fe_exceptions(void) { printf("exceptions raised: "); if (fetestexcept(FE_DIVBYZERO)) printf(" FE_DIVBYZERO"); if (fetestex....
Мне нужно напечатать значения, которые находятся в матрице, они могут варьироваться от целых до реальных. В качестве примера ниже показана матрица kernel , которую использует моя программа: kernel[0,0]:= 1/16; kernel[0,1]:= 2/16; kernel[0,2]:= 1/16; kernel[1,0]:= 2/16; kernel[1,1]:= 4/16; kernel[1....
24 Мар 2021 в 02:41
Firebird поддерживает специальные значения с плавающей запятой Infinity и -Infinity как значения DOUBLE PRECISION: select log(1, 1), log(1, 0.5), log(1, 1.5) from RDB$DATABASE Это поможет вам встать на путь. |LOG|LOG |LOG | |---|---------|---------| |NaN|-Infinity|+Infinity| Здесь описа....
23 Мар 2021 в 15:29
Эй, я делаю небольшую программу на C ++ для вычисления значения sin (x) до 7 десятичных знаков, но когда я вычисляю sin (PI / 2) с помощью этой программы, она дает мне 0.9999997, а не 1.0000000 как я могу решить эту ошибку? Я немного знаю, почему я получаю это значение в качестве вывода, вопрос ....
23 Мар 2021 в 08:20
Последующий вопрос для соответствующей IEEE 754 реализации sqrt () для типа double < / а>. Контекст: необходимо реализовать соответствие стандарту IEEE 754 sqrtf() с учетом следующих ограничений аппаратного обеспечения и ограничений использования: Предоставляет специальную инструкцию qseed.f для п....
22 Мар 2021 в 22:43
Я создаю код для PowerPC с жестким плаванием и внезапно получаю эту проблему. Насколько я понимаю, этот символ принадлежит библиотеке soft-float gcc. Чего я не понимаю, так это того, почему он вообще пытается это использовать, несмотря на мои попытки сказать ему использовать жесткое плавание. Сдела....
21 Мар 2021 в 20:09
У меня есть список данных о рождении, каждая запись имеет 3 столбца для [DOB, вес, рост] как таковые: bd = [['10/03/2021 00:00','6.2', '33.3'],['12/04/2021 00:00','6.2', '33.3'], ['13/05/2021 00:00','6.2','33.3']] Мне нужно изменить типы данных этого, поскольку все они являютс....
19 Мар 2021 в 05:29
Выберите trim (TO_CHAR ((15000.991234) :: float, '999G999G99G999G99G99G990D99')) как qty Ожидаемый результат: 15000,991 Я хочу 3 десятичных числа (3 числа после точки (точка)) и в то же время я хочу .......
18 Мар 2021 в 13:09
(Это сочетание кода и «пользовательской» проблемы, но, поскольку я подозреваю, что проблема связана с кодом, я решил публиковать сообщения в StackOverflow вместо SuperUser Exchange). Я создал файл .csv с помощью pandas.DataFrame ........
16 Мар 2021 в 16:47
Я не понимаю, почему денормализованное число всегда меньше нормализованного. Я помню, что нормализация просто означает, что у нас есть только одна цифра, отличная от нуля, перед запятой (например, 1.110). Допустим, например, что у меня есть плавающая система с 16-битной точностью, тогда показатель....
15 Мар 2021 в 21:20