Вопросы с тегом 'floating-point'

Числа с плавающей запятой - это приближения действительных чисел, которые могут представлять большие диапазоны, чем целые, но использовать один и тот же объем памяти за счет более низкой точности. Если ваш вопрос касается небольших арифметических ошибок (например, почему 0.2 + 0.1 равен 0.300000001?) Или ошибок преобразования десятичного кода, пожалуйста, прочитайте страницу «Информация», указанную ниже, перед публикацией.
9
ответов

Могу ли я сравнить и добавить число с плавающей запятой к целому числу в C?

Могу ли я сравнить число с плавающей точкой с целым числом? Будет ли число с плавающей точкой сравниваться с целыми числами в коде? float f; // f has a saved predetermined floating-point value to it if (f >=100){__asm__reset...etc...
задан 17.04.2009 в 06:23
5
ответов

Представление целых чисел в двухместных

Может ли двойной (заданного количества байтов с разумным балансом мантиссы / экспоненты) всегда полностью точно удерживать диапазон целого числа без знака, равного половине этого числа байтов? например. может ли восьмибайтовый двойной полност...
задан 17.04.2009 в 08:00
5
ответов

Почему вызов float () для числа медленнее, чем добавление 0.0 в Python?

По какой причине преобразование целого числа в число с плавающей точкой медленнее, чем добавление 0.0 к этому int в Python? import timeit def add_simple(): for i in range(1000): a = 1 + 0.0 def cast_simple(): for i in range...
задан 05.02.2016 в 18:17
5
ответов

C: разница между (int) x и floor (x)?

В C, в чем разница между этими двумя? float myF = 5.6; printf( "%i \n", (int)myF ); // gives me "5" printf( "%ld \n", floor(myF) ); // also "5"? Когда предпочтительнее другого?     
задан 09.04.2010 в 01:57
2
ответа

Как сделать сравнение float в Bash?

lock_percent=$(echo "scale = 5; $value2*100/$value1" | bc) value='echo "$lock_percent" | bc' if [[ "$value" > "" ]]; then echo "Lock Percentage:$value percentage State Critical" exit $STATE_CRITICAL fi Я не могу вып...
задан 18.07.2012 в 14:37
2
ответа

printf format float с дополнением

Следующий тестовый код создает нежелательный вывод, хотя я использовал параметр ширины: int main(int , char* []) { float test = 1234.5f; float test2 = 14.5f; printf("ABC %5.1f DEF\n", test); printf("ABC %5.1f DEF\n", test2);...
задан 07.03.2013 в 10:58
6
ответов

Вопросы сравнения с плавающей запятой MySQL

Я столкнулся с проблемой, представив столбцы с плавающей запятой в схеме базы данных MySQL, что сравнения значений с плавающей запятой не всегда возвращают правильные результаты. 1 - 50,12 2 - 34,57 3 - 12,75 4 - ... (все остальные менее 1...
задан 02.04.2010 в 17:22
4
ответа

Алгоритм преобразования двоичного кода IEEE 754 в строку?

Многие языки программирования, которые используют удвоение IEEE 754, предоставляют библиотечную функцию для преобразования этих удвоений в строки. Например, C имеет sprintf , C ++ имеет stringstream , Java имеет Double.toString и т. Д....
задан 22.08.2011 в 23:44
5
ответов

Как C ++ работает с NAN? Существует ли стандартный способ или зависит от компилятора?

В программе, которая должна обрабатывать функцию sin (x) / x, я столкнулся с проблемой NAN, я упростил проблему в следующем коде: #include <iostream> #include <cmath> int main() { std::cout.precision(15); //This line com...
задан 29.07.2014 в 13:14
7
ответов

Что происходит в C ++, когда целочисленный тип применяется к типу с плавающей запятой или наоборот?

Будут ли базовые биты просто «переинтерпретироваться» как значение с плавающей запятой? Или существует преобразование времени выполнения для получения ближайшего значения с плавающей запятой? Является ли концом значение на каких-либо платформ...
задан 11.01.2010 в 19:56