Вопросы с тегом «dc»

Как отформатировать число с плавающей запятой ровно с двумя значащими цифрами в bash?

Я хочу напечатать число с плавающей запятой ровно с двумя значащими цифрами в bash (возможно, с помощью обычного инструмента, такого как awk, bc, dc, perl и т. Д.). Примеры: 76543 должно быть напечатано как 76000 0.0076543 должно быть напечатано как 0.0076 В обоих случаях значимые цифры 7 и 6. Я...

Потеря точности с постоянным током

Я хочу использовать dcдля обработки некоторых базовых 16 чисел с шестнадцатеричными точками, но я сталкиваюсь с проблемами точности. Например, ниже я умножаю F423F.FDна 100оба гекса. Ожидаемый ответ F423FFD, вместо этого, дает F423FFA.E1близкий, но не достаточно точный, даже после округления. $ dc...