Tag: 浮点

python写出浮动值的列表出来excel: 我有一个浮点值列表： LIDAR_RES = [1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0, 1.0] 我想把它们写入一个excel文件。我正在使用xlwt来做到这一点。我的代码下面的string工作正常，但状态''浮动'对象是不可迭代'处理列表中只有浮动值。 for i, l in enumerate(LIDAR_RES): for j, col in enumerate(l): worksheet.write(i+1, 3, l)

圆形函数（工作表一）在Excel中: 使用Excel 2013，将其input两个单元格会产生不同的结果。 =ROUND((10.45-10.00)/1,1) = 0.4 但 =ROUND(0.45/1,1) = 0.5 我不知道为什么这样。任何人有一个解释？

将9.78960040953E + 12转换为PHP中的string: 我正在使用Excel Reader来parsingExcel文档。该文件包含ISBN（ 978960040953 ），读者返回9.78960040953E+12 。我已经将Excel列types设置为text ，但没有运气。我也尝试使用(string)和strval() ，但仍然没有运气。一种select是将该值相乘，使其成为整数，但ISBN和ISBN13具有不同的大小。任何人都可以帮我把9.78960040953E+12转换成978960040953 ？

将浮点数写入节点中的csv文件: 我正在尝试从json数据中从数据库中获取nodejs中的CSV文件。我创build一个对象数组作为我的数据 var allExpenses = []; expenses.forEach(function(expense) { allExpenses.push({ amount: expense.amount, identificator: expense.identificator, person: expense.person.last_name + ' ' + expense.person.first_name, date: moment.tz(expense.date, "Europe/Budapest").format("DMYYYY"), description: expense.description || '-' }); }); 然后我使用json2csv模块创buildCSV数据，并通过FS写入文件 //create csv var csvFields = ['amount', 'identificator', 'person', 'date', 'description']; var csv = require('json2csv')({data: allExpenses, fields: csvFields, del: ';'}); var filename = new Date().valueOf() + […]

为什么这个VBA函数不正确的四舍五入？: 下面是我在Excel中创build的VBA函数，用于将脚的测量值从数字转换为文本。例如，函数将采用数字1.5并将其转换为string：1'-6“。不过由于某种原因，错误地将11.5英寸的值四舍五入。当一个单元格被设置为'= 11.5 / 12'（11.5英寸以英尺表示）时，结果是3个重复的0.9583。当我把这个值传递给我的txtfeet（）函数时，它返回string1'-0“，真正的答案应该是string11 1/2”。该function适用于其他重复数字，如9.5英寸（0.7916与6重复）。奇怪的是，如果我通过1英尺和11.5英寸（换句话说，3个重复的1.9583），它也可以正常工作。谁能帮助解决这个错误？这是我的function的代码。 Public Function txtfeet(FeetIn As Double, Optional Denominator As Integer = 8) ' This function will change a decimal number of feet (FeetIn) to the text string ' representation of feet, inches, and fractional inches. ' ' It will round the fractional inches […]

将条件格式化为Java浮点型: 我想让Excel格式化一个数字，因为Java格式化了一个浮点数，或者至less是相似的。特别是，我想让它在小数点的右边显示任意数量的数字，但是在整数的情况下总是至less有一个.0的数字。重申略有不同：我希望Excel做它通常做的事情，除非它想要显示一个int，在这种情况下，它应该附加.0 。一些例子： 12.0 12.5 0.0 0.5368 决不： 12.500000 13 0 Excel甚至可以做到这一点？

Excel把我的号码变成浮动: 我有一点ASP.NET数据导出到Excel中的数据，但我注意到，它导致了一个特定的领域时导出。例如我在数据网格的列中有类似于89234010000725515875的值，但是在导出时，它将其变成89234 + 19。有任何Excel格式，将带回我的原始数字？谢谢。

Excel VBA与双打四舍五入: 我试图做一个非常准确的计算使用与我的工作表中的单元格的双打。当我testing我写了下面的代码： Sub MacroTest() Dim opt As Worksheet Set opt = Sheets("Optimisation") Dim test As Double test = CDec(opt.Cells(2, 10)) End Sub 在单元格J2中是十进制值 – £3,298.8599993 …然而，在debugging代码时，显然testingdouble只是提取-3298.86作为值。我不明白为什么这会是我认为双打比这更准确。大部分我已经阅读的post似乎认为，使用CDec应该排除这个问题，但如所示，这似乎不适用于我。注 – J2中的值是使用公式计算出来的，不知道这是否有什么区别。任何帮助非常感谢 – 谢谢。

使用xlrd从xls获取浮点数: 我正在开发一个Python脚本，它使用xlrd从xls文件中获取数据。但是，我不知道如何打印与Excel文件中具有相同精度的浮点数。我尝试使用repr按照https://stackoverflow.com/a/3481575/1296490build议，但这仍然给不同的精度，从我想要的。例如，Excel文件具有值为-1.62717010683527的单元格，然后使用 str(worksheet.cell(i,j).value)返回-1.62717010684 ，而repr( worksheet.cell(i,j).value)返回-1.6271701068352695 。使用str(Decimal(worksheet.cell(i,j).value))生成-1.6271701068352695095187044671547482721507549285888671875 以上都没有给我从Excel的原始价值。我不得不处理很多这样的数字，每个数字的位数都不一样，不适合使用%.10f等。

Excel如何正确评估FACT（170）/ FACT（169）？: 170！接近浮点数的极限double：171！会溢出。不过170！超过300位数字所以没有办法，170！可以用浮点精确表示。然而，Excel将返回170的正确答案！ / 169 !. 为什么是这样？我希望一些错误蔓延，但它返回一个整数值。 Excel以某种方式知道如何优化这个计算？