菜鸟教程小白 发表于 2022-12-13 06:31:27

iOS:限制数据类型 "double"的精度而不转换为 NSString


                                            <p><p>在这里,我想问一下 double 如何使用它们的精度。</p>

<p>我创建了一个示例,其中我输入了如下双值:</p>

<pre><code>double d = 2.0126161;
double d1 = 2.0126162;
double d2 = 2.0126163;
double d3 = 2.0126164;
double d4 = 2.0126165;
</code></pre>

<p><strong>电流输出:</strong></p>

<p>如果我通过在 lldb 中运行“po”命令设置断点并检查,则值显示如下:</p>

<pre><code>(lldb) po d
2.0126160999999998

(lldb) po d1
2.0126162000000001

(lldb) po d2
2.0126162999999999

(lldb) po d3
2.0126164000000002

(lldb) po d4
2.0126165
</code></pre>

<p>我将这些 double 值分配给具有数据类型“ double ”的 CLLocation 对象的纬度和经度。 </p>

<p>在这里,您可以看到输出,显示 d4 的“po”命令打印值“2.0126165”,这与我们明确提供给 d4 的值相同,这完全没问题,也是我想要的。</p >

<p><strong>问题:</strong></p>

<p>但是与我们显式传递的值相比,d、d1、d2、d3 的“po”命令的值发生了变化。 </p>

<p>d, d1, d2, d3 值的这种变化会在涉及双倍 d, d1, d2, d3 的计算中产生差异。如果我们检查累积效应表明与我们预期的输出相比存在显着差异。 </p>

<p>我不想将值四舍五入到特定的小数位数,因为值因值而异。</p>

<p>如何让 d、d1、d2、d3 具有与显式初始化时相同的值,而不使用数据类型 double 更改精度(检查下面的预期输出)?</p>

<p><strong>预期输出:</strong></p>

<pre><code>(lldb) po d
2.0126161

(lldb) po d1
2.0126162

(lldb) po d2
2.0126163

(lldb) po d3
2.0126164

(lldb) po d4
2.0126165
</code></pre>

<p><strong>注意:</strong>请注意,我不想在屏幕上显示这个值,我使用这些 double 值进行数学计算,所以没有必要通过传递“转换为 NSString” %.7f"作为 NSString 的格式说明符。</p></p>
                                    <br><hr><h1><strong>Best Answer-推荐答案</ strong></h1><br>
                                            <p><p>你所经历的是正常的,有无限数量的数字必须映射到一定数量的字节。因此,您通常不会得到您输入的确切数字,而是可以以所选数字格式表示的下一个最接近的数字。</p>

<p>对于数学计算,请使用 <a href="https://developer.apple.com/library/ios/documentation/Cocoa/Reference/Foundation/Classes/NSDecimalNumber_Class/index.html" rel="noreferrer noopener nofollow" title="NSDecimalNumber">NSDecimalNumber</a> .</p></p>
                                   
                                                <p style="font-size: 20px;">关于iOS:限制数据类型&#34;double&#34;的精度而不转换为 NSString,我们在Stack Overflow上找到一个类似的问题:
                                                        <a href="https://stackoverflow.com/questions/29764054/" rel="noreferrer noopener nofollow" style="color: red;">
                                                                https://stackoverflow.com/questions/29764054/
                                                        </a>
                                                </p>
                                       
页: [1]
查看完整版本: iOS:限制数据类型 &#34;double&#34;的精度而不转换为 NSString