• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

objective-c - 使用 NSNumberFormatter numberFromString 的精度错误

[复制链接]
菜鸟教程小白 发表于 2022-12-12 16:38:34 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题

为什么下面的代码会产生“numberFromString = 9.390000000000001”而不是“numberFromString = 9.39”?

NSNumberFormatter *numFormatter = [[NSNumberFormatter alloc] init];
[numFormatter setNumberStyle:NSNumberFormatterDecimalStyle];
[numFormatter setPositiveFormat"$##0.00"];
[numFormatter setNegativeFormat"-$##0.00"];
NSNumber *nTCA = [numFormatter numberFromString"$9.39"];

NSLog(@"numberFromString = %@", nTCA);

我在 OS X 10.6 和 iOS 4.3.3 上得到了上述结果。

纠正此错误的最佳方法是什么?

谢谢



Best Answer-推荐答案


我怀疑您在使用浮点精度时遇到了错误。解决这个问题的方法是使用 NSDecimalNumber 而不是 NSNumber。有一篇关于这个的好帖子here .

NSDecimalNumber+ decimalNumberWithString:方法。这足以满足您的目的吗?

关于objective-c - 使用 NSNumberFormatter numberFromString 的精度错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6416890/

回复

使用道具 举报

懒得打字嘛,点击右侧快捷回复 【右侧内容,后台自定义】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注0

粉丝2

帖子830918

发布主题
阅读排行 更多
广告位

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap