• 设为首页
  • 点击收藏
  • 手机版
    手机扫一扫访问
    迪恩网络手机版
  • 关注官方公众号
    微信扫一扫关注
    迪恩网络公众号

【转】matlab控制运算精度、四舍五入保留小数点后特定位数的实现 ...

原作者: [db:作者] 来自: [db:来源] 收藏 邀请

2020-09-27  15:43:24

1.digits

2.vpa(常用)

3.roundn

具体说明:

1.matlab中使用digits:

digits(5);
a=vpa(sqrt(2));
这样a的值就是1.4142,而不是准确的1.4142135623730950488016887242097


又如:
digits(5);
a=vpa(sqrt(2));
b=sqrt(2);

这样a的值是1.4142,b没有用vpa函数,所以b是1.4142135623730950488016887242097......


2.vpa全称是Variable-precision arithmetic,也就是算术精度,vpa函数对其中每一个运算都控制精度,并非只控制结果。
digits(11);
a=vpa(2/3+4/7+5/9);
b=2/3+4/7+5/9;
a的结果为1.7936507936,b的结果为1.793650793650794......也就是说,计算a的值的时候,先对2/3,4 /7,5/9这三个运算都控制了精度,又对三个数相加的运算控制了精度。而b的值是真实值,对它取11位有效数字的话,结果为1.7936507937,与a不同,就是说vpa并不是先把表达式的值用matlab本身的精度求出来,再取有效数字,而是每运算一次,都控制精度。我举的例子不太好,因为加法不太会增加数字位数。希望你能理解我的意思....

 

3.roundn(x,y):x表示要四舍五入的数,y表示精确地位数,y<0时保留小数点后,y>0时保留小数点前

A = roundn(123.45,1);  % 输出A = 120

A = roundn(123.45,2);  % 输出A = 100

A = roundn(123.45,-1);  % 输出A = 123.5000

A = roundn(123.45,-2);  % 输出A = 123.4500

 

参考:

https://zhidao.baidu.com/question/237050395.html

https://blog.csdn.net/qq_36556893/article/details/79596842

https://blog.csdn.net/witnessai1/article/details/52432473?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight

https://blog.csdn.net/Davidietop/article/details/105364792


鲜花

握手

雷人

路过

鸡蛋
该文章已有0人参与评论

请发表评论

全部评论

专题导读
上一篇:
Delphi与JAVA互加解密AES算法发布时间:2022-07-18
下一篇:
关于Delphi7 UI界面关掉不见的问题发布时间:2022-07-18
热门推荐
阅读排行榜

扫描微信二维码

查看手机版网站

随时了解更新最新资讯

139-2527-9053

在线客服(服务时间 9:00~18:00)

在线QQ客服
地址:深圳市南山区西丽大学城创智工业园
电邮:jeky_zhao#qq.com
移动电话:139-2527-9053

Powered by 互联科技 X3.4© 2001-2213 极客世界.|Sitemap