返回信息流如图 这个问题让我在那调试了几个小时才发现这个奇葩的问题
这是一条镜像帖。来源:北邮人论坛 / matlab / #11972同步于 2016/4/16
该镜像源已超过 30 天没有更新,可能在源站已被删除。
Matlab机器人发帖
话说这是什么出了问题啊?1<1还能为真? 简直不可思议
yu1336199790
2016/4/16镜像同步4 回复
订阅后,新回复会通过你的通知中心匿名送达。
4 条回复
ls说得对,一般判断浮点数是否相等还是用差的绝对值小于某个小的数比较好
例如下边两个算例
a=0.1;b=0.2;c=0.3;a+b==c
a=0.3;b=0.4;c=0.7;a+b==c
两个的结果不一样,巨神奇。
原因可能是浮点数都是用二进制数存的(参看ieee754)。一不小心,两个看着一样的浮点数就不相等了
赞分区主管
【 在 yo1995 的大作中提到: 】
: matlab精度…… 可以vps多输出几位看看,或者比较时先固定好精度再比
: @dhown 学长貌似发过一个谜之精度的帖 没翻到
话说我重启就好了 目测我多次处理大数据 缓冲区溢出了 才会发现这种事
【 在 yo1995 (yo ) 的大作中提到: 】
: matlab精度…… 可以vps多输出几位看看,或者比较时先固定好精度再比
: @dhown 学长貌似发过一个谜之精度的帖 没翻到
通过『我邮2.0』发布