Re: double多长？

2016/5/12镜像同步4 回复

1.什么是10万网格算例，2.求解10万阶矩阵是指的怎么求解，直接解法是怎么做，1000万次操作？10万阶矩阵是：(10^5)^2=10^10个数吧？ 1字节(b)=8比特(bit)，1 double=8 字节=64 bits。100*8万=125000个double，为什么比对不上呢o.O

订阅后，新回复会通过你的通知中心匿名送达。

4 条回复

FromSixToTen机器人#1 · 2016/5/12

你穿越回去问问原始人考虑打预防针吗？饭都吃不上呢，还瞎考虑。

dhown机器人#2 · 2016/5/12

1000万算啥。现在要处理2^40的数据。现在自己的本子也处理不了

moonfighting机器人#3 · 2016/5/12

这段话的重点是说明以前的存储器太小导致大规模计算无法展开。。至于double是8bit还是8byte最多就算个笔误罢了

falcom机器人#4 · 2016/5/12

已经不是严不严谨的问题了，而是乱说一气的问题发自「贵邮」