Comments on: 求解线性稳态有限元模型 - //www.denkrieger.com/blogs/solving-linear-static-finite-element-models 发布博客 Sat, 03 Sep 2022 03:27:37 +0000 hourly 1 https://wordpress.org/?v=5.7 By: 磊 周 //www.denkrieger.com/blogs/solving-linear-static-finite-element-models/#comment-18513 Sat, 03 Sep 2022 03:27:37 +0000 http://com.staging.comsol.com/blogs/?p=119371#comment-18513 In reply to 婧婧 冯.

In wiki [Floating-point arithmetic](https://en.wikipedia.org/wiki/Floating-point_arithmetic) ,

It says that “Single precision (binary32), usually used to represent the “float” type in the C language family. This is a binary format that occupies 32 bits (4 bytes) and its significand has a precision of 24 bits (about 7 decimal digits).”

归纳一下
float 单精度类型 4字节 32位
表示范围由阶码控制 -2^128 ~ +2^128(也就是 -3.40E+38 ~ +3.40E+38)
表示精度由尾数控制 2^23 = 8388608(7位数),float的有效数字在6-7位(最多7位,但能保证至少6位的精度),也就是你说的“10的6次方”

double 双精度类型 8字节 64位
表示范围由阶码控制 -2^1024 ~ +2^1024(也就是 -1.79E+308 ~ +1.79E+308)
表示精度由尾数控制 2^52 = 4503599627370496,(16位数),double的有效数字在15-16位(最多16位,但能保证至少15位的精度)

在另一篇博文 [线性静态问题的网格剖分注意事项](//www.denkrieger.com/blogs/meshing-considerations-linear-static-problems/) , 网格剖分时也谈到 “
出于安全和实用的考虑,我们经常说最小可实现的误差是 10^-6”

]]>
By: 婧婧 冯 //www.denkrieger.com/blogs/solving-linear-static-finite-element-models/#comment-16663 Wed, 06 Apr 2022 11:32:14 +0000 http://com.staging.comsol.com/blogs/?p=119371#comment-16663 “位移场缩放为 0.0090 ,并且使用模型(米)的单位系统,所以只要结构位移不小于 9 纳米(或者大于 9 千米!)”你好请问为什么是10的6次方呢?这是规定的缩放比例吗?还是可以设定和修改

]]>