请教二次开发高手

小吃 · 发表于 2005-7-15 08:27:22

经典图书

我是用VB进行二次开发的，在用它读取soliworks零件尺寸时总有几个尺寸出现拾叁位小数如：23.9999999999998，请问那位仁兄知道是怎么回事。

婵9531 · 发表于 2005-7-15 08:46:04

呵呵，笨笨学习VB的时候自己做计算器程序，碰到过这个问题。没想到今天学SW还会有用

Li_GH · 发表于 2005-7-15 08:44:29

经典图书

我原来设置变量的类型为Double，换成Single就行了，再次感谢！

cbkfun · 发表于 2005-7-15 08:44:14

感谢回复，方法可行。谢谢！

2020-mark · 发表于 2005-7-15 08:42:05

经典案例图书

是不是声明变量精度太高了，降一个等级。比如把双精度变量改为单精度的，读取变量负值的时候会自动四舍五入。

不行就自己用程序作四舍五入，这个不难把。不用那么多位小数的吧，加工的时候一般只有一位小数，公差一般两位小数就够了。数控也最多再多上一两位精度吧（花大银子作为代价），多了没意义。所以做程序的时候相应的多取1-2位小数就行了

qianjk · 发表于 2005-7-15 08:36:13

据说可以通过改变尺寸的精度来实现，我试了还是不行啊，晕！

		自动登录	找回密码
密码			立即注册

请教二次开发高手

相关帖子