pytorch tensor int型除法出现的问题

作者:袖梨 2022-06-25

本篇文章小编给大家分享一下pytorch tensor int型除法出现的问题,文章介绍的很详细,小编觉得挺不错的,现在分享给大家供大家参考,有需要的小伙伴们可以来看看。

accuracy对应的tensor出来是int型的,用到了一个除法取平均。而pytorch里无论用 / or // 结果都是取整,,accuracy一直就没有。。

所以转换成float就没问题了,,低级bug,下不为例

补充:pytorch tensor division/除法

除法的时候要注意数据类型的问题

a = torch.div(torch.tensor([160, 110]), 0.137)

jupyter notebook就会奔溃, 因为torch.tensor([160, 110])是torch.int64数据类型, 而0.137(或者说torch.tensor(0.137))是torch.float32类型.

如果改成下面这样, 就会顺利运行

a = torch.div(torch.tensor([160, 110]).float(), 0.137)

相关文章

精彩推荐